탐정사무소 ‘고영향 AI’ 규정 최소화…느슨한 규제 우려
이길중
0
0
2시간전
탐정사무소 정부가 공개한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)의 하위법령을 두고 AI 산업 진흥에만 초점을 맞춰 규제를 지나치게 풀었다는 지적이 나오고 있다. 인간의 기본권에 중대한 영향을 미치는 ‘고영향 AI’의 범주를 지나치게 좁게 규정한 데다 ‘과태료 부과’ 장기 유예까지 예고해 처벌 없는 법이 될 수 있다는 우려까지 제기된다.
과학기술정보통신부는 내년 1월 시행되는 AI 기본법의 시행령과 고시 2종, 가이드라인 5종을 17일 기자간담회를 통해 공개했다. 관련 하위법령 초안이 모두 공개된 것은 지난해 12월 AI 기본법이 국회를 통과한 지 약 9개월 만이다.
그간 업계에선 ‘고영향 AI’의 규정이 초미의 관심사였다. 사업자에게 안전성·신뢰성 확보 책무가 부여되고 최대 3000만원의 과태료 부과 조항도 있기 때문이다. AI 기본법은 ‘고영향 AI’를 에너지, 먹는 물, 보건의료 등 10개 영역에서 활용되는 AI 가운데 인간의 기본권에 중대한 영향을 미치거나 위험 초래 우려가 있는 경우 등으로 규정했다. 그러면서 그 밖의 영역은 시행령으로 정하도록 했다. ‘중대한 영향’ 표현이 모호하고 법에서 정한 영역이 제한적이라 하위법령이 추가 기준을 제시할 것으로 여겨졌다.
그러나 이날 공개된 시행령·가이드라인은 고영향 AI 범주를 최소한으로 규정했다. 시행령에선 고영향 AI 범주가 추가·보완되지 않았고 가이드라인은 법에 이미 나열된 영역의 구체적 적용 사례를 제시한 정도였다. 이를테면 운전자의 개입 없이 AI 스스로 판단해 도로를 주행하는 ‘레벨4’ 이상 자율주행 시스템은 고영향 AI에 해당한다.
한국보다 앞서 AI 법을 제정한 유럽연합(EU)은 관련 규제가 촘촘하다. 개인 또는 집단의 행동이나 성향을 점수화해 차별에 활용(소셜 스코어링)하는 AI는 아예 ‘수용 불가’로 규정해 금지한다. 얼굴 표정, 음성, 생체 신호 등을 통해 인간 감정 상태를 판별하는 AI는 ‘고위험 AI’로 분류한다. 금지되는 것은 아니지만 위험관리 시스템과 인간 감독체계 구축, 기본권 영향 평가, 이용자 안내 등 다양한 의무가 부과된다. 한국의 AI 기본법과 시행령으로는 EU에서 금지하거나 강력 제재하는 AI를 규제하기 힘들 가능성이 있다. 오병일 진보네트워크센터 대표는 제품 안전, 사법, 선거에 영향을 주거나 인간의 취약점을 이용하는 AI에 대해선 EU처럼 금지까진 못하더라도 고영향 AI로 규정해 최소한의 규제를 해야 하는데 하위법령에 그런 노력이 보이지 않는다고 지적했다.
정부가 AI 기본법의 ‘과태료 부과’ 유예를 거듭 예고하고 있는 것도 비판 대상이다. AI 기본법에 따르면 고영향 AI 사업자는 위험관리 방안·이용자보호 방안 수립 및 사람 관리·감독, 관련 문서의 작성과 보관 등의 의무를 진다. 이를 어길 경우 사실조사를 거쳐 시정명령을 받을 수 있고 명령을 이행하지 않으면 최대 3000만원의 과태료를 부과받게 된다.
이날 간담회에서 김경만 과기정통부 인공지능기반정책관은 유예기간 설정에 무게를 두면서 그 기간에 대해선 기업, 시민사회와 논의해 설정해나갈 것이라고 설명했다. 앞서 지난 12일 배경훈 과기정통부 장관은 최소 1년 이상의 유예기간을 언급했다. 이에 대해 오 대표는 법에 따라 책무를 이행하지 않아도 가만히 두겠다는 것으로, 처벌규정 없는 법이 될 우려가 있다고 말했다.
정부가 ‘느슨한 규제’를 천명한 만큼 업계에선 긍정적인 반응이 나왔다. AI 스타트업 관계자는 투명성(AI 표시) 의무와 관련한 일부 면제조항과 과태료 계도기간 설정 등이 긍정적이라고 평가했다.
반면 고위험 AI 안전장치를 강력하게 요구해온 시민단체 등의 반발이 이어질 가능성이 있다. 이재흥 시민기술네트워크 상임이사는 국가인공지능전략위원회에 산업계뿐 아니라 시민사회 인사들도 다수 참여하게 된 만큼 우려 사항에 대해 숙의가 이뤄질 것으로 본다고 말했다.
국회 과학기술정보방송통신위원회가 지난 11일 민주당 주도로 현재의 방송통신위원회를 폐지하고 방송미디어통신위원회를 설치하는 법안을 통과시켰다. 다수 여당 주도이므로 본회의 통과와 대통령 공포까지 시간문제일 뿐이다. 하지만 오래 기다린 미디어 규제 기구 개혁법안이었던 만큼 아쉬움도 크다. 방송과 통신의 융합을 넘어 모든 미디어 간, 그리고 미디어와 통신 간 구별이 희미해져왔지만, 관련 정부 기구는 여전히 여러 부서가 담당 영역을 분할해왔다. 이번에도 문화체육관광부 등의 반대로 온라인 동영상 서비스와 디지털 콘텐츠 등에 대한 업무를 통합하지 못했다.
변화라고 한다면, 과학기술정보통신부의 유료 방송과 채널 사용 사업자 인허가 권한을 가져온 것이다. 박근혜 전 대통령은 취임 직후 이른바 ‘창조경제’ 실현에 케이블TV가 핵심이라는 난데없는 주장을 강변하며 이것을 포함한 방통위 주요 업무들을 미래창조과학부(현 과기정통부)로 폰테크 넘긴 바 있다. 12년이 지나서야 이제는 큰 의미가 없어진 일부만이 원위치한 셈이다. 이외에 방송통신심의위가 이름을 바꾼 방송미디어통신심의위의 위원장을 국회 인사청문회를 거쳐 정무직 공무원으로 임명토록 한 것만이 주목할 만한 변화다.
갑작스러운 대선에 이어 인수위 없는 대통령 취임 후 새 정부 조직을 급하게나마 최소한으로 정비한 셈이다. 하지만 ‘통합적 미디어·통신 정책과 규제’라는 숙원 해소 기회를 이렇게 끝내기엔 아깝다. 미디어와 같이 이해관계가 복잡하게 얽혀 있는 영역은 정치, 경제, 기술 등 급격한 환경 변화 상황이 아니면 개혁이 어렵다. 지난 정권들은 모두 골치만 아픈 이 일에 손을 대지 않았다. 박근혜 탄핵으로 들어선 문재인 정부도 기회를 놓친 바 있다. 정치적 격변 속에 등장한 이재명 정부는 개혁의 명분과 권한으로 이 중대 계기를 더 적극적으로 활용할 수 있을 것이다. 과거 김대중 정부의 방송개혁위원회처럼 방송법을 포함한 전반적 틀을 고치는 조합주의 개혁 모델도 가능하다. 집단 이기주의를 제어할 방법이다.
아직 법안 논의가 열려 있다면 적어도 이름만큼은 재고했으면 한다. ‘방송미디어통신위’는 여러모로 어색하다. 법안을 보면 방송미디어와 통신에 관한 규제 등을 하는 곳이라고 돼 있지만 방송미디어가 무엇인지 정의조차 없다. 방송법의 방송과 다른 것인가? 다르다면 어떻게 다른 것인가? 기존 방통위법에 나타난 ‘방송’이란 말에 방송미디어를 대체해 새 법안을 만든 것으로 보아 방송미디어는 방송을 말하는 것 같다. 그렇다면 방송은 미디어에 포함되는 개념이므로 굳이 ‘미디어’를 붙인 긴 이름으로 모두가 불편할 필요가 없다. ‘서울역 기차역’이 아닌, 그냥 서울역이면 된다. 아니면, 점점 더 서로 구별할 수 없어지는 다양한 양태의 미디어를 포괄하기 위해 ‘방송’을 뗀 ‘미디어통신위원회’는 어떤가? 지금 이름은 이 조직을 과거의 주류 매체인 방송에 가두고 미래 가능성을, 아니 현실조차 담아내기 어렵다.
정권교체 후 위원장을 물러나게 하는 것도 고려해보자. 이 위원회는 이견 검토를 위해 중요 업무를 합의제로 하지만, 그 외 모든 업무는 위원장이 일반 장관처럼 홀로 결정하는 독임제다. 정부 서비스가 대통령과 동떨어져 수행되는 것은 부적절하다. 이진숙 현 위원장처럼 정부 기관장이 행정부 수반에 등을 지고 자기 정치를 하는 극단적인 일을 막아야 한다. 방미통신심의위 위원장을 공무원 신분으로 하고 국회 인사청문 대상에 넣는 것도 재고하자. 내용심의 기구를 정부 기구화하는 전도된 방향이다. 이렇게 한다고 지난 윤석열 정권하 류희림 위원장 같은 사람을 막을 수도 없다. 다수 야당이 인사청문회에서 반대한다고 해도 대통령이 임명하면 그만이다. 현재의 정파적 선임 방식을 고치는 게 먼저다. 국회 본회의 전에라도 열어놓고 막바지 검토를 해보자.
과학기술정보통신부는 내년 1월 시행되는 AI 기본법의 시행령과 고시 2종, 가이드라인 5종을 17일 기자간담회를 통해 공개했다. 관련 하위법령 초안이 모두 공개된 것은 지난해 12월 AI 기본법이 국회를 통과한 지 약 9개월 만이다.
그간 업계에선 ‘고영향 AI’의 규정이 초미의 관심사였다. 사업자에게 안전성·신뢰성 확보 책무가 부여되고 최대 3000만원의 과태료 부과 조항도 있기 때문이다. AI 기본법은 ‘고영향 AI’를 에너지, 먹는 물, 보건의료 등 10개 영역에서 활용되는 AI 가운데 인간의 기본권에 중대한 영향을 미치거나 위험 초래 우려가 있는 경우 등으로 규정했다. 그러면서 그 밖의 영역은 시행령으로 정하도록 했다. ‘중대한 영향’ 표현이 모호하고 법에서 정한 영역이 제한적이라 하위법령이 추가 기준을 제시할 것으로 여겨졌다.
그러나 이날 공개된 시행령·가이드라인은 고영향 AI 범주를 최소한으로 규정했다. 시행령에선 고영향 AI 범주가 추가·보완되지 않았고 가이드라인은 법에 이미 나열된 영역의 구체적 적용 사례를 제시한 정도였다. 이를테면 운전자의 개입 없이 AI 스스로 판단해 도로를 주행하는 ‘레벨4’ 이상 자율주행 시스템은 고영향 AI에 해당한다.
한국보다 앞서 AI 법을 제정한 유럽연합(EU)은 관련 규제가 촘촘하다. 개인 또는 집단의 행동이나 성향을 점수화해 차별에 활용(소셜 스코어링)하는 AI는 아예 ‘수용 불가’로 규정해 금지한다. 얼굴 표정, 음성, 생체 신호 등을 통해 인간 감정 상태를 판별하는 AI는 ‘고위험 AI’로 분류한다. 금지되는 것은 아니지만 위험관리 시스템과 인간 감독체계 구축, 기본권 영향 평가, 이용자 안내 등 다양한 의무가 부과된다. 한국의 AI 기본법과 시행령으로는 EU에서 금지하거나 강력 제재하는 AI를 규제하기 힘들 가능성이 있다. 오병일 진보네트워크센터 대표는 제품 안전, 사법, 선거에 영향을 주거나 인간의 취약점을 이용하는 AI에 대해선 EU처럼 금지까진 못하더라도 고영향 AI로 규정해 최소한의 규제를 해야 하는데 하위법령에 그런 노력이 보이지 않는다고 지적했다.
정부가 AI 기본법의 ‘과태료 부과’ 유예를 거듭 예고하고 있는 것도 비판 대상이다. AI 기본법에 따르면 고영향 AI 사업자는 위험관리 방안·이용자보호 방안 수립 및 사람 관리·감독, 관련 문서의 작성과 보관 등의 의무를 진다. 이를 어길 경우 사실조사를 거쳐 시정명령을 받을 수 있고 명령을 이행하지 않으면 최대 3000만원의 과태료를 부과받게 된다.
이날 간담회에서 김경만 과기정통부 인공지능기반정책관은 유예기간 설정에 무게를 두면서 그 기간에 대해선 기업, 시민사회와 논의해 설정해나갈 것이라고 설명했다. 앞서 지난 12일 배경훈 과기정통부 장관은 최소 1년 이상의 유예기간을 언급했다. 이에 대해 오 대표는 법에 따라 책무를 이행하지 않아도 가만히 두겠다는 것으로, 처벌규정 없는 법이 될 우려가 있다고 말했다.
정부가 ‘느슨한 규제’를 천명한 만큼 업계에선 긍정적인 반응이 나왔다. AI 스타트업 관계자는 투명성(AI 표시) 의무와 관련한 일부 면제조항과 과태료 계도기간 설정 등이 긍정적이라고 평가했다.
반면 고위험 AI 안전장치를 강력하게 요구해온 시민단체 등의 반발이 이어질 가능성이 있다. 이재흥 시민기술네트워크 상임이사는 국가인공지능전략위원회에 산업계뿐 아니라 시민사회 인사들도 다수 참여하게 된 만큼 우려 사항에 대해 숙의가 이뤄질 것으로 본다고 말했다.
국회 과학기술정보방송통신위원회가 지난 11일 민주당 주도로 현재의 방송통신위원회를 폐지하고 방송미디어통신위원회를 설치하는 법안을 통과시켰다. 다수 여당 주도이므로 본회의 통과와 대통령 공포까지 시간문제일 뿐이다. 하지만 오래 기다린 미디어 규제 기구 개혁법안이었던 만큼 아쉬움도 크다. 방송과 통신의 융합을 넘어 모든 미디어 간, 그리고 미디어와 통신 간 구별이 희미해져왔지만, 관련 정부 기구는 여전히 여러 부서가 담당 영역을 분할해왔다. 이번에도 문화체육관광부 등의 반대로 온라인 동영상 서비스와 디지털 콘텐츠 등에 대한 업무를 통합하지 못했다.
변화라고 한다면, 과학기술정보통신부의 유료 방송과 채널 사용 사업자 인허가 권한을 가져온 것이다. 박근혜 전 대통령은 취임 직후 이른바 ‘창조경제’ 실현에 케이블TV가 핵심이라는 난데없는 주장을 강변하며 이것을 포함한 방통위 주요 업무들을 미래창조과학부(현 과기정통부)로 폰테크 넘긴 바 있다. 12년이 지나서야 이제는 큰 의미가 없어진 일부만이 원위치한 셈이다. 이외에 방송통신심의위가 이름을 바꾼 방송미디어통신심의위의 위원장을 국회 인사청문회를 거쳐 정무직 공무원으로 임명토록 한 것만이 주목할 만한 변화다.
갑작스러운 대선에 이어 인수위 없는 대통령 취임 후 새 정부 조직을 급하게나마 최소한으로 정비한 셈이다. 하지만 ‘통합적 미디어·통신 정책과 규제’라는 숙원 해소 기회를 이렇게 끝내기엔 아깝다. 미디어와 같이 이해관계가 복잡하게 얽혀 있는 영역은 정치, 경제, 기술 등 급격한 환경 변화 상황이 아니면 개혁이 어렵다. 지난 정권들은 모두 골치만 아픈 이 일에 손을 대지 않았다. 박근혜 탄핵으로 들어선 문재인 정부도 기회를 놓친 바 있다. 정치적 격변 속에 등장한 이재명 정부는 개혁의 명분과 권한으로 이 중대 계기를 더 적극적으로 활용할 수 있을 것이다. 과거 김대중 정부의 방송개혁위원회처럼 방송법을 포함한 전반적 틀을 고치는 조합주의 개혁 모델도 가능하다. 집단 이기주의를 제어할 방법이다.
아직 법안 논의가 열려 있다면 적어도 이름만큼은 재고했으면 한다. ‘방송미디어통신위’는 여러모로 어색하다. 법안을 보면 방송미디어와 통신에 관한 규제 등을 하는 곳이라고 돼 있지만 방송미디어가 무엇인지 정의조차 없다. 방송법의 방송과 다른 것인가? 다르다면 어떻게 다른 것인가? 기존 방통위법에 나타난 ‘방송’이란 말에 방송미디어를 대체해 새 법안을 만든 것으로 보아 방송미디어는 방송을 말하는 것 같다. 그렇다면 방송은 미디어에 포함되는 개념이므로 굳이 ‘미디어’를 붙인 긴 이름으로 모두가 불편할 필요가 없다. ‘서울역 기차역’이 아닌, 그냥 서울역이면 된다. 아니면, 점점 더 서로 구별할 수 없어지는 다양한 양태의 미디어를 포괄하기 위해 ‘방송’을 뗀 ‘미디어통신위원회’는 어떤가? 지금 이름은 이 조직을 과거의 주류 매체인 방송에 가두고 미래 가능성을, 아니 현실조차 담아내기 어렵다.
정권교체 후 위원장을 물러나게 하는 것도 고려해보자. 이 위원회는 이견 검토를 위해 중요 업무를 합의제로 하지만, 그 외 모든 업무는 위원장이 일반 장관처럼 홀로 결정하는 독임제다. 정부 서비스가 대통령과 동떨어져 수행되는 것은 부적절하다. 이진숙 현 위원장처럼 정부 기관장이 행정부 수반에 등을 지고 자기 정치를 하는 극단적인 일을 막아야 한다. 방미통신심의위 위원장을 공무원 신분으로 하고 국회 인사청문 대상에 넣는 것도 재고하자. 내용심의 기구를 정부 기구화하는 전도된 방향이다. 이렇게 한다고 지난 윤석열 정권하 류희림 위원장 같은 사람을 막을 수도 없다. 다수 야당이 인사청문회에서 반대한다고 해도 대통령이 임명하면 그만이다. 현재의 정파적 선임 방식을 고치는 게 먼저다. 국회 본회의 전에라도 열어놓고 막바지 검토를 해보자.
