수원상간소송변호사 ‘고영향 AI’ 규정 최소화…느슨한 규제 우려

이길중 0 0 2시간전

수원상간소송변호사 정부가 공개한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)의 하위법령을 두고 AI 산업 진흥에만 초점을 맞춰 규제를 지나치게 풀었다는 지적이 나오고 있다. 인간의 기본권에 중대한 영향을 미치는 ‘고영향 AI’의 범주를 지나치게 좁게 규정한 데다 ‘과태료 부과’ 장기 유예까지 예고해 “처벌 없는 법이 될 수 있다”는 우려까지 제기된다.
과학기술정보통신부는 내년 1월 시행되는 AI 기본법의 시행령과 고시 2종, 가이드라인 5종을 17일 기자간담회를 통해 공개했다. 관련 하위법령 초안이 모두 공개된 것은 지난해 12월 AI 기본법이 국회를 통과한 지 약 9개월 만이다.
그간 업계에선 ‘고영향 AI’의 규정이 초미의 관심사였다. 사업자에게 안전성·신뢰성 확보 책무가 부여되고 최대 3000만원의 과태료 부과 조항도 있기 때문이다. AI 기본법은 ‘고영향 AI’를 에너지, 먹는 물, 보건의료 등 10개 영역에서 활용되는 AI 가운데 인간의 기본권에 “중대한 영향”을 미치거나 위험 초래 우려가 있는 경우 등으로 규정했다. 그러면서 “그 밖”의 영역은 시행령으로 정하도록 했다. ‘중대한 영향’ 표현이 모호하고 법에서 정한 영역이 제한적이라 하위법령이 추가 기준을 제시할 것으로 여겨졌다.
그러나 이날 공개된 시행령·가이드라인은 고영향 AI 범주를 최소한으로 규정했다. 시행령에선 고영향 AI 범주가 추가·보완되지 않았고 가이드라인은 법에 이미 나열된 영역의 구체적 적용 사례를 제시한 정도였다. 이를테면 운전자의 개입 없이 AI 스스로 판단해 도로를 주행하는 ‘레벨4’ 이상 자율주행 시스템은 고영향 AI에 해당한다.
한국보다 앞서 AI 법을 제정한 유럽연합(EU)은 관련 규제가 촘촘하다. 개인 또는 집단의 행동이나 성향을 점수화해 차별에 활용(소셜 스코어링)하는 AI는 아예 ‘수용 불가’로 규정해 금지한다. 얼굴 표정, 음성, 생체 신호 등을 통해 인간 감정 상태를 판별하는 AI는 ‘고위험 AI’로 분류한다. 금지되는 것은 아니지만 위험관리 시스템과 인간 감독체계 구축, 기본권 영향 평가, 이용자 안내 등 다양한 의무가 부과된다. 한국의 AI 기본법과 시행령으로는 EU에서 금지하거나 강력 제재하는 AI를 규제하기 힘들 가능성이 있다. 오병일 진보네트워크센터 대표는 “제품 안전, 사법, 선거에 영향을 주거나 인간의 취약점을 이용하는 AI에 대해선 EU처럼 금지까진 못하더라도 고영향 AI로 규정해 최소한의 규제를 해야 하는데 하위법령에 그런 노력이 보이지 않는다”고 지적했다.
정부가 AI 기본법의 ‘과태료 부과’ 유예를 거듭 예고하고 있는 것도 비판 대상이다. AI 기본법에 따르면 고영향 AI 사업자는 위험관리 방안·이용자보호 방안 수립 및 사람 관리·감독, 관련 문서의 작성과 보관 등의 의무를 진다. 이를 어길 경우 사실조사를 거쳐 시정명령을 받을 수 있고 명령을 이행하지 않으면 최대 3000만원의 과태료를 부과받게 된다.
이날 간담회에서 김경만 과기정통부 인공지능기반정책관은 유예기간 설정에 무게를 두면서 그 기간에 대해선 “기업, 시민사회와 논의해 설정해나갈 것”이라고 설명했다. 앞서 지난 12일 배경훈 과기정통부 장관은 “최소 1년 이상”의 유예기간을 언급했다. 이에 대해 오 대표는 “법에 따라 책무를 이행하지 않아도 가만히 두겠다는 것으로, 처벌규정 없는 법이 될 우려가 있다”고 말했다.
정부가 ‘느슨한 규제’를 천명한 만큼 업계에선 긍정적인 반응이 나왔다. AI 스타트업 관계자는 “투명성(AI 표시) 의무와 관련한 일부 면제조항과 과태료 계도기간 설정 등이 긍정적”이라고 평가했다.
반면 고위험 AI 안전장치를 강력하게 요구해온 시민단체 등의 반발이 이어질 가능성이 있다. 이재흥 시민기술네트워크 상임이사는 “국가인공지능전략위원회에 산업계뿐 아니라 시민사회 인사들도 다수 참여하게 된 만큼 우려 사항에 대해 숙의가 이뤄질 것으로 본다”고 말했다.
오송 지하차도 참사 희생자들을 기리기 위한 추모 조형물 설치 사업이 충북도의회의 제동으로 결국 무산됐다.
충북도의회는 16일 제428회 임시회 2차 본회의를 열고 충북도가 제출한 제2회 추가경정 예산안 중 오송 참사 희생자 추모 조형물 설치 예산 5000만원 등이 삭감된 수정안을 원안 의결했다.
의결에 앞서 진행된 투표에서는 재석의원 28명 중 21명이 삭감에 찬성했다. 반대는 2표가 나왔다. 5명의 도의원은 기권했다.
이날 본회의에는 33명의 도의원이 출석했지만 이 중 5명은 잠시 자리를 비우거나 다른 이유로 투표에 참여하지 못했다.
표결 과정에서 일부 의원의 반발로 소란이 일기도 했다. 이상정 더불어민주당 의원은 찬반 토론을 요구했지만 받아들여지지 않았다.
이 의원은 기자들과 만나 “재적의원 35명 중 9명에 불과한 민주당 단독으로 수정 동의안을 낼 수 없어 본회의 표결 전 이의를 제기하려 했는데, 이양섭 의장이 기회를 주지 않았다”고 밝혔다.
충북도는 내년도 본예산 제출기한인 오는 11월11일까지 조형물 설치 장소와 형태 등을 재검토해 충북도의회를 설득한다는 계획이다.
앞서 충북도는 충북도청 내 연못광장에 추모 조형물을 설치하기로 하고 5000만원의 예산을 편성해 도의회에 제출했다. 하지만 충북도의회 건설환경소방위원회와 예산결산특별위원회는 유가족과 도민 의견 수렴 절차가 필요하다며 이 예산을 전액 삭감했다.
오송참사 유가족·생존자협의회와 시민대책위원회는 “충북도의회가 추모 조형물을 혐오 시설로 취급하며 유가족과 생존자에게 또 다른 상처를 주고 있다”고 지적했다.
2023년 7월15일 오전 8시40분쯤 청주시 흥덕구 오송읍 궁평2지하차도에서는 인근 미호강 제방이 터지면서 유입된 하천수로 시내버스 등 차량 17대가 침수됐다. 이 사고로 14명이 숨지고 16명이 다쳤다.
KT가 무단 소액결제 사태로 2만명의 가입자 주요 정보를 탈취당한 것으로 드러났다. 앞서 알려진 5561명의 네 배에 이른다. 소액결제 누적 피해 규모도 2억4000만원으로 더 늘었다.
KT는 18일 기자회견을 열어 “소액결제 피해 관련 1차 발표 이후 추가로 침해 정황을 확인하고 고객 보호 조치를 이행했다”면서 이같이 밝혔다.
KT의 무단 소액결제 사태는 8월 중순부터 이달 초순까지 경기 광명·서울 금천 등에서 다수 피해 사실이 알려지며 불거졌다. KT는 지난 11일 첫 회견을 열어 피해 사실을 확인하고 보상 및 재발 방지를 약속했다. 이어 6월 이후 ARS 인증을 거친 소액결제를 전수 조사해왔다.
KT가 이날 공개한 조사 결과에 따르면, 지난 6월 이후 가입자 2만명이 4개 아이디(ID)의 불법 초소형 기지국 신호를 수신한 것으로 나타났다. KT는 이들 2만명의 가입자식별정보(IMSI), 단말기식별번호(IMEI), 휴대폰 번호가 유출된 것으로 보고 있다.
유출 규모가 애초 알려진 것보다 훨씬 크다. KT는 첫 회견에선 “5561명의 가입자식별정보(IMSI)가 유출됐다”고 밝힌 바 있다. 유출피해를 입은 고객은 네 배 늘었고, 유출 정보에 단말기식별번호(IMEI), 휴대폰 번호가 추가됐다. 불법 초소형 기지국의 ID도 당초 2개에서 4개로 늘었다.
구재형 네트워크 기술본부장은 “각 고객의 유출 정보가 단말기종이나 환경에 따라 다른데 완벽하게 한분씩 분석이 안돼서 2만명에 대해서는 세 정보가 모두 유출됐다고 보고 있다”고 밝혔다.
복제폰 제작 등 2차 피해 우려가 더 높아졌다. 복제폰은 가입자식별정보(IMSI), 단말기식별번호(IMEI), 유심 인증키가 있으면 만들 수 있다. 이와 관련해 손정엽 디바이스사업본부장은 “IMSI, IMEI를 알더라도 유심 인증키를 모르면 복제폰은 불가능하다”면서 “유심 인증키는 암호화되어 관리되고 있다”고 설명했다.
전수조사 결과 소액결제 피해 규모도 더 큰 것으로 나타났다. KT는 “피해 고객 수는 362명, 피해 금액은 2억4000만원으로 집계됐다”고 밝혔다. KT가 일주일 전 밝힌 것보다 고객 수 84명, 피해 금액은 7000만원 더 늘었다. 기존의 ‘상품권 소액결제’ 외에 교통카드 등의 다른 유형의 소액결제도 추가로 확인됐다.
다만 KT는 “9월 5일 비정상적인 소액결제 시도를 차단한 이후 새로운 피해는 발생하지 않았다”면서 “이번에 추가로 확인한 피해 역시 그 이전에 발생한 것”이라고 설명했다.
KT는 이날 추가 피해 정황에 대해 “개인정보보호위원회에 보완신고를 마쳤다”고 밝혔다. 정보 유출 피해를 입은 2만명에게는 USIM 교체 신청 및 보호서비스 가입 링크 등을 문자로 개별 안내하고 있다.
KT는 “큰 불편과 우려를 끼친 점에 대해 거듭 사과드린다”면서 “피해 정황이 추가로 확인된 고객에게도 소액결제 금액을 고객이 부담하지 않도록 조치하겠다”고 밝혔다.