청주 폰테크 ‘정확도 100% 육박’ AI가 만든 댓글 탐지 기술 개발…“여론조작 대응 기대”

이길중 0 1 06.26 18:42

청주 폰테크 특정 기사 댓글의 작성자가 사람인지 인공지능(AI)인지를 100%에 가깝게 정확히 판별할 수 있는 기술이 국내에서 개발했다. 댓글을 통한 여론 조작에 능동적으로 대응할 길이 열릴 것으로 보인다.
김용대 카이스트(KAIST) 전기 및 전자공학부 교수팀과 국가보안기술연구소 등은 AI가 생성한 기사 댓글을 포착하는 소프트웨어인 ‘XDAC’를 개발했다고 23일 밝혔다. 해당 연구 결과는 다음달 오스트리아 빈에서 열리는 컴퓨터 분야 국제학술대회 ‘ACL 2025’에서 발표된다.
최근 등장하고 있는 고성능 AI는 기사 맥락에 맞춰 감정까지 조절한 댓글을 몇 시간 만에 수십만개 자동 생성할 수 있다. 여론 조작이 AI로 간단히 이뤄질 수 있다는 뜻이다.
현재도 AI가 만든 댓글을 구별하는 기술은 있다. 하지만 대부분 영어 기반으로 만들어졌다. 기존 기술은 문자 분량도 250자 이상을 요구하는 등 긴 글에 적합하다. 국내 기사 댓글은 한국어로 쓰인 데다 분량도 평균 50자로 짧아서 기존 기술로는 작성자가 AI인지 사람인지 알아내기가 어려웠다.
연구진은 이런 문제를 XDAC로 해결해 특정 기사 댓글의 작성자가 사람인지 AI인지를 98.5% 정확도로 알아내는 데 성공했다. 사실상 AI가 쓴 댓글의 거의 전부를 걸러낼 수 있는 성능을 갖춘 셈이다.
XDAC가 이런 높은 탐지율을 기록한 것은 고성능 AI의 일종인 ‘거대언어모델(LLM)’ 14종으로 생성한 기사 댓글 패턴을 차곡차곡 쌓아 ‘데이터 세트’를 구축했기 때문이다. 이를 정밀 분석한 결과, AI가 생성한 댓글에는 진짜 사람과는 구별되는 말투가 있었다. AI는 ‘~에 대해’ 같은 정형화하고 딱딱한 어법을 즐겨 썼다. 논리적이며 자연스러운 말을 만들기 위해 ‘그리고’ ‘그러나’ 같은 접속어도 자주 사용했다.
반면 진짜 사람은 감정을 표현하려고 기사 댓글에 특정 문자를 연달아 사용하는 일이 두드러졌다. ‘ㅋ’이 아니라 ‘ㅋㅋㅋㅋㅋ’처럼 썼다는 뜻이다. 여러 칸 띄어쓰기 같은 댓글 작성 습관도 사람에게 더 많이 나타났다. 격한 감정이 키보드의 스페이스 바를 여러 번 두드리는 행동으로 표현된 것이다.
연구진은 XDAC 존재 사실이 널리 알려지면 기사 댓글 조작을 예방하는 효과도 나타날 것으로 기대했다. 골목에 생긴 폐쇄회로(CC)TV가 범죄 억제 효과를 내는 것과 비슷한 원리다. XDAC를 쓰면 댓글 조작에 어떤 LLM 제품이 동원됐는지도 알 수 있다. 여론 조작 세력을 찾기 위한 단서를 확보하는 데 도움이 된다.
이번 연구를 다룬 논문의 제1저자인 고우영 국가보안기술연구소 선임연구원은 “AI 기반 여론 조작에 대응하기 위한 바탕을 마련한 데에 큰 의의가 있다”고 밝혔다.
북대서양조약기구(나토)가 회원국의 국방비 지출 목표를 기존 국내총생산(GDP) 대비 2%에서 5%로 대폭 상향 조정하는 데 합의했지만 각국의 재정 부담과 여론 반발이라는 만만치 않은 과제도 떠안게 됐다. 냉전 시기에서나 볼 수 있었던 GDP 5%라는 높은 국방비가 가져올 안보 지형 변화에 대해서도 다양한 분석이 나온다.
마르크 뤼터 나토 사무총장은 정상회의를 하루 앞둔 23일(현지시간) 네덜란드 헤이그에서 연 기자회견에서 2035년까지 직접 군사비 3.5％에 안보 관련 간접 비용 1.5％를 더해 GDP의 5％를 지출하는 국방비 증액 계획은 ‘획기적 도약’의 계기가 될 것이라고 말했다. 이 같은 합의 내용은 25일 발표될 공동성명에 담길 것으로 예상된다.
나토 추정에 따르면 회원국들은 지난해 나토 전체 GDP의 2.61%를 국방비로 지출했다. 그러나 이 같은 평균치는 회원국 간 격차를 감추고 있다. 폴란드는 GDP의 4% 이상을 지출했지만 스페인은 1.3%에도 못 미쳤다. 국방비 증액안에 줄곧 반대해 온 스페인이 이번 합의에서 예외 적용을 주장한 것도 이 같은 배경에서다.
로이터통신은 앞으로 각국의 경제 규모가 어떻게 변할지 알 수 없어서 회원국들이 추가로 확보해야 할 예산 역시 정확히 추산하기 어렵다고 전했다. 나토 회원국들의 지난해 국방비 지출 규모는 1조3000억달러(약 1771조원)였다. 만약 모든 회원국이 GDP의 3.5%를 국방비로 썼다면 총액은 약 1조7500억달러(약 2385조원)에 달했을 것이라는 추산이 나온다. 이러한 점을 감안할 때 새 목표를 달성하려면 연간 수천억달러의 추가 지출이 필요할 수 있다. 예외를 인정받았다고 주장하는 스페인뿐 아니라 합의에 동의한 다른 국가들 역시 목표 달성이 어려울 수 있다는 전망이 나오는 이유다.
뤼터 사무총장은 합의 이행 상황을 점검하기 위해 2029년 각국이 중간 보고서를 제출하게 될 것이라고 했다. 나름의 안전장치를 마련한 셈이지만 나토 계획에는 법적 구속력이 없어 강제성이 떨어진다는 한계가 있다. 실제로는 ‘GDP 대비 방위력 충족’이라는 정성적 평가 방식으로 빠져나갈 가능성도 있다. 이번 5% 목표에는 사이버 보안, 에너지 인프라 보호, 교량·항만 등 군사 전용 인프라 구축 등 비전통적 항목들이 다수 포함됐다. ‘안보 관련 간접 비용’의 범위가 모호하다는 점을 이용해 안보 개념을 자의적으로 확장하고 군사비 항목을 부풀릴 여지를 만들었다는 비판이 제기된다.
회원국이 직면한 문제는 단순히 예산 문제에 그치지 않는다. 뉴욕타임스(NYT)는 “(이번 국방비 증액을 통해) 미국의 도움 없이 자신을 지켜야 한다는 현실을 마지못해 받아들이게 된 유럽은 정치적·전략적·제도적 난관들을 동시에 마주하고 있다”고 했다. NYT는 “유럽 지도자들은 공동 군사 지출과 무기 공동 조달에 대한 대중의 지지를 확보해야 하는데 극우 정치인들은 이에 반대 목소리를 내고 있다”고 했다.
키어 스타머 영국 총리는 반대 여론을 의식한 듯 5% 증액 합의가 알려진 직후인 23일 “이번 조치가 영국 국민의 안보, 국방, 회복력에 대한 투자를 확대하는 동시에 일자리와 임금, 경제 성장을 촉진하고 노동자들의 소득 증가에도 기여할 것”이라는 성명을 발표했다.
나토 회원국 대다수가 유럽연합(EU) 회원국이라는 점을 감안할 때 GDP의 5%로 국방비를 증액하는 이번 합의는 EU의 전략적 자율성과 충돌할 수 있다는 우려와 함께 미국 중심의 안보 체제에 대한 종속을 더욱 심화시킬 수 있다는 비판도 제기된다.
신임 EU 군사위원장으로 지명된 숀 클랜시 중장은 나토 국방비 증액에 대해 “전 세계 재설정(글로벌 리셋)”이라고 표현하면서 “그런데도 우리는 그 전환이 어떤 모습일지조차 아직 정의하지 못했다”고 지적했다.