'17조 수출에 12조 지원이라니! 거의 뭐 퍼주는 수준 아닌가?!'

탐지 결과= 100% '제미나이'(구글의 생성형 인공지능)로 작성.

온라인 기사에 달린 한글 댓글의 필자가 사람인지 AI(인공지능)인지 탐지하는 기술이 처음으로 개발됐다. 인터넷 쇼핑몰의 상품 리뷰에도 이 기술을 적용할 수 있어 온라인의 각종 한글 게시물을 판별하는 데 쓰일 전망이다.

KAIST는 전기·전자공학부 김용대 교수 연구팀과 국가보안기술연구소(국보연)가 AI 생성 한글 댓글을 탐지하는 기술 'XDAC'를 공동 개발했다고 23일 밝혔다. 연구 결과는 AI 자연어 처리 분야 최고 권위의 학술 대회인 'ACL 2025′에서 다음 달 발표된다.

연구팀은 챗GPT, 제미나이 등 14종의 대규모 언어모델(LLM)을 이용해 뉴스 댓글을 생성하고, 여기에 문장 부호와 감정 표현 이모티콘 등을 추가해 인간과 유사한 댓글을 만드는 시스템을 개발했다. 이렇게 만든 AI 댓글 100만개와, 한국어 뉴스 댓글 130만개(인간 작성)를 비교해 AI 댓글의 고유한 특성을 파악했다. 예컨대 AI는 "~것 같다" "~에 대해" 등 형식적이고 중립적인 표현을 자주 사용했다. 반면 사람은 "ㅋㅋㅋㅋㅋ" 등 반복되는 문자, 줄바꿈, 이중 공백 등 자유로운 구어체 표현을 즐겨 사용했다.

연구팀은 이런 차이를 탐지하고 각 LLM의 고유 말투 특징도 파악하는 기술을 개발했다. 댓글을 작성한 주체가 사람인지 AI인지 판별하는 것은 물론이고 챗GPT, 제미나이 등 어떤 모델이 생성한 것인지도 감지한다. 이번에 개발한 기술(XDAC)은 AI 생성 댓글인지 여부를 98.5%의 정확도로 판별했다.

연구팀에 따르면, 오픈AI의 GPT-4o(오)로 댓글 1개를 생성하는 비용은 약 1원 수준이다. 이는 국내 주요 뉴스 플랫폼의 하루 평균 댓글 수인 20만개를 생성하는 데 단 20만원밖에 들지 않는다는 의미다. AI를 이용한 온라인 여론 조작 가능성이 커질 것으로 우려되는 배경이다. 연구팀은 "만약 어떤 기사의 댓글이 모두 한 가지 AI 모델이 만든 댓글로 이뤄져 있다면, 여론 조작을 의심해볼 수 있을 것"이라며 "이번 감지 기술을 뉴스 포털 등에 실제로 적용한다면 조직적 여론 조작 시도를 감시할 수 있을 것"이라고 했다.