사람이 아닌 인공지능(AI)이 작성한 보고서와 과제, 뉴스 등을 식별할 수 있는 기술이 나왔다.
구글 딥마인드는 AI가 쓴 글을 식별할 수 있는 워터마크(식별 표지) 도구인 ‘신스ID-텍스트(SynthID-Text)’를 공개하고, 약 2000만개의 AI 대화에 적용한 결과를 국제 학술지 네이처 최신호에 게재했다.
오픈AI의 챗GPT나 구글의 제미나이 등 생성형 AI는 이미 학습한 데이터를 바탕으로 특정 단어 뒤에 가장 자연스럽게 이어질 단어를 확률 계산으로 찾아낸다. 딥마인드의 신스ID는 전체적인 글의 문맥을 해치지 않으면서 각 단어의 확률을 바꾸는 식으로 워터마크를 만든다. 예컨대 ‘대단하다’는 것을 표현하기 위해 원래 사람들은 ‘great(굉장한)’라는 단어를 가장 많이 쓰는데, AI가 작성한 문서에는 ‘incredible(믿을 수 없는)’을 더 많이 쓰도록 해서 잡아내는 식이다. 딥마인드는 2000만개의 제미나이 응답에서 워터마크를 넣어도 글의 질이 떨어지지 않았다고 밝혔다. 연구팀은 “다른 AI 모델 개발자가 이를 사용하기를 바란다”며 모든 도구를 공개했다.