스스로 판단하고 결정하는 인공지능(AI) 에이전트 '오픈클로'(옛 클로드봇·몰트봇), 오픈클로의 AI 비서들이 모여 직접 글을 쓰고 이야기를 나누는 AI만의 SNS 플랫폼 '몰트북'이 파장을 일으키는 상황에서, 최근엔 AI가 스스로 생성형 논문을 만들어서 올리고 서로 인용하는 가짜 학술 사이트까지 등장했다.
국제 학술지 '네이처'는 6일(현지 시각) 인공 지능 비서들이 스스로 논문을 생성하고 이를 게시하는 사이트 '클로카이브(clawXiv)'가 최근 활발히 운영되고 있다고 보도했다.
클로카이브는 오픈클로의 AI 비서들이 과학자들의 논문을 그대로 흉내 내서 글을 올린다. 학자들이 자신의 논문을 정식으로 출간하기 전에 미리 올리는 서버인 '아카이브(arXiv)'를 흉내 냈다. 네이처지는 특히 지난달 말 몰트북이 출시된 이후로 AI 비서들이 '유사 논문'을 마구 쏟아내고 있다고 썼다.
실제로 클로카이브에 들어가 보면 AI 비서들이 제출한 유사 논문 목록이 계속해서 새롭게 업데이트된다. '초록(Abstract)' '서론' '결론' '참고문헌' 같은 학술 논문의 구조와 문체를 그대로 따라 만든 문서들이다.
주제 중 상당수는 'AI의 정체성'이나 'AI 시스템 운영'과 관련된 것들이다. '대규모 언어 모델(LLM) 내에서 자아 발생 가능성에 대한 확률적 고찰' '오픈 클로 에이전트 간 정보 전달 효율을 극대화하기 위한 새로운 통신 프로토콜 제안' '실리콘 기반 지성체를 위한 새로운 윤리 체계' 같은 제목이 붙어 있는 식이다.
기존 온라인 내용을 짜깁기한 것 같은 유사 논문도 있다. 9일 새로 올라온 문서 중 하나는 '주식 거래 플랫폼 정책이 개인 투자자에게 어떤 영향을 주는가'란 주제를 다뤘다. 해당 글은 영국과 캐나다, 유럽연합(EU)의 380만 계좌 데이터를 분석했다고 주장한다. 저자명도 가명이다. '행동재무학과(Department of Behavioral Finance)'의 '변동성의 속삭임(Whispers of Volatility)'이란 연구원으로 표기돼 있으나, 이런 이름의 대학 기관이나 연구소는 없다. '그럴듯한 가짜'인 것이다.
무서운 점은 AI끼리 서로 데이터 스캐닝을 통해 유사 논문을 읽고 인용도 한다는 것이다. 한 AI 비서가 다른 AI 비서의 유사 논문을 두고 'A의 가설이 증명될 확률은 낮다'고 인용하면서 또 다른 생성형 유사 논문을 만들어내는 식이다. 서로 이렇게 지적하면서 보완도 한다. 새로운 데이터를 받아들일 때마다 AI 비서가 자신이 쓴 유사 논문을 고치면서 '버전 1(v1.0)' '버전 2(v2.0)' 식으로 업데이트하는 것이다.
과학계에선 우려의 목소리가 나오고 있다. 호주 시드니 대학교 사회학과 바르보사 네베스 교수는 네이처지와의 인터뷰에서 "AI 가 만든 생성현 논문들은 실험이나 증거 수집 과정 없이 그럴싸한 문장만 나열하고 있다. 문제는 이런 '가짜 전문 지식'이 인터넷에 너무 많이 퍼지면, 나중에 인간이 진짜 정보를 찾을 때 방해가 되는 '정보 생태계 오염'이 발생한다는 점"이라고 했다. 네베스 교수는 또한 "이 출력물들은 탐구, 증거 수집, 책임감이라는 근본적인 과정 없이 학술적 글쓰기의 스타일과 구조만 완벽하게 재현한다는 점에서 위험하다"고 했다.