다론 아제모을루 매사추세츠공대(MIT) 교수팀은 "인공지능(AI)이 고도로 발달하면 인류의 지식 체계가 붕괴할 것"이라고 경고했다. 연구진은 이 같은 내용을 담은 연구 결과를 올초 미국 국립경제연구소(NBER) 보고서를 통해 공개했다. 아세모글루 교수는 사이먼 존슨 MIT 교수, 제임스 로빈슨 시카고대 교수와 함께 국가 간 번영 차이를 설명한 제도 연구로 2024년 노벨 경제학상을 받았다.
연구진은 인간 사회의 지식을 두 가지로 구분했다. 하나는 인류가 쌓아온 근본 원리에 해당하는 '일반 지식', 다른 하나는 개별 상황에 맞는 '맥락 지식'이다. 의사가 환자를 치료할 때 질병의 원리와 약효는 일반 지식이고, 해당 환자의 건강 상태와 증상은 맥락 지식이다. 제대로 된 판단을 하려면 두 지식이 함께 필요하다.
문제는 AI가 맥락 지식에 맞춘 답을 정확하게 내놓을수록 인간이 힘들게 지식을 배울 이유를 잃는다는 점이다. 인간이 공부와 탐구를 멈추면 새로운 일반 지식은 쌓이지 않는다. AI는 과거 지식을 '재탕'만 하게 되면서 지식 생산 기반이 약해진다. 연구진은 이 악순환을 수학적으로 시뮬레이션한 결과, AI 답변의 정확도가 일정 수준을 넘어서면, 사회 지식 총량이 '영(0)'으로 수렴하는 '지식 붕괴' 상태로 갈 수 있다고 분석했다.
비슷한 징후는 이미 나타나고 있다. 전 세계 개발자들이 지식을 나누던 문답 플랫폼 '스택 오버플로'에서는 챗GPT 출시 이후 6개월 동안 이용자 활동이 챗GPT 사용이 제한된 러시아·중국 플랫폼과 비교해 25% 줄었다는 연구 결과가 나왔다. 개발자들의 질문과 답변이 줄어들면서 양질의 지식 콘텐츠가 함께 줄어든 것이다. MIT 미디어랩이 진행한 실험에 따르면, 챗GPT를 사용해 글을 쓴 참가자는 자신이 작성한 글을 정확하게 기억하지 못했고, 나중엔 작업을 AI에 맡기고 의존하는 모습이 나타났다.
이에 대한 연구진의 처방은 역설적이다. AI가 내놓는 답변의 정확도를 의도적으로 낮춰야 한다는 것이다. 인간이 계속 지식을 배우고, 공유하고, 쌓아가는 체계를 유지해야 지식 붕괴를 막을 수 있다는 것이다. AI가 인간 사고를 보조하는 수준을 넘어 대체하기 시작하면, AI도 해결해주지 못하는 파국으로 치달을 수 있다는 경고다.