지난 1일(현지 시각) 오픈AI는 차세대 인공지능(AI) 모델 '아스트라(Astra)'가 수학 난제 10개에서 새로운 결과를 냈다고 발표했습니다. 인간 연구자가 수년간 매달릴 수 있는 문제를 AI가 단기간에 풀어낸 것인데요. 하지만 발표 며칠 만에 일부 수학자들은 "기존 연구자들의 아이디어와 성과가 충분히 인정받지 못한 채 AI의 성과가 지나치게 부각됐다"고 비판했습니다.
"앞선 연구자들의 업적을 고의적으로 짓밟고 있다."
스티븐 밀러(Steven Miller) 미국 예시바대 교수는 지난 6일(현지 시각) 사이언티픽 아메리칸에 이같이 밝히며 오픈AI의 일부 결과가 사실상 자신의 연구를 표절한 것이라고 주장했습니다.
밀러 교수는 선행연구 누락이 반복된 점을 들어 "조직적인 행태로 보이며, 연구 부정행위를 시사한다"고 비판했습니다. 다만 학술기관의 공식 조사나 표절 판정이 나온 것은 아닙니다.
◇ AI가 찾은 답, 기존 논문에 이미 있었다?
오픈AI가 공개한 논문은 250페이지에 달합니다. 군론과 양자 복잡성, 격자 암호, 램지 이론 등 난제를 다뤘습니다. AI가 논증을 만들고 인간 연구자가 이를 논문으로 정리한 뒤, 수학 증명 검증 프로그램 '린(Lean)'으로 형식화했습니다. 린은 증명의 각 단계가 정해진 논리 규칙에 맞는지를 컴퓨터로 확인하는 도구입니다.
이번에 논란이 된 것은 '고차원 구 채우기' 문제입니다. 상자 안에 같은 크기의 공을 얼마나 빈틈없이 넣을 수 있는지를 묻는 문제를 수백·수천 차원의 공간으로 확장한 것인데요. 오픈AI는 공을 채울 수 있는 밀도의 한계를 기존보다 좁히는 증명을 제시했습니다.
밀러 교수는 이 증명의 핵심 논리가 자신과 공동 연구자가 2016년 발표한 논문에 이미 등장한다고 주장했습니다. 오픈AI가 새로운 결과를 만드는 데 이 아이디어를 활용하면서도 출처를 제대로 표시하지 않았다는 것입니다.
논문 자체의 인용보다 오픈AI의 발표 방식을 문제 삼은 수학자도 있습니다. 프란체스코 푸르니에-파시오(Francesco Fournier-Facio) 영국 케임브리지대 연구원은 "논문에서는 선행 연구를 최대한 밝히려는 노력이 있었다"고 평가하면서도 "인간 수학자들이 해당 문제에서 최근까지 진전을 이어가고 있었는데도, 오픈AI의 초기 발표는 마치 오랫동안 정체돼 있던 문제에서 AI가 돌파구를 만든 것처럼 소개했다"고 지적했습니다.
그렇다고 결과 자체의 학술적 가치까지 부정된 것은 아닙니다. 아스트라가 활용한 선행연구의 공동 저자인 안드레아스 톰(Andreas Thom) 독일 드레스덴공대 교수는 이 결과를 '창의적이면서도 기초적'이라고 평가했습니다.
이번 논문을 직접 살펴본 김종락 서강대 수학과 교수도 AI의 문제 해결 과정을 기존 논문의 단순한 짜깁기로만 볼 수는 없다고 설명했습니다. 김 교수는 "AI가 다른 논문을 단순히 인용하거나 그 안에 있는 내용을 짜깁기해서 결과를 내는 게 아니라, 논리적으로 스스로 문제를 풀어가는 경우가 있다"며 "그러다 보니 AI가 찾아낸 논리가 인간이 이미 해놓은 연구와 겹칠 수도 있다"고 말했습니다.
이어 "오픈AI는 변방에 있는 미해결 문제가 아니라 각 분야에서 유명하고 굉장히 어려운 문제들을 골라 도전해 결과를 냈다"며 "AI가 실제로 참인 결과를 찾아내고 증명까지 제시했다는 점에서 학술적인 의미가 있다"고 평가했습니다.
◇ AI가 난제 푸는 시대… 수학계 우려 속 새 역할 모색
이번 논란은 AI가 수학 연구에 본격적으로 활용되기 전부터 수학계가 고민해 온 문제입니다. 지난 6월 공개된 '라이덴 AI·수학 선언'은 AI 모델이 기존 수학 문헌을 종합해 결과를 내놓으면서도, 그 바탕이 된 인간 연구자의 연구를 제대로 인용하지 못할 수 있다고 경고했습니다. 국제수학연맹(IMU)도 이 선언을 공식 지지했습니다.
선언은 특히 충분한 학술 검증을 거치기 전에 보도자료나 블로그를 통해 연구 성과를 알릴 경우 AI의 역할이 과도하게 부각되고, 기존 인간 연구자의 기여는 축소될 수 있다고 지적했습니다. AI를 활용했더라도 결과의 정확성과 선행 연구 인용에 대한 책임은 인간 연구자에게 있다는 점도 강조했습니다.
오픈AI 역시 사이언티픽 아메리칸에 "수학적 결과의 정확성에 책임을 지고 인간 수학자에게 요구되는 것과 같은 기준을 따르겠다"며 "논문을 통상적인 학술 관행에 따라 수정하겠다"고 밝혔습니다.
이번 논란과 별개로, AI가 실제로 난제 해결 능력을 보여주기 시작하면서 인간 수학자의 역할도 달라질 수 있다는 전망이 나옵니다.
김 교수는 과거 알파고가 인간 기사라면 쉽게 선택하지 않을 수를 두면서 새로운 바둑 전략을 보여준 것에 빗댔습니다. 그는 "인간이 그동안 하지 않았던 방식으로 AI가 문제를 푼다면 'AI가 왜 이런 식으로 생각했을까'를 살펴볼 필요가 있다"며 "그 사고방식을 인간이 받아들여 다른 문제에 적용하고, 여기에 인간의 아이디어를 더하는 방향으로 수학자의 역할이 확장될 수 있다"고 말했습니다.