인공지능(AI)이 수학의 학문적 본질을 훼손할 수 있다고 세계 수학자들이 경고했다. 수학은 단순히 정답을 내는 작업이 아니라 증명을 통해 답이 왜 맞는지 이해하고, 동료 연구자들과 검증하며 새로운 지식을 쌓아가는 인간적 활동이라는 것이다. 이들은 AI 기업이 수학 연구를 전쟁, 대량 감시, 민주주의 훼손 기술에 악용할 가능성도 경고했다.
미국·영국·네덜란드·폴란드·스위스 등 5국 15개 대학·연구기관 소속 학자들은 2일(현지 시각) 'AI와 수학에 관한 라이덴 선언'을 발표했다. 국제수학연맹(IMU)이 지지를 표명한 이 선언은 다음 달 세계수학자대회(ICM)에서도 논의될 것으로 알려졌다.
선언문은 "AI가 수학의 핵심 가치인 증명, 검증, 연구 자율성을 흔들 수 있다"고 우려했다. AI가 겉보기에는 설득력 있지만 실제로는 틀린 수학적 논증을 만들어낼 수 있다는 것이다. 선언문은 AI 생성 논문과 증명이 쏟아지면 동료 심사 체계가 과부하에 걸리고, 정확성·투명성·독립 검증이라는 수학의 전통적 기준도 약화할 수 있다고 경고했다.
이미 수학은 AI 개발 경쟁의 핵심 시험장으로 떠올랐다. AI 기업들은 수학 문제와 증명을 만들고 검증하며 모델을 훈련하고 있다. 이를 통해 수학 문제 풀이 능력을 범용 추론 능력으로 확장하려는 것이다. 이번 선언은 수학이 상업용 AI의 성능 홍보와 훈련 데이터로 활용되고 있다고 지적했다. AI가 기존 수학 논문과 공개 자료를 학습하지만, 결과물을 낼 때 어떤 인간 연구자의 아이디어를 바탕으로 했는지 제대로 밝히지 못하는 경우도 많다고 했다.
이번 선언은 특정 수학 문제 풀이 능력을 AI의 일반 추론 능력을 보여주는 지표처럼 홍보하는 일도 경계했다. AI의 역할은 과장되고 기존 인간 수학자들의 기여는 축소될 수 있다는 것이다. AI 기업에는 수학자와 협력할 때 투명성, 출처 표기 등을 지켜야 한다고 요구했다. 선언문은 "일부 AI 모델은 전쟁, 억압, 대량 감시, 민주주의 훼손을 포함하여 심각한 윤리적 우려를 불러일으키는 용도로 상용화되고 있다"며 "많은 수학자가 자신의 연구가 이런 목적에 사용될 것이라고는 예상하지 못했다"고 밝혔다.
이번 선언은 2025년 9월 네덜란드 라이덴에서 열린 '기계화와 수학 연구' 워크숍에서 출발했다. 당시 10개국 수학자, 컴퓨터 과학자, 철학자, 역사학자, 사회과학자 등 60여 명이 모여 AI가 수학 연구에 미칠 영향을 논의했고, 이후 16명으로 구성된 실무 그룹이 8개월간 수학계 의견을 반영해 이번 선언문을 작성했다.