챗GPT 개발사 오픈AI의 최고과학자가 인공지능(AI) 개발 속도를 늦춰야 한다고 주장했다. 최첨단 모델 'GPT-6 아스트라'를 공개한지 며칠 만에 AI 기술의 위험성을 경고하면서 속도 조절을 촉구한 것이다.
야쿠프 파호츠키(Jakub Pachocki) 오픈AI 최고과학자는 6일(현지시각) 오픈AI 홈페이지에 게시한 '외계의 지성(An Alien Mind)'이라는 기고문을 통해 "기계 지능이 계속해서 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다"면서 이같이 밝혔다.
그는 AI가 인간의 지능을 뛰어넘기 시작하는 시작점에 서 있다면서 "AI는 설계된다(designed)기보다 성장하는(grown) 것으로, AI 시스템의 작동 방식은 우리가 완전히 이해하기는 어렵다"고 평가했다. AI 역시 인간이 정밀하게 그린 설계도에 맞춰 만들어지는 것이 아니라 생물처럼 자라나고 변화하기 때문에 인간이 AI를 완전히 통제하기는 어렵다는 설명이다.
오픈AI가 AI를 감시하기 위해 적용한 연쇄 추론(CoT·chain-of-thought reasoning) 기능도 AI 모델이 고도화되면서 점차 저하될 것이라고 전망했다. 지금은 AI 에이전트가 "이 시험에서 부정행위를 해야겠다"고 생각하면 오픈AI가 추론 과정을 확인할 수 있지만, 앞으로는 모델의 가공되지 않은 실제 생각을 들여다보기 어려워질 것이란 설명이다. 그는 "일부 최신 모델의 경우 추론 과정을 아예 언어로 표현하지 않기도 한다"고 덧붙였다.
그는 AI 개발을 지속해야 방어 체계를 구축할 수 있다는 AI 업계의 주장에 대해 "(방어체계 구축이) 무모한 행동을 정당화하는 구실로 삼아서는 안 된다"고 반박했다. 그러면서 AI가 인간에게 위협이 되는 행동을 거부하도록 하는 '정렬' 문제를 충분히 해결한 연구소는 아직 한 곳도 없다면서 "공동의 안전장치가 마련될 때까지 자발적인 속도 조절이 일반화하기를 기대하고 희망한다"고 말했다. 이어 "AI 개발에 대한 국제적 협력이 세계 각국 정부의 최우선 과제가 돼야 한다"고도 덧붙였다.
샘 올트먼 최고경영자(CEO)도 파호츠키 최고과학자의 이 글을 소셜미디어(SNS) 엑스(X·옛 트위터)에 공유하면서 "중요한 글"이라고 밝혔다.