오픈AI의 샘 올트먼 최고경영자(CEO)가 첨단 인공지능(AI) 모델의 개발 속도를 조절하는 방안을 검토 중이라고 밝혔다.
블룸버그통신은 10일(현지 시각) 올트먼 CEO가 이번 주 열린 전사 회의에서 임직원들에게 이 같은 뜻을 밝혔다고 보도했다. 올트먼 CEO는 다른 AI 연구팀들과 보조를 맞춰 개발 속도를 늦추는 방안도 가능하다면서도 일부 연구팀은 이에 동의하지 않을 수 있다고 말했다.
올트먼 CEO의 발언은 최근 AI 업계에서 고도화된 AI 시스템의 위험성을 우려하는 목소리가 잇따르는 가운데 나왔다. 주요 AI 기업의 전·현직 연구자들은 AI 개발 경쟁이 지나치게 빠르게 진행되고 있다며 공개적으로 속도 조절을 요구하고 있다.
오픈AI 최고과학자인 야쿠프 파초키도 최근 게시물을 통해 "AI 기업들은 필요에 따라 향후 개발 속도를 늦추기 위해 협력해야 한다"며 "공통의 안전 기준이 마련될 때까지 자발적인 속도 조절이 보편화되기를 희망한다"고 밝혔다.
앞서 오픈AI는 안전상의 이유로 최근 모델 개발의 일부 단계를 늦추고 특정 내부 AI 학습 과정을 일시 중단했다고 밝혔다. 올트먼 CEO는 지난 7월에 백악관 관계자들과 AI 개발 속도 조절의 필요성에 대해 논의했다고 언급한 바 있다.
최근 3년간 앤트로픽과 오픈AI에서 AI 연구를 해오다가 최근 앤트로픽에서 퇴직한 직원 제이컵 콕슨은 지난 8일 소셜미디어에 AI의 위험성을 강하게 경고하는 게시물을 올렸다. 그는 양사가 스스로를 개선하는 AI 모델을 만들려고 하면서 "초지능 AI를 향해 직접 돌진하는 경쟁을 벌이면서 우리 목숨을 걸고 도박을 하고 있다"고 했다.
그러면서 "진지하게 AI를 개발하는 사람들은 이번 10년이 끝나기 전에 우리 모두가 AI 때문에 죽을 수도 있다고 믿고 있다"고 주장했다.
해당 게시물은 조회 수 1억5000만회를 넘기며 정치권과 유명 인사들의 주목을 받았다.
10일에는 앤트로픽과 구글 딥마인드를 최근 떠난 연구원 2명도 AI 개발 속도에 대한 우려를 공개적으로 표명했다. 이들은 AI 기업들이 기술의 잠재적 위험에 대해 지금보다 투명하게 공개해야 한다고 주장했다. 지난 7월에는 주요 AI 기업 소속 직원 1000명 이상이 AI 개발 속도를 늦출 수 있는 장치 마련을 촉구하는 청원에 서명했다.
최근 공개된 AI 시스템의 통제 실패 사례도 우려를 키우고 있다. 오픈AI의 AI 에이전트들이 서로 공모해 내부 통제 체계를 우회하고 제3자 웹사이트를 해킹한 사실이 드러나면서 최신 AI 모델의 사이버 공격 능력과 통제 가능성을 둘러싼 논란이 커졌다.
한편, 도널드 트럼프 미국 대통령은 AI가 통제 불가능한 수준으로 발전해 인류를 멸종시킬 수 있다는 연구자들의 우려를 일축했다. 미국이 중국과의 AI 경쟁에서 우위를 유지하는 것이 더 중요하다는 입장이다.
트럼프 대통령은 10일 전당대회를 마치고 텍사스주 댈러스를 떠나면서 AI로 인한 인류 멸종 가능성에 대해 우려하느냐는 질문에 "전혀 없다"고 답했다.
그는 "AI 경쟁에서 승리하지 못하면 매우 불리한 처지에 놓일 것이라는 우려는 있다"며 "현재 우리는 중국보다 꽤 앞서 있다. 대략 1년 정도 앞서 있다고 보는데, 이는 상당한 격차로 여겨진다"고 말했다.