대형 정보기술(IT) 기업들이 인공지능(AI)이 인류에게 가하는 실존적 위험을 축소하고 사람들의 주의를 보다 덜 중요한 곳으로 돌리도록 하는 데 성공했다는 주장이 나왔다. 글로벌 AI붐이 일면서 모두가 AI에 대해 환호하고 있는 상황에서 AI가 불러올 수 있는 불편한 진실이 외면당하고 있다는 것이다.
25일(현지 시각) 가디언에 따르면 스웨덴계 미국인 물리학자인 막스 테그마크는 최근 서울에서 열린 AI 정상회의에서 AI의 위험성에 대해 역설했다. 그는 AI를 활용하려는 기업들이 AI의 안전성에 초점을 맞추고 있으며 AI가 불러올 수 있는 생명 경시, 실존 위협 등의 문제를 감추려고 하며, 엄격한 정책이 필요한 챗GPT 등 생성형 AI 프로그램 및 제작자들을 규제하는 것을 지연시키고 있다고 설명했다.
테그마크는 “튜링 테스트를 통과할 수 있는 AI 모델은 당신이 제어력을 잃을 수 있는 종류의 AI에 대한 경고와 같다”고 지적했다. 튜링테스트는 인간과 유사하게 대화할 수 있는지를 기준으로 삼아 AI의 지적 능력을 판별하는 시험이다. 그는 “이것이 지금 제프리 힌턴이나 요슈아 벤지오와 같은 사람들, 그리고 많은 기술 기업 최고경영자(CEO)들이 적어도 비공개적으로는 경악하고 있는 이유”라고 덧붙였다.
테그마크가 언급한 제프리 힌턴과 요슈아 벤지오는 모두 AI 분야의 세계적 석학이다. 테그마크가 공동설립한 미국 비영리단체 ‘삶의 미래 연구소’(FLI)는 지난해 유명 인사 1000여명의 서명을 받아 작성한 공개 서한에서 AI가 인류에 심각한 위험을 야기할 수 있다면서 첨단 AI 연구를 6개월간 일시 중단해야 한다고 주장하기도 했다.
테그마크는 가장 심각한 위험을 경시하는 것은 건강하지 않고, 이는 우연이 아니라면서 자신이 업계 로비에서 예상했던 것이 바로 이것이라고 주장했다. 그는 담배를 예시로 들며 AI의 위험성이 가려지고 있음을 설명했다. 1955년 흡연이 폐암을 유발한다는 학술지 논문이 처음 나왔을 때 사람들은 담배에 대한 규제가 곧바로 이어질 것이라고 생각했다. 하지만 업계에서는 위험성에 대한 주의를 분산시키기 위해 여러 고위층에 로비를 했고 규제의 목소리는 계속 묻히다 1980년까지 가야했다면서, 이것이 지금 일어나고 있는 일이라고 느낀다는 것이다.
테그마크 외에도 여러 세계적인 석학들은 이미 AI규제 필요성을 역설한 바 있다. 딥러닝 기술의 창시자이자 ‘AI의 대부’로 불리는 제프리 힌턴 캐나다 토론토대 교수는 지난해 구글을 그만두면서 “10년 내 사람을 죽이는 AI 로봇이 나올 것”이라고 말했다. 그는 “AI의 안전에 대한 충분한 고려가 이뤄지지 않고 있다”며 “앞으로 5~20년 사이에 AI가 주도권을 장악하려는 문제에 직면할 가능성이 50% 정도 된다”고 전망했다. AI가 인간의 생물학적 지능보다 발달한 형태로 설계됐기 때문에 이 같은 상황이 인간에게 ‘멸종 수준의 위협’이 될 것이라는 경고도 남겼다.
힌턴 교수를 비롯해 ‘사피엔스’의 저자 유발 하라리, 노벨경제학상 수상자 대니얼 카너먼 미국 프린스턴대 교수 등 전문가 25명은 과학 전문지 ‘사이언스’에 ‘급격한 진보 속 AI의 극단적 위험 관리’라는 글을 공동으로 기고한 적도 있다. 이들은 AI 기술이 빠르게 발전하는 만큼 엄격한 규제를 도입해야 한다고 제언했다. 이들은 논문에서 “현재의 거버넌스는 AI의 오용과 무분별한 활용을 방지할 수 있는 체계나 제도가 부족하다”며 “AI 안전 기관에 대한 자금 지원을 늘리고, 빅테크 기업이 보다 엄격한 위험 점검을 수행하도록 강제해야 한다”고 했다.