빅테크들의 인공지능(AI) 개발 경쟁이 날로 격화하는 가운데, 한 번의 대형 사고가 AI 기술에 대한 세계적 신뢰를 무너뜨릴 수 있다는 경고가 나왔다.
AI 분야 권위자인 마이클 울드리지 옥스퍼드대 교수는 18일(현지 시각) 영국 왕립학회 강연에서 "기업들이 AI 제품 성능과 결함을 충분히 이해하기도 전에 고객을 선점해야 한다는 상업적 압박에 내몰리고 있다"고 지적했다. 울드리지 교수는 AI 분야에서 400편 넘는 논문을 낸 영국 대표 석학이다.
울드리지 교수는 이 같은 속도전이 현대판 '힌덴부르크 참사'로 이어질 수 있다고 경고했다. 힌덴부르크는 1937년 독일에서 출발해 대서양을 가로질러 미국에 도착한 비행선으로, 착륙 과정에서 폭발해 36명이 숨지는 참사가 벌어졌다. 이후 비행선 산업에 대한 여론이 악화되면서 기술 자체도 사장됐다. 그는 "AI에서도 비슷한 '결정적 사고'가 발생하면 신뢰가 급격히 붕괴할 수 있다"고 말했다.
그는 "AI가 신뢰를 잃게 되는 시나리오는 여러 가지"라며 △자율주행차 소프트웨어 업데이트 결함으로 인한 대형 사고 △AI를 악용한 해킹으로 전 세계 항공 시스템 마비 △AI의 오류·오판으로 인한 대기업 파산 등을 예로 들었다. 그는 최근 AI 챗봇이 급증하는 흐름 자체가 "안전성 검증보다 상업적 인센티브를 우선하고 있다는 신호"라고 했다.
울드리지 교수는 특히 챗봇형 AI의 구조적 한계를 짚었다. "예측 불가능한 방식으로 틀릴 수 있고, 틀렸다는 사실을 스스로 인지하지 못하면서도 확신에 찬 답을 내놓도록 설계돼 있다"는 것이다. 그는 기업들이 AI를 더 '인간처럼' 보이게 포장하는 경향이 문제를 키울 수 있다고도 했다. 울드리지 교수는 "AI를 만능 지능이 아니라 도구로 바라보는 올바른 인식이 필요하다"며 "AI는 잘 포장된 스프레드시트 같은 도구"라고 했다.