지난 5일 판매가 시작된 '커밍웨이브(The Coming Wave·다가오는 물결)'는 출간 전부터 올해 최고의 인공지능(AI) 관련 서적으로 거론됐고, 책이 공개된 이후에도 그 평가가 계속되고 있다. 무엇보다 바둑 인공지능 알파고(AlphaGo)로 잘 알려진 AI 회사 딥마인드 공동창업자 중 한 명인 무스타파 슐레이만이 썼기 때문이다. 공저자는 기술 분야 저술가인 마이클 바사카다.
슐레이만은 딥마인드가 구글에 인수된 이후 구글에서 인공지능 담당 전무(Vice President)로 일하다 2022년 퇴사하고, 페이팔 창업자 중 한 명으로 SNS(소셜네트워크서비스) 링크드인 이사회 의장인 리드 호프먼과 인펙션AI라는 회사를 만들었다. 인펙션AI는 오픈AI의 챗GPT와 비슷한 서비스 '파이(PI·Personal Intelligence)'를 최근 내놓았다. 커밍웨이브는 글로벌 AI 산업의 최첨단에 서 있는 사람이 직접 해당 산업의 미래를 전망하고, 어떤 영향을 가져올 건지 예측한 책인 셈이다.
책의 핵심 주장은 AI가 인간성 또는 인간다움에 대한 규정(humanity)을 송두리째 바꿀 기술이라는 것이다. 슐레이만은 "불의 발견, 바퀴의 발명, 전기의 이용은 인간 문명을 송두리째 바꾸고 역사의 흐름을 영원히 바꾸었다"며 AI가 비슷한 역할을 할 것이라고 주장한다. 또 이러한 인류사적 기술 발전이 일어났을 때가 "인간성의 명운이 위기에 처하게 되는, 전환점과 같은 순간"이었다고 본다.
슐레이만은 AI의 범용성에 주목한다. "어디에나 쓸 수 있는 기술(omni-use technology)"라는 얘기다. AI는 "새로운 전기"이며, 전기와 마찬가지로 "일상생활 깊숙이 침투해 영향력을 발휘하는, 수요에 맞춰 공급되는 유틸리티(전기·수도·가스와 같은 인프라)"다. 또 드론 및 로봇, 화학, 생물학 등의 분야에서 폭넓게 쓰이면서 해당 산업의 도약을 이끌 수 있다. 빅데이터, 양자컴퓨터 등은 AI의 발전을 도우면서, 동시에 AI의 도움을 받아 한 단계 도약하는 선순환 구조를 갖게 될 것으로 그는 예상한다.
이 때문에 AI 기술의 발전과 관련 산업의 성장은 매우 빠른 속도로, 광범위하게 일어날 수밖에 없다는 게 슐레이만의 논리다. 19세기 초 산업혁명을 이끈 증기기관, 19세기 말 2차 산업혁명을 이끈 내연기관과 전기만큼이나 파급력도 크다. 합성생물학(생명공학에 공학을 접목, 기존에 존재하지 않던 새로운 생물을 만들어내거나 관련 기능을 변형하는 것) 등의 분야가 동반 발전하면서 인간성, 정확히는 인간에 대한 정의를 새롭게 내릴 것이라는 과감한 주장을 하는 이유다.
'다가오는 물결'이라는 제목은 미래학자 앨빈 토플러의 '제3의 물결(The Third Wave)'을 연상케 한다. 토플러는 1980년 제3의 물결에서 현대 정보 사회의 등장을 예견했다. 어찌 본다면 슐레이만은 AI가 정보기술(IT)의 발전의 최종 단계임을 주장하고 있는 것처럼 보인다. 로버트 고든 미국 매사추세츠공대(MIT) 교수 등 여러 경제학자들은 IT가 증기기관이나 내연기관·전기와 다르게 경제의 생산성을 높이지 않았다며, '제3의 혁명'이라 볼 수 없다고 주장한다. 슐레이만이 그리는 미래는 AI가 기술 발전에서 전통적인 상식이 무너지는 특이점(singularity)을 가져오는 모습에 가깝다. 진짜 3차 산업혁명에 가까운 셈이다.
문제는 피할 수 없는 변화를 어떻게 관리하느냐다. 기업들이 AI 기술을 개발할 유인(誘因)은 너무나 크고, 각 나라들도 사활을 걸고 AI 군비 경쟁에 나설 수밖에 없다. 다른 한편에서 전통적인 방식의 규제는 실패할 것으로 슐레이만은 본다. 범용 기술이기 때문에 특정 항목에 제약을 가하는 방식이 불가능하고, 규제가 약한 국가나 산업으로 이동해 기술을 개발할 것이기 때문이다.
슐레이만은 AI 기술을 정부와 사회가 적절하게 관리하기 위해서는 '봉쇄(containment)'라고 그가 이름 붙인 새로운 접근법이 필요하다고 역설한다. 이 용어는 1950년대 냉전 시기 미국이 옛 소련의 세력 확장에 대응한 정책에서 따왔다. 담장을 둘러치듯 구 소련 주위를 튼튼한 우방국으로 포위하고, 이들을 적극적으로 지원해 장기적인 체제 경쟁에 나서자는 것이었다. 마찬가지로 AI를 일일이 규제하기보다, AI를 견제할 수 있는 안전 정책, 거버넌스, 지배구조, 나아가 억제 기술 들을 다각도로 모색하고 갖추자는 것이다.
이 책은 지금보다 훨씬 빠르고 폭넓은 AI 기술의 발전을 예상하는 데 절반, AI에 대한 봉쇄 정책이 왜 필요한지 설명하는 데 절반의 분량을 할애한다. 지금까지 우리가 갖고 있던 '인간'에 대한 생각을 송두리째 바꿀 수 있다는 공포심과, 지금으로서는 적절히 통제할 수 없다는 비관론이 짙게 깔려 있다. 슐레이만의 주장에 고개를 갸웃거리게 되는 건 그가 제안하는 봉쇄라는 아이디어가, 실제로 작동할 수 없어 보이기 때문이다.
12일 출간된 월터 아이작슨의 <일론 머스크>는 AI 산업의 최첨단에 서 있는 인사이더 집단이 얼마나 좁고 서로 얽혀있는지 잘 보여준다. 슐레이만이 데미안 허사비스, 셰인 레그 등과 함께 창업한 딥마인드가 대표적이다. 허사비스는 2012년 페이팔 공동 창업자인 피터 틸이 자신이 투자한 기업들을 실리콘밸리에 소개하는 컨퍼런스를 통해 머스크(머스크도 페이팔 공동 창업자다)를 만났고, 머스크는 500만달러를 투자했다. 이듬해 구글이 딥마인드를 인수하자, 머스크는 샘 알트만과 손잡고 오픈AI를 만들었다. 오픈AI의 핵심 기술 인력은 구글과 테슬라 출신이다. 머스크는 자체적인 AI를 개발할 필요성이 있다고 판단하면서 오픈AI와 결별하고 인간형 로봇인 테슬라 옵티머스, AI용 슈퍼컴퓨터 도조(Dojo) 등을 직접 개발하고 있다. 오픈AI는 마이크로소프트와 손잡고 110억달러를 투자 받았다.
이들 중 다수는 AI에 대한 규제가 필요하다고 공개석상에서 이야기한다. 미국과 영국 정부 등의 AI 규제 위원회에는 AI 기업인들이 주요 구성원으로 참여한다. 고양이 목에 방울 달기 아니냐는 의문이 들지 않을 수 없다. 머스크의 경우만 해도 구글과 마이크로소프트가 각각 편향적인 방향으로 AI를 발전시킬 것이라고 비판하지만, "더 빨리 움직이고 더 많은 리스크를 감수하고 규칙을 어기고 요구사항에 의문을 제기하라"는 그의 사업 철학에서 AI가 예외일 수 없을 것이다.
MIT 교수인 대런 애스모글루, 사이먼 존슨은 <권력과 진보>에서 기술 엘리트들의 '설득 권력'이 기술 발전의 방향성을 결정한다고 주장했다. 기술이 어떤 방향으로 발전하고 어떻게 쓰여야 하는지를 결정하는 것은 힘을 갖고 있으며 사회적 지위가 높은 이들의 '논리'와 '비전'이 관철된 결과라는 것이다. 기술 엘리트들은 자신들의 논리와 비전이 그만큼 설득력이 있기 때문이라고 생각할지 모르지만, 사회적 역관계를 그대로 반영한 결과라는 게 애스모글루의 지적이다. 애스모글루는 나아가 절대 권력은 절대로 부패한다는 격언까지 인용하기도 한다. 기술 발전 또한 권력과 정치의 영역이며, 민주주의적 참여와 견제가 중요하다는 얘기다. 애스모글루의 관점에서 보았을 때 슐레이만의 주장도 AI 산업의 엘리트들이 중요하게 생각하는 의제라는 점을 유념해야 한다는 생각이 들지 않을 수 없다.