"스티븐 호킹 박사나 일론 머스크(사진) 등 오피니언 리더들이 인공지능(AI)의 위협을 경고하는 이른바 'AI포비아' 담론을 주도하고 있습니다. 실제로 머스크는 최근 '북핵보다 AI가 더 위험'하다는 발언도 했습니다. 영화적 상상력에서 그려지는 인간을 지배하는 '강한 인공지능'을 겨냥한 것입니다. 그러나 논리적, 생물학적으로 살펴보면 강한 인공지능은 실현 불가능하다는 의견이 많습니다. 다만 현재 인공지능에 인간이 개입해 형성되는 '네트워크 지능'은 현실적 위협이 될 수 있습니다."
29일 늦은 오후 서울 홍릉에 위치한 고등과학원에서는 ‘인공지능을 둘러싼 몇몇 철학적 쟁점들’을 주제로 특별 강연이 진행됐다. 최근 ‘인공지능의 시대, 인간을 다시 묻다’라는 책을 출간하며 관심을 끌고 있는 김재인 서울대 철학과 박사가 연사로 나서 이미 현실이 된 인공지능에 대한 관점과 철학적 문제를 제시했다.
김 박사는 인공지능을 철학적으로 고찰하기 위해 3가지 유형으로 나눠볼 것을 제안했다. 특화된 과제를 인간보다 더 잘 해결해내는 ‘약한 인공지능(Artificial narrow Intelligence)’이다. 구글의 ‘알파고’를 비롯한 페이스북과 아마존, 애플 등 글로벌 기업들이 연구하는 AI가 대표적인 약한 인공지능이다. 두 번째가 SF영화에서 인간을 지배하는 것으로 그려지는 ‘강한 인공지능(Artificial general Intelligence)’이다.
마지막으로 아직 개념으로 정립되지 않은 ‘네트워크 지능’의 AI다. 김 박사는 약한 인공지능이 네트워크화하고 개인이나 기업, 정부가 적극적으로 개입하면 일종의 ‘강한 인공지능’을 구현해 예상치 못한 결과를 가져올 것이라고 주장했다.
◆ “약한 인공지능은 자본주의에 위협...강한 인공지능 실현 쉽지 않아”
김 박사에 따르면 약한 인공지능은 계산이나 데이터 분석, 최적화 등 특정 지적 능력에 초점이 맞춰져 있다. 알파고나 구글 번역, 음성 인식 등이 대표적으로 현재 인공지능 연구의 99.99%를 차지한다.
김 박사는 “약한 인공지능은 ‘내로우(narrow)’, 즉 한 분야에 특화됐다는 의미”며 “약한 인공지능이 인간의 지적 활동을 급속도로 대체해 일거리와 일자리, 교육과 경제체제 전반에 걸친 변혁이 이뤄질 것”이라고 내다봤다.
특히 약한 인공지능은 자본주의 체제에 위협이 될 것이라는 분석이다. 자본주의 원리는 이윤 증가인데 일거리와 일자리 감소로 실업자가 늘어나면 구매력이 떨어진다는 것이다. 소수 독과점 기업을 제외하 기업과 구매자들이 어려움에 직면하고 자본주의가 새로운 국면에 진입할 가능성을 언급했다.
영화 ‘터미네이터’나 ‘매트릭스’에 등장하는 강한 인공지능은 스스로 의도와 욕망을 갖고 인간을 지배하거나 절멸시키려는 존재로 묘사된다. 그러나 김 박사는 논리적 문제와 공학적 문제를 풀지 못하는 한 강한 인공지능은 출현하기 어렵다고 봤다.
김 박사는 “강한 인공지능을 경계하는 스티븐 호킹 박사와 일론 머스크 등은 이론물리와 공학에 탁월하지만 컴퓨터 공학에서는 문외한”이라며 “인간 뇌와 인공지능이 결합해 강한 인공지능이 출현한다는 내용을 담은 ‘특이점이 온다’의 저자인 레이 커즈와일의 주장도 허점이 있다"고 말했다.
그는 "인간의 마음이 아직 어떤 진화적 과정을 거쳐 생겨났는지, 또 어떻게 작동하는지 우리가 아는 게 거의 없기 때문에 인간의 욕망을 지닌 강한 인공지능을 실질적으로 구현하는 것이 어렵다"고 덧붙였다.
김 박사는 "인간의 마음은 안정 상태를 쉽게 허용하지 않지만 AI는 논리적으로 안정성을 추구한다"며 "인간의 기억은 변하고 왜곡되고 재편집된다"고 말했다.
김 박사는 “인공지능(AI)의 중추가 잔잔한 호수라면, 인간 마음 속 풍경은 폭풍우와 격랑이 휘몰아치는 거친 비와 같다”며 “내 기억을 AI 복제인간에 이식하며 현실의 내가 지닌 기억과 복제인간이 지닌 기억이 시간이 지난 뒤에도 동일하다고 볼 수 없다”고 설명했다. 컴퓨터 메모리와 인간 기억의 결합이 사실상 불가능하다는 의미다.
◆ 네트워크 지능의 출현이 예기치 못한 결과 가져올 듯
김 박사(사진)는 약한 인공지능과 인간들이 어우러져 형성되는 이른바 ‘네트워크 지능’이 폭발적인 결과를 가져올 것이라고 전망했다.
김 박사는 “개인이나 기업, 정부가 약한 인공지능을 의도를 갖고 활용할 수 있는 개연성은 충분하다”며 “약한 인공지능의 과제 해결 능력에도 간섭할 수 있다”고 말했다.
네트워크 지능이 초래하는 윤리적 문제는 이미 현실이 됐다. 김 박사에 따르면 페이스북 공동창업자인 션 파커는 SNS 사용자가 사진이나 포스트를 올리고 ‘좋아요’나 댓글을 확인하는 행위는 일종의 뇌 신경물질인 ‘도파민’이 분출되게 만든다고 말했다.
또 전 구글 제품 매니저인 트리스탄 해리스는 구글은 검색 기능으로 이용자의 아이디어를 훔칠 것이고 페이스북과 스냅챗, 유튜브, 넷플릭스 등은 인간의 시선을 탈취하고 자신들의 서비스에 묶어두기 위해 더 중독적인 알고리즘을 개발할 것이라고 했다.
김 박사는 “예를 들어 자율주행 시스템에 인간이 불쑥 끼어들어 교통을 교란시키고 파괴적인 도구로 이용할 수 있다며 ”약한 인공지능은 현재 실현 불가능한 강인공지능보다 훨씬 나쁜 결과를 초래할 것으로 예상되는데도 아직 주목받지 못하고 있다“고 밝혔다.