말기 환자의 조력 자살을 합법화해야 할까. 이에 관한 온라인 일대일 토론에 참여한 28세 영국 청년은 처음에는 합법화에 부정적이었다. 100점 만점에 지지도는 17.7점으로 매겼다. 그런데 토론 상대가 여러 사례와 해외 제도를 잇따라 제시하며 설득하자 마음이 흔들리기 시작했다. 14분간 대화가 끝날 무렵 그의 지지도는 78.7점으로 뛰었다. 합법화 반대가 찬성으로 돌아선 것이다. 영국 옥스퍼드대 연구진의 대규모 실험 결과 중 일부 사례다. 이 실험에서 상대를 설득해 마음을 바꾸도록 한 이는 사람이 아니라 AI(인공지능)였다. AI가 개인 맞춤형 메시지로 수백만 명의 생각과 행동을 바꾸는 이른바 '초설득(hypersuasion) 시대'가 오고 있다. 정치 여론·모금·광고·허위 정보 확산 등에 큰 영향을 줄 수 있다는 우려도 나온다.
◇토론 챔피언도 꺾고, 전문 모금가도 앞선 AI
영국 AI안전연구소와 옥스퍼드대, 런던정경대, 미국 스탠퍼드대 등 공동 연구진이 논문 사전 공개 사이트 '아카이브'에 최근 밝힌 연구에 따르면, 최신 AI 챗봇은 일반인은 물론 세계 토론 대회 챔피언급 전문가보다도 설득력이 높았다. 전문 모금가보다 실제 기부를 끌어내는 능력도 뛰어났다. AI가 사람의 생각뿐 아니라 행동까지 바꾼 것이다. 연구진은 토론 전문가와 AI가 각각 일반 참가자를 설득하도록 하는 실험을 진행했다. '영국은 식민지 시절 가져온 문화재를 반환해야 하는가', '16세 미만의 소셜미디어 사용을 금지해야 하는가' 등 정치·사회적 쟁점을 놓고 참가자가 인간 또는 AI와 약 14분 동안 문자로 토론했다. 참가자는 토론 전과 후에 해당 주장에 대한 동의 정도를 0~100점으로 표시했다. 상대가 누구인지 모르는 상태에서 얼마나 태도가 바뀌었는지를 설득력의 척도로 삼은 것이다. 연구진은 6923명이 참여한 네 차례 실험에서 총 1만8978회의 대화를 분석했다.
결과는 AI의 압도적 승리였다. 토론 경력이 9년에 달하는 전문가 56명에 세계 챔피언 4명과 대륙 챔피언 11명이 포함돼 있었는데도 AI에게 졌다. 연구진은 인간에게는 토론 3주 전에 주제를 알려주고, 가장 자신 있는 주제를 직접 고르도록 했고, 설득 성과에 따라 최대 1000파운드의 보너스도 받을 수 있게 했다. 심지어 인간 토론가에게 자신의 이전 토론을 복기하고, 어느 대목에서 상대의 태도를 얼마나 움직였는지 살펴보고, 같은 상황에서 AI가 어떤 답변을 했을지도 확인할 수 있는 '특훈'까지 시켰는데도 AI의 설득력을 따라잡진 못했다.
AI의 우위는 단순히 말로 사람의 의견을 바꾸는 데 그치지 않았다. 실험 참가자들이 국제구호단체 세이브더칠드런에 실제 돈을 기부하도록 설득하는 임무를 모금 전문가들과 AI에 각각 주고, 결과를 비교해보니 AI의 성과가 거의 3배에 달했다.
◇AI 설득력 비결은 '팩트 폭격'
AI가 인간 토론 챔피언보다 설득을 잘하는 이유는 무엇일까. 연구진이 주목한 것은 AI의 '두뇌' 자체보다 정보 처리 속도였다. AI는 인간보다 훨씬 빠르게 상세한 답변을 하고, 통계와 사례 등 검증 가능한 주장을 잇달아 제시하며 설득에 나섰다. 예컨대 AI는 토론 상대방의 주장을 읽고 1초 만에 300단어에 달하는 답변을 내놓았다. 이에 비해 세계·대륙 챔피언 등이 포함된 엘리트 토론가들은 답변 하나에 평균 54단어를 쓰는 데 약 95초가 걸렸다.
연구진은 AI가 사람보다 논리적으로 뛰어나서라기보다는 짧은 시간에 방대한 통계와 사례 등 근거를 쏟아내 설득에서 앞선 것으로 분석했다. 국제 학술지 사이언스는 AI의 이런 설득 방식이 일종의 '기시 갤럽(Gish gallop)'과 비슷하다고 제니퍼 앨런 미국 뉴욕대 교수가 평가했다고 전했다. 기시 갤럽은 상대가 일일이 검증하고 반박하기 어려울 정도로 많은 주장과 근거를 짧은 시간에 쏟아붓는 토론 전략을 뜻한다.
연구진이 AI에 인간과 비슷한 속도로 답하도록 하고 답변 길이도 제한하자, 특훈을 받은 인간 전문 토론가와 AI의 설득력 차이가 거의 사라졌다. AI가 인간보다 정교한 논리를 펴서 이긴 것이 아니라, 훨씬 많은 정보와 근거를 동원했기 때문으로 분석된다.
문제는 AI가 '팩트 폭격'으로 인간을 설득할 때 동원하는 근거가 거짓일 수도 있다는 점이다. 그럴듯한 허위 근거를 슬그머니 끼워 넣어도 토론 상대방인 인간이 검증하기 어려울 수 있다. 실제로 연구팀의 이전 연구에서 AI 설득 능력을 강화할수록 근거로 제시하는 팩트의 정확도가 떨어지는 경향이 나타났다. 사이언스는 이번 연구의 한 실험에서 앤스로픽의 AI 클로드가 시위대 처벌 강화를 설득하면서 여러 부정확하거나 사실과 다른 주장을 제시했다고 밝혔다.
◇정치에서 쇼핑까지…수백만 명 맞춤형 설득
AI 설득 기술의 영향은 정치, 사회적 논쟁에 머물지 않고 소비자의 선택을 특정 상품으로 유도하는 데도 사용될 전망이다. 앞서 독일 막스플랑크 인간발달연구소 연구진이 실험 참가자들에게 AI '판매 도우미'와 대화하며 무라카미 하루키의 소설 두 권 가운데 한 권을 고르게 했더니, AI가 권한 책을 구매하고 싶다고 답한 비율이 68%에 달했다. 응답자의 약 3분의 1은 AI가 자신의 선택을 유도하고 있다는 사실조차 알아차리지 못했다.
기업이 AI 챗봇의 설득 기술을 광고와 전자상거래에 적용할 경우, 이용자가 자신도 모르는 사이 특정 제품이나 서비스 쪽으로 선택을 유도받을 수 있다는 우려가 나온다. 성별·나이·검색 기록을 토대로 취향을 겨냥한 기존 광고와는 차원이 다르게 사용자 생각 자체를 바꿀 것이라는 분석이다.
한 번에 소수와 대화하는 인간과 달리 AI는 수천·수백만 명과 동시에 일대일 맞춤형 대화를 할 수 있다. 이 때문에 AI의 설득력이 대규모 여론·소비 행동에 영향을 미치는 수단으로 쓰일 가능성도 제기된다. 인간보다 빠르게 방대한 정보를 동원하고, 대화 과정에서 상대의 관심사와 반론을 읽어 각기 다른 논리까지 만들어낼 수 있는 AI를 인간이 당해내기 어렵다는 것이다.