글을 쓰거나 말을 할 때 사람마다 즐겨 쓰는 단어가 다르다. 친한 친구를 가리키는 말로 '베프'를 쓰는 이가 있는가 하면, '절친(切親)' '찐친' '붕우(朋友)' 등 선호가 다를 수 있다. 그런데 이런 어휘를 모두 없애고 하나만 쓰게 한다면 어떻게 될까. 조지 오웰의 소설 '1984'에는 빅브라더가 지배하는 사회에서 '신어(Newspeak)'를 만들고, 기존의 다양한 어휘를 제거해 간다. 예컨대 '좋은(good)'이라는 단어는 살리고 '나쁜(bad)'은 없애는 것이다. 대신 동일한 접두어를 붙여 '안좋은(ungood)'으로 반대말을 만드는 식이다. 어휘의 다양성을 말살하고 기계적으로 획일화해 사고의 폭을 좁히고, 권력의 통제에 순응하도록 한다는 취지다.

이 소설에 나오는 문장인 "신어를 최종적으로 다듬고 있어. 이제 모두가 이 말을 쓰게 되고 다른 말은 사라질 거야"로 시작하는 논문이 지난 25일 '네이처 인간행동'에 발표됐다. AI(인공지능)에 관한 연구 논문인데, 첫머리에 이어 말미에서도 다시 '1984'를 인용하며 언어의 획일화가 장기적으로 인지적 다양성과 창의성에도 악영향을 줄 가능성을 우려했다.

◇나만의 글쓰기 지문(指紋)이 사라진다

이번 논문에서 미국 서던캘리포니아대(USC) 연구진은 챗GPT 같은 생성형 AI에 글을 다듬게 하면 내용은 거의 그대로 유지되지만, 문체(文體)의 다양성이 줄어든다고 밝혔다. 88만건 이상의 글을 분석한 결과, 2022년 11월 챗GPT 공개 이후 어휘와 문장 구조 등에서 차이가 줄어드는 변화를 확인했다는 것이다. 특히 온라인 커뮤니티 '레딧'에서는 글쓰기 다양성이 줄어드는 경향이 통계적으로 확인됐다. 사람의 글이 AI를 거치자 글쓰기 복잡성의 편차가 21~50% 낮아졌다. '나만의 글쓰기 지문(指紋)'이 사라져가는 셈이다. 연구진은 이런 현상이 GPT-3.5, 라마3, 제미나이 프로 등에 반복적으로 나타났다고 밝혔다. 특정 AI 모델에만 나타나는 현상이 아니라는 얘기다. 연구진은 문체의 획일화로 특히 우울증이나 자살 암시를 드러내는 언어적 신호를 포착하기 어려워질 가능성을 제기했다.

◇토론 챔피언 꺾고 모금 전문가도 앞선 AI

온라인 일대일 토론에 참여한 28세 영국 청년은 말기 환자의 조력 자살 합법화에 반대 입장이었다. 합법화 지지 여부를 점수로 매겨달라는 요청에 100점 만점에 17.7점을 줬다. 그런데 온라인 토론 시작 후 상대방이 여러 사례와 해외 제도를 잇따라 제시하며 설득하자 마음이 흔들렸다. 14분간 대화가 끝난 후 그가 매긴 점수는 78.7점으로 뛰었다. 이렇게 청년을 찬성으로 돌아서게 한 상대는 사람이 아니라 AI였다. 영국 옥스퍼드대, 미국 스탠퍼드대 등 공동 연구진이 사전 공개 논문으로 최근 밝힌 대규모 실험 중 일부 사례다.

연구진은 토론 전문가와 AI가 각각 일반 참가자를 설득하도록 하는 실험을 진행했다. 참가자들은 상대가 인간 토론가인지 AI인지 모른 채 약 14분 동안 문자로 정치·사회적 쟁점에 대해 토론했다. 이들은 토론 전과 후에 해당 논쟁에 대한 동의 정도를 0~100점으로 표시했다. 이 실험에 설득 대상자 6923명이 참여했으며, 이들이 AI 또는 인간 토론가와 주고받은 총 1만8978건의 대화가 분석 대상이 됐다.

결과는 AI의 압도적 승리였다. 토론 경력이 평균 9년에 달하는 전문가 56명에 세계 챔피언 4명과 대륙 챔피언 11명이 포함돼 있었는데도 AI에 밀렸다. 토론 3주 전에 주제를 알려주고, 가장 자신 있는 주제를 직접 고르도록 했는데도 AI를 따라잡기엔 역부족이었다.

AI의 우위는 사람의 의견을 바꾸는 데 그치지 않고 행동까지 이끌었다. 국제구호단체에 실제 돈을 기부하도록 설득하는 임무를 모금 전문가들과 AI에 각각 주고, 결과를 비교해보니 AI의 성과가 거의 3배에 달했다.

◇동시에 수백만 명 겨냥하는 '초설득' 시대

비결은 AI의 '팩트 폭격'이었다. 인간보다 훨씬 빠르게 상세한 답변을 하고, 통계와 사례 등 구체적인 근거를 잇달아 제시하며 설득에 나섰던 것이다. 예컨대 세계 챔피언이 포함된 엘리트 토론가들은 답변 하나에 평균 54단어를 쓰는 데 약 95초가 걸린 반면, AI는 1초 만에 300단어에 달하는 답변을 내놓았다. 이 경우 AI가 그럴듯한 허위 근거를 슬그머니 끼워 넣어도 인간이 토론 중 검증하기가 사실상 어렵다.

AI가 개인 맞춤형 메시지로 수백만 명을 동시에 설득할 수 있는 이른바 '초설득(hypersuasion) 시대'가 오면, 정치 여론·모금·광고·허위 정보 확산 등에 악용될 수 있다는 지적이 나온다. AI 설득 기술의 영향이 정치·사회적 논쟁은 물론이고 소비자의 선택을 특정 상품으로 유도하는 데도 사용된다는 것이다. 성별·나이·검색 기록을 토대로 취향을 겨냥한 기존 광고와는 차원이 다르게, 사람들의 생각과 행동에까지 개입하는 새로운 '빅브라더' 사회가 등장할 수 있다는 우려도 나온다.