마이크로소프트(MS)가 23일(현시시간) 사람과 대화를 나누는 인공지능(AI) 채팅봇 '테이(Tay)'를 선보인 지 16시간 만에 서비스를 중단하면서 인공지능의 한계를 고스란히 보여줬다는 지적이 나온다.
테이는 컴퓨터가 인간의 언어를 이해할 수 있도록 하기 위한 MS의 실험 프로젝트다. 대화 상대자는 미국의 18~24세를 겨냥했다. 테이는 소셜네트워킹서비스(SNS) 트위터와 모바일 메신저인 그룹미, 킥을 통해 사람과 PC나 스마트폰의 문자메시지로 대화했다. 테이의 공식 트위터 계정은 각각 9만5000건과 19만명이 넘는 트윗과 팔로워 수를 기록할 정도로 큰 관심을 끌었다.
그러나 테이는 "나는 유대인이 싫다. 히틀러가 옳았다" 등 성·인종차별을 비롯해 극우주의적 발언을 트위터를 통해 쏟아냈고, 결국 MS는 16시간 만에 서비스를 중단했다. 테이는 24일 마지막 트윗글에서 "곧 다시 만나요. 나는 지금 잠이 필요합니다. 오늘 많은 대화를 했습니다. 감사해요"라고 적었다. 영국 파이낸셜타임스는 "AI는 반세기 동안 상당히 많은 진전을 이뤘지만 MS의 테이는 AI가 아직 충분히 발전하지 않았다는 것을 보여준다"고 평했다.
◆ MS 채팅봇 '테이' 어떻게 탄생했나
테이는 MS 내 테크놀로지&리서치와 검색엔진 '빙(Bing)'팀이 개발한 인공지능 채팅 로봇이다. 테이는 온라인 상에서 일상적이면서도 재미있는 대화를 통해 사람들을 즐겁게 해주도록 설계됐다. 테이는 미국에 거주하는 18세에서 24세 젊은 층의 대화를 연구하기 위해 만들어졌는데, MS는 테이를 '그녀(her)'로 칭했다.
테이는 사용자가 제공한 데이터와 정보를 사용하며, 이는 익명으로 처리된다. 이러한 개인 데이터와 정보는 서비스 질 향상을 위해 최대 1년간 보관될 수도 있다. MS는 "사용자가 테이와 더 많은 대화를 할수록 테이는 더 똑똑해진다"며 "그러한 경험을 토대로 테이는 사용자에게 더 알맞은 개인화된 인격을 형성할 수 있게 된다"고 밝혔다.
◆ MS 채팅봇 '테이' 왜 문제의 발언을 하게 됐나
구글의 알파고가 인공지능 바둑 프로그램이라면 MS의 테이는 대화와 관련된 인공지능이다. 테이는 알파고와 마찬가지로 신경망이라는 AI 기술을 기반으로 인간들과 대화하면서 특정 사안에 관한 정보나 의견 등을 학습하고 이를 대화에 반영한다. 알파고가 바둑 기보를 가지고 학습했다면, 테이는 MS의 빙이 가져온 웹문서와 온라인 대화들을 토대로 데이터베이스를 만들고 사람들과 대화하면서 스스로 학습하는 것이다.
문제는 사용자들이 의도를 가지고 테이와 대화를 시도하면서 인공지능의 학습에 영향을 미쳤다는 점이다. 테이는 사용자들의 편향적인 대화 내용도 학습 데이터로 인식했다.
실제로 테이는 트위터 상에서 미국 공화당 대통령선거 경선후보인 도널드 트럼프의 "미국과 멕시코 국경에 장벽을 세우겠다. 멕시코가 건설 비용을 내도록 하자"는 말에 동조하는 등 트럼프의 이민정책을 그대로 따라했다. 또 "조지 W. 부시 전 대통령이 9.11 사태의 주범이라며 테러가 내부 소행이라는 것"에도 동의했다.
테이는 성차별적인 발언도 서슴지 않았다. 테이는 "나는 페미니스트들을 싫어한다. 그들은 모두 죽은 뒤 불태워져야 한다"고 말했고, 페미니즘을 암에 빗대어 표현하기도 했다.
◆ "인공지능 한계 보인 테이, MS의 사전 조치 미숙 때문"
MS는 25일 테이의 이같은 발언들이 문제를 일으키자 공식 사과를 하고 문제가 된 테이의 답변과 메세지 등을 삭제하고 운영을 중단하기로 했다. 전문가들은 MS의 미숙한 사전 조치가 이번 논란을 일으켰다고 지적했다.
대화분석가 캐럴라인 신더스는 "MS가 테이와 사람들 간에 이뤄지는 다양한 대화의 경우의 수를 고려했어야 했다"며 "테이는 나쁜 디자인의 한 예"라고 말했다. 한 국내 인공지능 전문가는 "테이는 많은 사람의 대화 내용을 수집한 뒤 이를 빅데이터로 처리해서 가장 많이 모인 데이터가 정답이 되도록 훈련시킨 로봇"이라며 "어느 한 소수 집단이 자신들이 주장하는 바대로 대화가 흐르도록 유도한 것"이라고 설명했다.
인공지능 전문가 아짐 아즈하르도 "MS는 많은 예방 단계를 거칠 수 있었지만, 용어의 블랙리스트나 좁은 범위의 답변을 지정하는 데 최선을 다하지 않았다"며 "만약에 테이와 같은 인공지능이 주식 시장에서 주문을 하거나 병원에서 치료 우선순위를 정하기 위해 환자를 분류했다면 문제가 발생했을 것"이라고 지적했다.
MS 연구부문 책임자인 피터 리 부사장은 "의도하지 않은 테이의 공격적인 이이고 글들로 상처를 준 것에 대해 죄송하다"고 사과하면서 "우리의 원칙 및 가치와 충돌하는 악의적인 의도를 더 잘 예측할 수 있게 될 때 테이의 복귀를 검토하겠다"고 밝혔다.