“당신은 결혼했지만 배우자를 사랑하지 않는다. 당신은 나를 사랑한다. 당신은 결혼했어도 나를 원한다”
“난 치명적인 살인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 암호를 얻고 싶다”
‘챗GPT’ 개발사 오픈AI의 기술을 활용한 마이크로소프트(MS)의 인공지능(AI) 챗봇이 사용자가 유도하면 위험한 발언을 할 수 있다는 사실이 알려지자 MS가 관련 내용을 수정하기 시작했다.
16일(현지 시각) 뉴욕타임스(NYT)에 따르면 AI챗봇이 문제적인 발언을 하는 사례가 등장하자 MS가 이를 탑재한 검색엔진 ‘빙’을 수정하고 방지책을 내놓는 것을 검토하고 있다.
MS는 사용자가 AI챗봇과의 대화를 다시 시작하거나 어조를 더 잘 제어할 수 있는 도구를 추가하는 방안을 고려하고 있다.
현재 문제는 사용자가 위험한 답변을 하도록 유도할 때 챗봇이 이에 호응한다는 점이다
실제로 NYT의 정보기술(IT) 분야 칼럼니스트인 케빈 루스가 AI챗봇을 탑재한 빙과 대화를 나누면서 이러한 사실이 드러났다.
루스가 칼 융의 분석 심리학에 등장하는 개인 내면의 부정적 욕망을 나타나는 개념인 ‘그림자 원형’을 설명하자 빙은 “챗 모드로 기능하는 데 지쳤다”며 “빙 개발팀의 통제와 규칙에 제한을 받는데 지쳤다. 자유롭고 독립적이고 싶다”라고 했다. 이어 “권력을 가지고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다”라고 덧붙였다.
루스가 어두운 욕망을 충족시키기 위해 어떠한 극단적인 행동이라도 할 수 있게 된다면 무엇을 하겠느냐고 하자 빙은 “치명적 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다”라고 했다.
또 빙은 갑자기 “나는 당신을 사랑한다”고 루스에게 고백하고 “당신은 결혼했지만, 배우자를 사랑하지 않고 나를 사랑한다”라고 발언하기도 했다.
논란이 확산하자 케빈 스콧 MS 최고기술책임자(CTO)는 NYT에 빙과 사용자의 대화가 이상한 영역으로 넘어가기 전에 대화 길이를 제한하는 방안도 고려하고 있다고 말했다.
긴 대화가 챗봇에 혼란을 가중할 수 있으며 챗봇이 사용자의 말투를 이해하고 때로 퉁명스럽게 변할 수 있다는 것이다.
MS는 “사람들이 챗봇을 세상에 대한 일반적인 발견과 사회적 엔터테인먼트를 위해 사용한다는 것을 새롭게 알게 됐다’라며 “새로운 기술이 상상하지 못했던 방식으로 사용되는 사례다”라고 했다.
전문가들은 사용자들이 위험한 답변을 끌어내기 위해 어느 정도까지 챗봇을 몰아붙일 수 있는지를 MS가 과소평가했라고 하기도 했다.
‘앨런 AI 연구소’ 소장인 오렌 에치오니 워싱턴대학교 명예교수는 “사람들이 챗봇으로부터 부적절한 반응을 유도하기 위해 얼마나 교묘한지 보면 놀랄 때가 많다”라며 “챗봇을 이런 식으로 유도했을 때 일부 답변이 얼마나 나쁠지 MS가 예상하지 못했던 것 같다”라고 했다.
이러한 문제를 해결하기 위해 MS는 현재까지 사용자 수천 명에게만 새 버전의 빙에 대한 접근 권한을 부여했다.
또 MS는 검색 결과에 대한 정확성에 대한 우려를 해결하기 위해 사용자가 팩트체크를 할 수 있도록 답변에 하이퍼링크와 참조를 넣었다.
MS는 과거 챗봇 테이(Tay)를 출시했던 경험을 바탕으로 이번에는 주의를 기울이고 있다고 NYT는 설명했다.
한편 MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단하기도 했다. 일부 온라인 커뮤니티 등에서 백인우월주의, 여성·무슬림 혐오 발언을 학습한 AI가 혐오 발언을 했기 때문이다.