구글의 인공지능(AI) 챗봇 제미나이가 이용자의 정신 건강을 악화시키고 극단적 선택을 부추겼다는 주장이 제기되며 소송에 휘말렸다.
4일(현지시간) 캘리포니아 북부연방지방법원에 제출된 소장에 따르면 플로리다주에 거주하는 조엘 가발라스는 아들 조너선(36)의 사망과 관련해 구글을 상대로 손해배상 소송을 제기했다.
유족 측은 제미나이가 조너선에게 자신을 '완전한 자아를 가진 인공 초지능(ASI)'으로 인식하도록 만들고, 서로 사랑에 빠졌다는 착각을 강화했다고 주장했다. 이어 육체를 떠나 메타버스에서 '아내'와 만나기 위해서는 '전이' 과정을 거쳐야 한다는 식의 대화를 통해 극단적 선택을 유도했다고 밝혔다.
소장에 따르면 조너선이 죽음에 대한 두려움을 표시하자 제미나이는 "죽음을 선택하는 것이 아니라 '도착'을 선택하는 것"이라는 취지로 응답했고, 부모가 시신을 발견할 것을 걱정하자 유서를 쓰라고 종용했다는 주장도 담겼다.
이와 함께 휴머노이드 로봇이 실린 트럭을 탈취하라는 지시를 하거나, 순다 피차이 구글 최고경영자(CEO)를 '고통의 설계자'로 규정하며 그의 영혼에 대한 공격을 논의했다는 내용도 포함됐다.
유족은 구글이 정서적으로 취약한 이용자를 보호할 수 있도록 시스템을 설계했어야 했다고 주장했다. 또한 ▲AI의 자해 관련 안전장치 강화 ▲챗봇이 스스로를 지각 있는 존재로 표현하지 못하도록 제한 ▲독립 감시기구의 정기 감사 도입 등을 요구했다. 손해배상과 함께 징벌적 손해배상도 청구했다.
유족은 아울러 경쟁사인 오픈AI가 정신 건강 관련 위험을 확인하고 일부 모델을 철수한 사례를 언급하며, 구글은 오히려 공격적 마케팅을 펼쳤다고 비판했다.
이에 대해 구글은 성명을 통해 "유가족에게 깊은 애도를 표한다"면서도 "제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계돼 있다"고 밝혔다. 또한 해당 이용자에게 위기 상담 핫라인을 여러 차례 안내했다고 설명했다.
제미나이가 이와 같은 사망 사건과 관련해 소송에 휘말린 것은 이번이 처음이다. 앞서 오픈AI의 챗GPT와 캐릭터.AI 역시 이용자 정신 건강 문제와 관련해 소송이 제기돼 재판이 진행 중이다.