‘개인정보 유출’ AI 챗봇 이루다 개발사에 과징금·과태료 1억330만원

대화내용을 무단 수집해 이용자 동의 없이 활용하며 논란이 일었던 인공지능(AI) 챗봇 ‘이루다’가 개인정보보호법 위반 혐의로 총 1억330만원의 과징금과 과태료를 물게 됐다.

개인정보호호위는 28일 전체회의를 열고 이같이 결정했다고 밝혔다. AI 기업 관련 개인정보 처리를 제재한 것은 이번이 첫 사례다.

AI와 채팅을 하는 서비스인 이루다는 출시 초창기 혐오 발언을 뱉거나, 성희롱 대상이 되며 논란이 일었다. 이후 이루다를 만드는 데 쓰인 대화들이 스캐터랩의 또다른 서비스 ‘텍스트앳’과 ‘연애의 과학'에서 수집한 것으로 드러나 논란이 확산됐고 결국 지난 1월 출시 3주만에 서비스를 종료했다.

개인정보위는 이루다가 ‘텍스트앳'과 ‘연애의 과학'에서 수집한 이용자 60만명의 카카오톡 대화 문장 94억건을 이루다에 그대로 이용했다고 밝혔다. 이루다 서비스를 운영하면서는 20대 여성 카카오톡 대화문장 1억건을 가져다 예시로 쓴 것으로 조사됐다.

개인정보위는 ‘텍스트앳’과 ‘연애의과학’ 개인정보처리방침에 신규 서비스 개발이 포함됐지만, 이것만으로 이루다 개발·운영 과정에 대화가 사용될지 예상하기 어렵다며 문제가 있다고 판단했다.

또 스캐터랩이 개발자들이 코드를 공유하는 사이트에 2019년 10월부터 지난 1월까지 이름, 지명정보, 성별 등이 포함된 카카오톡 대화문장 1431건을 AI 모델과 게시한 것도 문제라고 봤다. 특정 개인을 알아보기 위해 사용할 수 있는 정보를 포함 시켰다는 것이다.

윤종인 개인정보위원장은 “이번 사건은 기업이 특정 서비스를 목적으로 수집한 개인정보를 이용자의 명시적 동의 없이 다른 서비스에 무분별하게 이용하는 것이 허용되지 않으며, 개인정보 처리에 대해 정보 주체가 명확하게 인지하도록 알리고 동의를 받아야 한다는 점을 분명히 했다는 의미가 있다”고 말했다.