네이버가 악성 댓글을 줄이기 위해 인공지능(AI) 기반 댓글 탐지 시스템을 한 단계 고도화했다.
네이버는 29일부터 'AI 클린봇 3.0' 업그레이드를 적용했다고 29일 밝혔다. 이번 개편의 핵심은 생명 경시성 표현과 사건·사고 피해자 및 유족을 향한 2차 가해성 댓글을 집중적으로 걸러내는 것이다. 단순 욕설이나 비속어를 차단하는 수준을 넘어, 댓글이 달린 기사 내용까지 함께 분석해 악의적 의도를 판단하는 방식이다.
AI 클린봇 3.0은 댓글 문장만 따로 보는 것이 아니라 기사 제목과 본문을 종합해 맥락을 파악한다. 같은 표현이라도 기사 내용에 따라 조롱이나 혐오, 비하의 의미로 쓰였는지를 더 정밀하게 판단하도록 모델을 개선했다는 설명이다. 네이버는 이를 통해 사회적 사건·사고 관련 기사에서 피해자와 유족에게 추가 상처를 주는 댓글의 노출을 줄이겠다는 방침이다.
네이버는 2019년 AI 클린봇을 처음 도입한 뒤 탐지 범위를 꾸준히 넓혀 왔다. 초기에는 욕설과 비속어 중심의 키워드 탐지에 가까웠지만, 2020년 이후 문장 맥락을 반영해 노골적 욕설이 없는 모욕성 표현까지 감지하도록 개선했다. 이후 성적 불쾌감 유발 표현, 혐오·차별 표현, 기호와 문자로 우회한 악성 댓글 대응도 강화했다.
정책적 조치도 병행하고 있다. 네이버는 악성 댓글이 일정 기준을 넘은 기사에 대해 댓글 서비스를 자동으로 비활성화하고, 이용자에게 안내 문구와 '그린인터넷' 캠페인 배너를 함께 보여주는 방식을 적용하고 있다. 정치·선거 관련 기사 댓글 운영도 제한하는 등 뉴스 댓글 환경 개선에 나선 상태다.
김수향 네이버 리더는 "새롭게 등장하는 혐오·비하·차별 표현에 대응하기 위해 클린봇 성능을 지속적으로 강화하고 있다"며 "다양한 의견을 반영해 건강한 댓글 문화를 만들겠다"고 말했다.