NAVERがAIクリーンボット全面適用し悪質コメントで欄停止

NAVERが健全なコメント文化の醸成に向け、悪質コメントが一定基準を超えた記事についてコメントサービスを自動的に非活性化する方針を23日から施行した。

政治・選挙を含む全セクションの記事に人工知能ベースの検知システム「クリーンボット」を適用して悪質コメントをふるい分け、基準を超えると「クリーンボットが悪質コメントを多数検知したためコメントサービスを提供しない」との案内文句とともに「グリーンインターネット」キャンペーンバナーを露出する。

2019年に業界で初めて導入されたクリーンボットは、罵詈雑言やわいせつ・暴力的表現はもちろん、嫌悪、蔑視、差別表現まで検知するよう高度化されてきた。NAVERは今月末にAIクリーンボットモデルのアップグレードも準備している。

キム・スヒャンNAVERリーダーは、先月の政治・選挙セクション本文下のコメント未提供措置に続き、クリーンボットを高度化してコメント空間を健全な疎通の場にする考えを明らかにした。

NAVERは災害・災難・訃報記事で故人と被害者への二次加害を減らすため、2月から「追悼コメント」も運用している。これまでに約23の言論社がこの機能を活用し、利用者はボタンを押すだけで「謹んで故人のご冥福をお祈りします」というコメントで哀悼の意を残すことができる。

NAVERによると、4月基準で追悼コメントが最も多く付いた記事の閲覧数対比コメント数の比率は、同一言論社の他の記事より6倍以上高かった。今回の措置は無分別な悪質コメントの拡散を抑える一方で、必要な記事には共感と追悼中心のコメント文化を定着させようとする試みと受け止められる。ただしNAVERは、どの水準でコメント欄を閉じるのか具体的な基準は公開しなかった。