페이스북이 페이스북에 올라오는 콘텐츠의 관리 및 감독을 강화한다는 신규 정책을 발표했다.
마크 저커버그 페이스북 최고경영자(CEO)는 16일(현지 시각) 페이스북의 정책 방향을 포함한 ‘콘텐츠 거버넌스와 시행을 위한 청사진’이라는 제목의 글을 자신의 계정에 게재했다. 저커버그는 해당 포스트를 통해 페이스북이 유해한 콘텐츠를 효율적으로 제거하기 위한 정책을 어떻게 시행하며 시스템의 독립적인 감독과 투명성을 구축하는 방향을 공유했다.
저커버그는 "정부나 미디어 같은 전통적인 게이트 키퍼들이 어떤 생각들을 표현할 수 있는지 통제하지 않을 때 세상이 더 좋아진다고 믿는다"면서 "동시에 페이스북은 테러, 괴롭힘 등 여러 가지 위협으로부터 페이스북 서비스를 이용하는 사람들을 안전하게 지켜야 할 책임이 있다"고 말했다.
페이스북은 우선 커뮤니티의 규정을 강화하는 일환으로 유해 콘텐츠에 대한 선제적인 식별에 나선다는 방침이다. 이와 연계해 유해성이 있다고 판단되는 콘텐츠 억제에도 적극적으로 나선다는 계획이다.
페이스북은 내부 가이드라인에 대한 내외부 전문가의 회의를 진행해오고 있다. 페이스북은 앞으로 해당 회의의 회의록을 공개할 방침이다. 또 이용자들로부터 신고받은 콘텐츠를 사람이 검토하던 방식에서 인공지능(AI)을 활용해 잠재적으로 문제가 될 여지가 있는 콘텐츠를 리뷰팀에 선제적으로 신고하고 이 중 일부에 대해 자동으로 조치를 취할 계획이다.
유해 콘텐츠 선별의 정확성을 위해 우선적으로 AI가 기초적인 판단을 하고 전문성을 요구하는 복잡한 내용의 콘텐츠나 늬앙스에 대한 판단에는 사람이 관여한다.
페이스북은 이를 위해 AI가 2019년 말까지 페이스북의 대다수의 문제 콘텐츠를 사전에 식별할 수 있도록 시스템을 개선할 계획이다.
또 페이스북은 이른바 ‘낚시성 콘텐츠’와 허위 정보와 관련해 가짜 계정 삭제 외에도 잘못된 정보 배포와 확산 정도를 감소시킨다는 전략이다. 해당 전략에도 AI를 활용할 방침이다.
페이스북은 시스템 적용에 있어 공정성을 유지하기 위해 분석 프레임과 연산 도구도 개발하고 있다. 저커버그는 이와 관련해 "공정성의 정의에 대한 보편적인 합의가 이뤄지지 않은 상황에서 AI만의 문제로만 볼 수 없다"면서 "연산과 윤리 둘 사이의 균형을 맞추는 작업도 진행 중"이라고 밝혔다.
저커버그는 끝으로 "앞서 언급한 도전 과제를 해결하는 단 하나의 완벽한 해결책은 없다"라며 "하지만 페이스북은 시스템을 개선해 나갈 것이고 더 나아질 거라고 믿는다"라고 말했다.