서울시는 22일 성착취물에 등장하는 사람이 아동·청소년인지 자동으로 판단해 삭제할 수 있는 인공지능(AI) 감시 기술을 활용해 24시간 추적에 나선다고 밝혔다.
서울시는 지난해 3월 디지털 성범죄 예방과 피해자 지원을 위해 전국 최초로 AI 기술을 이용한 24시간 자동 추적·감시 시스템을 도입했다. 이후 서울연구원은 아동·청소년 피해 영상물을 가려내고 감시할 수 있는 기술을 개발하기 시작해 1년 2개월 만인 이달 완료했다.
성착취 영상에 등장하는 인물이 성인인지 아동·청소년인지 AI로 가려내는 기술을 개발한 것은 미성년자들은 디지털 성범죄 피해를 입더라도 부모에게 말하지 못해 신고되지 않는 사례가 많아서다. 서울디지털성범죄안심지원센터에 따르면 아동·청소년 피해자가 스스로 신고한 경우는 7.8%밖에 되지 않는다. 부모가 먼저 피해 사실을 알아채거나 수사·사법기관 신고로 지원이 이뤄지는 경우가 대부분이다. 이 때문에 아동·청소년 성착취 영상이나 사진이 유포되는 경우가 많다.
성인 성착취물과 달리 아동·청소년의 성보호에 관한 법률(아청법)에 따라 아동·청소년이 등장하는 피해 영상물은 당사자나 부모 신고 없이 즉시 삭제할 수 있다. 서울시는 AI 기술을 이용해 아동·청소년 성착취물을 빠르게 찾아내고 삭제해 신속하게 대응할 계획이다.
서울연구원이 개발한 '아동·청소년 디지털 성범죄 AI 감시 시스템'을 이용하면 딥러닝 기반 안면인식 기술을 적용해 성인과 잘 구별되지 않는 아동·청소년이더라도 성별과 나이를 판별할 수 있다. 성착취물에 얼굴이 나오지 않더라도 등장 인물이 아동·청소년인지 성인인지 가려낼 수 있다. 영상에 등장하는 책과 교복, 인형 등 주변 사물은 물론 이미지 속 텍스트, 청소년들이 주로 사용하는 언어도 인식해 아동·청소년 성착취물인지 판단한다.
이 시스템으로는 키워드를 입력해 성착취 영상물을 찾아내는 데 90초밖에 걸리지 않는다. 삭제지원관이 수작업으로 관련 키워드로 피해 영상물을 검색해 찾아낼 때는 2시간 걸렸다. 정확도도 300% 이상 향상됐다. 서울시는 AI를 활용해 성착취물을 작년의 2배인 30만건 모니터링할 수 있다고 기대했다. AI 학습 데이터가 축적되면 정확도와 속도는 더 개선된다.
AI는 성착취물 관련 신조어도 자동으로 생성할 수 있다. 딥페이크(Deep Fake)의 줄임말인 '딥페'와 비슷한 '뒵페' '뒷페' 키워드도 알아서 검색해 영상·사진을 찾아내는 식이다. 또 AI를 이용해 국내와 미국뿐 아니라 최근 많이 피해 영상물이 유포되고 있는 중국, 러시아, 베트남 사이트에서도 검색할 수 있다.