인공지능(AI)이 학습한 개인정보나 저작권 침해 자료만 골라 삭제하면서, 유사한 정상 데이터의 인식 성능은 보호하고 지운 정보가 다시 살아나는 현상까지 차단하는 기술이 개발됐다.
울산과학기술원(UNIST)은 윤성환 인공지능대학원 교수와 박새롬 산업공학과 교수 공동 연구팀이 머신 언러닝 기술 '스포터(Spotter)'를 개발했다고 21일 밝혔다. 머신 언러닝은 학습이 끝난 AI 모델에서 특정 데이터나 범주가 미친 영향만 선택적으로 제거하는 기술이다. 얼굴 인식 서비스의 개인정보 삭제 요청이나 유해·불법 콘텐츠 정리 등에 활용할 수 있다.
연구팀은 기존 기술이 삭제 대상과 닮은 정상 정보까지 함께 지우는 '과잉 삭제' 문제를 안고 있다고 분석했다. 모델 내부에 삭제 대상의 특징이 남아 있어 소량의 데이터를 다시 학습시키면 지웠던 기능이 복구되는 취약점도 확인했다. 고양이 정보를 삭제할 때 호랑이와 표범의 인식률까지 낮아지고, 고양이 사진 몇 장만 다시 입력해도 판별 능력이 되살아나는 식이다.
스포터는 삭제 대상과 비슷한 정상 정보를 구분하는 능력은 유지하되, 삭제 데이터에서 공통 특징을 찾아 묶어내는 능력은 없애도록 설계됐다. 소형 이미지 데이터세트 실험에서 삭제 대상 인식률은 0%로 낮아졌고, 재학습 공격 이후에도 0.24%에 머물렀다. 기존 기술은 사진 5장만 재학습해도 인식률이 71.10%에서 최대 99.98%까지 회복됐다. 스포터는 삭제하지 않은 나머지 범주의 인식 정확도를 99.96%로 유지했다.
연구팀은 스포터를 기존 언러닝 기법에 손쉽게 결합할 수 있는 플러그인 형태로 구현했다. 향후 얼굴 인식과 개인정보 보호, 유해 콘텐츠 삭제 등 민감 정보 관리가 중요한 AI 서비스에 폭넓게 적용할 수 있을 것으로 기대했다.
이번 연구는 이달 6~11일 서울에서 열린 국제머신러닝학회(ICML)에 채택돼 발표됐다. 과학기술정보통신부와 한국연구재단, 정보통신기획평가원의 지원을 받아 수행됐다.