틱톡은 인공지능(AI)을 활용한 콘텐츠 제작과 소비가 일상화됨에 따라 이용자들이 AI 생성 콘텐츠를 안전하고 책임감 있게 활용할 수 있도록 관련 지원을 확대한다고 14일 밝혔다.
이번 지원책은 ▲AI 리터러시 교육 확대 ▲AI 콘텐츠 투명성 기술 및 업계 협력 강화 ▲AI 생성 스팸 콘텐츠 대응 고도화 등을 중심으로 추진된다.
틱톡은 AI 리터러시 강화를 위해 미국 미디어교육전국연합회(NAMLE)와 생성형 AI 전문가 헨리 에이더와 협력해 AI 도구와 생성형 AI 콘텐츠를 올바르게 활용할 수 있는 가이드를 제작했다. 이용자가 AI 관련 용어를 검색하면 생성형 AI 콘텐츠를 식별하는 방법 등을 안내하는 인앱 허브도 새롭게 선보일 예정이다.
디지털 안전 연합체 '노필터'와 교육 자선단체 '라즈베리 파이 재단' 등과 협력한 AI 리터러시 프로그램도 운영하고 있다. 회사에 따르면 해당 프로그램은 2025년 11월 시작 이후 누적 조회수 2억회를 기록했으며, 틱톡은 지금까지 400만달러 이상을 투자했다.
AI 콘텐츠의 출처를 확인할 수 있는 기술도 확대한다. 틱톡은 2024년 업계 최초로 C2PA 기술을 도입했으며, 최근 C2PA 운영위원회에 합류했다. C2PA는 AI 생성 콘텐츠의 출처를 확인하는 글로벌 표준 기술이다. 틱톡은 C2PA 인증과 크리에이터 라벨링, 보이지 않는 워터마킹 기술 등을 활용해 현재까지 30억건 이상의 영상에 AI 생성 여부를 표시했다고 밝혔다.
AI를 악용한 스팸 콘텐츠 대응도 강화한다. 틱톡은 올해 1분기 허위 계정 8600만개 이상을 삭제했으며, 앞으로는 정치·시사와 금융, 의료 등 민감한 분야에서 AI 생성 스팸 콘텐츠를 대량 게시하는 계정을 보다 효과적으로 탐지할 수 있도록 시스템을 고도화할 예정이다.
톰 C. 바르게세 틱톡 공공정책 AI 리드는 "틱톡은 이용자들이 AI를 경험하는 과정에서 충분한 맥락을 파악하고, 자신의 경험을 직접 관리할 수 있어야 한다고 믿는다"며 "앞으로도 이용자들이 AI 생성 콘텐츠를 구분하고 제작 과정을 이해하며, 관련 도구를 창의적이고 책임감 있게 사용할 수 있도록 지속적으로 투자할 것"이라고 밝혔다.