챗GPT 개발사 오픈AI가 자사의 생성형 인공지능(AI)으로 생성된 이미지에 라벨(label·꼬리표)을 부착하기로 했다.
7일(현지시간) 오픈AI는 자사의 이미지 생성 AI 도구인 ‘달리3′가 만든 이미지에 디지털 워터마크를 부착한다고 밝혔다. 오픈AI는 ‘달리3′가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 계획이다.
디지털 워터마크는 콘텐츠 자격증명 인증(Content Credentials Verify)과 같은 사이트에서 AI가 이미지를 생성했는지 여부를 확인할 수 있다.
이미 웹 버전에서 ‘달리3′로 생성된 이미지 메타데이터에는 C2PA가 들어가 있고, 오는 12일까지 이를 모바일 사용자에게도 확대할 계획이라고 오픈AI는 전했다.
오픈AI는 “(라벨부착이) 디지털 정보에 대한 대중의 신뢰를 높이는 데 도움이 될 것”이라면서도 “워터마크는 쉽게 제거될 수 있다. 이것이 완벽한 해결책은 아니다”라고 밝혔다.
지난달 인기 최정상의 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 소셜미디어(SNS) 엑스(X, 옛 트위터) 등에서 확산해 논란이 되면서 빅테크 기업들은 잇따라 라벨을 부착하겠다는 계획을 내놓았다.
페이스북 모회사 메타는 지난 6일 자체 AI 도구 ‘메타 AI’를 사용해 만든 이미지뿐만 아니라 외부 AI 도구로 만든 콘텐츠에도 ‘이매진드 위드 AI(Imagined with AI)’라는 라벨을 붙이겠다고 밝혔고, 구글도 지난 1일 자사 AI 챗봇 서비스인 바드에 이미지 생성 기능을 추가하면서 구글 딥마인드가 개발한 워터마크를 적용하기로 했다.