정부가 딥페이크 등 인공지능(AI)을 내세운 가짜 의사·전문가 광고에 대한 대응에 나섰다. 식·의약품 등에서 허위·과장 광고가 노년층을 중심으로 피해를 키우고, SNS를 통해 순식간에 확산되면서 시장 질서를 교란하고 있다는 판단에서다.
정부는 12월 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 확정했다.
◇ AI 생성물 표시 의무화
우선 방송미디어통신위원회(방미통위)는 플랫폼 전반에 'AI 생성물 표시제'를 도입하기로 했다. 앞으로 사진·영상 등을 AI로 제작·편집해 게시하는 '직접 정보제공자'는 해당 콘텐츠가 AI로 생성됐다는 사실을 의무적으로 표시해야 한다. 다른 이용자가 이 표시를 삭제하거나 훼손하는 행위도 금지된다. 플랫폼 사업자는 표시 방법을 제공하고, 표시 의무를 이용자에게 고지하는 등 관리 책임을 진다.
과학기술정보통신부는 2026년 1월 시행 예정인 'AI 기본법'에 따라 AI 사업자에게 부과되는 생성물 표시 의무가 현장에서 제대로 작동하도록 세부 가이드라인을 마련한다. 정부는 이를 통해 소비자가 실제 인물·발언과 합성·조작된 콘텐츠를 명확히 구분할 수 있도록 하겠다는 구상이다.
◇ 24시간 내 심의·긴급 차단… 징벌적 손배·과징금 상향
유통 단계에서는 '속도전'에 초점을 맞췄다. 방미통위와 방송미디어통신심의위원회(방미심위)는 AI 허위·과장 광고가 빈발하는 식·의약품, 화장품, 의약외품, 의료기기 등을 서면심의 대상에 포함하는 법 개정을 추진한다. 이 경우 심의 요청 후 24시간 이내에 심의가 이뤄지는 패스트트랙을 적용해, 문제가 된 광고를 신속히 걸러낼 수 있을 것으로 정부는 보고 있다. 식품의약품안전처 전용 방미심위 심의 신청 시스템도 마약류에서 관련 품목 전반으로 확대된다.
국민의 생명·재산 피해 우려가 큰 사안에 대해서는 방미통위가 플랫폼 사업자에 '긴급 시정요청'을 할 수 있는 절차도 새로 만든다. 관계 부처가 방미통위에 요청하면, 방미통위가 플랫폼에 임시 시정을 요구하고, 이후 방미심위 심의 결과에 따라 최종 차단 여부를 확정하거나 원상복구하는 방식이다.
공정거래위원회와 식약처는 AI가 제품을 추천하는 광고의 위법성 판단 기준도 구체화한다. 일반 상품 광고에서 AI가 제품을 추천하면서도 추천 주체가 '가상인간'임을 밝히지 않으면 부당한 표시·광고에 해당한다. 식·의약품 분야에서는 AI가 생성한 '의사' 등 전문가가 등장해 효능을 추천·보증하는 광고를 소비자 기만 광고로 본다는 기준을 명시한다.
방미통위와 공정위는 정보통신망에서 악의적으로 허위·조작 정보를 유통하는 행위에 대해 손해액의 최대 5배까지 징벌적 손해배상을 부과하는 방안을 추진하고, 표시·광고법상 허위·과장 광고 과징금 수준도 대폭 올리기로 했다. 식약처와 한국소비자원은 상시 감시·적발 기능을 강화하고, 정부는 플랫폼 업계의 자율규제 고도화도 유도할 계획이다.
김민석 총리는 "이번 대책을 통해 신기술의 부작용을 최소화하면서 AI 시대에 걸맞는 시장 질서를 확립해 나가겠다"며 "법령·제도 개선을 조속히 추진하는 한편 플랫폼 업계, 소비자단체 등과도 긴밀히 소통하겠다"고 말했다.