주요 생성형 인공지능(AI) 기업의 개인정보 처리방침이 미흡해 개선이 필요하다는 의견이 나왔다.
개인정보보호위원회는 4일 서울 중구 한국프레스센터에서 개최한 '생성형 AI 분야 개인정보 처리방침 개선을 위한 간담회'에서 "지난해 개인정보 처리방침 평가 결과, 생성형 AI 분야의 적정성, 가독성, 접근성 등이 다른 분야에 비해 미흡한 사례가 다수 확인됐다"라며 이같이 밝혔다.
이날 간담회에는 구글, 메타, 네이버, 카카오, 마이크로소프트, 오픈AI, SK텔레콤, LG유플러스, NC AI, 스캐터랩, 뤼튼테크놀로지스 등 국내외 주요 생성형 AI 기업 11개사와 AI 전문가들이 참석했다.
개인정보위는 2024년부터 개인정보처리자가 수립·공개한 처리방침을 평가하는 제도인 '개인정보 처리방침 평가'를 실시하고 있다. 개인정보 처리의 투명성과 책임성을 높이는 것이 목표로, AI·자율주행 등 신기술을 활용하거나 대규모 민감정보와 개인정보를 처리하는 대표 서비스를 대상으로 이뤄진다.
송경희 위원장은 "AI가 다루는 정보가 텍스트를 넘어 위치와 이동 경로, 음성, 영상 등까지 폭넓게 확산하면서 데이터 처리 범위와 방식이 복잡해졌다"라며 "이렇게 복잡한 데이터 환경에서는 이용자가 자신의 개인 정보 처리 과정을 예측할 수 있도록 돕는 투명성이 사회적 신뢰를 형성하는 핵심 기반이 되고, 그 투명성을 구현하는 대표적인 수단이 바로 개인정보 처리 방침"이라고 말했다.
개인정보위가 지난해 커넥티드카, 에듀테크, 스마트홈, 생성형 AI, 통신, 예약·고객관리, 건강관리앱 7개 분야를 대상으로 평가한 결과, 전체 평균 점수는 71점으로 전년의 57.9점과 비교해 큰 폭 상승한 것으로 나타났다.
생성형 AI 분야의 경우 상대적으로 개인정보 처리방침이 미흡한 사례가 다수 발견됐다는 게 개인정보위의 설명이다. 송경희 개인정보위원장은 "프롬프트(명령어) 입력 정보의 처리에 대한 법적 근거를 기재하지 않거나 정보주체의 권리 행사 방법을 영문으로만 안내한 사례 등이 대표적이다"라고 말했다.
개인정보위에 따르면 일부 서비스는 '처리하는 개인정보 항목'을 포괄적 으로 기재하거나, '처리의 법적근거'를 구체적으로 밝히지 않았고, '개인정보 보유‧이용기간'을 모호하게 표현한 경우도 있었다. 개인정보를 제3자 제공하면서 '협력업체', '서비스 제공업체' 등 추상적 인용어를 사용해 제공받는 자를 명확히 특정하지 않은 경우나 개인정보 관련 민원 처리를 지연하는 사례도 확인됐다. 일부 모바일 앱은 처리방침을 확인하기 위해 로그인을 요구하거나 여러 단계를 거치도록 해 접근성 측면에서 개선이 필요하다는 평가를 받았다.
이에 개인정보위는 최근 빠르게 확산·고도화 생성형 AI 서비스가 보다 구체적이고 이용자 눈높이에 맞춰 처리방침을 개선할 수 있도록 지원하겠다고 밝혔다.
이날 처리방침 평가 결과를 발표한 황지은 개인정보위 개인정보정책국 자율보호정책과장은 "AI 에이전트 확산에 따른 현장의 불확실성을 해소하기 위해 안전한 데이터 처리 기준과 보호 조치를 담은 AI 안내서를 마련하고 서비스 기획 단계부터 프라이버시 리스크를 함께 점검해 안전한 AI 활용을 지원하는 'AX 혁신 지원' 헬프데스크를 운영하겠다"라고 말했다.
참석 기업들은 생성형 AI의 기술적 특성상 처리 구조가 복잡하고 글로벌 본사 정책과의 조율이 어려움이 있다며 고충을 토로했다. 그러면서도 이용자의 신뢰 확보를 위해 보다 명확하고 이해하기 쉬운 설명 방식이 필요하다는 데 동의했다.
특히 프롬프트에 입력한 정보가 학습에 활용되는지 여부와 보유 기간, 이용자가 이를 거부할 수 있는 옵트아웃(Opt-out) 절차에 대해서는 이용자가 직관적으로 이해할 수 있도록 개선해 나가겠다는 의견도 나왔다.
개인정보위는 이번 간담회 논의를 토대로 개인정보 처리방침 작성 지침을 보완하고, 다음 달 지침 개정본을 발간할 계획이다. 기업·기관들이 개정 기준을 충분히 이해하고 현장에 적용할 수 있도록 설명회도 개최할 예정이다.
송 위원장은 "이용자가 자신의 정보가 어떻게 활용되는지 쉽게 알 수 있을 때 AI에 대한 신뢰도 함께 높아질 수 있다"라며 "앞으로도 기업과 지속적으로 소통하며 현장에서 적용 가능한 합리적 기준을 마련하겠다"고 했다.