AI(인공지능)가 내놓은 답을 그대로 믿지 말고, 필요하면 다른 자료와 비교해 검토해야 한다. 다른 사람의 사적인 대화나 사진·음성·위치 정보를 프라이버시를 침해하는 방식으로 AI에 입력하거나 공유해서도 안 된다. AI를 허위 정보 유포나 기술 유출, 비동의 성적 합성물(성적 딥페이크) 제작 등에 이용하는 것도 피해야 한다. 정부가 이처럼 구체적인 행동 기준을 담은 국가 차원의 AI 윤리원칙을 제정했다.
과학기술정보통신부와 정보통신정책연구원(KISDI)은 '대한민국 인공지능 윤리원칙'이 제12회 과학기술관계장관회의 심의·의결을 거쳐 확정됐다고 24일 밝혔다. 윤리원칙은 AI기본법 제27조에 따라 마련된 자율규범으로, 특정 분야에 한정되지 않고 사회 전 영역에 적용돼 각 분야 윤리기준과 지침의 토대가 된다. 법적 구속력은 없다.
정부는 이번 윤리 원칙에서 AI를 개발·제공하는 기업뿐 아니라 이를 사용하는 이용자도 '책임 있는 AI 활용의 주체'로 규정했다. AI 공급자 뿐 아니라 이용자와 정부 및 사회에도 구체적 역할을 제시한 것이다.
이번 AI 윤리 원칙은 '인간의 존엄성', '사회의 공공선', '인류의 지속 가능성'을 3대 가치로 제시했다. 이를 실현하기 위한 7대 원칙은 인간 중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성이다. AI의 기획과 데이터 처리, 개발·검증, 제공·운영, 이용, 모니터링과 폐기까지 전 생애 주기에 걸쳐 적용되는 공통 기준이다.
이용자 행동 수칙은 일상적인 AI 사용까지 구체적으로 다룬다. 예컨대 '인간 중심성' 원칙에 따라 이용자는 AI가 내놓은 산출물을 이용 목적과 상황에 맞게 검토하고, 필요하면 다른 자료와 관점도 함께 고려해야 한다. AI에 지나치게 의존하지 않고, 스스로 창의성과 문제 해결 역량을 강화하는 데 주체적으로 활용해야 한다는 내용도 담았다.
'프라이버시 보호' 원칙에서는 다른 사람의 사적인 대화나 사진·음성·위치 정보 등을 그 사람의 프라이버시를 침해하는 방식으로 AI에 입력하거나 공유하지 말도록 했다. AI를 이용해 다른 사람의 사생활을 부당하게 파악하거나 행동을 추적·감시해서도 안 된다. 자신의 개인정보나 민감한 정보 역시 AI에 불필요하게 입력·공유되지 않도록 살피도록 했다.
AI를 이용해 타인의 권리를 침해하는 행위도 경계 대상으로 제시됐다. '책임성' 원칙에 따르면 이용자는 AI를 허위 정보 유포, 지식재산권·영업비밀 침해, 기술 유출, 명예훼손, 차별과 사생활 침해, 비동의 성적 합성물 생성 등에 이용하지 않아야 한다. AI 공급자 역시 이런 오남용을 예방할 수 있도록 이용자에게 충분히 안내하고 적절한 조치를 마련하도록 했다.
'투명성' 원칙에 따라 AI가 채용·평가 등 개인의 권리나 기회에 중대한 영향을 미치는 판단에 활용될 경우, 당사자가 판단 기준과 주요 근거를 이해할 수 있도록 설명하도록 했다.
AI를 만드는 기업에 대한 기준도 구체화했다. 예컨대 인간중심성 원칙에 따라 공급자는 AI가 사람의 불안이나 정보 부족 같은 취약한 상태를 부당하게 이용하거나, 정보를 왜곡해 특정 판단이나 행동을 유도하지 않도록 해야 한다. 또 이용자가 AI 산출물을 무비판적으로 따르거나 지나치게 의존하도록 서비스가 설계되지 않았는지도 공급자가 점검하도록 했다. 필요한 경우 사람이 AI의 작동을 확인하거나 제한·중단할 수 있는 수단도 마련하도록 했다.
과기정통부는 앞으로 실제 사례 중심의 해설서와 분야별 자율 점검표, 일반인과 학생 등을 위한 윤리 교육 교재를 마련해 보급할 계획이다.
배경훈 부총리 겸 과기정통부 장관은 "AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다"라며 "대한민국 인공지능 윤리원칙이 AI에 대한 사회적 신뢰를 높이고 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다"고 했다.