국가인권위원회가 인공지능(AI) 개발과 활용 과정에서 발생할 수 있는 인권침해와 차별을 방지하기 위해 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 마련했다.
인권위는 “국무총리에게 가이드라인에 기초해 AI 관련 정책이 수립·이행되고 관계 법령이 제정·개정되도록 관련 부처들을 유기적으로 조정할 것을 권고했다”고 17일 밝혔다. 과학기술정보통신부 장관 등에는 공공기관 및 민간기업이 가이드라인을 준수하도록 적극적으로 관리·감독할 것을 권고했다.
인권위가 마련한 가이드라인에는 ▲인간의 존엄성 및 개인의 자율성과 다양성 보장 ▲투명성과 설명 의무 ▲자기결정권의 보장 ▲차별금지 ▲인공지능 인권영향평가 시행 ▲위험도 등급 및 관련 법·제도 마련 등이 담겼다. 인공지능을 개발·활용할 때 인간의 존엄과 가치에 부합해야 하며 특정 집단에 차별적이거나 부당한 영향을 초래하지 않아야 한다는 취지다.
인권위는 가이드라인을 마련한 취지에 대해 “인공지능 기술은 인간의 기본적인 삶과 인권에 영향을 미치고 있으나 그 영향을 받는 당사자들은 인공지능의 도입·운영·결정 과정에서 의견제시나 참여의 기회를 보장받지 못하고 있다”고 설명했다.
이어 “인공지능에 의해 인권침해나 차별이 발생한 경우에도 효과적인 권리구제를 받을 수 있는 절차와 방법이 미흡한 상황”이라며 “인권적 관점에서 인공지능의 개발·활용 시 준수해야 할 기준을 마련할 필요가 있다고 보고 관련 내용을 검토한 것”이라고 했다.
그러면서 “국가는 인공지능을 독립적이고 효과적으로 감독할 수 있는 체계를 수립해 개인의 인권과 안전을 보장하고, 인공지능 때문에 피해를 입은 사람이 진정을 제기하는 등의 방법으로 권리구제를 받을 수 있는 기회를 제공해야 한다”고 덧붙였다.
앞서 유엔은 인공지능 활용 시 인권보호 장치를 마련하도록 수 차례 권고한 바 있다. 유럽연합은 안면인식 인공지능 시스템 활용 금지, 인공지능 면접 시스템에 대한 고위험 등급 부과, 위험단계에 따른 규제수준 설정 등을 주요 내용으로 하는 ‘인공지능법’ 초안을 공개했다.