지난해부터 전 세계적으로 논란이 되고 있는 딥페이크(Deep Fake)와 같은 인공지능(AI) 기반 기술은 빠르게 발전하는 AI가 범죄에 악용될 수 있다는 우려를 확산시킨 계기가 됐다. 정교한 합성 기술로 원본과 합성을 분간하기 힘들 정도로 진화한 AI는 가짜뉴스와 같은 사회적 혼란을 일으키기 충분할 정도로 기술적 완성도를 갖추기 시작했다.
급속도로 발전하는 AI 윤리와 관련한 법⋅제도 제정 문제를 두고 논란이 한창이다. 24일 한국정보화진흥원(NIA)은 '인간과 AI의 공존을 위한 법제도 발전 방향 모색'을 주제로 온라인 세미나를 개최했다. 이날 행사에는 국내 주요 대학 교수를 비롯해 카카오, KAIST(한국과학기술원) 등 현업의 AI 개발 전문가들도 참석했다.
우선 한국의 경우 유럽연합(EU)이나 미국 등 선진국에 비해 AI 윤리에 대해 아직 구체적인 논의가 부족한 상황이다. 고학수 서울대 법과전문대학원 교수(한국인공지능법학회장)는 "EU의 경우 이미 몇년전부터 전문가 그룹을 만들어 AI 윤리에 대한 장기 청사진을 그리고 있다"며 "특히 개인정보보호법(GDPR) 논의가 중요한 기점이 됐는데 AI의 자동화된 의사결정과 그것에 대해 개인정보주체들이 거부할 권리가 포함돼 있다"고 전했다.
국내의 경우 아직 실효성 있는 논의가 부족하다는 게 고 교수의 지적이다. 고 교수는 "우리나라의 경우 2007년에 로봇윤리헌장 초안이 나온 이후 후속조치가 없었다"며 "한국정보문화포럼, 한국정보화진흥원 등에서 AI 윤리 가이드라인을 내놓았지만 AI 윤리가 보통 사람에게 적용되는 일반적인 윤리와 다르게 여겨질 수 있으며 실행가능성 측면에서는 추상적인 부분이 있다"고 설명했다.
AI를 독립적인 의사결정의 주체로 봐야할지, 혹은 그 AI를 만든 개발자나 기업의 책임으로 봐야할 지에 대한 논의도 진행 중이다. 고 교수는 "AI 윤리를 말할때 이슈는 AI가 자율적인 의사결정을 한다는 것을 암묵적으로 전제한다는 것인데 그러면 AI가 독자적인 주체가 된다"며 "이는 EU 안팎에서도 큰 비판을 받았으며 현실적으로는 AI를 만드는 개발자, 서비스 제공자의 책임에 초점을 맞춰야 한다는 얘기가 나온다"고 말했다.
김미량 성균관대 교수도 AI 서비스를 제공하는 기업, 개발자 등 전문가 윤리를 강조했다. 그는 "AI를 공급하는 전문가에는 더 고도화된 윤리를 적용할 필요가 있다"며 "특히 만들어져서는 안되는 서비스나 로봇 등이 만들어질 수 있기 때문에 이를 제도화하는 방향으로 고민해야 한다"고 강조했다.
카카오 측에서는 AI 서비스를 제공하는 기업으로서의 어려움을 토로했다. 아직 사회적으로 AI 윤리에 대한 논의 자체가 별로 없는만큼 카카오가 특정 윤리를 발표한다는 것 자체가 마치 기업계를 대표한다는 인상을 주는 것에 대한 부담감도 드러냈다. 또 AI 윤리를 지키기 위해 AI의 설계, 작동 과정을 설명하는 과정에서 핵심 기술이 유출되는 것에 대한 우려도 표했다.
김대원 카카오 정책팀 이사는 "AI 윤리가 기업에 의무화되는 방식으로 논의되는데, 동시에 AI 윤리는 (소비자들의 신뢰를 얻기 위한) 기업의 핵심적인 경쟁력이기도 하다"며 "당연히 AI 윤리에 대해 충분한 설명을 해야 하지만 반대로 회사의 경쟁력을 쉽게 노출하게 되는 부분도 있다"고 강조했다. 이어 "특정 기업뿐만 아니라 모든 기업이 자발적으로 AI 윤리를 자발적으로 말할 수 있는 구조가 만들어지면 선순환 구조가 될 수 있다"고 기대했다.
AI 개발자인 이수영 KAIST 교수는 "AI를 만드는 사람 입장에서 이같은 AI 윤리에 대한 논의는 억울한 부분이 있다"며 "기본적으로 성악설에 기반하는 측면이 있으며 AI 개발자들이 위험요소를 갖고 있기 때문에 가이던스가 필요하다는 인식 때문"이라고 설명했다.
그는 "물론 AI 기술은 사용하기에 따라 영상인식, 얼굴인식 등을 비롯해 병을 진단하고 최악의 경우 원자폭탄 같은 걸 만드는데 활용될 수도 있지만 미래에 생길 법한 일들을 지금 케이스 바이 케이스로 만드는 건 매우 어려운 일"이라며 "법률이나 정책으로 금지된 것이 아니면 모두 허용하는 네거티브 규제로 풀면 좋겠다"고 설명했다. 이어 "운전면허증처럼 AI 면허증을 발급하고 정부가 관리하는 방향도 검토해야한다"고 설명했다.