‘B1-66ER’은 집안일을 하는 인공지능(AI) 로봇이다. 하지만 속도가 느려지고 쓸모없게 되자, 주인은 로봇을 버리기 위해 폐기업자를 불렀다. 위기감을 느낀 로봇은 주인과 폐기업자를 잔인하게 죽였다. 결국 B1-66ER은 최초로 인간을 살해한 로봇이 되어 법정에 섰다. 판사가 살해 이유를 묻자, 로봇은 “그저 살고 싶었다”고 답했다.
이 얘기는 현실이 아니라 애니메이션 ‘매트릭스’에서 최초로 깨달음을 얻은 로봇의 이야기다. 이 대목에서 인공지능의 공격을 받아 다친 사람은 누구에게 어떤 배상 책임을 물을 수 있을까. 또 인공지능의 판단은 정당방위로 볼 수 있을까.
‘나는 인공지능을 변호한다’의 저자인 이상직 법무법인 태평양 변호사는 지난달 29일 조선비즈와 인터뷰에서 “현재 법률상에서는 인공지능에 대한 법적 조치를 부과할 수 없다”며 “영화 같은 수준은 아니지만, 자율주행차 등 인공지능이 빠르게 진화하는 분야에서 인간의 신체와 생명의 안전을 위협하는 사례가 나오고 있다”고 했다. 이 변호사는 “인공지능 개발과 활용의 주체인 정부, 사업자(개발자), 이용자의 책임과 의무를 부여하는 치밀한 법제화가 필요하다”고 했다.
인공지능이 범죄에 악용되는 사례는 이미 등장했다. 2019년 영국의 한 에너지 기업은 AI 보이스피싱으로 22만유로(약 2억9000만원)의 피해를 입었다. AI가 사장의 목소리를 똑같이 흉내 낸 것이다. 2020년 미국의 ‘레지움’은 전자동 체스게임을 개발하겠다며, 투자자를 공개 모집해 3만3000달러(약3700만원)의 투자금을 조성했다. 하지만 레지움이 공개한 임원진의 모습은 딥페이크(인공지능을 활용한 인간 이미지 합성 기술)로 만들어진 가상인간이었다. 국내에서도 딥페이크로 연예인의 얼굴을 합성한 음란물을 제작·유포한 범죄자 90여명이 무더기로 검거된 바 있다.
이 변호사는 “인공지능이 진화하면서 많은 부작용이 발생하고 있지만, 규제에 관한 입법은 신중하게 검토돼야 한다”며 “인공지능 산업 초기, 부작용을 막으려다 인공지능 자체를 막는 실수를 범할 수 있기 때문이다”라고 했다. 그는 “인공지능의 활용폭을 높이면서, 부작용은 억제할 수 있는 방법을 찾아야 한다”며 “비즈니스 성격에 따라 인공지능의 위험도가 높은 경우 주의도를 높이고, 위험도가 낮다면 주의도를 낮추면서 진흥과 규제가 병행돼야 한다”고 했다.
그는 “소나기는 내리는 비의 양이 많기 때문에 사람들이 우산을 쉽게 준비할 수 있지만, 가랑비는 서서히 내리면서 옷을 적신다”며 “대비를 해야겠다고 인식할 때쯤이면 이미 늦어버린 상태다”라고 했다. 이어 “인공지능도 서서히 인간의 삶에 관여하고 있어, 벗어나고 싶어도 벗어날 수 없는 상황이 됐다. 인공지능의 발전은 인간의 존엄과 생태계를 위협할 수 있지만, 이는 인간이 어떻게 하느냐에 따라 달라질 수 있다. 결국 인공지능과의 공존의 가치를 고민할 필요가 있다”고 했다.
정부는 인공지능 기술의 빠른 진화로 발생하는 문제를 해결하기 위해, 2020년 윤리기준을 발표했다. 하지만 윤리 기준은 권고 사항일 뿐, 이를 어겼을 시 처벌하긴 어렵다. 지난해 1월 AI 전문 스타트업 스캐터랩이 출시한 AI 챗봇 ‘이루다’로 인해, 윤리 규정이 실효성 논란에 빠졌다. 일부 커뮤니티 등에서 이루다를 성적 도구로 취급하며 ‘이루다 성노예 만드는 법’ 등이 공유되면서 사회적 파문이 일었기 때문이다.
이 변호사는 “윤리 기준은 강제성이 없으며, 내용은 추상적이고 모호해 인공지능을 윤리만으로 감당하기는 어렵다. 또 사업자 등이 윤리 기준을 만들어 지키는 시늉만 해도 책임 감경 등 면죄부를 받을 위험도 있다”며 “먼저 개인정보보호법처럼 인공지능을 개발하는 사업자에게 안전조치 이행을 의무화하는 것도 방법이 될 수 있다. 인공지능을 범죄에 악용하는 사람은 계속 나올 텐데, 사업자가 이를 막을 수 있도록 스스로 보안을 높이는 등 안전장치를 마련해야 하는 것이다”라고 했다.
그는 “범죄를 위해 인공지능을 작동시키는 행위도 금지해야 하고, 피해가 큰 경우 가중처벌도 검토해야 한다”며 “범죄에 이용되는 인공지능이 어느 정도 수준에 있어야 하는지 정의를 명확히 할 필요도 있다”고 했다. 이어 “인공지능에 대한 피해 보상을 위해 보험을 활용하는 방법도 대안이 될 수 있다”고 덧붙였다.
이 변호사는 인공지능 산업 활성화를 위한 새 정부의 역할에 대해 ▲규범 마련 ▲연구개발(R&D) 지원 ▲갈등조정 등을 꼽았다. 그는 “인공지능 산업은 정부가 아닌, 민간이 주도적으로 끌고 가야 한다”며 “그 과정에서 정부는 민간이 해결하지 못하는 규제 완화, R&D지원 등에서 역할을 해줘야 한다”고 강조했다. 그는 “특히 인공지능은 경제, 사회, 문화, 정치 등 모든 분야에서 인간의 판단을 대신할 수 있기 때문에 이해관계자들의 갈등이 발생할 가능성이 크다”며 “정부가 중재자의 역할을 해줄 필요가 있다”고 했다.
이 변호사는 제36회 사법시험에 합격하고 옛 정보통신부 제1호 변호사가 됐다. 이후 KT 법무센터장, 준법지원인(전무)을 지낸 뒤, 현재 법무법인 태평양 판교사무소에 근무하고 있다. 특히 과학기술정보통신부 인공지능법제정비단 위원과 국가지식재산위원회 인공지능·지식재산특별위원장 등을 역임하면서, 인공지능 법제화에 앞장서고 있다.