로봇이나 컴퓨터가 조종하는 자동차가 탑승객을 태운 채 좁은 길을 달리고 있다. 막 터널에 진입하려는 순간 차 앞에 아이가 튀어나왔다. 로봇 운전사의 최우선 순위는 인명(人命) 보호. 그렇다면 탑승객을 보호하기 위해 그대로 직진해야 할까, 아니면 아이를 살리기 위해 차를 틀어서 탑승객을 희생해야 할까.
로봇이 일상생활 속으로 점점 더 파고들면서 로봇을 둘러싼 윤리 이슈도 뜨거워지고 있다. 미국과 유럽에서는 과학자와 윤리학자, 법학자들이 모여 윤리의식을 지닌 '도덕적 로봇'을 개발하기 위한 프로젝트를 시작했다. 미 국방부도 군사용 로봇에 인도주의적 전투 규범을 주입하기 위한 논의를 시작했다. 과연 도덕적 로봇은 가능할까.
◇딜레마에 빠진 로봇 제1원칙
미국의 구글은 운전대와 페달이 없는 완전 무인(無人) 자동차를 공개하고 시험 운전을 하고 있다. 상용화 목표는 2017년. 네바다주는 이미 구글의 로봇 무인차에 면허증을 발급했다. 무인차가 실용화되면 앞서 제시한 '터널 딜레마'와 같은 상황이 발생했을 때 온전히 로봇의 판단에 의존해야 한다.
로봇 개발자들은 미국의 공상과학(SF) 작가 아이작 아시모프가 1942년 제창한 '로봇공학 3원칙'에서 답을 찾는다. 로봇의 작동 프로그램에 이 원칙만 입력하면 된다는 것. 제1원칙은 '로봇은 인간에게 해(害)를 가하거나, 위험에 처한 인간을 방관해서도 안 된다'는 것이다. 제2원칙은 '로봇은 인간의 명령에 반드시 복종해야 한다', 제3원칙은 '로봇은 자기 자신을 보호해야만 한다'로 돼 있다.
하지만 현실은 그리 간단하지 않다. 이달 초 영국 브리스틀 로봇공학 연구소의 앨런 윈필드(Winfield) 박사는 간단한 실험으로 로봇공학 제1원칙이 무너질 수 있음을 입증했다. 로봇공학 1원칙을 입력한 로봇 앞에서 사람을 흉내내는 로봇이 위험한 구멍 쪽으로 움직이게 했다. 로봇은 사람(정확히는 사람 흉내 로봇)을 구하기 위해 구멍 밖으로 밀어냈다. 하지만 사람 수가 늘어나자 문제가 생겼다. 두 사람이 구멍으로 향하자 로봇은 혼란에 빠졌다. 한 사람만 구하는 데 성공한 경우도 있었지만, 33차례의 테스트 중 14차례는 주저하다가 두 사람 모두 구멍에 빠지게 했다. 로봇 무인차 역시 이 원칙만 갖고는 터널 딜레마를 빠져나올 수 없다는 말이다.
◇부상병이 먼저일까, 임무가 먼저일까
이런 논의가 지나친 기우라고 보는 과학자들도 있다. 심현철 KAIST 교수(항공우주공학과)는 "터널 딜레마는 윤리 논의를 위해 고안한 사고 실험"이라며 "실제로는 로봇 무인차가 더 많은 인명을 구할 수 있다"고 말했다. 사람이 운전하면 앞만 보지만 로봇은 사방을 다 주시하며, 반응 속도도 로봇이 사람보다 10배나 빠르다는 것. 구글 무인차 개발자인 세바스천 스런(Thrun)도 "무인차는 한 해 100만명의 자동차 사고 희생자를 구할 수 있다"고 주장했다. 군사 로봇 개발자들도 마찬가지다. 과학자들은 "수천 년 동안 축적된 국제 전쟁법과 전투 규범만 입력하면 감정에 휘둘리기 쉬운 군인보다 로봇이 더 윤리적인 전투를 할 수 있다"고 주장한다.
하지만 전투 로봇 역시 딜레마에 빠질 수 있다. 이를테면 로봇이 명령대로 보급품을 수송해야 하는지, 아니면 부상당한 군인을 먼저 옮겨야 하는지와 같은 문제다. 부상병을 옮기는 것이 로봇공학 1원칙에 맞아 보이지만, 보급품을 보내지 않는 바람에 더 많은 군인이 목숨을 잃을 수도 있다. 올 5월 미 국방부가 저명한 로봇 과학자와 철학자들을 모아 로봇의 윤리를 논의하는 프로젝트를 시작한 것도 이런 문제 해결이 간단치 않기 때문이다.
이달 16일 미국 캘리포니아주는 '자동차 운전자는 비상시 물리적으로 자동차를 통제할 수 있어야 한다'는 새로운 법령을 발효시켰다. 로봇에게 모든 것을 맡길 수는 없다는 것. 이종원 서울시립대 교수(철학과)는 "비상 상황에서의 우선순위를 사용자가 선택할 수 있으면 된다고도 하지만 도덕규범이 계속 바뀌는 상황에서는 이 역시 답이 아니다"며 "결국 기술의 발전에 맞는 새로운 윤리 개념이 나와야 한다"고 말했다. 우리나라는 2007년 정부 주도로 로봇윤리헌장 초안을 만들었지만, 지금은 지원이 끊겨 논의가 중단된 상태다.