지난 5월 7일 미국 플로리다에서 발생한 테슬라의 전기차 ‘모델 S’ 운전자 사망사고가 최근 알려지면서 일론 머스크가 곤혹을 치르고 있다. 일부에서는 테슬라가 아직 완벽하지 않은 자율주행 시스템 ‘오토파일럿’을 섣불리 상용화했다는 비판을 제기하고 있다.
미국 당국의 예비조사 보고서에 따르면 사망 사고는 미국 플로리다주 윌리스턴에서 옆면이 흰색인 대형 트레일러가 좌회전하며 테슬라 전기차 앞을 지날 때 테슬라 차가 멈추지 못하고 트레일러 옆면과 충돌해 발생했다. 중앙분리대로 분리된 고속도로의 교차로에서 일어났다.
테슬라 측은 오토파일럿 시스템이 햇빛과 트레일러의 흰색을 구분하지 못해 사고가 일어났다고 설명했다. 또 오토파일럿 상태에서도 운전자가 운전대를 잡고 있어야 한다는 매뉴얼을 따르지 않았다고도 했다.
그러나 전문가들은 오토파일럿 시스템 및 알고리즘의 신뢰도에 의문을 제기하고 있다. 주변 물체를 인식하는 카메라가 강한 햇빛 때문에 일시적으로 트럭을 인식하지 못했을 가능성은 물론 카메라를 보조하는 레이더의 신호 분석 오류가 한꺼번에 발생했을 가능성이 있다는 것이다.
이경수 서울대 기계항공공학부 교수는 “자율주행시스템에서 카메라와 레이더는 상호 보완하며 주변 차량과 장애물을 감지하는 성능을 극대화하는데, 카메라와 레이더가 받아들인 데이터를 처리하는 알고리즘에 문제가 있을 수 있다”고 분석했다.
◆ 미완의 오토파일럿 시스템...카메라 오류 논란의 핵심은
자동차의 자율주행시스템은 크게 주변 물체(다른 차량, 보행자 등)와 도로 환경(차선, 표지판 등)을 인식하는 카메라와 레이더, 데이터를 처리하는 컴퓨터 시스템(ECU, Electronic Control Unit)으로 구성된다. 카메라와 레이더가 포착한 영상 및 데이터 신호를 컴퓨터가 분석해 운전자의 조작이 없어도 차선을 유지하고, 속도를 조절하며 도로를 주행하게 된다.
테슬라의 전기차 모델에 적용된 오토파일럿 시스템은 미국 도로교통안전국이 정한 자율주행차 기술 단계의 3단계 정도에 해당된다. 3단계는 운전자가 필요없는 완전 자율주행이 가능한 4단계의 전단계로 가속이나 방향 전환, 제동이 자동으로 이뤄지지만 급박한 상황에서는 운전자 개입이 필요한 단계다.
일론 머스크 테슬라 창업자는 최근 사망 사고에 대해 “매뉴얼은 운전자가 만약의 사태에 대비할 수 있도록 오토파일럿을 이용하는 운전자는 운전대에 손을 올려놓을 것을 권장하고 있는데, 운전자가 이런 경고를 무시했다”고 해명했다.
테슬라 모델 S의 오토파일럿 시스템은 전면 레이더와 옵티컬(광학) 카메라, 이스라엘의 모빌아이사의 비전 시스템온칩 ‘eyeQ3’, 360도 울트라소닉 센서가 포함된 센싱 하드웨어를 갖고 있다.
이번 사망 사고에서는 테슬라의 전면 카메라에 강한 직사광선이 내리쬐면서 CMOS이미지센서가 좌회전하는 트레일러를 인식하지 못했을 것이라는 분석이 나왔다.
자동차 센서 인식 기술 연구기관인 비전시스템즈인텔리전스의 필 매그리 고문은 “카메라가 트레일러를 인식하지 못한 점이 석연치 않다”며 “비전 센서가 인식한 물체를 무엇으로 분류할지 몰라 우왕좌왕했던 것으로 보인다”고 말했다.
카메라가 전방의 물체를 인식해도 그 물체가 무엇인지 정확하게 파악하는 것은 고난이도의 기술을 필요로 한다. 마치 머신러닝으로 단련된 인공지능(AI)이라도 ‘개’와 ‘고양이’를 완벽하게 구분하기 어려운 것과 같다.
심현철 KAIST 항공우주학과 교수는 “여러 자료를 읽어보면, 테슬라에 탑재된 카메라는 자동차 형태의 특정 패턴만 인식해 측면으로 들어오는 거대한 트레일러를 차량 패턴으로 인식하도록 프로그램돼 있지 않았던 것으로 보인다”고 말했다.
이번 사망 사고의 경우 테슬라의 주장대로 강한 직사광선에 의해 모델S의 카메라가 일시적으로 트레일러를 인식하지 못했을 수도 있지만, 설사 물체를 인식했다고 모델S가 ‘트레일러’라고 정확하게 분석하기는 어려웠을 것이라는 의미다.
◆ “카메라 보완하는 레이더 신호 처리도 문제”...브레이크 미작동 논란도
카메라를 보완하는 레이더의 신호를 처리하는 알고리즘에 문제가 있을 수도 있다는 주장도 제기됐다. 카메라에 문제가 생기면 레이더가 전방 장애물을 인식해야 하는데, 레이더 신호를 제대로 처리하지 못했을 가능성이 있다는 것이다.
자율주행시스템에 적용되는 레이더는 보통 전방 차량이나 장애물을 포착하면 약 0.05~0.1초 간격으로 신호를 전송한다. 이 때 실제 물체가 아닌 신호(빛 반사에 의해 만들어지는 신호)를 전송하는 이른바 ‘노이즈’가 생기는데 노이즈를 걸러내고 실제 물체 신호를 끊김없이 추적(트래킹)해 시스템의 신뢰도와 안전성을 높이는 게 중요하다.
노이즈 신호를 걸러내는 과정에서 ‘신호 딜레이’가 발생할 수 있는데 이 딜레이로 인해 레이더 신호 처리가 늦어질 수 있다. 테슬라 사망 사고에서 카메라가 제기능을 못했다 하더라도 레이더가 보완해 줘야 하는데 신호 처리 알고리즘에 문제가 생겼을 수도 있다는 지적이다.
또다른 분석도 있다. 미국 전문가들은 테슬라 오토파일럿 시스템의 레이더가 모델 S가 충돌한 트레일러 아래의 빈 공간을 오픈된 도로로 착각하고 직진했을 가능성도 제시하고 있다. 차체가 낮은 테슬라의 레이더가 상대적으로 바퀴가 커 차체 아래 빈 공간이 넓은 트레일러를 인식하지 못했다는 것이다. 이 경우에도 테슬라에 장착된 레이더 시스템의 문제가 지적될 수 있다.
이경수 교수는 “카메라나 레이더, GPS는 각자 특성에 맞춰 물체를 감지하고 데이터를 전달해 주는 역할만 할 뿐 상황을 판별하고 정확하게 판단해서 안전한 자율주행을 가능토록 하는 것은 아니다”며 “각종 센서가 전달하는 신호를 처리해 안전한 드라이빙을 가능케 하는 알고리즘이 자율주행시스템의 핵심 기술”이라고 말했다.
위급 상황시 자동으로 제동하는 AEB(Automatic Emergency Braking) 시스템에 대한 논란도 있다. 오토파일럿에 탑재된 카메라 제조사인 모빌아이는 최근 성명서를 통해 “이번 충돌은 비스듬히 진입하는 차량과 부딪쳐 발생했는데, 현재 AEB 기술은 이런 상황에서 제대로 작동하지 못한다”고 시인했다. 이에 대해 테슬라는 오토파일럿 시스템이 측면 진입 상황에서도 AEB가 작동하도록 디자인됐다고 반박해 논란의 여지를 남겼다.
테슬라 자동차의 안전에 대한 논란은 이번이 처음은 아니다. 테슬라 차량 중앙에는 혁신의 아이콘인 17인치 대형 디스플레이가 장착돼 있다. 이 디스플레이로 차량을 조작하고 멀티미디어까지 재생한다. 테슬라는 모델 S를 출시하며 이 디스플레이를 이용해 운전중 웹서핑도 가능하도록 설정했다. 안전을 위해 자동차 디스플레이를 통해 운전중 영상 시청이나 인터넷 브라우저 기능을 차단해야 한다는 미국자동차공학회(SAE)의 가이드라인 등을 무시한 것이다.
차두원 한국과학기술기획평가원(KISTEP) 연구위원은 “실제 도로에서의 위급 상황은 엄청나게 다양하다”며 “정확한 사고 원인 조사 결과가 나와봐야 알겠지만 테슬라가 오토파일럿 시스템의 충분한 테스트와 검증을 마쳤는지 살펴봐야 할 것”이라고 말했다.