직장인 윤모씨(45세)는 지난해말 건강검진에서 청천벽력 같은 통보를 받았다. 그해 여름까지만 해도 아무런 증상이 없던 간에 암이 진행됐다는 진단이었다. 아무런 전조도 없이 3기까지 진행된 암세포는 장기에 광범위하게 퍼져 수술마저 불가능한 상태였다. 의사도 영문을 모르겠다는 표정이다. 깨끗했던 간에 불과 여섯달 만에 이처럼 암이 진행된 사례는 없었기 때문이다.
말기 췌장암 환자인 김모씨(53세)는 어느날 췌장에 퍼져있던 암세포가 사라졌다는 진단을 받았다. 그렇다고 희소식은 아니었다. 췌장이 깨끗해진 대신 폐에 심각한 결절이 생기고, 뇌종양이 의심된다는 CT 결과가 나왔다. 상상도 하지 못했던 결과에 혼란에 빠진 건 의료진도 마찬가지였다.
이 두가지 사례는 아직까지는 가상의 이야기다. 하지만 전문가들은 인공지능(AI)의 등장과 함께 의료 진단의 자동화가 빠르게 진행되고 있는 현재 추세라면 머지 않은 미래에 벌어질 수 있는 일라고 경고한다.
최근 이스라엘 벤구리온대학교의 인공지능(AI) 연구진은 딥러닝 기술을 통해 만든 악성 코드가 지난해 미국을 공포에 떨게했던 딥페이크(Deep Fake)와 마찬가지로 의료기록을 조작할 수 있다는 사실을 밝혀냈다.
12일 이스라엘의 벤구리온대학 연구진이 코넬대 논문 사전 출판사이트인 아카이브(ArXiv)에 제출한 논문에 따르면 AI 기술을 바탕으로 3D 스캔 영상 이미지를 조작해 의사들이 잘못된 진단을 내리도록 유도하는 악성 코드가 가능한 것으로 나타났다. 가령 환자의 폐 CT 사진에 존재하지 않는 암이 있는 것처럼 사진을 조작하고 의사들을 속이는 프로그램을 몰래 심을 수 있다는 얘기다.
벤구리온대 연구진들은 딥러닝(Deep Learning) 기술을 바탕으로 만든 악성코드를 심어 실제 병원에서 촬영되는 환자의 3D 스캔 영상을 조작하는 실험을 진행했다. 3명의 방사선의를 대상으로 조작 여부를 판단하는 실험을 진행했는데, 3명의 의사를 모두 속인 것으로 나타났다. 이 악성코드는 실제 폐암이 있는 환자의 기록을 조작해 폐암이 아니라 뇌종양이나 혈액응고, 척추 질환 등으로 손쉽게 바꿀 수 있다는 점을 입증했다.
벤구리온대의 이같은 연구는 실제 병원에서 사용되는 3D CT 영상이나 엑스레이, MRI 등의 병원 데이터가 암호화 솔루션이나 디지털 서명 등의 보안 장치 없이 유통되고 있다는 점을 착안해 이같은 해킹 코드를 만들었다. 실제 국내외 대형 병원에도 환자의 의료기록을 암호화하는 방식의 높은 수준의 보안 기술을 도입한 곳은 매우 드물다.
이는 점점 첨단화되고 자동화되고 있는 현대의 병원 시스템이 심각한 위협이 될 수 있다는 게 전문가들 분석이다. 국내의 한 대형병원의 한 관계자는 "AI와 같은 첨단 기술을 활용하는 CDSS(임상의사결정지원시스템)이 국내외 대형 병원에 널리 확산되기 시작할 정도로 의료 기술의 자동화가 본격화된 상황"이라며 "그만큼 시스템 보안이 환자의 생명과 직결될 정도로 중요해 졌다"고 설명했다.
특히 영상의학의 경우 AI가 사람보다도 높은 정확도를 나타낸다는 사실이 다양한 실험을 통해 입증되면서 국내외 대형 병원에서 이를 채용하는 경우가 늘고 있다. 실제 해외 연구기관의 실험에서 영상의학 분야에서 AI의 신뢰도가 사람보다 높은 97%를 넘나들고 있다. 업계에서는 앞으로 AI가 환자의 영상을 분석하고 의사의 판단을 지원하는 시스템이 일반화될 것으로 전망하고 있다.
국내 병원 측에서는 현재 대다수의 병원이 외부의 접근이 어려운 내부 네트워크를 사용하고 있으며, 내부에서 병원 시스템을 악성 코드에 감염시키지 않는 이상 이같은 우려는 기우라는 입장이다.
하지만 향후 원격 진료나 의료 데이터의 빅데이터 분석을 위한 클라우드 등 첨단 기술이 도입될 경우를 대비해 철저한 보안 솔루션이 필요하다는 목소리가 나온다. 특히 대다수의 병원은 환자의 영상의료 데이터에 대부분 별도의 암호화 솔루션이 적용하지 않고 있다.
국내 AI 전문가들도 이같은 딥러닝 기반의 악성코드가 유포될 경우 심각한 재난 상황이 초래될 것이라고 경고한 바 있다.
지난 2월 윤성로 서울대 전기정보공학부 교수는 조선비즈와 인터뷰에서 "AI를 활용한 악성 코드로 병원의 환자 기록이나 영상, 이미지 등을 조작해 의사들을 속이는 방식의 테러에 대한 우려가 커지고 있다"며 "이같은 공격이 조직화되고 광범위하게 일어날 경우 재난 상황을 초래할 수도 있다"고 경고한 바 있다.