“인공지능(AI) 모델을 활용해 랜섬웨어까지 제작해 유포할 수 있다는 우려가 지속해서 제기되고 있다. AI를 활용해 사이버 공격까지 할 수 있다는 의미다. 북한이 위협하고 있는 한국도 AI 위협을 예방하고, 실제로 공격이 이뤄졌을 때 즉시 복구할 수 있는 대책을 조속히 마련해야 한다.”
임종인 대통령비서실 사이버특별보좌관은 20일 서울 중구 웨스틴조선호텔에서 열린 ‘2024 사이버보안콘퍼런스’에 참석해 ‘AI 위협과 기회’를 주제로 한 강연에서 이같이 말했다.
임 보좌관은 “AI가 급속하게 발전하고 파급력이 커지면서 촉발하는 위협 역시 주요한 고려 요소로 부상하고 있다”며 “AI를 활용한 해킹이 연구되고 있고 AI 모델에 백도어와 트로이 목마를 심어 검색 결과를 조작하는 기술도 나오고 있다”고 말했다.
임 보좌관은 또 “현재 탈옥(Jailbreak)’ 기술 등을 통해 AI가 부적절한 검색 결과를 만들도록 유도하는 기술도 개발되고 있다”며 “딥페이크 기술을 사용해 고위 인사를 사칭한 영상을 만들거나 신원을 도용해 계좌 등에 접근하는 사례도 늘고 있다”고 설명했다.
임 보좌관은 이 같은 추세가 사이버 전쟁으로도 확대될 수 있다고 우려하고 있다. 그는 “2021년에는 미국의 대규모 송유관인 ‘콜로니얼 파이프라인’의 시스템이 랜섬웨어의 공격을 받아, 일부 지역에 대한 연료 공급에 차질이 생기기도 했고 최근 러시아-우크라이나 전쟁에서도 사이버 전쟁이 활발하게 진행되고 있다”고 말했다.
임 보좌관은 이어 “현재 바이든 미국 대통령도 안전하고 신뢰할 수 있는 AI 개발을 위한 방향성을 정책적으로 규정해 둔 상황이다”라며 “AI를 활용해 미국 공공기관 보안의 취약점을 찾기 위한 ‘사이버챌린지’ 프로그램도 운영 중이다”라고 덧붙였다.
임 보좌관은 “우리나라도 AI 위협에 대한 대비책을 마련하는 동시에, 실제로 공격받았을 때 즉시 회복할 수 있는 체계를 만들어야 한다”며 “미국을 비롯한 우방국과의 보안 협력도 강화해야 한다”고 설명했다.