"앤트로픽의 미토스 같은 인공지능(AI) 기반 취약점 탐지·공격 도구의 등장으로 내년에는 전 세계 보안 취약점이 10만개를 넘어설 것으로 전망한다."
데릭 맨키 포티넷 위협 인텔리전스 부문 부사장은 28일 서울 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 열린 '포티넷 액셀러레이트 2026'에서 이같이 말했다. 그는 "지난해 전 세계적으로 4만개의 CVE(공통 취약점 및 노출)가 발견됐는데 이는 역대 최대 수준"이라며 "미토스와 같은 자동화된 취약점 발견 및 공격 설계 도구의 등장으로 1년 뒤에는 CVE가 10만개를 넘어설 것으로 보인다"고 말했다.
AI 기업 앤트로픽이 이달 초 공개한 '클로드 미토스 프리뷰'는 소프트웨어의 보안 취약점을 찾아내고 악용하는 능력이 뛰어난 AI 모델이다. 현재는 일부 기업에만 제한적으로 접근권을 제공했지만, 미토스가 대중화될 경우 CVE가 급증할 것으로 예상된다는 설명이다.
맨키 부사장은 해커들이 AI를 무기화하면서 사이버 보안 지형이 전례 없이 빠른 속도로 변하고 있다고 평가했다. 그는 "전 세계 사이버 범죄 산업은 11조달러(약 1경6200조원) 규모로, 국가 국내총생산(GDP) 기준으로 보면 미국과 중국에 이어 세 번째로 크다"라며 "공격자의 활동 범위와 공격 표면이 그야말로 폭발적으로 증가하는 상황"이라고 했다.
그는 현재 사이버 위협 환경에서 주목할 만한 현상으로 사이버 범죄의 산업화와 AI 시스템에 대한 공격 확산을 꼽았다. 맨키 부사장은 "다크 웹에서는 다양한 CaaS(서비스형 사이버 범죄)가 비교적 저렴한 가격에 제공되면서 일명 '사이버 범죄의 상품화' 현상이 두드러지고 있다"고 말했다.
AI 모델 GPT를 활용해 만든 '웜GPT'와 '프로드GPT' 등이 대표적이다. 맨키 부사장은 "이들 서비스는 1000달러(약 147만원) 이하의 구독료를 내면 사용할 수 있어 사이버 범죄의 진입장벽을 낮추고 있다"고 했다.
챗봇 형태의 사이버 범죄 컨설팅 도구도 쏟아지고 있다. 공격자는 챗GPT나 제미나이와 대화하듯 채팅창에 질문과 요청 사항을 입력해 필요한 정보를 얻을 수 있다. 맨키 부사장은 "이런 거대언어모델(LLM)은 다크 웹에서 사이버 범죄자들이 나눈 대화를 포함한 데이터를 기반으로 학습된 모델"이라며 "공격자가 'A 기업의 최고재무책임자(CFO)를 대상으로 BEC(비즈니스 이메일 침해) 공격을 수행하려고 하는데 가장 좋은 방법이 무엇인가?'라고 질문하면 사용할 수 있는 범죄 서비스나 공격 도구 등 구체적인 방법을 1분 내로 제시한다"고 설명했다.
특히 사이버 공격 서비스에 AI 기술이 접목되면서 비용은 낮아지고 공격 주기는 점차 짧아지는 추세다. 맨키 부사장은 "취약점 발견부터 실제 공격에 따른 피해 발생까지 걸리는 시간(TTE)은 2년 전 5일에서 오늘날 24~48시간으로 단축됐다"며 "이 속도는 계속 빨라지고 있어 1년 뒤에는 24시간 이내에서 수분 단위로 줄어들 것으로 예상된다"고 했다.
AI 기반 공격 자동화로 취약점이 발견되는 즉시 공격과 피해로 이어지는 환경이 형성되고 있어, 이에 대응할 보안 체계가 필요해졌다는 의미다. 그는 "예전에는 랜섬웨어 공격자가 하나의 목표만 노렸다면, 이제는 10개의 공격을 동시에 실행할 수 있다"라며 "저렴한 비용으로 사용할 수 있는 도구가 많아진 데다, 주요 사이버 공격 조직간 연합도 활발해졌기 때문"이라고 했다.
기존 소프트웨어나 IT 인프라를 넘어 AI 시스템 자체도 새로운 공격 표면으로 부상하고 있다. 맨키 부사장은 "기존 공격 표면에 더해 AI 시스템이라는 새로운 공격 표면이 등장해 AI 보안은 선택이 아닌 필수가 됐다"며 "AI 기반 공격에 따른 데이터 유출의 피해 규모는 기업당 평균 490만달러(약 72억원)에 달한다"고 했다. 사이버 공격이 점점 더 정교해지고 특정 목표를 겨냥하는 형태로 발전하고 있기 때문이다.
이런 공격 기법은 AI 에이전트의 도입으로 더 고도화될 것이라고 맨키 부사장은 전망했다. 그는 "공격자들이 AI 모델을 공격하기 위해 사용하는 방법은 모델 오염, 모델 탈취, 모델 역추론 등으로 점차 늘어나고 있다"며 "1년 뒤에는 스스로 확산하는 AI 기반 악성코드인 에이전트 기반 웜(agent-based worms)이 등장하고, 약 2년 후에는 더 발전된 형태인 에이전트 스웜(agentic swarms)이 등장할 것으로 예상한다"고 했다.