"아주 가까운 미래에는 인공지능(AI)을 활용한 사이버 공격이 실시간으로 이뤄질 것입니다. 현실적으로 이에 대응할 수 있는 유일한 방법은 AI로 AI에 맞서는 것입니다."
톰 스컬리 팔로알토 네트웍스 아시아·태평양 및 일본 지역 정부·핵심 기반 시설 부문 디렉터는 26일 서울 소공동 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 '스마트클라우드쇼 2026' 기조 강연에서 이같이 말했다.
스컬리 디렉터는 "보안팀이 공격을 찾아내 차단하고 피해가 발생하기 전에 복구할 수 있는 시간이 갈수록 짧아지고 있다"며 "이미 현실에서 공격자들은 AI를 활용해 공격의 속도와 규모, 정교함을 높이고 있다"고 말했다.
팔로알토 네트웍스의 위협 인텔리전스 조직 '유닛42(Unit 42)'에 따르면 기업의 주요 취약점이 공개된 뒤 공격자가 해당 취약점을 노려 대규모 스캔에 나서기까지 걸리는 시간은 15분에 불과하다. 특히 네트워크 침투에 성공한 사례 가운데 25%는 데이터 유출까지 72분밖에 걸리지 않았다.
공격자들은 이 과정에서 매 단계마다 AI를 활용 중이다. 정찰 단계에서는 공개 정보를 대규모로 수집·처리하고, 이전에 발견되지 않은 명령·제어(C2) 도메인이나 새로운 악성코드를 만든다. 침투한 뒤에는 AI를 활용해 탐지 가능성을 낮추면서 내부 이동 경로를 찾는 방식도 이뤄지고 있다.
AI를 활용해 기존 보안 체계의 탐지를 피하는 악성코드도 등장했다. 스컬리 디렉터는 실행할 때마다 새로운 악성코드를 생성하는 '블랙 맘바'를 대표적인 사례로 들었다. 블랙맘바는 사용자가 악성 파이썬 코드를 실행하면 AI를 이용해 메모리에서 새로운 악성코드를 만들어낸다. 새롭게 만들어진 악성코드는 기존에 등록된 특징(시그니처)이 없고 메모리에서 실행되기 때문에 기존 엔드포인트 보안 솔루션으로 탐지하기가 어렵다.
기업들이 보안 문제가 생길 때마다 개별 솔루션을 추가하면서 보안 체계가 지나치게 복잡해졌다는 점도 문제로 지적됐다. 스컬리 디렉터에 따르면 기업들은 평균 83개의 보안 도구를 운용하고 있다. 각각의 도구를 설치·연동하고 담당자가 여러 시스템에서 발생하는 데이터를 취합해 판단해야 하는 구조로는 AI가 수행하는 고속 공격에 대응하기 어렵다.
스컬리 디렉터는 이를 해결하기 위한 방법으로 '플랫폼화'를 제시했다. 여러 보안 도구에서 발생하는 데이터를 하나의 플랫폼에 모으고 AI와 머신러닝을 적용해 탐지와 분석, 대응까지 자동화하는 방식이다.
팔로알토 네트웍스도 자체 보안 운영 센터(SOC)에 이 같은 방식을 적용하고 있다. 스컬리 디렉터에 따르면 팔로알토 네트웍스 SOC는 하루 900억건에 달하는 보안 이벤트를 AI와 ML을 통해 2만6000건의 탐지 결과로 압축하고, 이를 다시 평균 75건의 대응 사례로 추린다.
스컬리 디렉터는 "이 가운데 65건만이 사람이 최종 판단을 내리는 부분 자동화 방식을 거치며, 실제 보안 분석가가 직접 처리해야 하는 사고는 한 건 수준"이라며 "팔로알토 네트웍스 SOC는 평균 탐지 시간과 대응 시간을 각각 7분, 1분으로 줄였다"고 했다.
다만 AI 에이전트가 보안을 담당하면서 생겨나는 문제도 있다. AI 에이전트가 기업 시스템에 직접 접근해 사용자를 대신해 행동하는 만큼 과도한 권한이 부여될 경우 이를 악용할 가능성이 있다.
이에 대한 대응책으로 AI 에이전트에 필요한 최소한의 권한만 일시적으로 부여하는 방식을 제시했다. 스컬리 디렉터는 "에이전트가 수행해야 할 의도와 작업을 정한 뒤 해당 작업에 필요한 시스템과 데이터에만 접근할 수 있도록 권한을 부여해야 한다"며 "작업이 끝나면 해당 권한도 종료되도록 하는 방식"이라고 설명했다.