인공지능(AI) 솔루션이 국내 사이버보안 업계에 새로운 변화를 이끌고 있다. 사람이 공격하고 사람이 방어하는 사이버보안 시스템이 AI로 대체되면서 사이버보안 서비스의 패러다임이 바뀌고 있는 것이다. AI와 블록체인 기술을 결합한 AI 탈중앙화 솔루션 등 신기술 개발이 빨라지면서 AI 보안 기술도 다양해지고 있다.
10일 시장조사 업체 마켓앤마켓에 따르면 올해 전 세계 AI 보안시장은 224억달러(약 30조원)을 기록한 후 연평균 22% 성장해 오는 2028년 606억달러(약 80조원) 규모로 성장할 전망이다. AI 보안시장은 AI가 보안 공격을 막아내는 솔루션부터 영상을 분석해 외부인의 출입을 막고 비정상적인 개인정보 접근을 막는 물리 보안까지 다양하다.
AI 기술은 보안이 가장 취약한 이용자 사용 단계 솔루션에 적극 도입되는 추세다. 바이러스 방지 프로그램과 방화벽에 AI를 접목해 위협을 탐지하고, 비정상적인 접근을 막는 식이다. AI가 개인정보 탐지 솔루션으로 주목받고 있는 것도 이런 이유 때문이다.
AI 보안기술이 고도화되는 만큼 AI를 활용한 사이버공격도 다양해지고 있다. 발전된 형태의 AI 챗봇인 챗GPT를 통해 더 교묘한 피싱 이메일을 보내고, 잘 설계된 AI 해커가 디도스(DDos) 등 사이버 공격을 하는 식이다. 전문가들은 AI 해커는 이미 활동하고 있으며, AI를 활용해 더 교묘하고 더 대담한 방식의 사이버 공격이 늘어날 것으로 보고 있다.
일반 사용자의 AI 솔루션 사용성이 개선되면서 AI를 사이버 범죄에 활용할 우려도 커지고 있다. AI의 생성 기능을 조합해 불법 웹사이트 제작을 맡기고, 프로그램 보약 취약점을 확인해 사이버 공격을 진행하는 식이다. 보안업계 관계자는 “챗GPT를 이용해 개인정보를 탈취하는 불법 피싱사이트를 만드는 등 위험 사례가 꾸준히 발견되고 있다”라며 “시간이 지날수록 기술 수준과 위험은 더 커질 수 있다”라고 했다.
챗GPT를 활용한 사이버 공격 양상도 다양해질 것으로 보인다. 사이버보안 업체 체크포인트는 지난달 보고서에서 “챗GPT를 활용해 악성코드를 만드는 사이버 범죄자들이 늘어나고 있다”라고 분석했다. 사이버보안업체 블랙베리가 보안 전문가 1500명을 대상으로 설문을 진행한 결과 응답자의 78%가 2년 내에 챗GP를 활용한 심각한 사이버 공격이 전 세계적으로 발생할 것이라고 전망했다.
국내 기업들은 AI를 활용한 지능형 해킹을 주요 보안 위협으로 제시하고 있다. 삼성SDS는 AI 기술을 기반으로 한 영상과 음성 합성 기술(딥페이크)로 만든 불법 파일이 신원 증명을 도용한 금융 범죄에도 이용되면서 피해 사례와 규모가 기하급수적으로 확대될 수 있다고 예상했다. 자율주행차, 커넥티드카 등 모빌리티 솔루션도 AI 해커의 공격 대상이 될 수 가능성이 높다. AI 해커가 모빌리티 솔루션을 공격할 경우 개인의 안전은 물론이고 도시 전체의 교통 인프라가 마비될 수 있다.
AI를 활용한 사이버 공격을 대비해 정부는 AI 보안에 대한 투자를 늘려가고 있다. 과기부와 한국인터넷진흥원(KISA)는 총 420억원을 투입해 오는 2025년까지 AI 보안 업체 100개를 발굴, 경쟁력을 갖춘 60개 업체를 집중 육성한다는 계획을 세웠다. 머신러닝, 딥러닝, 패턴 인식 기술 등을 활용한 보안 제품과 솔루션을 개발해 AI 해커 공격을 효과적으로 막겠다는 의지다.