아이티센그룹이 기업과 공공기관의 생성형 인공지능(AI) 도입과 에이전트 생태계 구축을 지원하는 AI 가드레일 통합 보안 솔루션 '에이전트고 가드'를 출시했다고 1일 밝혔다.
에이전트고 가드는 프롬프트 인젝션과 민감 정보 유출, 탈옥 시도 등 생성형 AI와 AI 에이전트에서 발생할 수 있는 보안 위협을 통제하는 솔루션이다. 독립형 플랫폼으로 개발돼 아이티센그룹의 멀티 AI 에이전트 관리 플랫폼 '에이전트고 2026'뿐 아니라 기업이 기존에 구축한 AI 에이전트와 검색 증강 생성(RAG) 환경에도 연동할 수 있다.
에이전트고 가드는 다층 방어 및 적대적 공격 방어 체계를 갖췄다. 금칙어 및 정규식 필터링부터 자연어 기반 문맥 분석, 대형 언어 모델(LLM) 기반 가드레일까지 다단계 탐지 체계를 구동하며, 대화를 여러 차례 반복하며 점진적으로 방어망을 무력화하는 '에코 챔버' 공격 및 지능적인 우회·탈옥 시도를 세션 단위에서 실시간으로 식별하고 차단할 수 있다.
또한 정보 유출 방지(DLP) 기능도 탑재했다. 금융결제원 CMS 계좌번호 체계(17종)와 국토교통부 차량 번호 정규식을 지원하며, 한국정보통신기술협회(TTA) 대분류(15종), 미 국립표준기술연구소(NIST), EU 일반개인정보보호법(GDPR) 기준을 준수하는 자연어 처리 모델을 통해 한국인 이름, 주소, 주민등록번호 등 민감 정보를 비식별화(마스킹) 처리할 수 있다.
기업이 보안 정책을 적용하기 전 사전 시뮬레이터를 통해 보안 정책과 공격 시나리오를 가상의 샌드박스에서 미리 검증할 수 있다. 이를 통해 과도한 차단으로 인한 사용자 불편(오탐)과 보안 구멍(미탐) 사이의 최적 정책 수치를 사전에 정밀하게 조율할 수 있다.
모든 호출 기록은 'AES-256′ 암호화와 크로스사이트스크립팅(XSS) 방지 처리를 거쳐 저장된다. 관리자가 로그를 열람할 때 사유를 입력하도록 해 감사 추적 기능도 강화했다. 이상 징후가 설정된 임계치를 넘으면 담당자에게 이메일로 알린다.
에이전트고 가드는 클라우드와 같은 퍼블릭 망은 물론, 폐쇄망 내 도커 및 쿠버네티스 환경에서도 배포·구동된다. 타사 에이전트 플랫폼과도 연동돼 이미 AI 에이전트를 운영 중인 기업도 별도의 시스템 개편 없이 보안 계층을 추가할 수 있다.
정승모 아이티센글로벌 AI이노베이션센터장은 "에이전트고 가드는 AI의 비윤리적·혐오적 표현, 프롬프트 인젝션, 기밀 유출, 환각 현상으로 인한 거짓 정보를 사전에 통제하는 엔터프라이즈 AI의 핵심 방어선"이라며 "기업들이 리스크 없이 안전하게 AI 생산성을 극대화할 수 있도록 적극 지원할 것"이라고 밝혔다.