글로벌 음성 인공지능(AI) 기업 일레븐랩스(ElevenLabs)는 AI 리스크 평가 전문 기업인 AIUC와 손잡고 AI 음성 에이전트 전용 종합 보험 제도를 선보인다고 18일 밝혔다.
일레븐랩스의 AI 에이전트인 '일레븐에이전트(ElevenAgents)'가 기업의 고객 상담이나 영업 현장에서 잘못된 정보를 제공하거나 부적절한 대응을 했을 때 발생하는 손해를 보상해주는 제도다. 회사 측은 "AI를 단순한 도구가 아니라 자신의 결정과 행동에 책임을 지는 '디지털 직원'으로 인정한다는 점에서 의미가 크다"고 했다.
그동안 기업들은 AI의 오류나 환각 현상에 따른 법적 책임 문제 때문에 AI 에이전트 도입을 망설였는데, 이번 보험 제도는 이런 불확실성을 줄여준다는 게 일레븐랩스 측의 설명이다.
일레븐랩스의 AI 에이전트는 AIUC가 개발한 엄격한 보안 표준인 AIUC-1 보안·신뢰성 인증을 세계 최초로 획득했다. AI 시스템에서 발생할 수 있는 실패 사례를 토대로 한 5000건 이상의 고강도 적대적 시뮬레이션 테스트를 통과했다는 의미다.
마티 스타니셰프스키 일레븐랩스 최고경영자(CEO)는 "기업의 AI 에이전트 도입은 빠르게 확대되고 있으며, AIUC-1 인증은 기업이 자신 있게 대규모로 AI를 도입하기 위한 중요한 단계"라며 "이번 인증은 협력사가 필요로 하는 보안 프레임워크와 AI 보험 보장을 제공하며, 기업이 위험을 최소화하면서도 뛰어난 고객 경험 구축에 집중할 수 있도록 하는 새로운 수단이 될 것"이라고 말했다.