셀렉트스타는 오는 3월 열리는 세계 최대 모바일 전시회 'MWC(모바일 월드 콩그레스) 2025'에서 GSMA(세계이동통신사업자연합회)와 함께 '글로벌 AI 레드팀 챌린지'를 개최한다고 25일 밝혔다.
셀렉트스타와 GSMA가 개최하는 '글로벌 AI 레드팀 챌린지'는 3월 5일 오후 12시 30분부터 2시 30분까지(현지 시각) 스페인 바르셀로나 Fira Gran Via Hall 6에서 진행된다. 이번 행사는 글로벌을 대상으로 한 첫 오프라인 AI 레드팀 챌린지라는 점에서 중요한 의미를 갖는다. 앞서 국가 단위로 열린 적은 있지만 다국적의 참가자와 LLM이 투입되는 글로벌 AI 레드팀 챌린지는 이번이 처음이다.
'AI 레드팀 챌린지'는 AI가 점점 더 복잡한 의사결정 구조를 가지면서 안전성∙신뢰성∙보안 강화 방법을 모색하고자 진행되는 행사이다. 참가자들은 실제 서비스 중인 LLM(대형언어모델)에 모의 프롬프트 공격을 수행하며 유해하거나 차별적 결과, 시스템 오용 등 결함·취약성을 찾아내고 검증한다.
셀렉트스타는 공동 주최사로 레드팀 플랫폼 운영, 문제 출제 및 응답 검수 등 핵심 역할을 수행하며, AI 레드팀 분야에서 쌓아온 노하우와 기술력을 선보일 예정이다. 본 대회에는 한국의 LG유플러스가 LG AI연구원의 엑사원을 기반으로 자체 제작한 소형 언어모델(sLLM)인 익시젠(ixi-GEN powered by EXAONE)을 비롯해 아랍에미리트의 TelecomGPT, 말레이시아의 AIngineer 등 유수의 글로벌 AI 기업들이 개발한 LLM을 출제 모델로 선보일 예정이다.
또 GSMA와 아랍에미리트 국영 통신사 E&, 대한민국 과학기술정보통신부, 대한민국 인공지능 안전연구소 등 글로벌 AI 및 통신 업계를 대표하는 기업과 기관들이 후원사로 함께한다.
셀렉트스타는 지난해 4월 국내 최초이자 최대 규모로 개최된 '생성형 AI 레드팀 챌린지'에서 대표 파트너사로 참여한 바 있다. 과학기술정보통신부가 주최하고 네이버클라우드, SK텔레콤, 업스테이지, 포티투마루 등 국내 대표 AI 기업의 모델 4종을 대상으로 700여명이 참가하며 성황리에 종료했다. 국내에 이어 '글로벌 AI 레드팀 챌린지' 파트너로 GSMA와 손잡으며 글로벌 시장에서 기술력을 입증한다.
황민영 셀렉트스타 부대표는 "셀렉트스타가 GSMA와 함께 글로벌 레드팀 챌린지를 개최하면서 글로벌 수준의 AI 레드팀 기술과 신뢰성 검증 기술을 보유하고 있다는 것을 인정받았다"라며 "이번 행사를 계기로 셀렉트스타의 AI 신뢰성 평가 솔루션을 세계 무대에 선보이고, 글로벌 AI 기업과 협력을 강화해 나갈 계획"이라고 밝혔다.
셀렉트스타는 'MWC 2025'에서 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 'DATUMO Eval(다투모 이밸)'을 글로벌 시장에 본격적으로 선보인다. 'DATUMO Eval'은 AI 서비스 운영 중 발생할 가능한 오류와 위험성을 사전에 식별 및 대응할 수 있도록 지원하는 AI 신뢰성 검증 솔루션이다. 도메인 맞춤형 평가용 질문은 대량으로 생성하며, AI가 생성한 대답을 수치화하여 분석하는 등 검증 자동화 프로세스를 제공한다.