인공지능(AI) 반도체 기업 리벨리온이 경상남도와 울산광역시의 폐쇄회로(CC)TV 관제센터에 서버형 신경망처리장치(NPU)를 공급한다.
리벨리온은 과학기술정보통신부와 한국지능정보사회진흥원(NIA)이 추진하는 '국산 NPU 기반 공공 AI CCTV 전환' 사업에서 경남도청과 울산시의 서버 인프라 사업을 수주했다고 3일 밝혔다. 이달부터 고성능 서버형 NPU '아톰맥스(ATOM-Max)'를 납품한다.
이번 AI CCTV 관제 체계는 카메라 등 현장 장비에서 사람이나 차량 같은 객체를 1차로 감지한 뒤, 관제센터 서버에서 영상을 다시 분석하는 구조다. 서버는 화재나 범죄 등 상황을 판단하고 분석 결과의 신뢰도와 한국어 설명을 생성한다.
아톰맥스 서버는 관제센터에서 30B급 이상의 대형 영상언어모델(VLM)을 구동한다. VLM은 영상과 문자를 함께 처리해 화면 속 상황을 분석하는 AI 모델이다.
리벨리온 측은 "대형 VLM이 많은 메모리와 연산 성능을 요구하기 때문에 소형 엣지 반도체만으로는 여러 영상을 동시에 정밀 분석하는 데 한계가 있다"며 "아톰맥스는 돌발 상황이 동시에 발생했을 때 여러 영상을 병렬 처리하고, 외부 인터넷과 분리된 폐쇄망에서도 작동할 수 있다"고 전했다.
대규모언어모델(LLM) 추론용 소프트웨어인 'vLLM'도 지원한다. 공공기관이 기존 AI 개발 환경을 크게 바꾸지 않고 리벨리온 NPU를 적용할 수 있도록 한 것이다. 새로운 AI 모델을 교체하거나 배포하는 기능도 제공한다.
리벨리온은 최근 자사 AI 서버 '리벨서버' 한 대에서 SK텔레콤의 초거대 AI 모델 '에이닷엑스 케이원(A.X K1)'을 구동했다. 이 모델은 5000억개 이상의 매개변수를 갖춘 전문가혼합(Mixture of Experts·MoE) 구조로, 리벨리온은 연산을 여러 NPU에 나눠 처리하는 방식으로 다수 사용자의 요청을 동시에 처리했다고 설명했다.
박성현 리벨리온 대표는 "국산 초거대 AI 모델 실증에 이어 공공 안전 현장에 서버형 NPU를 적용하게 됐다"며 "국산 AI 반도체가 실증을 넘어 국민 안전을 위한 인프라로 활용될 수 있도록 하겠다"고 말했다.