엔비디아가 자체 개발한 경량 개방형(오픈소스) 인공지능(AI) 모델을 공개했다. 최근 개방형 AI에 대한 규제에 반대하는 서한을 주도한 데 이어 직접 모델 개발에도 속도를 내는 모습이다. 엔비디아는 매개변수(파라미터) 1조개 규모의 초대형 개방형 AI 모델도 개발하고 있는 것으로 전해졌다.
엔비디아는 11일(현지 시각) 300억개 파라미터 규모의 혼합전문가(MoE) 모델 '네모트론 3.5 라이트닝'을 공개했다.
네모트론 3.5 라이트닝은 기업이 별도의 라이선스 비용이나 사전 승인 없이 내려받아 사용할 수 있다. 모델의 가중치도 공개해 이용자가 목적에 맞게 수정할 수 있도록 했다.
엔비디아는 CNBC에 네모트론 3.5 라이트닝이 기존 대형 네모트론 모델을 '증류'해 크기를 줄이면서도 유사한 성능을 구현했다고 설명했다. 증류는 대형 AI 모델의 답변을 데이터로 활용해 더 작은 모델을 훈련하는 기법이다. 주요 AI 기업들이 경량 모델 개발에 활용해왔지만 최근 중국 AI 업체들이 미국의 첨단 AI 모델을 모방하는 데 활용했다는 의혹이 제기되면서 논란이 된 기술이기도 하다.
엔비디아에 따르면 네모트론 3.5 라이트닝은 동급 개방형 모델보다 토큰 생성 속도가 최대 4배 빠르고 AI 에이전트가 전체 작업을 완료하는 시간은 약 30% 짧다.
엔비디아는 이용자의 명령 난도와 요구사항을 분석해 적합한 AI 모델로 요청을 배분하는 개방형 도구 '네모 스위치야드'도 함께 공개했다. 엔비디아는 이를 활용하면 최고 성능 모델만 사용하는 것과 비슷한 정확도를 유지하면서 비용을 3분의 1 수준으로 줄일 수 있다고 설명했다.
초대형 AI 모델 개발도 진행하고 있다. 로이터통신은 정보기술(IT) 전문매체 디인포메이션을 인용해 엔비디아가 1조개 파라미터 규모의 차세대 모델 '네모트론4'를 개발하고 있다고 보도했다. 아직 훈련이 끝나지 않았고 출시 일정도 확정되지 않았지만 이르면 올해 늦가을 모델 개발이 완료될 것으로 전해졌다.
카리 브리스키 엔비디아 생성형AI 담당 부사장은 "안전과 안보를 강화하고 혁신을 촉진하기 위해서는 모든 기업과 국가가 접근할 수 있는 최첨단 개방형 모델이 필요하다고 믿기 때문에 네모트론에 투자하고 있다"고 밝혔다.
엔비디아가 개방형 AI 생태계 확대에 적극적인 배경에는 본업인 그래픽처리장치(GPU) 사업과의 이해관계도 있다. 오픈AI·앤트로픽·구글 등의 폐쇄형 모델과 달리 개방형 모델은 이용자가 직접 모델을 내려받아 자체 서버나 데이터센터에서 구동·수정할 수 있다. 개방형 AI 사용이 늘어날수록 모델을 학습하고 추론하는 데 필요한 AI 가속기 수요도 확대될 수 있다.
특정 AI 모델 사업자와 관계없이 AI 연산량 자체가 늘어나는 것이 엔비디아에는 유리한 셈이다. 젠슨 황 엔비디아 최고경영자(CEO)는 최근 미 온라인 매체 악시오스와의 인터뷰에서 "무료 AI는 하드웨어에도, 반도체에도, 데이터센터에도 좋을 수밖에 없다"고 말했다.