인공지능(AI) 모델 경량화·최적화 기술 기업 노타는 AI 에듀테크 기업 유탑소프트와 손잡고 '온디바이스(내장형) AI 튜터' 개발에 나선다.
노타는 지난 18일 서울 삼성동에서 유탑소프트와 '온디바이스 AI 기반 교육 서비스 사업 협력'을 위한 양해각서(MOU)를 체결했다고 19일 밝혔다. 양사는 유탑소프트가 보유한 교육 업체를 위한 AI 튜터 개발 역량과 노타의 AI 경량화 기술을 결합해 교육 전용 기기(태블릿 등)에 최적화된 생성형 AI 기반 AI 튜터 서비스를 상용화한다는 계획이다.
양사가 구상 중인 '온디바이스 AI 튜터'는 외부 서버(클라우드)를 거치지 않고 태블릿 기기 자체에서 AI 튜터가 구동되는 방식을 기본으로 한다. 다만 추론의 결과가 많이 필요한 경우에 한해 외부 서버와 연동하는 하이브리드 방식을 검토 중이다.
향후 협력이 구체화되면 유탑소프트는 우선적으로 영어 스피킹 특화 AI 튜터 모델과 대규모언어모델(LLM) 기반 문제은행 특화 AI 튜터 모델의 기획과 개발을 주도할 방침이다. 노타는 자사의 핵심 기술인 AI 모델 최적화 플랫폼 넷츠프레소(NetsPresso)를 활용해 데이터기반 파인튜닝과 해당 AI 튜터 모델을 태블릿 등의 하드웨어 성능에 맞춰 압축하고 최적화하는 작업을 도맡게 된다.
채명수 노타 대표는 "교육 업체를 위한 AI 서비스 모델 경량화는 하드웨어 제약이 많은 모바일 교육 환경에서 필수적인 기술"이라며 "실제 교육 현장에서 의미 있는 혁신 사례를 만들 수 있도록 적극 지원하겠다"고 말했다.