KAIST는 인공지능반도체대학원 유회준 교수 연구팀이 외부 서버를 거치지 않고 스마트폰 같은 기기 내부에서 학습과 추론을 동시에 처리하는 초개인화 인공지능(AI) 반도체를 개발했다고 17일 발표했다.
'소울메이트(SoulMate)'로 명명된 이 반도체는 과거 대화 이력을 불러와 맞춤형 답변을 만드는 검색증강생성(RAG)과, 사용자 피드백을 받아 모델을 조금씩 바꾸는 로우랭크 미세조정(LoRA)을 반도체 안에 직접 구현했다. 사용자의 기억과 경험을 반영해 답하고, 대화 도중 받은 반응까지 곧바로 학습하는 구조다.
소울메이트는 모든 연산과 학습을 기기 안에서 처리해 외부 서버로 개인 정보를 보내지 않는다. 답변 시간도 216.4밀리초(ms) 정도로 빠르다.
연구팀은 스마트폰은 물론이고 스마트워치, 차량용 AI, 반려 로봇 같은 개인형 AI 기기로 확장될 수 있을 것으로 보고 있다. 유회준 교수는 "프라이버시를 지키면서도 나를 잘 이해하는 '베프(Best Friend)' 같은 존재가 될 것"이라고 했다.