대형 서버에 의존하던 고성능 인공지능(AI)을 스마트폰에서도 구현할 길이 열렸다.
노준석 포스텍 기계공학과·화학공학과·전자전기공학과·융합대학원 교수 연구진이 성능은 유지하면서 AI 연산량을 99% 이상 줄이는 기술을 개발했다고 7일 밝혔다. 이번 연구는 중국 칭화대 선전 국제대학원, 하얼빈공대, 홍콩시티대 연구진과 공동으로 수행됐으며, 국제 학술지 '네이처 커뮤니케이션즈'에 지난 3월 게재됐다.
연구진이 주목한 것은 '복소값 신경망'이다. 일반적인 AI가 주로 숫자의 크기 정보를 다룬다면, 복소값 신경망은 신호가 언제 도달했는지를 나타내는 위상 정보까지 함께 처리할 수 있다. 이 때문에 홀로그램, 무선통신, 레이더 영상 분석처럼 정밀한 신호 처리가 필요한 분야에서 활용 가능성이 크다.
다만 복소값 신경망은 계산량이 많아 소형 기기에서 쓰기 어렵다는 한계가 있었다. 기존 AI 경량화 기술인 양자화도 주로 일반 신경망을 기준으로 설계돼, 복소값 신경망에 적용하면 위상 정보가 흐트러지고 성능이 떨어지는 문제가 있었다.
연구진은 이를 해결하기 위해 복소수를 이루는 실수부와 허수부를 따로 압축하지 않고 함께 고려하는 '공동 양자화' 기법을 개발했다. 여기에 중요한 부분은 높은 정밀도로 유지하고, 덜 중요한 부분은 낮은 정밀도로 처리하는 적응형 혼합 정밀도 학습 전략을 더했다.
실험 결과, 홀로그램 생성 분야에서 기존 최첨단 모델인 홀로넷 대비 연산량은 99.1%, 메모리 사용량은 99.8% 줄었다. 영상 품질을 나타내는 PSNR 지표는 약 4dB 향상됐다. 음성·무선 신호 분류와 레이더 표적 인식에서도 연산량을 85% 이상 줄이면서 정확도는 유지했다.
스마트폰 실행 실험에서는 기존보다 최대 389배 빠른 속도를 기록했다. 연구진은 이번 기술이 경량 증강현실(AR)·가상현실(VR) 홀로그램, 자율주행차 레이더, 차세대 통신망, 휴대형 의료기기 등 실시간 신호 처리가 필요한 분야에 활용될 수 있을 것으로 보고 있다.
노준석 교수는 "대형 서버에서만 가능했던 고성능 물리 연산 AI를 스마트폰이나 소형 기기 안으로 가져올 수 있는 가능성을 확인했다"며 "전자기학, 열역학, 양자물리 등 계산 부담이 큰 분야에서 경량 AI 활용 기반이 될 것"이라고 말했다.
참고 자료
Nature Communications(2026), DOI: https://doi.org/10.1038/s41467-026-70319-0