인공지능(AI)이 스스로 물리 법칙을 배우는 시대, 국내 연구진이 그 학습법을 더 안정적이고 똑똑하게 만들었다.
광주과학기술원(GIST) 황의석 전기전자컴퓨터공학과 교수 연구팀은 물리 법칙을 계산하는 AI가 학습 도중 불안정하게 흔들리는 문제를 해결하는 새로운 기술을 개발했다고 20일 밝혔다.
연구팀이 개발한 '적응형 샘플링 기법(Langevin Adaptive Sampling, LAS)'은 편미분방정식(PDE)을 푸는 AI 모델인 물리정보 신경망(PINN)이 안정적으로 학습하도록 돕는다. 이 연구 성과는 인공지능 분야 최고 권위 학술대회인 뉴립스(NeurIPS)에서 전체 제출 논문 중 상위 약 3.5%에 해당하는 스포트라이트(Spotlight) 논문으로 선정됐다. 논문은 지난달 18일 게재 승인을 받았으며, 오는 12월 미국 샌디에이고에서 발표될 예정이다.
편미분방정식은 시간과 공간에 따라 변하는 온도, 압력, 유체의 흐름, 전자기장 등 다양한 물리 현상을 수학으로 표현한 식이다. 물리정보 신경망은 이런 방정식을 AI가 대신 풀도록 만든 기술로, 단순히 데이터를 외우는 대신 물리 법칙을 학습 과정에 직접 반영해 계산 효율을 높이고 데이터 수집 비용을 줄일 수 있다.
하지만 기존 방식에는 한계가 있었다. 학습 중 특정 구간에서 잔차(residual)가 커지면 AI가 그 구간에만 몰두해 학습이 한쪽으로 치우치는 문제가 생겼다. 학습 속도를 조금만 바꿔도 결과가 크게 달라질 만큼 불안정했다. 잔차는 AI가 예측한 값과 실제 조건이 맞지 않는 정도, 즉 오차를 의미한다.
연구진은 AI가 계산 중 어려운 부분에서 길을 잃지 않도록 입자의 움직임을 흉내 낸 학습법을 적용했다. 바로 랑주뱅 동역학(Langevin dynamics)이라는 물리 모델이다. 입자가 무작위로 움직이지만, 중요한 곳은 더 자주 지나듯, AI도 오차가 큰 구간이나 복잡한 조건이 있는 부분을 집중적으로 탐색하며 학습하도록 설계한 것이다.
또 AI가 오차가 큰 부분만 '집착'하지 않도록, 오차가 어떻게 변하는지도 함께 살피게 만들었다. 즉 단순히 '얼마나 틀렸는지'가 아니라 '어디로 가야 덜 틀릴지'를 함께 판단하는 것이다. 여기에 약간의 무작위 움직임을 섞어, AI가 불안정하게 튀는 구간 대신 완만하고 안정적인 구간을 중심으로 학습하도록 했다.
그 결과, LAS는 기존 방식보다 오차를 크게 줄일 수 있었다. 학습 속도나 신경망 구조가 달라져도 일관적인 결과를 도출했다. 특히 기존 기법이 실패한 4~8차원 고차원 열전달 문제도 LAS는 끝까지 안정적으로 답을 찾아냈다. 또한 계산 효율도 뛰어나, 기존 방법과 비슷한 비용으로 더 빠르고 정확한 결과를 얻을 수 있었다.
황 교수는 "이번 연구는 복잡한 모델에서도 안정적인 학습을 가능하게 하면서 계산 비용을 줄일 수 있는 방법을 제시했다"며 "제조, 에너지, 환경, 기후 등 산업 전반에서 신뢰성 높은 AI 해법을 제공할 수 있을 것"이라고 말했다.