이성환 고려대 교수팀, 실제 뉴런 연결 방식대로 학습하는 AI 개발
'진화 가능한 신경망 단위(ENU)' 구현해 네이처 자매지 표지논문
"주어진 문제 대응 알고리즘 직접 짜야 하는 머신러닝보다 우수"

고려대 연구팀의 성과가 표지논문으로 소개된 ‘네이처 머신 인텔리전스’.

국내 연구진이 뇌 속 뉴런(신경계의 기본단위)의 진화를 흉내내 필요한 알고리즘을 스스로 짤 수 있는 인공지능(AI)을 개발했다. 기존 머신러닝(기계학습) 방식 AI보다 뇌를 한층 더 모방해냈다는 평가다.

고려대학교는 이성환 인공지능학과 교수 연구팀이 뉴런의 진화 방식을 통해 학습하는 ‘진화 가능한 신경망 단위(ENU)’ 방식 AI를 개발했다고 11일 밝혔다. 연구성과는 이날 국제학술지 ‘네이처 머신 인텔리전스(Nature Machine Intelligence)’ 표지논문으로 실렸다.

머신러닝은 정보를 기억하고 학습해서 비슷한 새로운 문제를 해결하는 뇌의 일부 기능을 모방한 AI 학습방식이다. 가령 같은 동물 이미지별로 분류하는 문제가 주어질 경우, 머신러닝으로는 AI가 수많은 이미지 데이터를 접한 후 공통된 눈·코·입 특성을 갖는 이미지끼리 학습한다. 이때 눈·코·입의 공통점을 분석하는 알고리즘은 사람이 직접 짜줘야 한다. 이미지 분류가 아닌 다른 문제가 주어질 경우에는 그에 맞는 또다른 알고리즘이 필요하다.

실제 뉴런(왼쪽)과 이를 모방한 ENU.

이 교수는 "실제 뇌는 이런 방식으로 작동하지 않는다"며 "뇌와 더 닮은 AI를 통해 더 복잡한 문제들을 해결할 수 있도록 뉴런의 진화 방식에 주목했다"고 설명했다. 뇌 속 뉴런은 소수의 세포들로 이뤄져 신경계에 정보를 전달하고 적절한 명령을 내리며 명령에 맞는 행동을 하도록 근육 세포 등을 자극한다. 감각을 받아들이는 감각뉴런, 정보를 처리하는 중간뉴런, 처리된 정보에 맞게 행동하는 운동뉴런으로 구성된다. 뉴런들은 시간이 흐름에 따라 사람이 놓인 외부 환경과 문제들에 적응하기 때문에 뇌 속 뉴런들의 구성과 연결방식은 달라진다. 이처럼 적응에 따른 변화를 뉴런의 진화라고 한다.

연구팀은 가상 환경에서 감각뉴런, 중간뉴런, 운동뉴런 역할을 모방하고 진화도 가능한 신경망 단위, 즉 ENU를 구현했다. 각각의 ENU들은 주어진 문제를 해결할 수 있도록 자신들의 수와 구성, 연결관계를 스스로 정한다. 사람이 짜던 알고리즘을 AI 스스로 짜는 셈이다.

진화 가능한 신경망 단위(ENU) 네트워크 개념도.

연구팀은 ENU 방식 AI에게 길 찾기 문제를 냈다. 가상공간의 T자형 미로 속에 갇힌 가상의 쥐는 AI를 통해 판단하고 행동할 수 있다. T자형 미로 양끝에는 각각 색깔로 구분된 치즈(녹색)와 독약(빨간색)이 있어서, 쥐는 색깔을 감지해 독약을 피해 치즈를 찾아가야 한다.

실험결과 쥐는 10여회 시행착오를 겪은 후부터 치즈를 찾아가는 빈도가 높아졌다. 연구팀은 이 시점부터 ENU 네트워크가 활성화됐다고 판단했다. 이 교수는 "이같은 길 찾기 문제는 간단해보이지만 머신러닝을 위해 직접 알고리즘을 짜려면 복잡하거나 해결 자체가 어려울 수도 있다"고 말했다.

아직 기초과학 분야의 초기 성과이기 때문에 실제 현실의 기술 변화로 이어지려면 시일이 더 걸릴 전망이다. 이 교수는 "강화학습 등 머신러닝의 한계를 넘어 인간 뇌 수준으로 복잡한 사고가 가능한 AI 기술 실현에 기여할 것"이라고 밝혔다.

가상 쥐의 길찾기 실험.