이세돌 9단이 2016년 3월 구글 딥마인드 챌린지 매치 제4국에서 인공지능 바둑프로그램 알파고를 누르고 첫 승리를 거두고 복기를 하는 모습. /뉴스1

구글의 인공지능(AI)이 컴퓨터 프로그래밍 언어인 'C++'의 기능을 10년 만에 개선하는데 성공했다. 사실상 한계에 다다른 것으로 평가되던 'C++'의 기능을 AI가 새로운 정렬 알고리즘을 발견해 개선한 것이다.

구글의 AI 전담 조직인 딥마인드의 대니얼 맨코위츠 박사 연구팀은 지난 7일(현지 시각) 국제 학술지 '네이처'에 사람이 구축한 알고리즘보다 더 빠르게 데이터를 분류하는 알고리즘을 생성하는 AI를 개발했다고 소개했다. 딥마인드의 AI가 사람이 구축한 기존 알고리즘보다 더 빠르게 데이터를 분류할 수 있는 새로운 알고리즘을 생성했다는 내용이다.

맨코위츠 박사 연구팀이 사용한 AI는 '알파데브(AlphaDev)'다. 알파데브는 알파고를 만든 딥마인드가 심층 강화 학습을 통해 새롭게 내놓은 AI다.

연구팀은 알파데브가 찾아낸 새로운 정렬 알고리즘을 기존의 컴퓨터 프로그래밍 언어인 'C++'에 적용했다. 그러자 한계에 다다른 것으로 평가받았던 'C++'의 알고리즘 성능을 강화할 수 있다는 사실을 찾아냈다. 알파데브가 새롭게 개선한 알고리즘은 기존 'C++'의 정렬 알고리즘보다 1.7% 효율적으로 작동했고, 속도도 최대 71% 빨랐다.

정렬 알고리즘이 아닌 일반 알고리즘에서도 알파데브는 성능 개선의 효과를 보였다. 기존에 쓰이던 알고리즘에 비해 알파데브가 만든 알고리즘이 데이터를 저장하고 검색하는데 걸리는 시간을 30% 정도 단축했다.

알파데브를 만든 맨코위츠 박사는 알파데브가 이렇게 놀라운 성능을 보인 비결에 대해 설명하면서 2016년 알파고와 이세돌 9단의 바둑 대결을 꺼냈다. 2016년 3월 10일 알파고와 이세돌 9단의 2차전에서 알파고는 인간이 보여준 적 없는 창의적인 수를 통해 이세돌 9단을 제압했다. 수천년에 이르는 바둑의 역사에서 등장한 적 없는 '황당한 수'를 두며 이세돌 9단의 벽을 넘어섰다.

맨코위츠 박사는 "이세돌 9단과의 2차전에서 알파고가 둔 37번 수는 승리에 결정적인 역할을 했다"고 평가했다. 일반적으로 금지되는 수를 뒀지만 시간이 흐르면서 그 수가 승리에 결정적인 역할을 한다는 사실이 밝혀졌다. 중국의 녜웨이핑 9단은 37번 수를 보고 "알파고에 경의를 보낸다"고 했고, 김성룡 9단은 "우리가 AI에게 배워야 할 수"라고 평가했다.

맨코위츠 박사는 실수처럼 보였던 수가 승리를 이끈 것처럼 알파데브도 기존에는 비효율적이라고 평가돼 사용하지 않던 방식의 알고리즘을 파고들어 오히려 성능을 개선했다고 설명했다. 알파데브는 10의 120제곱에 달하는 경우의 수를 분석할 수 있기에 인간이 실수라고 여겼던 악수마저 '신의 한수'로 바꿀 수 있는 가능성을 찾아낸 것이다.

논문의 논평을 맡은 아르만도 솔라-레자마 메사추세츠공대(MIT) 교수는 "알파데브가 보여준 해결법은 문제에 대한 사전 지식이나 훈련 없이도 고성능 프로그램을 만들 수 있다는 것을 보여줬다는 점에서 중요한 진전"이라고 평가했다.

맨코위츠 박사는 "AI가 인간처럼 직관을 활용해 문제를 해결할 수 있게 하는 게 최종 목표"라고 설명했다.

참고자료

Nature, DOI : https://www.nature.com/articles/d41586-023-01883-4

Nature, DOI : https://www.nature.com/articles/s41586-023-06004-9