IBM의 양자컴퓨터 시스템./IBM

IBM 연구진이 양자컴퓨터로 기존 슈퍼컴퓨터는 불가능했던 시뮬레이션(컴퓨터 모의실험) 모델을 돌리는 데 성공했다. 4년 전 구글이 양자컴퓨터로 슈퍼컴퓨터를 능가했다고 발표했지만, 당시 시험은 이번처럼 실제 응용 분야가 아니었다. IBM은 양자컴퓨터가 재료의 특성이나 기본 입자의 상호 작용을 계산하는 것과 같은 유용한 작업에서 곧 일반 컴퓨터를 능가할 것이라고 전망했다.

IBM 왓슨연구소의 아브히나브 칸달라(Abhinav Kandala) 박사 연구진은 15일 국제 학술지 '네이처'에 "양자컴퓨터가 100큐비트(qubit) 이상의 규모에서 기존 컴퓨터의 계산 방식을 뛰어 넘는 정확한 결과를 산출할 수 있다는 걸 처음으로 입증했다"고 밝혔다. 이번 연구 결과는 이날 네이처 표지논문으로 게재됐다. 논문의 제1 저자는 왓슨연구소의 김영석 박사이다. 김 박사는 포스텍을 나와 미국 일리노이대에서 박사학위를 받았다. IBM 왓슨연구소에는 2018년 합류했다.

◇실제 계산에 적용 가능성 제시

양자컴퓨터는 '꿈의 컴퓨터'로 통한다. 미시세계에 통하는 양자역학에서는 물질이 하나가 아니라 여러 가지 중첩된 상태로 존재할 수 있어 계산 능력이 월등하게 증가하기 때문이다. 기존 컴퓨터는 전자가 없거나 있는 것을 0과 1, 즉 1비트(bit) 단위로 표현한다. 이에 비해 양자컴퓨터의 단위는 0과 1 상태가 중첩된 큐비트(qubit)이다.

일반 컴퓨터가 2비트이면 00, 01, 10, 11 네 가지 중 하나가 되지만, 2큐비트는 네 가지가 동시에 다 가능하다. 만약 큐비트가 300개라면 우주의 모든 원자 수보다 많은 2의 300제곱 상태가 가능해 컴퓨터 능력이 획기적으로 커진다. 구글은 이미 2019년 단 53큐비트 양자컴퓨터로 슈퍼컴퓨터가 1만년 걸릴 문제를 3분 만에 해결했다.

IBM 양저컴퓨터가 실제 물리학 시뮬레이션에서 기존 슈퍼컴퓨터를 능가했다는 연구 결과가 실린 네이처지 표지./Nature

하지만 당시 양자컴퓨터가 해결한 것은 실용적 문제가 아니었다. 반면 IBM 연구진은 "양자 프로세서인 이글(Eagle)에서 자성 물질의 동작을 계산하는데 성공했다"고 밝혔다.

IBM 연구진은 양자컴퓨터의 성능을 미국 로렌스 버클리국립연구소의 슈퍼컴퓨터와 퍼듀대의 슈퍼컴퓨터와 비교했다. 시뮬레이션에는 독일의 물리학자인 이징이 고안한 '이징 모형(Ising model)'이 쓰였다. 이 문제는 너무 복잡해서 슈퍼컴퓨터로도 정확한 답을 계산할 수 없었다. 반면 큐비트 127개를 사용한 IBM의 양자컴퓨터는 계산을 마치기까지 1000분의 1초도 걸리지 않았다고 연구진은 밝혔다.

다리오 길(Darío Gil) IBM 리서치 수석 부사장 겸 총책임자는 이날 "양자컴퓨터가 기존 접근 방식을 뛰어넘어 자연의 물리 현상을 정확하게 계산한 것은 이번이 처음"이라며 "이번 성과는 양자컴퓨팅이 새로운 과학적 활용 시대로 접어들고 있음을 의미한다"고 말했다.

◇"실제 상용화와 거리가 멀다" 반박도

하지만 IBM 방식이 양자컴퓨터의 오류를 고치는 게 아니라 보완하는 방식이어서 한계가 있다는 지적도 나왔다. 양자컴퓨터를 이용해 제한적이나마 활용법을 찾은 건 의미있는 성과지만, 근본적으로 양자컴퓨터 상용화와는 거리가 먼 기술이라는 주장이다.

이 같은 지적은 큐비트가 양자컴퓨터의 계산능력을 획기적으로 높였지만, 개수가 늘어날수록 양자컴퓨터의 오류 가능성도 늘어난다는 점에서 비롯됐다. 0과 1이 중첩된 상태라는 의미는 바꿔서 말하면 큐비트 하나 하나가 일정 수준의 오류 확률을 가지고 있다는 말이 되기 때문이다. 큐비트가 늘어나면 계산 속도가 빨라지는 대신 오류 가능성도 동시에 기하급수적으로 커지는 것이다. 이를 막기 위한 기술이 '양자 오류 정정'이다.

IBM 왓슨연구소의 김영석 박사. 네이처 논문의 제1 저자이다./IBM 유튜브 영상 캡처

양자 오류 정정은 이론물리학자들이 개발한 개념으로 정보 한 개의 큐비트를 담을 때 물리적 큐비트는 여러 개를 써서 양자컴퓨터가 여러 큐비트를 활용해 오류를 정정하는 방식이다. 그동안은 이론적인 개념만 있었지만, 지난 2월 구글의 양자 인공지능(AI) 연구진이 실제로 오류 정정이 가능하다는 걸 실험을 통해 보여줬다. 당시 물리학계는 양자컴퓨터 상용화를 위한 마일스톤 하나를 달성했다며 환호했다.

다만 구글이 보여준 건 아직 초기 수준의 기술로 상용화까지 가야 할 길이 멀고 멀다. 구글 연구진은 17개의 큐비트를 이용해 한 번에 하나의 오류를 복구했고, 더 큰 버전에서는 49개의 큐비트를 사용해 두 개의 오류를 동시에 복구했다. 오류 정정이 가능하다는 건 보여줬지만, 양자컴퓨터 상용화를 위해서는 적어도 수천 개의 큐비트가 필요하다는 걸 감안하면 아직 연구실 수준을 벗어나지 못했다.

IBM이 이번에 보여준 기술은 양자 오류를 정정하는 대신 완화하는 우회로를 택했다. 이승우 한국과학기술연구원(KIST) 양자정보연구단 책임연구원은 "IBM이 오류 정정 없이도 이만한 결과를 뽑아낼 수 있다는 걸 보여줬지만, 여전히 지금 수준에서는 고전적인 컴퓨터를 대체하는 건 불가능하다"며 "결국에는 오류 정정이 양자컴퓨터가 가야 할 길"이라고 말했다.

정현석 서울대 물리천문학부 교수도 "오류 정정 양자컴퓨터는 아직 가야 할 길이 많이 남은 상태인데, IBM 연구진은 그 전에 오류가 있는 상태에서 양자컴퓨터로 할 수 있는 것들을 찾고 있는 것"이라며 "이번 연구 결과는 물리학에서 자주 쓰이는 이징 모형을 통해 양자 시뮬레이션 분야에서 가능성을 보였다고 평가할 수 있다"고 말했다.

IBM 연구진도 이번 연구 결과가 양자컴퓨터가 슈퍼컴퓨터보다 성능이 더 뛰어난 '양자 우위'를 달성한 건 아니라고 했다. 이번에 적용한 오류 완화는 이징 모델을 넘어 점점 더 복잡해지는 문제에 지금 당장 사용할 수 있는 임시 해결책이라고 연구진은 설명했다. 김영석 박사는 IBM 유튜브 영상에서 "양자컴퓨터가 신뢰할 수 있는 추정을 할 수 있다는 걸 보여줬다는 점에서 이번 연구가 의미가 있다"며 "양자컴퓨터 하드웨어가 점점 더 좋아지면 더 깊고 큰 회로에 접근하고, 정말 유용한 문제를 해결할 수 있는 날에 한 걸음 더 다가갈 수 있다"고 말했다.

참고자료

Nature, DOI : https://doi.org/10.1038/s41586-023-06096-3

Nature, DOI : https://doi.org/10.1038/s41586-022-05434-1