구글이 개발한 양자컴퓨터 '시커모어(Sycamore)'. /Google Quantum AI

구글이 양자 컴퓨터 오류 발생 빈도를 크게 낮출 시스템을 개발해 세계 최초로 시연에 성공했다. 양자 컴퓨터 상용화를 위해 반드시 넘어야 할 장애물을 넘어서는 혁신적인 연구 성과라는 평가를 받고 있다.

레오니드 프리아드코 미국 캘리포니아대 물리천문학과 교수와 구글 양자 인공지능(AI)팀은 22일(현지시각) 국제학술지 네이처에 “성능이 높아질수록 오류 발생 확률이 커질 수밖에 없던 기존 양자 컴퓨터 한계점을 극복할 양자 오류 정정 시스템의 첫 시연에 성공했다”고 밝혔다.

양자 컴퓨터는 동시에 여러 가지 상태로 존재할 수 있는 양자의 성질을 이용해 계산 능력을 기존 컴퓨터보다 월등하게 높인 발명품이다. 전자가 없을 때를 0, 있을 때를 1로 따로 표현하는 기존 컴퓨터와 달리 양자 컴퓨터는 0과 1이 중첩돼있어 성능이 좋아지면 계산 능력이 폭발적으로 상승한다. 양자 컴퓨터에서 0과 1이 중첩된 상태를 큐비트(qubit)라 부른다.

양자 컴퓨터에 들어간 큐비트 개수가 늘어나면 성능도 좋아진다. 문제는 큐비트 개수가 늘어나면 양자 컴퓨터가 계산 과정에서 오류를 범할 가능성도 커진다는 점이다. 이승우 한국과학기술연구원(KIST) 양자정보연구단 책임연구원은 “0과 1이 중첩돼있는 양자 시스템 특성 탓에 양자 컴퓨터를 이루는 큐비트 하나 하나가 일정 수준의 오류 확률을 갖고 있다”며 “양자 컴퓨터 성능을 위해 무턱대고 큐비트 개수를 늘렸다가는 오류 확률이 누적돼 제 기능을 발휘할 수 없게 된다”고 설명했다.

이를 보정하기 위한 기술이 ‘양자 오류 정정’이다. 성능을 끌어올리기 위해 큐비트 개수를 늘려도 오류가 발생할 확률이 기하급수적으로 늘어나지 않도록 코딩을 통해 후보정 하는 기술이다. 때문에 과학계에서 양자 오류 정정 기술은 양자 컴퓨터 상용화를 위한 최종 관문처럼 여겨졌다.

구글 양자 AI팀은 자신들이 만든 양자 오류 정정 시스템을 적용할 경우 큐비트 개수를 늘렸을 때 오류 발생 확률은 오히려 줄어드는 것을 확인했다. 이들은 각각 큐비트 5개, 3개로 만든 로지컬 큐비트(여러 개의 큐비트를 조합해 하나의 큐비트처럼 기능하도록 만든 것)를 준비했다. 그리고 큐비트 5개로 만든 로지컬 큐비트에만 자신들이 만든 양자 오류 정정 시스템을 적용한 뒤 오류 발생 확률을 계산했다.

그 결과 큐비트 5개로 만든 로지컬 큐비트의 오류 발생 확률은 약 2.9%를 기록했다. 반면 큐비트 3개로 만든 로지컬 큐비트의 오류 발생 확률은 3%를 넘었다. 큐비트 개수가 늘었는데 오류 발생 확률이 오히려 줄어든 것이다. 레오니드 교수는 “이번 연구를 통해 양자 오류 정정 시스템을 적용해 양자 컴퓨터의 논리적 오류 발생 가능성을 억제하는 과정의 첫 번째 발걸음이 성공한 셈”이라고 했다.

다만 실질적인 양자 컴퓨터 상용화를 위해서는 이 시스템을 더 크게 발전시켜야 하는 상황이다. 레오니드 교수는 “이번 연구는 성능 검증을 위해 매우 단순한 구조의 (양자 컴퓨터) 모델을 사용한 것”이라며 “상용화 가능한 수준까지 발전시키기 위해서는 더 큰 규모로 장기간의 연구를 수행해야 한다”고 말했다.

참고 자료

Nature, DOI: https://doi.org/10.1038/s41586-022-05434-1