구글 연구팀, 양자 컴퓨팅 분야 획기적 발견 네이처지 게재

양자 컴퓨팅 분야에서 획기적인 발견이 이뤄졌다. 구글 연구팀을 중심으로 한 국제 공동연구진이 무작위 회로 샘플링(Random Circuit Sampling, RCS) 실험에서 두 가지 상전이 현상을 관찰하는 데 성공했다. 이는 양자 컴퓨터의 성능과 한계를 더 정확히 이해하고, 양자 우위를 입증하는 데 중요한 의미를 지니는 결과다. 네이처(Nature) 10월 10일자에 게재된 이번 연구는 67개 큐비트를 사용해 32 사이클의 깊이를 가진 회로에서 실험을 수행했으며, 연구팀은 이 실험의 계산 비용이 현존하는 최고 성능의 슈퍼컴퓨터의 능력을 뛰어넘는다고 밝혔다.

양자 컴퓨터의 성능을 입증하는 것은 양자 컴퓨팅 분야의 핵심 과제 중 하나다. 특히 노이즈가 있는 중규모 양자(NISQ) 시대에 양자 우위를 명확히 보여주는 것은 매우 중요하다. 이번 연구는 이러한 맥락에서 큰 의미를 갖는다. RCS는 양자 프로세서의 실질적인 복잡성을 평가하는 데 가장 적합한 후보로 떠오르고 있으며, 이번 실험 결과는 RCS를 통해 양자 우위를 입증할 수 있는 가능성을 한층 높였다.

연구진은 RCS 알고리즘을 구현하여 두 가지 주요 상전이를 실험적으로 관찰했다. 첫 번째는 동적 상전이로, 회로의 사이클 수에 따라 발생하는 전이다. 이는 노이즈가 없는 경우의 반농축(anti-concentration) 지점의 연장선상에 있다. 반농축은 출력 분포가 더 이상 일부 비트 문자열에 집중되지 않는 지점을 의미한다.

두 번째는 양자 상전이로, 사이클당 오류율에 의해 제어된다. 이를 분석하기 위해 연구팀은 ‘약한 연결(weak-link)’ 모델을 고안했다. 이 모델에서는 두 개의 부분계가 매 T 사이클마다 얽힘 게이트를 통해 연결된다. 이를 통해 연구팀은 노이즈의 강도와 결맞은 진화 사이의 관계를 조절할 수 있었다.

연구의 주저자인 A. Morvan은 “이번 발견은 노이즈가 있는 양자 시스템에서 양자 동역학과 노이즈가 어떻게 상호작용하는지에 대한 직접적인 통찰을 제공합니다. 이는 실제 양자 프로세서에서 계산 복잡성이 어떻게 발현되는지 이해하는 데 중요한 단서가 될 것입니다”라고 설명했다.

연구팀은 이러한 상전이를 관찰하는 데 교차 엔트로피 벤치마킹(Cross-Entropy Benchmarking, XEB)이 효과적인 도구임을 입증했다. XEB는 양자 시스템의 지배적인 상관관계의 특성을 감지할 수 있어, 앞서 언급한 상전이 영역을 실험적으로 구분하는 데 사용되었다.

XEB는 이상적인(시뮬레이션된) 확률 분포와 실험적으로 관찰된 비트 문자열 사이의 상관관계를 측정한다. 연구팀은 XEB가 시스템 크기에 따라 어떻게 변하는지 관찰함으로써 동적 상전이를 해결할 수 있었다. 또한 XEB를 사용하여 노이즈에 의해 유도된 강한 노이즈 체제와 약한 노이즈 체제 사이의 전이를 탐지할 수 있었다.

“XEB는 양자 프로세서의 성능을 정확히 평가하고, 양자 우위를 입증하는 데 핵심적인 역할을 합니다,” 라고 연구에 참여한 S. Boixo 박사는 강조했다. “이번 연구를 통해 XEB가 단순한 성능 측정 도구를 넘어, 양자 시스템의 근본적인 물리적 특성을 탐구하는 데에도 유용하다는 것을 보여주었습니다.”

연구팀은 67 큐비트와 32 사이클을 사용한 RCS 실험에서 0.1%의 충실도(fidelity)를 달성했다고 보고했다. 이는 2019년 구글의 이전 실험에 비해 회로 볼륨을 두 배 이상 증가시킨 것이다. 충실도는 양자 시스템이 의도한 상태를 얼마나 잘 유지하는지를 나타내는 지표로, 낮은 수치처럼 보일 수 있지만 큐비트 수와 회로 깊이를 고려하면 상당히 높은 성능이다.

더욱 주목할 만한 점은, 이 실험의 시뮬레이션에 필요한 계산 비용이 현존하는 최고의 슈퍼컴퓨터로도 감당하기 어려운 수준이라는 것이다. 연구팀의 추정에 따르면, 현재 최고 성능의 슈퍼컴퓨터인 Frontier를 사용해도 이 실험을 시뮬레이션하는 데 약 1만 년이 걸릴 것으로 예상된다. 이는 양자 우위의 명확한 증거로 볼 수 있다.

연구팀은 텐서 네트워크 축약 방법을 사용하여 RCS의 고전적 시뮬레이션에 대한 계산 복잡성을 분석했다. 이를 통해 큐비트 수와 회로 깊이에 따른 시간 복잡성을 추정할 수 있었다. 특히 67 큐비트와 32 사이클의 경우, 메모리 제약을 고려하면 시뮬레이션 비용이 크게 증가한다는 것을 발견했다.

이번 연구 결과는 노이즈가 있는 양자 장치에서 계산 능력을 적절히 활용할 수 있는 영역에 대한 정량적인 지침을 제시한다. 연구진이 발견한 상전이 경계는 노이즈 있는 양자 장치가 실제로 계산 능력을 발휘할 수 있는 영역을 명확히 보여준다.

또한 양자 상관관계가 XEB를 지배하는 ‘약한 노이즈’ 상에서 RCS가 ‘스푸핑’ 공격에 대해 보호된다는 점을 보여준다. 이는 RCS가 양자 우위를 입증하는 신뢰할 수 있는 방법임을 뒷받침한다.

연구진은 “우리의 실험 및 이론적 연구는 현재의 양자 프로세서로도 도달 가능한 안정적이고 계산적으로 복잡한 상이 존재함을 입증합니다”라고 결론지었다. 이는 양자 컴퓨팅이 실용화에 한 걸음 더 다가갔음을 보여주는 중요한 이정표로 평가받고 있다.

그러나 연구진은 근접한 미래의 노이즈 있는 양자 프로세서에 대한 실용적인 응용을 찾는 것이 여전히 큰 과제로 남아있다고 덧붙였다. RCS는 양자 우위를 입증하는 데는 효과적이지만, 실제 문제 해결에 직접 적용하기는 어렵기 때문이다.

향후 연구 방향으로는 이번에 발견된 상전이 현상을 더 깊이 이해하고, 이를 바탕으로 노이즈에 더욱 강건한 양자 알고리즘을 개발하는 것이 될 것으로 보인다. 또한 RCS에서 얻은 통찰을 실용적인 양자 알고리즘 개발에 적용하는 연구도 진행될 것으로 예상된다.

이번 연구는 양자 컴퓨팅의 이론적 기반을 강화하고, 실험적 한계를 넓혔다는 점에서 큰 의의가 있다. 앞으로 이를 바탕으로 더욱 발전된 양자 컴퓨터와 알고리즘이 개발될 것으로 기대된다.

기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기