USC 연구팀, 양자 어닐링 활용해 '양자 우위' 입증
구글 등 빅테크, 양자컴퓨팅 오류 문제 개선 성과
고질적 한계 해결하며 상용화에 대한 기대감 고조

'꿈의 기술'로 불리는 양자컴퓨터가 특정 최적화 문제 해결에서 기존 슈퍼컴퓨터를 뛰어넘는 성능을 발휘했다는 연구 결과가 나왔다. 이번 연구를 통해 과학계가 '양자 우위'를 또다시 입증하면서 양자컴퓨터 상용화 가능성에 대한 기대감이 커지는 모습이다.

이와 함께 오랜 난제로 여겨졌던 양자컴퓨터의 오류 문제에서도 과학적 진전이 이어지면서 양자컴퓨팅이 머지않아 실제 문제 해결에 활용될 것이란 전망에 힘이 실린다. 다만 일각에서는 여전히 기술적 제약과 시스템 안정성 확보라는 본질적 한계가 남아 있는 만큼, 실용화까지는 상당한 시간이 걸릴 것이라는 신중한 전망도 나온다.

최적화 난제 해결 능력에서 슈퍼컴퓨터 압도해

30일(현지 시각) 미라지 등 외신에 따르면 서던캘리포니아대학교(USC) 연구팀은 최근 국제 학술지 '피지컬 리뷰 레터스(Physical Review Letters)'에 게재한 논문을 통해 양자컴퓨팅의 한 형태인 '양자 어닐링(Quantum Annealing)'이 복잡한 최적화 문제에서 기존 최고 성능의 고전 알고리즘보다 우월한 성능을 입증했다고 밝혔다. USC 연구팀은 "본 연구는 양자컴퓨터가 특정 문제 해결 능력에서 기존 컴퓨터를 능가하는 '양자 우위(Quantum Advantage)'를 실제 환경과 유사하게 구현했다는 점에서 큰 의미를 갖는다"고 평가했다.

그동안 과학자들은 양자 어닐링을 활용해, 문제의 크기가 커질수록 양자컴퓨터가 기존 방식보다 성능 면에서 두드러진 우위를 보이는 '양자 스케일링 이점(Quantum Scaling Advantage)'을 입증하고자 노력해 왔다. 양자 어닐링이 최적화 문제 해결에 있어 계산적 이점을 제공할 수 있다는 이론은 오래전부터 제기돼 왔지만, 실제로 뚜렷한 우위를 입증하는 데는 한계가 있었다. 그러나 USC 연구팀은 엄밀한 최적 해를 찾는 대신, 최적값의 특정 비율(≥1%) 이내의 근사해를 찾는 데 연구의 초점을 맞춤으로써 이를 증명하는 데 성공했다.

이러한 성과에도 불구하고 양자컴퓨팅이 상용화되기 위해선 고질적인 오류의 문제가 함께 해결돼야 한다. 양자컴퓨터는 큐비트(qubit)가 늘어날수록 오류 발생률이 높아지는데, 이는 상용화를 가로막는 한계 중 하나로 꼽힌다. 큐비트는 정보를 저장·처리하는 기본 단위로, 중첩(superposition)이나 얽힘(entanglement) 등 양자역학적 상태에 기반해 작동하기 때문에 외부 환경의 영향에 극도로 민감하다. 미세한 진동, 온도 변화, 전자기 잡음 등 아주 작은 외부 간섭만으로도 오류가 발생해 큐비트가 많아질수록 오류에 더욱 취약해지는 '스케일링의 역설'이 나타나게 된다.

이러한 한계를 극복하기 위한 연구도 꾸준히 진행되고 있다. 지난 2023년 미카일 루킨 하버드대 교수는 중성 원자 양자컴퓨팅 분야에서 광학 족집게(optical tweezer)를 이용해 여러 중성 원자로 '논리 큐비트(logical qubit)'를 구성함으로써 양자 정보를 안정화하고 오류를 줄이는 데 성공했다. 지난해 한국을 찾은 루킨 교수는 "그동안 양자컴퓨터는 실행할 때마다 오차가 발생하고, 아무리 유용한 알고리즘이 있더라도 이를 반복 수행하면 누적 오류가 커져 사실상 오류를 잡는 것이 불가능하다고 여겨졌지만, 최근 이러한 오류를 잡아낼 수 있게 됐다"고 설명했다.

구글, 자체 개발한 윌로우 칩 사용해 오류 개선

학계뿐만 아니라 빅테크 기업들도 양자 우위를 입증하거나 오류를 개선하기 위한 연구에 속도를 내고 있다. 지난해 12월, 구글 연구팀은 슈퍼컴퓨터의 성능을 능가하는 양자컴퓨터 개발에 성공했다. 당시 구글은 "자체 개발한 양자 칩 윌로우(Willow)를 장착한 양자컴퓨터가 성능 실험에서 현존하는 가장 빠른 슈퍼컴퓨터인 프론티어를 능가했다"며 "슈퍼컴퓨터가 10셉틸리언(10의 24제곱·septillion)년 걸리는 문제를 양자컴퓨터는 단 몇 분 만에 푸는 데 성공했다"고 밝혔다. 이는 처리 속도 면에서 5년 전 구글이 발표한 양자컴퓨터의 성능을 크게 뛰어넘는 결과다.

실시간으로 오류를 수정할 수 있는 기술도 개발됐다. 구글의 양자 프로세서 윌로우 칩은 105개의 큐비트를 정교하게 연결해 실시간으로 오류를 감지하고 수정할 수 있도록 설계됐다. 로이터통신은 이에 대해 "오류를 줄이고 실시간으로 수정할 수 있는 기술은 양자컴퓨터 실용화에 있어 핵심적인 진전"이라고 평가했다. 뉴욕타임스(NYT)도 "양자컴퓨팅은 여전히 실험적인 기술로 수십 년에 걸친 양자 역학 분야의 연구 결과가 집적돼 있다"며 "구글의 성과는 양자컴퓨터에 대한 오랜 기대를 실현하는 방법이 꾸준히 발전되고 있음을 보여준다"고 평가했다.

엔비디아는 구글의 전문 연구 조직인 구글 퀀텀 AI(Google Quantum AI)와 협력해 오류를 개선한 차세대 양자컴퓨팅 디바이스 설계를 추진하고 있다. 이는 단순히 설계 속도를 높이는 차원을 넘어 하이브리드 양자·고전 컴퓨팅 플랫폼과 엔비디아의 Eos 슈퍼컴퓨터·CUDA-Q 플랫폼 등을 사용해 양자컴퓨팅의 오류를 문제를 해결하고 상업적으로 유용한 양자컴퓨터 개발을 목표로 한다. 특히 이 가운데 CUDA-Q 플랫폼은 양자 알고리즘 개발과 시뮬레이션을 가속화하기 위한 GPU 기반 연구 플랫폼으로, 양자컴퓨팅 실험을 지원하는 핵심 인프라로 자리 잡고 있다.

양자컴퓨터 상용화 관련 기대와 현실 간 괴리 커

과학계와 산업계는 이러한 일련의 성과에 대해 양자컴퓨팅 기술이 이론적 단계를 넘어 실제 문제 해결에 유의미한 기여를 할 수 있음을 보여주는 중요한 진전으로 평가한다. 특히 오류 억제 기술의 발전과 함께 양자 어닐링 방식이 다양한 산업 분야의 최적화 난제를 해결하는 데 핵심적인 역할을 수행할 것이란 기대감이 커지고 있다. 실제로 상당 수의 연구자와 기업들은 지속적인 연구개발과 투자, 점진적인 성능 개선을 통해 2030년대 이전에는 양자컴퓨터의 실용적인 응용이 가능할 것으로 전망한다.

다만, 일각에서는 여전히 '양자컴퓨터의 성능은 과장됐고 실용화는 요원하다'는 지적이 나온다. 메타의 AI 연구 책임자 얀 르쿤은 "양자컴퓨팅은 매력적인 주제이지만, 실제 유용한 양자컴퓨터를 생산할 가능성에 대해 확신하기 어렵다"면서 양자 컴퓨터의 실용화에 대한 불확실성에 대해 언급했다. 아마존웹서비스(AWS) 양자 하드웨어 책임자 오스카 페인터는 "양자컴퓨터와 관련해 엄청난 양의 과대광고가 존재하며 낙관적인 접근과 비현실적인 기대를 구분하기가 점점 어려워지고 있다"고 지적했다.

결과적으로, 양자컴퓨팅은 여전히 현실과 기대 사이의 간극을 좁히는 데 어려움을 겪고 있는 분야로 평가받는다. 최근에는 양자컴퓨터가 현실 세계의 복잡하고 다양한 문제에 적용되기 어렵다는 인식이 확산되면서 이 분야를 떠나는 연구자가 늘고 있다. 이에 대해 스타트업 퀀텀에라(QuEra)의 최고 마케팅 책임자 유발 보시어는 "양자컴퓨터의 발전과 실용화에 대한 과도한 기대가 현실과 맞서면서 기술에 대한 재평가가 필요한 시점"이라며 "양자컴퓨팅의 발전은 여전히 중요하나 기대와 현실 사이의 균형을 찾는 것이 중요하다"고 제언했다.