Theoretical Perspectives of Quantum Simulation

Changhyoup LEE, Changsuk NOH and Jaeyoon CHO

Simulation is a ubiquitous tool for understanding and predicting the behavior of complex systems, ranging from those in natural sciences to those in social studies. When it comes to quantum systems, however, conventional simulation methods encounter fundamental limitations imposed by quantum physics. To overcome this challenge, the concept of using quantum systems to simulate other quantum systems, namely, quantum simulation, has emerged as an indispensable paradigm. In this special issue, we explore the underlying concepts and theoretical frameworks that drive this rapidly developing field.

들어가며

복잡한 자연 현상에서 사회 현상에 이르기까지 우리는 다양한 분야와 환경에서 시뮬레이션을 통해 계의 특성을 이해하고 예측한다. 그러나 널리 쓰여 온 시뮬레이션 방법론은, 시뮬레이션의 대상이 양자계인 경우 명확한 한계를 보이게 된다. 이러한 한계는 자연 법칙에 기인하기 때문에 해결을 위해 새로운 방법론이 필요하다. 양자계를 모사하기 위한 양자계, 즉 양자 시뮬레이터의 필요성은 이러한 맥락에서 대두되었다. 본 특집호에서는 양자 시뮬레이션의 기본개념과 이론을 소개하고자 한다.

서 론

양자역학은 힐베르트 공간에 존재하는 상태벡터를 통해 자연을 기술한다. 이때, 힐베르트 공간의 좌표축을 이루는 것은 서로 구분 가능한(수학적으로는 서로 수직인) 모든 상태들이다. 예를 들어, \(\small d\)개의 구분 가능한 상태를 가지는 입자가 \(\small N\)개 존재한다면, \(\small d^N\)개의 상태 조합이 좌표축을 이루게 된다. 이러한 양자계를 시뮬레이션하기 위해서는 \(\small d^N\)개의 좌표를 메모리에 저장해야 한다. 따라서, \(\small N\)이 조금만 커져도 계의 상태를 컴퓨터에 저장하는 것조차 불가능해진다.

이러한 문제의 근원적인 해결책으로써 양자 시뮬레이션의 개념을 처음 도입한 인물은 리차드 파인만이다. 1982년에 출판한 논문에서 파인만은 상호 시뮬레이션 가능한(mutually intersimulatable) 양자계의 종류들을 구분할 필요성에 대해 논의하는데, 그 안에 내포된 개념은 현대의 “아날로그 양자 시뮬레이션” 개념과 일맥상통한다.1) 또한, 같은 논문에서 파인만은 임의의 양자계를 시뮬레이션할 수 있는 범용 양자 컴퓨터의 가능성에 대해 논의하는데, 이는 현대의 “디지털 양자 시뮬레이션” 개념과 일맥상통한다.

이후 양자 시뮬레이션은 양자정보 연구의 한 분야로 자리 잡으며 크게 발전하였다. 20세기 후반 원자-분자-광(AMO) 물리학의 눈부신 발전에 힘입어 중성 원자 기체가 아날로그 시뮬레이션의 중요한 플랫폼으로 자리 잡았고, 포획된 이온, 공동(cavity) 양자 전기역학, 광자, 초전도체 회로, 양자점 등을 이용한 수많은 아날로그 양자 시뮬레이션 실험이 수행되었다.

비슷한 시기 디지털 양자 시뮬레이션의 이론 연구 역시 활발하게 진행되었다. 새로운 전기는 21세기 초반 IBM, Microsoft, Google 등 글로벌 IT 기업들이 양자컴퓨터 시제품을 만들어 내면서 마련되었다. 이를 계기로 디지털 양자 시뮬레이션에 대한 관심과 연구가 크게 증가하였고, 초기 단계의 실험도 진행되었다. 현재는 산업계 전반에 걸쳐 양자 시뮬레이션의 구현 및 응용이 중요한 과제가 되었고, 미디어와 대중의 관심 역시 전에 없이 커진 상태이다.

기본 개념

양자 시뮬레이션이란, 고전적 컴퓨터로는 계산이 어려운 양자 시스템의 특성을 잘 통제된 다른 양자 시스템을 이용하여 모사하는 것이다.2) 이 과정은 주어진 물리계의 역학이나 고유 특성을 충실히 재현하는 것을 목표로 하며, 이를 수학적으로 정의하는 기본적인 틀이 해밀토니언과 슈뢰딩거 방정식이다. 이를 통해 대상 시스템의 양자 상태, 상호작용, 시간 진화 등을 양자역학적 원리로 구현한다. 아래에서는 양자 시뮬레이터의 작동 원리와 구현 방식을 이해하는 데 필요한 기본 개념들을 살펴본다.

1. 해밀토니언(Hamiltonian)이란?

양자 시스템의 모든 특성은 해밀토니언이라 불리는 연산자 \(\small \hat{H}(t)\)로 결정된다. 해밀토니언은 계의 총 에너지를 나타내며, 운동 에너지, 포텐셜 에너지, 입자 간 상호작용 등을 포함한다. 예를 들어, 1차원 외부 포텐셜 내 입자의 해밀토니언은 운동량과 포텐셜로 표현되며, 포물선 형태의 포텐셜일 때 조화 진동자를 기술한다. 또 다른 예인 스핀-1/2 입자 간 상호작용은 파울리 연산자로 표현되는 하이젠베르크 모델로 기술되어 양자 자성과 다체 스핀 시스템 연구에 사용된다.

양자 시스템의 에너지 준위, 동역학적 특성 및 상전이와 같은 모든 물리적 현상은 해밀토니언에 의해 결정된다. 따라서 양자 시뮬레이션을 수행할 때 가장 먼저 해야 할 일은 연구 대상 시스템의 정확한 해밀토니언을 정의하는 것이며, 해밀토니언은 단순한 수학적 도구 이상의 의미를 가지고 물리 시스템의 본질을 표현하는 핵심적 객체이다. 양자 시뮬레이터는 이 해밀토니언을 실험적 또는 계산적으로 정확히 구현하여, 슈뢰딩거 방정식이 기술하는 양자 상태 변화나 해밀토니언의 고유 상태를 효과적으로 구현 또는 계산함으로써 복잡한 양자 현상을 탐구할 수 있도록 해준다.

2. 슈뢰딩거 방정식

양자 시스템의 시간 진화는 일반적으로 다음과 같은 시간-의존 슈뢰딩거 방정식에 의해 기술된다.

\[ i \hbar \frac{\partial }{\partial t} \left | \psi (t) \right> = {\hat{H}} (t) \left| \psi (t) \right> \]

여기서 \(\small \left|\psi(t)\right>\)는 시간 \(\small t\)에 따른 양자 상태, \(\small \hat{H}(t)\)는 시간에 따라 변할 수 있는 해밀토니언이다. 위 슈뢰딩거 방정식은 물리계 상태 \(\small \left|\psi(t)\right>\)의 시간에 따른 동역학적 변화를 기술하는 방정식이다.

한편, 시간에 따른 동적 상태 변화가 아닌, 시스템의 정지 상태나 에너지 스펙트럼을 모사하기 위해서는, 시간-비의존 슈뢰딩거 방정식 \(\small \hat{H}\left|\phi\right> = E\left| \phi\right>\)를 모사해야 한다. 여기서 \(\small\left|\phi\right>\)는 해밀토니언의 고유상태이고 \(\small E\)는 해당 상태에 대응하는 에너지 고유값이다.

일반적으로 양자 시뮬레이션은 위 두 경우 모두를 포함한다. 다시 말해, 특정 물리 시스템의 해밀토니언을 다른 제어 가능한 양자 시스템에서 효과적으로 구현하여, 대상 시스템의 에너지 준위와 같은 정적인 특성을 구하는 것이 목표인 경우도 있고, 시간에 따른 상태 변화를 추적하는 것이 목표인 경우도 있다. 구체적으로는, 먼저 연구 대상의 모델 해밀토니언을 설정하고, 이로부터 시간-의존 혹은 시간-비의존 슈뢰딩거 방정식을 수립한다. 다음으로 이 방정식을 구현할 수 있는 적합한 양자 하드웨어나 양자 회로를 설계하고, 시뮬레이터 상에서 해밀토니언의 구현과 시간 진화를 수행한 후 결과를 측정 및 분석한다. 이러한 과정을 통해 강상관계의 상전이, 양자 화학 반응 경로, 고에너지 물리학에서의 비평형 동역학 등 복잡하여 고전적으로는 계산하기 어려운 다양한 양자 현상을 실험적 또는 수치적으로 탐구할 수 있다.

3. 아날로그와 디지털 양자 시뮬레이터

양자 시뮬레이터는 접근 방식에 따라, 아날로그 양자 시뮬레이터와 디지털 양자 시뮬레이터로 나뉜다.

아날로그 양자 시뮬레이터는 특정 해밀토니언과 유사한 상호작용을 자연스럽게 구현하는 시스템으로, 이온 트랩을 활용한 스핀 체인 모델이나 광격자를 통한 허버드 모델 구현 등이 대표적이다. 이 방식은 효율성과 스케일 확장성이 뛰어나지만, 구현 가능한 해밀토니언의 형태가 제한되어 유연성은 낮은 편이다.

반면, 디지털 양자 시뮬레이터는 범용 양자 게이트 집합을 이용해 해밀토니언의 시간 진화를 근사적으로 구현한다. 주로 복잡한 시간 진화 연산자를 Trotter-Suzuki 분해 등으로 나누어 단일 및 멀티 큐비트 게이트의 시퀀스로 표현한다. 동역학 시뮬레이션뿐 아니라, 고유 상태 계산과 같은 정역학 시뮬레이션도 가능하다. 디지털 양자 시뮬레이터는 적절한 근사 하에, 알고리즘적 유연성이 높고, 양자 오류정정 기술과 결합 시 높은 정확도를 기대할 수 있지만, 현재 NISQ(Noisy Intermediate-Scale Quantum) 디바이스에서는 게이트 오류와 결잃음(decoherence)이 주요 제약으로 남아 있다.

아날로그와 디지털 양자 시뮬레이터는 각각 장단점이 있으므로, 연구 목적과 요구되는 정확도에 따라 선택되거나 병행될 수 있으며, 최근에는 두 방식을 결합한 하이브리드 시뮬레이션도 주목받고 있다. 아래에서는 아날로그와 디지털 방식에 대해 보다 구체적으로 살펴본다.

디지털 양자 시뮬레이터

본 장에서는 큐비트와 양자 게이트를 조합한 양자 회로 기반의 디지털 양자 시뮬레이터를 다룬다. 디지털 양자 시뮬레이터는 시간-의존 및 시간-비의존 슈뢰딩거 방정식을 모두 양자 회로 상에서 구현할 수 있는 범용적이고 유연한 기기이다. 본 장에서는 그 작동 원리, 이론적 배경, 구성 요소, 알고리즘적 접근 방법, 전망을 소개한다. 특히 양자 게이트, 양자 회로 설계, 양자 알고리즘의 세 가지 핵심 요소를 중심으로 디지털 양자 시뮬레이터의 정확도와 효율성, 표현력을 결정하는 원리와 이론을 기초부터 논의할 예정이다.

1. 양자 회로의 구성

디지털 양자 시뮬레이터는 큐비트를 기본 정보 단위로 사용하며, 이를 기반으로 한 양자 게이트의 조합으로 양자 회로를 구성해 양자 시스템을 모사한다. 큐비트는 두 상태의 중첩이 가능한 2차원 복소 힐베르트 공간의 상태 벡터 \(\small \left|\psi\right> = \alpha \left|0\right> + \beta\left|1\right>\)로 표현되며, 양자 게이트는 이 큐비트 상태에 유니터리 연산을 수행하는 기본 연산자이다. 대표적인 단일 큐비트 게이트로는 상태를 전환하는 X 게이트, 중첩 상태를 만드는 H 게이트, 위상을 부여하는 T 게이트, 상태를 임의의 축 방향으로 회전시키는 회전 게이트가 있으며, 이들은 양자 회로를 구성하는 핵심 요소이다.

한편, 다중 큐비트 상태를 변환하거나 큐비트 간 얽힘을 형성하는 데 필수적인 다중 큐비트 게이트도 존재한다. 대표적인 예로는 제어 큐비트 상태가 특정 조건을 만족할 때만 타겟 큐비트 상태를 바꾸는 CNOT 게이트, 위상을 변화시키는 CZ 게이트, 두 큐비트 상태를 교환하는 SWAP 게이트 등이 있다. 이러한 양자 게이트들은 특정 순서로 배열되어 양자계의 해밀토니언을 구현하고 슈뢰딩거 방정식을 근사적으로 풀어 시간-의존 및 시간-비의존 슈뢰딩거 방정식을 만족하는 다양한 양자 현상들을 효과적으로 시뮬레이션할 수 있게 한다.

2. 동역학 시뮬레이션

디지털 양자 시뮬레이터의 주요 목표 중 하나는 시간-의존 슈뢰딩거 방정식 \(\small i\hbar\frac{\partial}{\partial t}\left|\psi(t)\right> = \hat{H}(t)\left|\psi(t)\right>\)을 양자 회로를 통해 근사적으로 구현함으로써, 양자 상태의 시간에 따른 동역학적 변화를 모사하는 것이다. 그러나 실제 양자 시스템의 해밀토니언은 시간에 따라 복잡하게 변화하거나, \(\small \hat{H} = \hat{H}_1 + \hat{H}_2 + \hat{H}_3 + \cdots\)와 같이 비가환(non-commuting) 항들의 합으로 구성되어 있어서, 이를 정확히 구현하거나 직접 계산하는 것은 어렵다.

이러한 문제를 극복하기 위해 Trotter–Suzuki 분해법이 활용된다.3) 이 방법은 전체 시간 \(\small t\)를 \(\small n\)개의 작은 간격 \(\small \Delta t = t/n\)으로 나누고, 각 시간 구간에서의 진화를 개별 해밀토니언 항들의 유니터리 연산자의 곱으로 근사적으로 표현한다. 예를 들어, 1차 Trotter 근사는

\[ {\hat{U}} (t) \approx \left[\exp\left(-i {\hat{H}} _{1} \frac{\Delta t}{\hbar}\right) \exp\left(-i {\hat{H}} _{2} \frac{\Delta t}{\hbar}\right) \exp\left(-i {\hat{H}} _{3} \frac{\Delta t}{\hbar}\right) \cdots \right]^{n} \]

로 표현된다. 이때 각 구간의 연산자들은 양자 게이트로 비교적 쉽게 구현 가능하며, 반복 적용하여 전체 시스템의 시간 진화를 효과적으로 모사할 수 있다. 한편, 정확성과 회로 복잡도 사이에서 균형 잡힌 선택으로, 2차 Suzuki–Trotter 근사가 가장 많이 사용되며, 다음과 같이 표현된다.

\[ {\hat{U}} (t) = \left[ ~\prod _{j=1} ^{n} \exp(-i {\hat{H}} _{j} \Delta t/2 \hbar ) \prod _{j=n} ^{1} \exp(-i {\hat{H}} _{j} \Delta t/2 \hbar ) \right] ^{n} \]

이 연산을 양자회로로 표현하면 그림 1과 같다.

Fig. 1. 2nd-order Suzuki–Trotter decomposition for simulating quantum dynamics.

3. 정역학 시뮬레이션

디지털 양자 시뮬레이터의 또 다른 주요 응용은 양자 시스템의 에너지 고유값과 고유 상태를 찾는 정역학 시뮬레이션으로, 이는 시간-비의존 슈뢰딩거 방정식 \(\small \hat{H}\left|\phi\right> = E\left|\phi\right>\)를 통해 얻어진다. 이 방정식은 시간에 독립적인 해밀토니언과 그에 대응하는 고유 상태 및 에너지를 기술하는 것으로, 시스템의 동역학적 진화가 아닌 정적인 특성 분석에 초점을 둔다. 디지털 양자 시뮬레이터에서는 이러한 고유값 문제를 해결하기 위해 대표적으로 양자 위상 추정 알고리즘과 변분 양자 고유값 해법 알고리즘이 사용되며, 이 두 방식은 서로 다른 특성과 장점을 바탕으로 연구 목적과 상황에 맞게 선택적으로 사용된다.

(1) 양자 위상 추정(Quantum Phase Estimation, QPE)

Fig. 2. Circuit for quantum phase estimation.

주어진 유니터리 연산자 \(\small \hat{U}\)의 고유상태 \(\small \left|\psi\right>\)에 대해서 \(\small \hat{U}\left|\psi\right> = e^{2\pi i\theta} \left|\psi\right>\)가 성립하며, 양자 위상 추정은 위상 를 양자 회로를 통해 정밀하게 측정하는 알고리즘이다(그림 2).4) 이 알고리즘은 추정 레지스터와 상태 레지스터로 구성된다. 먼저 상태 레지스터를 주어진 고유상태 \(\small \left|\psi\right>\)로 초기화하고, 추정 레지스터는 하다마드 게이트를 통해 균등 중첩 상태로 준비한다. 이후 제어된 유니터리 연산을 통해 상태 레지스터에 유니터리 연산자를 반복적으로 적용하고, 마지막으로 역 양자 푸리에 변환을 추정 레지스터에 적용하여 위상값 를 이진수 형태로 인코딩한다. 이 과정을 통해 측정된 결과는 고유상태에 대응하는 위상의 근사값을 제공하며, 측정의 정확도는 추정 레지스터에 사용된 큐비트 수에 따라 결정된다.

QPE는 직접적인 행렬 대각화 없이도 양자 시스템의 에너지 고유값을 효율적으로 측정할 수 있어, 양자 시뮬레이션 및 양자 화학, 물리, 재료과학 등의 다양한 분야에서 핵심적으로 활용된다. 특히, 주어진 해밀토니언의 에너지 고유값을 찾기 위해 유니터리 연산자를 해밀토니언의 지수 형태로 정의하여 사용할 수 있으며, 일반적인 상태가 여러 고유상태의 선형 결합으로 구성될 때에도 각각의 위상과 그 확률을 측정 가능하게 한다. 실제 구현 시에는 정확도와 자원의 효율적인 활용 사이에서 균형을 맞추는 것이 중요하며, 이를 개선하기 위한 다양한 변형 알고리즘이 활발히 연구되고 있다.

(2) 변분 양자 고유값 해법(Variational Quantum Eigensolver, VQE)

Fig. 3. Circuit for variational quantum eigensolver.

변분 양자 고유값 해법은 현재 중간 규모의 양자 컴퓨터에서 가장 효과적으로 사용되는 양자-고전 하이브리드 알고리즘으로, 특정 해밀토니언의 바닥상태 에너지를 계산하는 데 탁월한 성능을 보인다(그림 3).5) 이 알고리즘은 변분 원리에 따라 양자 회로의 매개변수를 고전 컴퓨터가 최적화하여, 주어진 해밀토니언의 에너지 기대값을 최소화하는 방식으로 작동한다. 양자 상태의 에너지 기대값은 항상 실제 바닥상태 에너지보다 크거나 같기 때문에, 변분 원리에 따라 에너지 기대값을 최적화하면 바닥상태의 근사값을 얻을 수 있다. 이 과정에서 회전 게이트 및 다중 큐비트 얽힘 게이트 등으로 구성된 양자 회로를 통해 탐색 상태를 준비하며, 준비된 상태의 에너지를 측정하고 그 에너지 값이 최소화되도록 양자 회로의 게이트 파라미터를 조절해가며 상태를 탐색한다.

VQE는 현재 양자 하드웨어의 제한적 큐비트 수와 노이즈 문제에도 불구하고 회로 깊이를 얕게 유지할 수 있어, 노이즈의 영향을 상대적으로 적게 받는 장점이 있다. 또한, 하이브리드 알고리즘의 특성상 고전적 컴퓨터와 효율적으로 결합하여 다양한 최적화 기법을 사용할 수 있어 성능 향상에 유리하다. 그러나 에너지 기대값의 정확한 계산을 위해 반복적 측정이 필수적이며, 최적화 과정에서 지역 최소값에 빠질 가능성도 존재해 양자 회로 구조와 초기 조건의 선택이 매우 중요하다. VQE는 분자 및 물질의 전자 구조 계산, 스핀 시스템의 상전이 문제, 다체 시스템의 에너지 스펙트럼 분석 등 양자화학과 물리학, 재료과학 분야에서 광범위하게 활용되고 있으며, 앞으로의 양자 컴퓨팅 기술 발전과 함께 더욱 활발히 연구될 것으로 기대된다.

4. 디지털 양자 시뮬레이터의 전망

디지털 양자 시뮬레이터는 큐비트와 양자 게이트를 기반으로 다양한 양자 시스템의 동역학 및 정역학적 성질을 구현할 수 있는 유연하고 강력한 플랫폼으로, 양자 화학, 재료 과학, 최적화 문제 등 여러 분야에서 큰 잠재력을 지닌다. 현재는 NISQ 디바이스의 게이트 오류, 결잃음, 높은 자원 요구량 등 기술적 제약이 있지만, 향후 양자 오류 정정 기술의 발전과 회로 최적화 기법의 개선이 이루어진다면 정확도와 활용도가 크게 높아질 것으로 기대된다. 따라서 디지털 양자 시뮬레이터는 앞으로 양자 기술의 진보와 함께 다양한 실제 문제를 효과적으로 해결하는 핵심적인 양자 컴퓨팅 플랫폼으로 자리 잡을 전망이다.

아날로그 양자 시뮬레이터

아날로그 양자 시뮬레이터는 목표로 하는 물리계의 해밀토니언을 실제 장치 위에 구현하여, 그 계가 보여주는 양자 거동을 직접 관측하고 연구하는 접근 방식이다. 이는 디지털 시뮬레이터처럼 단계별 양자 연산을 프로그래밍하지 않고, 물리적으로 유사한 환경을 마련해 “자연스럽게” 계를 진화시킨다는 점에서 차별화된다. 특히 강상관 전자계나 스핀 체계 계산 등 고전적 수치 시뮬레이션으로는 해석하기 어려운 복잡계 문제에 대해, 아날로그 양자 시뮬레이터가 실험적 해결책을 제시할 수 있을 것으로 기대된다. 실제로 초저온 중성 원자, 이온 트랩, 초전도 큐비트 등 여러 물리 플랫폼에서 중규모 이상의 양자 시뮬레이션이 활발하게 시도되며, 이론이 예측하기만 했던 다체 양자현상을 직접 검증하는 연구가 계속 이어지고 있다. 여기서는 이 중 허버드 모델과 스핀 모델을 소개하고, 각 모델에 적합한 양자 시뮬레이터 플랫폼(예: 중성원자와 이온 트랩)을 이용한 아날로그 양자 시뮬레이션에 대해 간략히 소개한다.

1. 허버드 모델(Hubbard model)

Fig. 4. 2D Hubbard model. The blue and red spheres represent spin up and down electrons, respectively.

허버드 모델은 격자 위에서 전자들이 이웃 격자점으로 터널링하며, 동시에 쿨롱 상호작용을 통해 전자들이 서로 강하게 상관(correlation)하는 상황을 단순화한 모델이다(그림 4). 보통 2차원 격자를 예로 많이 들며, 페르미 허버드 해밀토니언은 일반적으로 다음과 같이 표현된다.

\[{\hat{H}} = -t \sum _{⟨i,j⟩, \sigma } ^{} (c _{i \sigma }^{\dagger } c _{j \sigma } +c _{j \sigma }^{\dagger } c _{i \sigma } )+U \sum _{i} ^{} n _{i \uparrow } n _{i \downarrow } - \mu  \sum _{i, \sigma } ^{} n _{i \sigma }\]

여기서 \(\small t\)는 이웃 격자점(\(\small \langle i, j\rangle \))간 전자가 터널링할 때의 에너지 크기이며, \(\small U\)는 한 격자점에 두 개의 전자가 동시에 존재할 때 발생하는 쿨롱 반발 에너지, \(\small\mu\)는 화학 퍼텐셜로 전자 수를 조절한다. \(\small c^\dagger_{i\sigma}\)와 \(\small c_{i,\sigma}\)는 각각 격자점 \(\small i\)에 스핀 \(\small \sigma(\uparrow , \downarrow)\)상태의 전자를 생성, 소멸하는 연산자이며 \(\small n_{i\sigma} = c^\dagger_{i\sigma} c_{i\sigma}\)는 전자 점유수 연산자이다. 허버드 모델은 고온 초전도, 자성, 금속-부도체 전이와 같은 강상관 전자계의 본질을 이해하기 위한 최소 모형이다. 하지만 단일 밴드 허버드 모형조차도 2차원 이상에서는 해석이 매우 어려워, 정확한 상전이 지도를 구하거나 저온에서의 위상학적 상태를 파악하려면 대규모 수치 시뮬레이션이 필요하다.

허버드 모델을 구현하는 데 특화된 플랫폼은 중성 원자이며, 주로 아날로그 방식을 따른다. 양자 상전이 현상을 관측하는 데에는 임계 느려짐(critical slowing down)이라는 근본적인 어려움이 있지만, 동적인 속성을 직접 구현하는 데 강점을 지닌다. 광격자에 초저온 중성 원자를 붙잡아 허버드 모델을 직접 구현하는 시도는 초유체–모트 절연체 전이를 관측한 고전적 연구에서부터 본격화되었다.6) 초기 연구는 주로 보스-허버드모형을 다뤘으며, 레이저 간섭으로 형성된 주기적 퍼텐셜(광격자)에 보손 원자를 가둬 각 격자 위치 사이의 터널링(에너지 \(\small t\))과 쿨롱 상호작용(에너지 \(\small U\))을 자연스럽게 재현한다. 레이저 세기나 외부 자기장, Feshbach 공명 등을 조절해 \(\small t\)와 \(\small U\)를 변화시키면, 모트 초유체-모트 절연체 전이와 같은 상전이 현상을 아날로그 방식으로 실제 실험에서 구현할 수 있다는 점에서 큰 주목을 받았다. 이후 보손 대신 ⁶Li, ⁴⁰K와 같은 페르미 원자를 광격자에 가두어 강상관 전자계와 닮은 페르미-허버드 모형을 연구하는 흐름이 급속히 발전했다. 특히 2차원 격자에서 낮은 온도로 냉각된 페르미 원자계는 고체물리에서 제시된 고온 초전도나 자발적 자성(반강자성) 문제에 대한 새로운 실험적 단서를 제공한다. 최근에는 도핑(doping)된 페르미 허버드 모형에 대한 연구가 활발해, 홀 도핑이나 전자 도핑 등에 따른 자기·수송 특성을 광학 현미경으로 관측하려는 시도가 이어지고 있다.7)

2. 스핀 모델

Fig. 5. Schematic illustration of the transverse Ising model (left) and the Heisenberg model (right).

스핀 모형은 자성체 연구부터 위상학적 상전이에 이르기까지 다양한 분야에서 핵심적인 역할을 하며, 이징(Ising), XXZ, 하이젠베르크 등 다양한 모형이 있다(그림 5). 이 중 하이젠베르크 모형은

\[H_{\mathrm{Heisenberg}}=J \sum _{⟨i,j⟩} ^{} (S _{i}^{x} S _{j}^{x} +S _{i}^{y} S _{j}^{y} +S _{i}^{z} S _{j}^{z} )\]

형태로, 이징 모형은 자기장 항이 포함된

\[H_{\mathrm{Ising}}=-J \sum _{⟨i,j⟩} ^{} \sigma _{i}^{z} \sigma _{j}^{z} -h \sum _{i} ^{} \sigma _{i}^{x}\]

등으로 표현된다. 여기서 \(\small \vec{S}_i\) 또는 \(\small \sigma^\alpha_i\)는 격자 위치 \(\small i\)에 해당하는 스핀 연산자이며, 상호작용 상수 \(\small J\)와 외부 자기장 \(\small h\) 등이 모델의 자유도를 결정한다. 이러한 스핀 모형들은 양자 상전이나 위상 질서(topological order), 쩔쩔맴(frustration) 문제 등에서 중요한 역할을 한다.

스핀 모형의 양자 시뮬레이션에 적합한 플랫폼으로는 이온 트랩이 있다. 이온 트랩 방식은 개별 이온을 전자기장으로 가두고, 집단 진동(phonon) 모드와 이온 내부 스핀을 결합해 효과적인 스핀-스핀 상호작용을 형성한다. 이 방식을 활용해 3개의 이온으로 구성된 쩔쩔매는(frustrated) 스핀 사슬을 아날로그적으로 시뮬레이션하면서, 바닥 상태의 상전이와 쩔쩔맴에 의한 축퇴, 또 얽힘까지 관측한 적이 있다.8) 53개의 이온에 대해 이징 해밀토니언을 구동하는 실험을 진행해, 시간결정(time crystal) 현상과 같은 다체 물리의 복잡한 동역학을 포착하기도 했다.9) 이렇게 이온 트랩은 단일 이온 스핀 상태를 정밀 제어·측정할 수 있고, 레이저로 구현한 멀티큐비트 게이트의 충실도가 높아 대규모 스핀 모델 연구에 적합하다는 평가를 받으며, 향후 스케일업을 통한 양자 시뮬레이션의 적용 범위를 더욱 넓힐 것으로 기대된다.

3. 아날로그 양자 시뮬레이터의 전망

아날로그 양자 시뮬레이터는 이러한 허버드 모형과 스핀 모델 연구에서 이미 상당한 진전을 이뤘지만, 여전히 잡음 제어와 확장성 측면에서 해결해야 할 과제가 많다. 광격자나 이온 트랩뿐 아니라 초전도 회로, 리드버그(Rydberg) 원자 배열 등 다양한 물리 플랫폼에서도 아날로그 방식을 결합해, 이전에는 이론적으로만 예측되었던 다체 양자 현상을 실험적으로 검증하려는 시도가 계속될 전망이다. 특히 단일 입자·단일 스핀 해상도의 측정 기법이 정교해지면서, 도핑된 2차원 허버드 모형에서의 고온 초전도 근원이나 스핀 쩔쩔맴 계에서의 위상적 상전이 등 난제들을 직접 관찰할 기회가 열리고 있다. 궁극적으로 이러한 노력이 디지털 접근과 결합한 혼합형 양자 시뮬레이션으로 이어져, 잡음 저감과 확장 가능성이 향상된 새로운 세대의 양자 시뮬레이터를 탄생시킬 것으로 기대된다.

맺음말

양자 시뮬레이션은 매우 넓은 활용 가능성을 지닌 유망한 기술이다. 그러나 그 이면에 여전히 해결하기 힘든 근본적인 문제들이 존재하며, 이에 대한 인식 또한 중요하다.

우선, 양자 시뮬레이션은 양자 다체계의 동역학을 시뮬레이트하는 데 특화되어 있다. 즉, 초기 상태를 준비하고, 해밀토니언을 구현하여 상태를 변화시키고, 상태를 측정하는 것이 양자 시뮬레이션의 기본 과정이다. 반면, 물리학 이론의 주요 관심사인 양자 다체계의 특정 에너지 상태, 예를 들어, 바닥 상태, 열평형 상태 등을 생성하는 것은 일반적으로 매우 어렵다. 물론 단열 과정을 거치거나 열환경을 시뮬레이트함으로써 원하는 에너지 상태에 가까워질 수는 있으나, 이러한 방식에 여러 한계가 존재한다. 이 문제는 양자 시뮬레이션보다는 양자 알고리즘의 영역에 속한다고 보는 것이 더 타탕할 수도 있다. 만일 임의의 해밀토니언에 대해 바닥 상태를 생성할 수 있는 양자 알고리즘이 존재한다면, 이를 통해 복잡도 이론의 NP-완전 문제를 해결하는 것이 가능할 것이고, 세상이 큰 변혁을 맞이할 것이다. 그것이 완전히 불가능하다고 이론적으로 증명하기는 어렵지만, 대부분의 연구자들은 경험적 근거를 바탕으로 그것이 사실상 불가능할 것이라 믿는다.

양자 시뮬레이션을 발전시키는 과정에 현실적인 딜레마도 존재한다. 지금껏 대부분의 양자 시뮬레이션 실험들은 이미 해답을 얻을 수 있는 수학적 모델을 구현하는 것이었다. 만일 해석할 수 없는 모델이었다면 실험 결과를 검증하기도 어려웠을 것이다. 이러한 실험들은 양자 시뮬레이션 연구의 발전에 필요한 기술적 성취들을 보여준다는 중요한 의미를 가진다. 그러나 다른 방식으로 풀 수 없는 문제를 다룬다는 시뮬레이션의 본래 취지에 부합한다고 보기는 어렵다.

해석하지 못하던 양자계를 해석할 수 있게 하거나, 새로운 현상을 발견하여 이론이 발전되도록 하는 것이 양자 시뮬레이션의 궁극적 목표일 것이다. 만일 그러한 실험 결과를 얻어낸다면, 그 안에 실험적 오류가 없다고 확신할 수 있을까? 그것이 가능하려면 양자 시뮬레이터 및 양자 컴퓨터의 신뢰성이 매우 높은 수준에 이르러야 할 것이다. 그러한 수준에 이르기 위한 수많은 노력이 펼쳐지며, 양자 시뮬레이션 분야는 현재도 급속도로 발전하고 있다.