Quantum Simulation Using Ultracold Neutral Atoms

Jongchul MUN, Jeewoo PARK, Yong-il SHIN and Jae-yoon CHOI

Recent experimental advances in laser cooling and trapping have enabled the creation of atomic gases at ultra-low temperatures in the nano-Kelvin regime, offering a highly controllable and versatile platform for quantum simulation of diverse many-body quantum phenomena. In this review, we provide an overview of quantum simulation using ultracold neutral atoms and highlight our recent research efforts in this area, along with a discussion of promising future directions.

서 론

양자컴퓨터는 기존 고전적 컴퓨팅 기술이 도달할 수 없는 문제에 대한 해결 능력을 지닌 기술로, 차세대 계산 플랫폼으로 각광받고 있다. 특히 최적화 문제, 기계학습과 같은 인공지능 응용, 복잡계 모델링, 양자물질 해석, 신약 설계 등 다양한 분야에서 그 필요성과 가능성이 폭넓게 논의되고 있다. 그러나 현재의 양자컴퓨터 하드웨어는 아직 초기 단계에 있으며, 큐비트 수의 확장, 양자 오류 정정, 안정적인 스케일업 등 여러 기술적 과제를 안고 있다. 범용(universal) 양자컴퓨터의 실용화까지는 상당한 시간이 소요될 것으로 전망된다.

이러한 상황에서 ‘양자 시뮬레이터’는 보다 실질적이고 가까운 대안으로 주목받고 있다. 양자 시뮬레이터는 특정한 물리 문제를 해결하기 위해 맞춤 설계된 양자 장치로, 보통 하나의 모델 해밀토니안을 정밀하게 구현하고, 그에 대한 시간 진화나 상태 측정을 통해 물리적 해답을 얻는 방식이다. 범용 양자컴퓨터처럼 모든 문제를 풀 수 있는 것은 아니지만, 특정 계산 문제에 한해 고전 컴퓨터보다 압도적으로 효율적인 성능을 낼 수 있다. 즉, 핵심 과제에 특화된 양자 연산 장치를 개발하여 조기에 활용하는 전략이, 실용적 양자 컴퓨팅을 실현하는 데 매우 중요한 접근이 되는 것이다.

이는 고전 물리학에서도 익숙한 방식이다. 유체역학의 경우, Navier-Stokes 방정식을 통해 이론적으로 유체의 움직임을 기술할 수 있지만, 실제 비행체 주변 유동과 같은 복잡한 상황에서는 수치 계산만으로는 정확한 예측이 어렵다. 많은 근사와 단순화가 포함된 계산 결과는 반드시 풍동(wind tunnel) 실험을 통해 검증되며, 고속 유체역학(high Reynolds number regime) 영역에서는 실험 시뮬레이션이 필수적이다. 이처럼 이론과 계산이 물리 실험과 결합되어 상호 보완적으로 작동하는 구조는 양자물리에서도 효과적으로 적용될 수 있다.

Fig. 1. Schematic overview of atomic quantum simulators. (Top) Quantum simulators have been considered as an outstanding platform for studying complex quantum many-body problems, such as nonequilibrium dynamics in the early Universe, strongly correlated materials and molecular dynamics. (Middle) Representative platforms of atomic quantum simulators: ultracold quantum gases, optical lattices, and optical tweezer arrays. Each platform offers unique advantages in interaction control, scalability, and quantum circuit operation. (Bottom) A toolbox of atomic quantum simulators: state preparation(e.g., laser cooling, optical pumping), programmable potential engineering by using a spatial light modulator, synthetic Hamiltonian(e.g., spin-orbit coupling, Rydberg interactions), and high-resolution state detection (e.g., quantum gas microscopy).

아날로그 양자 시뮬레이터는 주어진 해밀토니안을 직접 구현하고, 그에 따라 진화하는 양자상태를 정밀하게 측정함으로써 물리 문제의 해를 탐색하는 방식이다. 특히 극저온 상태의 원자들을 광격자(optical lattice)나 광집게(optical tweezers)에 배열하여 전자의 격자 운동을 모사하는 ‘중성원자 기반 아날로그 양자 시뮬레이터’는 매우 뛰어난 실험 플랫폼으로 평가된다(그림 1).1)2) 이 접근은 디지털 게이트 기반 양자컴퓨팅에서 요구되는 trotterization—시간 진화를 작은 단위로 나누는 과정—과 그에 따르는 누적 오류를 피할 수 있다는 장점이 있다. 이는 상호작용이 강하고 얽힘이 복잡한 양자물성계의 성질을 실험적으로 파악하는 데 매우 유용하며, 기존 이론 계산의 한계를 실험적으로 극복할 수 있는 새로운 도구로서의 의미를 지닌다.

다체 양자 현상 시뮬레이터

현대 물리학과 재료과학이 당면한 핵심 과제 중 하나는, 전자의 상호작용과 양자 얽힘(quantum entanglement)이 강하게 작용하는 복잡계 물질의 거동을 정량적으로 이해하고 예측하는 일이다. 이러한 시스템은 대표적으로 고온 초전도체, 스핀 액체, 위상질서(topological order)를 갖는 물질, 그리고 다양한 자성체나 준결정 구조를 포함한다. 이들 양자물성계는 전자 사이의 강한 상호작용과 다체 얽힘 상태로 인해 전통적인 계산 방식으로는 근본적인 해석이 매우 어렵다.

이론적으로, 양자계의 전체 파동함수는 모든 가능한 입자 배열과 상관관계를 동시에 고려해야 하며, 그로 인해 상태 공간의 차원은 입자 수에 따라 지수적으로 증가한다. 예를 들어, 단순히 N개의 스핀-1/2 입자로 구성된 시스템이라 해도 2^N개의 양자 상태가 존재하게 되며, 그 상호관계를 계산하기 위한 메모리와 연산량은 N이 수십만 되어도 현재의 고전적 슈퍼컴퓨터로는 사실상 다루기 어렵다. 실제로, 이러한 복잡성은 이론적으로는 간단해 보이는 2차원 허버드 모델(Hubbard model)의 열역학적 해석조차 현재까지 완전하게 해결하지 못하게 하는 근본 원인이 되고 있다.

더욱 심각한 문제는 비평형 양자 동역학의 영역에서 나타난다. 양자 시스템이 퀜치(quench), 주기적 구동(periodic drive), 혹은 국소적인 섭동(local perturbation)을 받을 경우, 시스템의 시간 진화는 매우 복잡해지며, 특히 얽힘 엔트로피는 시간에 따라 급격하게 증가한다. 이러한 상황에서는 기존의 텐서 네트워크 기반 계산 방법들, 예컨대 DMRG (density matrix renormalization group)나 PEPS (projected entangled pair states) 같은 기법조차 시간 진화를 따라가기에는 제한적인 성능을 가질 수밖에 없다.

게다가 몬테카를로 시뮬레이션에서는 ‘부호 문제(sign problem)’로 알려진 기술적 장벽이 존재한다. 이는 주로 페르미온 통계나 복잡한 상호작용을 포함하는 시스템에서 자주 나타나는데, 샘플링 과정에서 파동함수의 위상 요인으로 인해 확률 해석이 붕괴되며, 계산의 수렴성 자체가 보장되지 않는다. 이 때문에 많은 흥미로운 물리계가 고전적인 수치 시뮬레이션 방법으로는 접근조차 어려운 “계산 금단 영역(computationally inaccessible domain)”으로 남아 있다.

이러한 한계를 돌파할 수 있는 현실적인 대안이 바로 중성원자 기반의 아날로그 양자 시뮬레이터이다. 이들은 실험실에서 특정 모델 해밀토니안을 실제로 구현하고, 시스템의 시간 진화나 양자 상태를 직접 측정함으로써, 기존 고전적 계산으로는 도달할 수 없는 영역에 대한 정량적 물리 데이터를 제공한다. 예컨대 정보의 스크램블링(scrambling), 열화의 지연(prethermalization), 양자 시간 결정(quantum time crystal), 다체 국소화(many-body localization, MBL), 복잡계 양자 열역학 등의 주제는 그 복잡성으로 인해 고전적 계산에 부적합한 대표적 사례들이다.

중성원자 양자 시뮬레이터의 실험 결과는 이러한 문제들에 대해 실시간 동역학의 직접 관측이라는 강력한 수단을 제공하며, 기존의 이론과 계산 접근법을 넘어서는 새로운 물리적 통찰을 가능하게 한다. 즉, 단순히 계산 속도나 성능의 개선에 머무르지 않고, 본질적으로 ‘계산 불가능’한 문제들을 실험으로 열어가는 새로운 물리 연구의 패러다임을 제시하는 것이다.

이러한 의미에서 중성원자 기반 양자 시뮬레이터는 이론-계산-실험의 삼각 구조 속에서, 실험적 역할을 혁신적으로 확장시키는 도구이며, 나아가 이론 예측을 넘어선 새로운 물리 현상의 발견을 이끄는 전방위적 탐사 장치로 진화하고 있다.

중성원자 시뮬레이션 기술 발전

중성원자를 기반으로 한 양자 시뮬레이터는 최근 수십 년간 급속히 발전하며, 양자 다체계의 복잡한 물리 현상을 실험적으로 정밀하게 탐구할 수 있는 유력한 플랫폼으로 자리매김하고 있다. 레이저 냉각과 자기/광학 포획 기술의 발달은 원자들을 마이크로 켈빈 이하의 온도로 냉각시키는 것을 가능케 했으며, 이러한 초저온 원자는 고전적 열적 잡음에서 거의 자유로운 이상적인 양자 시스템으로 작동할 수 있다.

기본적으로 중성원자 시뮬레이터는 원자를 광격자, 광집게, 또는 박스형 포텐셜에 배열하여, 전자들이 격자 구조 내에서 운동하는 상황을 모사한다. 광격자는 교차하는 입사 레이저빔에 의해 생성되는 정지파 간섭 패턴으로 형성되며, 이 패턴은 마치 고체 내 결정 격자처럼 작용하여, 원자들이 포텐셜 우물에 갇히도록 유도한다. 격자의 깊이, 주기, 형태(예: 사각형, 삼각형, 육각형 등)는 레이저의 파장, 강도, 교차 각도 등을 조절함으로써 정밀하게 제어할 수 있으며, 이에 따라 원자 간의 터널링과 상호작용 강도를 광범위하게 조정할 수 있다.

또한 원자 간의 상호작용 강도 역시 외부 자기장 또는 광장에 의해 조절 가능하다. 대표적인 방법은 페시바흐 공명(Feshbach resonance)을 이용한 상호작용 정밀 제어이다. 이를 통해 실험자는 약한 인력 상태에서 강한 결합 상태로 시스템을 부드럽게 연속적으로 변화시킬 수 있으며, 이 과정에서 나타나는 다양한 양자상태와 상전이를 실험적으로 조사할 수 있다.

1. 강한 상호작용 영역 탐색: BCS–BEC 교차 현상

중성원자 플랫폼에서의 대표적인 성공 사례 중 하나는 바로 BCS–BEC 교차(crossover)에 대한 연구이다. 이는 스핀 1/2의 페르미온 원자들이 약한 인력 상태에서 BCS 쌍 응축을 이루는 초유체 상태에서부터, 강한 인력 상태에서 두 원자가 분자 형태로 결합되어 보즈-아인슈타인 응축(BEC)을 이루는 상태로 연속적으로 전이하는 현상을 뜻한다. 이 실험에서 페시바흐 공명을 통해 상호작용을 제어하면서, 단일 성분의 초유체가 아닌 두 입자 간 쌍이 응축하는 복잡한 상의 전이를 전 범위에 걸쳐 열역학적으로 추적하는 것이 가능하다.

특히 상호작용 강도가 무한대에 가까워지는 유니터리(unitary) 조건에서, 이 시스템은 스케일 불변 특성을 갖고, 이론적으로도 매우 흥미롭다. 이 영역에서 측정된 에너지, 압력, 집단 모드의 진동수 등은 양자 몬테카를로 계산 결과와 정합성을 보이며, 이론과 실험의 강력한 교차 검증 사례로 자리잡고 있다. 이러한 실험은 초전도체나 핵물리계, 중성자별 등 다른 물리 시스템과의 보편성 논의에도 깊은 통찰을 제공한다.

2. 광격자 기반 허버드 모델 구현

또 다른 핵심 사례는 광격자 내에서의 보즈 또는 페르미 허버드 모델 구현이다. 광격자의 깊이를 조절함으로써 원자들의 터널링과 상호작용 비율을 변화시킬 수 있고, 이를 통해 초유체–모트(Mott) 절연체 전이를 정밀하게 관측할 수 있다. 특히 1개 격자당 1개 원자가 차 있는 모트 절연체 상태에서는 밀도 파동의 억제와 긴 스핀 질서가 형성되는 양상이 실험적으로 확인되었다. 격자의 기하학과 상호작용 형태를 조절함으로써 다양한 이론 모델—예를 들어 스핀 교환 상호작용, 준결정 격자, 또는 위상 질서를 갖는 모델 등—의 실험 구현도 가능해졌다.

이와 같은 실험들은 복잡한 양자 상전이, 스핀 동역학, 준입자(quasiparticle) 거동 등을 시간과 공간 해상도로 정밀하게 추적할 수 있다는 점에서 고전적 수치 해석을 넘어서 실질적인 양자 시뮬레이션의 기능을 수행한다.

3. 고해상도 측정 기술의 혁신: 양자 기체 현미경

양자 시뮬레이션의 정밀도와 해석력을 한층 끌어올린 핵심 기술 중 하나는 바로 양자 기체 현미경(quantum gas microscope, QGM)이다. 이 기술은 광격자 내에 배열된 원자들을 단일 격자 해상도로 영상화할 수 있을 뿐 아니라, 특정 격자에 위치한 개별 원자에 대해 선택적으로 제어하거나 외부 자극을 가하는 것이 가능하다.

양자 기체 현미경 기술은 다음의 세 가지 핵심 구성요소로 이루어진다:

(1) 깊은 광격자: 원자들이 각각의 격자 사이트에 고정될 수 있도록 깊은 포텐셜을 형성하여 원자의 터널링을 억제하고, 위치를 안정화한다.

(2) 이미징 및 냉각 레이저 시스템: 고정된 원자들에 대해 형광 이미징을 수행하며, 동시에 레이저 냉각을 통해 원자의 탈락을 방지한다. 사용되는 광선은 원자마다 수천 개의 광자를 산란시켜 카메라에 신호를 남기되, 원자들은 제자리에 남아 있어야 하므로 정밀한 냉각이 병행된다.

(3) 고개구수(high-NA) 광학 현미경 렌즈: 약 0.5‒1 µm의 격자 상수를 갖는 광학 격자에서 단일 원자를 분해 관측하기 위해, 회절 한계에 근접하는 고해상도 렌즈 시스템이 필수적이다.

이러한 고분해 이미징 시스템을 통해 실험자는 단일 격자에 있는 원자를 식별할 뿐 아니라, 특정 위치의 원자를 선택적으로 제거하거나, 원자 간 상호작용을 조절하며 임의의 초기 상태를 정밀하게 준비할 수 있다. 또한, 광공간변조기(spatial light modulator, SLM)나 디지털 미소거울 장치(digital mirror device, DMD) 등을 결합하면 임의의 포텐셜 지형을 프로그래밍할 수 있어, 다양한 형태의 모델 해밀토니안 구현이 가능해진다.

이를 통해 단순한 평균값 측정을 넘어 고차 상관 함수, 비국소적 양자 얽힘, 열화와 정보 스크램블링 등 복잡계 양자역학 현상을 직접 관측할 수 있는 전례 없는 실험적 창을 열었다. 특히, 양자 기체 현미경을 이용하면 스핀-스핀 상관관계 함수, 밀도-밀도 상관 함수 등 양자 다체계의 정량적 구조를 위치 기반으로 추출할 수 있으며, 시스템 내에서 정보나 상관관계가 어떻게 시공간적으로 퍼져나가는지를 실시간으로 추적할 수 있다. 이러한 측정 능력은 다체 국소화, 양자 퀜치 동역학, 양자 정보 스크램블링 등의 이론적 주제를 실험적으로 검증하는 데 결정적인 역할을 하고 있다.

양자 기체 현미경의 도입 이후, 양자 시뮬레이터가 실험적으로 수행할 수 있는 연구 범위는 비약적으로 확장되었다. 예컨대, 초유체–모트 절연체 전이, 위상질서 상태의 정량화, 다양한 차원과 기하학을 갖는 스핀 모델의 구현 등은 물론, 임의의 거리에서의 비국소 상관 함수까지 실험적으로 측정할 수 있게 되었다.

4. 실용적 양자 우위의 실현 가능성

중성원자 양자 시뮬레이터는 디지털 양자 컴퓨터의 오류 보정 기술이 아직 초기 단계에 머물러 있는 현재 시점에서, 특정 물리계에 대한 ‘실용적 양자 우위(practical quantum advantage)’를 실현할 수 있는 가장 현실적인 수단 중 하나로 평가된다.3) 범용성을 갖추지는 않았더라도, 특정 문제에 특화된 정밀한 해밀토니안 구현과 양자 상태의 직관적인 해석 가능성은 연구자들에게 매우 강력한 도구가 된다.

특히 고온 초전도체의 이론적 기초를 탐구하거나, 정보 흐름이 얽혀 있는 복잡계 양자 열역학, 또는 스핀 액체 및 위상 질서의 동적 거동을 탐색하는 데 있어, 중성원자 기반 아날로그 시뮬레이터는 향후 수십 년간 핵심적인 역할을 지속할 것으로 기대된다. 현재는 연구 목적으로 운영되고 있지만, 장기적으로는 실용적 재료 설계나 나노소재 개발, 고에너지 물리 및 우주론적 시뮬레이션에도 활용 범위가 확장될 수 있을 것이다.

국내 연구 개발 동향 및 주요 성과

중성원자 기반 아날로그 양자 시뮬레이터 연구는 국내에서도 서울대학교, 한국표준과학연구원(KRISS), 한국과학기술원(KAIST), 포스텍 등을 중심으로 활발하게 진행되고 있으며, 각 기관은 서로 보완적인 기술과 연구 주제를 통해 협력 네트워크를 구축하고 있다. 이들 연구진은 실험적 정밀도와 이론적 깊이를 동시에 갖춘 연구를 통해 세계적인 수준의 성과를 내고 있으며, 각자의 고유한 장점을 바탕으로 중성원자 양자 시뮬레이션 기술의 확장성과 가능성을 입증하고 있다.

1. 초유체 상전이 동역학의 보편성 검증

서울대학교 신용일 교수 연구팀은 강하게 상호작용하는 페르미 기체를 기반으로 한 초유체 상전이 동역학에 대한 연구를 선도하고 있다. 특히 Kibble-Zurek 메커니즘(KZM)을 실험적으로 정밀하게 검증한 연구는 주목할 만하다. KZM은 우주 초기 팽창 과정에서의 대칭성 자발 깨짐과 위상 결점 형성에 대한 이론으로, 임계점 통과 속도에 따라 생성되는 결점의 밀도가 멱급수 법칙을 따른다는 보편적인 예측을 포함한다.4) 서울대 연구팀은 상호작용 세기를 조절할 수 있는 페르미 기체에서 상전이를 유도하고, 온도 변화와 상호작용 변화 모두에서 동일한 KZ 스케일링 지수를 관측함으로써 이론적 보편성을 실험적으로 확인하였다(그림 2).5)

Fig. 2. Spontaneous formation of topological defects during a superfluid phase transition. (a) Phase diagram of a strongly interacting Fermi gas. The system is quenched from the normal phase to the superfluid phase by dynamically tuning the temperature or interaction strength. (b) Images of quenched ⁶Li Fermi superfluids. Vortices—topological defects characterized by density-depleted cores—appear spontaneously in the superfluid following the quench. Faster quenches result in a greater number of vortices. (c) Vortex number N_v as a function of quench time t_q. The saturation time t_sat characterizes the intrinsic timescale of the system. Independent of the direction of the quench, the number of topological defects follows an identical power-law scaling with the quench rate.5)

이 연구는 상전이 조건이 달라짐에도 불구하고 동일한 결점 생성 스케일링 법칙이 유지된다는 점에서, KZM의 물리적 적용 범위를 확장시켰으며, 초유체를 포함한 다양한 비평형 양자계에서의 동역학 이해에 중요한 실마리를 제공하였다. 이러한 성과는 중성원자 양자 시뮬레이션을 통한 우주론적 시나리오의 실험적 모델링이라는 새로운 가능성을 열었다.

2. 비평형 동역학의 보편성 탐색

KAIST에서는 스핀 자유도를 지닌 보즈 응집체(스피너 응축체)를 활용하여 양자 시스템의 비평형 동역학에서 보편성을 분류할 수 있는 물리적 기준을 제시하였다. 비평형 상태란 평형에서 벗어난 상태를 뜻하는 것으로 자연계에 존재하는 대부분의 상태는 비평형 상태에 해당하며, 시간이 지남에 따라 평형상태를 찾아가는 것으로 볼 수 있다. 얼핏 보기에는 무척 복잡한 동역학 과정이지만, 이 속에도 보편적으로 적용 가능한 물리 법칙이 존재할 것이라는 기대가 있다. 이에 자연스러운 질문은 과연 양자 시스템에서도 이러한 물리 법칙을 발견할 수 있을지,6) 특히 닫힌 양자계의 경우 고전적인 열 저장소가 없어 자유에너지의 개념을 직접 적용할 수 없는 경우, 양자 시스템의 동역학에서도 보편 물리 법칙이 나타날 수 있을지이다.7)8)9)

Fig. 3. (a)-(c) Longitudinal magnetization images after quenching the magnetic Zeeman energy. Magnetic domains grow in size with time (from top to bottom). (d) The spin correlation functions at various hold times (inset) are collapsed onto a single curve by dividing by the radial distance by the domain length L. The solid line represents a numerical calculation.11)

최재윤 교수 연구팀은 자기에너지 퀜칭을 통해 초기 조건이 평형점에서 충분히 떨어진 스핀-1 보즈 기체를 조작하였고, 그 결과로 자기 도메인의 생성 및 조대화(coarsening) 과정을 정밀 관측하였다.10) 이 과정에서 도메인 크기는 시간에 따라 멱급수 법칙을 따르며 성장하였고, 도메인 사이의 스핀 상관 함수 역시 시공간적 스케일링을 만족함이 입증되었다(그림 3).

특히, 회전 대칭을 갖는 스핀 상호작용과 미러 대칭을 갖는 경우의 차이를 비교함으로써, 양자계의 대칭성과 위상학적 모드가 동역학적 보편성을 결정하는 중요한 분류 기준이 됨을 밝혀냈다. 이는 비평형 상태가 단순한 복잡계로 남지 않고, 그 안에서 정량적 규칙성과 물리 법칙이 존재함을 실험적으로 입증한 결과로, 해당 연구는 양자계에서의 새로운 ‘보편성 클래스’ 분류 가능성이라는 개념적 진전을 제공하였다.

3. 양자기체 현미경 기술 개발 및 활용

최근 국내에서도 중성원자 기반의 양자 시뮬레이션 연구가 활발히 전개되고 있으며, 특히 양자기체 현미경 기술 개발에 있어 가시적인 성과를 보이고 있다. 서울대학교, KRISS, KAIST 등 주요 연구기관들은 Rubidium, Ytterbium, Lithium 등 서로 다른 특성을 지닌 원자종을 기반으로 각기 다른 모델 해밀토니안의 구현을 목표로 하는 양자기체 플랫폼을 구축하고 있으며, 이를 통해 다양한 영역의 양자물성 문제에 도전하고 있다.

Fig. 4. (a) Illustration of the quantum gas microscope. After preparing atoms in a deep optical lattice potential, laser light for cooling and imaging is applied. Photons, scattered from the atoms, are collected by an objective lens, measuring the position of individual atoms in a single-site resolution. (b) Fluorescence image of atoms in a two-dimensional square lattice. The scale bar represents the photon counts in a CCD. (c) Fluorescence image of a unity filling Mott insulator state.

그중 KAIST 최재윤 교수 연구팀은 리튬-7(⁷Li) 원자를 사용한 양자기체 현미경 시스템을 개발하여, 국내 최초로 단일 격자 해상도의 이미징에 성공하였다. 그림 4에서 확인할 수 있듯이, 별도의 후처리 없이도 원자들이 이차원 사각격자에 뚜렷하게 배열되어 있는 형광 이미지를 획득할 수 있으며, 이는 단일 격자 해상도의 측정 능력을 입증하는 중요한 결과다. 또한, 광격자의 깊이를 조절함으로써 원자 간 터널링을 억제하고, 격자마다 원자 하나씩이 차는 ‘unity filling’ 조건 하의 모트 절연체 상태 구현에도 성공하였다.

해당 실험 플랫폼은 단순한 측정에 그치지 않고, 단일 원자 조작 기술로 확장되고 있다. 고분해 이미징 시스템과 결합된 광집게 기술을 활용하여 특정 격자에 외부 포텐셜을 정밀하게 가하는 것이 가능해졌고, 이를 통해 초기 상태의 맞춤형 설계 및 정량적 분석이 가능한 정교한 실험 환경이 구현되었다.

이 시스템의 정밀한 공간 분해능은 단순한 밀도 측정을 넘어, 원자 간의 상관관계 함수를 거리 기준으로 분석할 수 있는 능력을 갖춘다는 점에서 매우 중요한 의미를 가진다. 특히 일차원 허버드 모델에서 논의되어온 끈 질서 변수(string order parameter)는 입자-홀 쌍의 비국소적 얽힘 특성을 반영하는 물리량으로, 비국소 상관 관계를 정량화하는 도구로 활용된다.

Fig. 5. Measurement results of two-dimensional brane order variables in the two-dimensional Bose-Hubbard model. The brane correlators hardly change even when the system sizes change from L = 6 to L = 12. The experimental values (circular data) and theoretical values (solid lines) are in excellent agreement. The Vertical dashed line denotes the quantum critical point of the superfluid-Mott insulator phase transition in two dimensions.

최근에는 이 개념을 이차원 격자 시스템으로 확장하는 연구가 제안되었으며, 최재윤 교수 연구팀은 실제 양자기체 현미경을 통해 이를 실험적으로 검증하는 데 성공하였다(그림 5). 이 연구에서 사용된 이미징 시스템은 개별 원자의 존재 여부만을 구분할 수 있어, 채움수의 홀짝성(even-odd parity) 정보만으로 물리량을 구성하는 고전적인 Ising 모델과 유사한 측정 특성을 보인다. 특히, 측정 과정에서 발생할 수 있는 자유 홀(hole defects)의 영향은 실험의 정확도를 저해할 수 있는데, 이를 보정하기 위한 에러 정정 알고리즘도 함께 개발되었다. 이를 통해 2차원 시스템 내에서 정의된 브레인(Brane) 질서 변수의 측정값이 이론 예측과 정량적으로 잘 일치함을 입증하였으며, 이는 국내 양자기체 실험 기술의 높은 수준을 보여주는 사례로 평가된다.

이처럼 국내 연구진은 양자기체 현미경 기술을 기반으로 단일 원자 해상도의 측정과 조작, 나아가 비국소 상관 함수의 정량적 분석까지 실험적으로 구현함으로써, 복잡계 양자물성 연구의 새 장을 열고 있다. 특히 단일 격자 해상도를 갖는 시스템 위에서 고차 상관 함수와 위상 질서, 비평형 동역학을 실시간으로 관측할 수 있다는 점에서, 현재 개발된 플랫폼은 세계적인 연구 수준과 어깨를 나란히 할 수 있는 수준으로 성장하고 있다.

4. SU(N) 대칭성을 갖는 허버드 모델 구현

한국표준과학연구원(KRISS) 문종철 박사 연구팀은 고유한 핵스핀 구조를 갖는 이터븀-173(¹⁷³Yb) 원자를 기반으로, SU(N) 대칭성을 구현하는 아날로그 양자 시뮬레이터의 개발에 주력하고 있다. 이터븀-173 원자는 핵스핀 I = 5/2를 가지며, 이에 따라 SU(N = 2I + 1 = 6) 대칭성을 자연스럽게 재현할 수 있는 이상적인 후보로 간주된다. 이터븀 원자는 핵스핀 상태 간의 상호작용 세기가 모두 동일하다는 특성을 갖고 있어, 다양한 스핀-오비탈 얽힘이 작용하는 복잡한 양자물성계를 실험적으로 모델링할 수 있게 해준다.

KRISS는 2차원 사각 격자 형태의 광격자를 형성하고, 그 안에 Yb 원자를 포획함으로써 SU(N) 허버드 모델을 구현하였다. 격자 내 원자의 운동은 각 격자점에 국한되며, 이러한 설정은 고체물질의 전자 구조와 상호작용을 재현하는 데 필수적인 실험 기반이 된다.

Fig. 6. Single atom images of ytterbium atoms: (a) Site-resolved imaging of ytterbium atoms confined in an optical lattice, used to extract the outcome of the quantum simulation. (b) Ytterbium atoms confined in optical tweezer arrays. Programmable configurations of atomic qubit arrays are achieved using a spatial light modulator (SLM), enabling flexible quantum simulation.

특히 KRISS 연구팀은 광집게 시스템과 고개구수 광학 현미경을 결합하여 단일 원자 이미징에 성공하였으며, 더 나아가 SLM를 활용하여 임의 형태의 광포텐셜을 자유롭게 형성할 수 있는 플랫폼을 구축하였다(그림 6). 이를 활용하면 원자의 개별적인 위치 및 상호작용을 정밀하게 제어할 수 있다. 이를 통해 초기 양자 상태를 원하는 방식으로 조작하거나, 외부 섭동 예를 들어 불순물(impurity)을 포함한 비평형 동역학 환경을 구성할 수 있다.

Fig. 7. Ground states of SU(N) Hubbard model. In the SU(2) case, the ground state of the Hubbard model exhibits the well-known antiferromagnetic ordering. As the spin degeneracy N increases, various spin orderings emerge.

일반적으로 전자는 두 개의 스핀 상태를 가지므로 SU(2) 대칭성을 따른다. 이 경우, 예를 들어 2차원 사각 격자에서 바닥 상태는 반강자성 질서를 형성하는 것으로 알려져 있다. 그러나 SU(N)에서 N > 2인 경우에는 스핀 자유도의 수가 증가함에 따라 양자 축퇴가 복잡해지며, 바닥 상태는 단순한 자기 질서로 환원되지 않고, 더욱 풍부하고 다채로운 스핀 상 구조와 양자 상전이가 가능해진다(그림 7). 예를 들어, 두 개의 축퇴된 오비탈 구조와 전자의 스핀 자유도를 고려하면, 오비탈 2×스핀 2 = 4의 내부 자유도를 가지므로, 이는 SU(4) 허버드 모델로 해석할 수 있다. 이 모델은 단순한 대칭 일반화를 넘어, 오비탈과 스핀의 상호작용을 통합적으로 다루는 데에 유리하다.

SU(N) 허버드 모델은 다양한 물질계에 대한 이론적 접근으로 확장될 수 있다. 예를 들어, 망간 산화물 페롭스카이트(manganese oxide perovskites) 계열에서 사용되는 콘도 격자 모델(Kondo lattice model)은 SU(N) 대칭성으로 일반화할 수 있으며, 이를 통해 보다 복잡한 스핀-궤도 상호작용을 효과적으로 기술할 수 있다. 또한, 전이금속 산화물 계에서 중요한 역할을 하는 쿠겔-콤스키 모델(Kugel-Khomskii model) 역시 SU(N)으로 구현이 가능하다.11) 이러한 일반화는 오비탈 자유도와 스핀 자유도를 통합적으로 다루는 데 유리하며, 복잡한 상전이와 새로운 양자 상태를 예측하는 데 유용한 모델이 된다.

KRISS의 실험 플랫폼은 이러한 이론적 예측을 실제로 검증할 수 있는 가능성을 제공하며, 고차 SU(N) 계의 물리적 성질을 탐사할 수 있는 유망한 실험 기반을 마련하고 있다. 이러한 연구는 아날로그 양자 시뮬레이션의 정밀도, 다양성, 그리고 확장성 측면에서 중대한 진전을 의미하며, 향후 다체계 양자 물리의 실험적 탐구를 위한 견고한 토대를 제공하고 있다.

5. 쌍극성 분자 기반 양자 시뮬레이터 개발

최근 극저온 기체 기반 양자 시뮬레이션 분야에서는 중성원자계의 단순 접촉 상호작용을 넘어서 강력한 긴거리 비등방적 상호작용 구현이 가능한 쌍극성 분자 기반 양자 시뮬레이터 개발로 연구가 확장되고 있다. 나노 켈빈까지 냉각된 알칼리 원자들을 페시바흐 공명 부근에서 약하게 결합된 분자로 합성한 뒤, 이를 이광자 라만 전이를 통해 분자의 바닥상태로 이송하면, 최대 수 드바이(Debye)에 이르는 큰 전기 쌍극자 모멘트를 지닌 극성 분자들의 극저온 기체를 생성할 수 있다. 여기에 외부 전기장을 가해 분자들의 전기 쌍극자 모멘트 방향과 크기를 연속적으로 조절하면 분자 간 쌍극성 상호작용의 세기, 부호, 비등방성을 실험자가 자유자재로 설계할 수 있는 양자 시뮬레이터가 구현된다.

이러한 쌍극성 분자 기반 플랫폼은 강한 긴거리 상호작용을 토대로 최근 위상적 양자 컴퓨팅의 핵심 후보로 논의되는 마요라나 준입자(Majorana quasiparticle)를 동반한 위상적 p-파 초유체의 생성뿐만 아니라, 이론적 기술이 어려운 XXZ 스핀 해밀토니언의 구현 등 기존 중성원자 시스템에서 접근이 어려운 다체계 난제들에 대한 실험적 접근을 가능케 할 것으로 주목받고 있다.12) 더불어, 양자 상태가 명확히 정의된 분자 앙상블을 이용하면 극저온 환경에서의 양자 화학 반응 경로를 정밀하게 규명할 수 있어서 장기적으로는 극저온 화학을 활용한 신물질 합성의 새로운 패러다임을 제시할 것으로 기대된다.[13] 이러한 잠재력을 바탕으로 세계 주요 연구그룹이 플랫폼 선점을 위해 치열한 경쟁을 벌이고 있으며, 실제로 쌍극성 분자들의 페르미 기체와 보즈-아인슈타인 응축체 생성이 잇달아 실현되면서 연구 속도는 더욱 가속화되고 있다.14)15)

Fig. 8. (a) Time-of-flight absorption images of quantum degenerate ²³Na-^40,41K mixtures produced at POSTECH. Top images show a dual BEC mixture of ²³Na and ⁴¹K, and the bottom shows a BEC of ²³Na immersed in a degenerate Fermi gas of ⁴⁰K. (b) Radio-frequency association curve and a representative absorption image of bosonic ²³Na⁴¹K Feshbach molecules. (c) Schematic of a quantum gas microscope of dipolar molecules trapped in a two-dimensional lattice under a polarizing electric field.

국내에서는 포스텍 박지우 교수 연구팀에서 ²³Na-^40,41K 혼합 기체를 활용한 NaK 쌍극성 분자 플랫폼을 선도적으로 구축하고 있다(그림 8). 이 시스템은 보존 분자인 ²³Na⁴¹K와 페르미 분자인 ²³Na⁴⁰K를 동일한 실험 환경에서 생성할 수 있어, 양자 다체 현상뿐 아니라 양자 화학 반응의 통계적 특성을 일관성 있게 비교 연구할 수 있다는 큰 강점을 지닌다. 연구팀은 ²³Na-⁴¹K 원자 혼합 기체를 최초로 극저온까지 냉각하고, 다수의 페시바흐 공명을 식별 및 정밀 측정하여 ²³Na⁴¹K 보존 페시바흐 분자 합성에 세계 최초로 성공하였다. 또한 Na-K 혼합 기체를 이용한 폴라론 준입자(polaron quasiparticle) 특성 연구도 진행 중이다. 앞으로 이 플랫폼을 앞서 기술된 DMD 및 광격자 양자 현미경 기술과 결합해 고온 초전도 현상의 핵심 모델인 확장 허버드 모델 구현과 층간 쌍맺음 기작 규명에 기여할 것으로 기대된다.

맺음말

양자 시뮬레이션은 계산 불가능성이라는 현대 물리학의 근본적 제약을 극복할 수 있는 새로운 연구 방법론으로서, 그 이론적·실험적 중요성이 점점 더 부각되고 있다. 특히 극저온 원자를 활용한 중성원자 기반 양자 시뮬레이터는 높은 제어성, 다양한 원자종 선택, 다양한 상호작용 구현 가능성 등으로 인해, 다양한 양자 물리계의 정밀한 모사와 측정을 가능케 한다.

Fig. 9. Outlook for atom based quantum simulator. To enhance its performance and expand the range of applicable problems, ongoing research focuses on advancing both the hardware and software components of atom quantum simulators. In addition to neutral atoms, a variety of hardware platforms such as molecular systems are being studied to address problems involving long-range interactions. Furthermore, the development of theoretical tools is also crucial for improving the interpretation and analysis of quantum simulation processes.

향후 이 분야는 다음과 같은 방향으로 발전이 예상된다(그림 9). 첫째, 광격자와 광집게를 결합한 하이브리드 플랫폼 개발을 통해, 개별 원자 수준의 정밀한 위치 제어와 복잡한 포텐셜 구조 형성이 가능해질 것이다. 둘째, 광학 공진기(optical cavity)와의 결합을 통한 광자 기반 양자 시뮬레이션 영역의 확장도 주목할 만하다. 이는 양자광학과 양자물성 연구를 연결하는 새로운 접점을 제공할 수 있다. 셋째, 아날로그 방식과 디지털 방식의 융합(아날로그-디지털 하이브리드)을 통해, 하드웨어에 구현된 해밀토니안을 기반으로 연산을 진행하되, 소프트웨어적으로 특정 연산 요소를 삽입하거나 제어하는 복합형 시뮬레이션 방식도 적극적으로 시도될 것이다. 넷째, 아날로그 양자 시뮬레이터의 규모가 커지고 시스템 복잡도가 높아짐에 따라, 시뮬레이션 결과의 정밀한 해석을 위한 이론적 분석 도구와 양자 알고리즘의 개발이 필수적으로 이루어질 것으로 예상된다. 특히, 대규모 시스템의 양자상태에 대한 신뢰도(fidelity)를 평가하는 작업은 고전 컴퓨터로 계산하기 어려운 영역으로, 효율적인 방식의 벤치마킹 방법론 개발과 확립이 필요하다.

결론적으로, 중성원자 기반 아날로그 양자 시뮬레이션은 단순한 계산 대체 수단을 넘어, 새로운 물리 현상을 실험적으로 탐색하고, 기능성 신물질 설계의 이론적 기반을 확장하며, 궁극적으로는 미래 양자기술 발전의 핵심 축으로 자리잡을 가능성이 높다. 국내에서도 기초 연구와 기술 개발의 투자가 지속적으로 이루어진다면, 세계적 경쟁 속에서 한국 양자기술의 독자적인 영역을 구축할 수 있을 것이다.