Kitaev Quantum Spin Liquid 

Kyusung HWANG

Quantum spin liquid is a phase of matter featured with quantum entanglement and fractionalization, and it has been sought after in condensed matter. Kitaev quantum spin liquid has been of particular interest due to the emergent quasiparticles of Majorana fermion, which is proposed as a venue for quantum computations. Recently, experimental evidences for Majorana fermion have been reported in the Kitaev quantum magnet $\alpha$-RuCl₃. Half-integer quantized thermal Hall effect and field-angle dependent Majorana gap were experimentally observed. In this article, we review physics of Kitaev quantum spin liquid and recent advances in experiments.

들어가는 글

양자 스핀 액체는 양자 얽힘이 거시적인 수준으로 시스템 전체에 퍼져 나타나는 물질의 상이다.1)2)3) 애니온이라는 분수화된 준입자를 허용한다는 것이 대표적인 특징인데, 이들의 독특한 위상적 성질과 더불어 이들을 큐빗으로 이용한 양자 계산의 가능성으로 인해 양자 물질과 양자 계산 두 분야에서 각광을 받고 있다.

최근 다양한 플랫폼에서 양자 스핀 액체 상태에 대한 연구가 활발하다. 양자 컴퓨터의 프로세서,4) 리드버그 원자 시스템,5) 그리고 2차원 양자 자성체 $\alpha$-RuCl₃6)가 그 예이다. 여기서 다양한 학문 분야가 양자 스핀 액체라는 공통 분모를 가지고 만나는 것을 잘 볼 수 있다.

필자는 양자 자성을 연구해온 사람의 관점에서 양자 스핀 액체가 무엇인지에 대해 이야기해 보려 한다. 특히 다음의 네 가지 질문에 대해 답을 제시하고자 한다.

1. 양자 스핀 액체란 무엇인가? 앞서 간단히 소개했듯이, 양자 얽힘이 강하고 준입자 분수화 현상이 나타나는 물질의 상태이다. 또한 시스템의 대칭성이 깨어져 있지 않은 어떻게 보면 심심한 상태이다. 흥미로운 성질은 양자 얽힘의 결과로 나타난다.

2. 그것이 왜 재미있고 중요한가? 기존의 대칭성의 깨짐으로 물질의 상을 이해하는 이해 체계 안에 속하지 않는다. 이런 상태를 이해하기 위해 위상정렬이라는 개념이 필요하고 이 안에서 애니온을 위상적으로 잘 이해할 수 있다. 또한 응용 측면에서 애니온을 이용하여 양자 계산이 가능하다(애니온이 양자 계산을 할 수 있다!).

3. 그러면 어디에서 발견할 수 있는가? 앞서 소개한 여러 플랫폼에서 구현 또는 발견될 수 있다. 양자 자성체로 한정 짓는다면, 2차원으로 양자 요동이 강하고 쩔쩔맴 현상이 있는 자성체에서 발견할 가능성이 크다. 카고메 반강자성체와 키타예프 자성체가 대표적인 예이다.

4. 마지막으로 실험적으로 어떻게 양자 스핀 액체를 확인할 수 있는가? 분수화된 준입자를 볼 수 있는 실험이어야 한다. 중성자 산란 실험, 라만 산란 실험, 열용량 측정, 그리고 열전도실험이 좋은 예이다.

앞으로 이야기를 풀어나가는데 가이드가 되도록, 위의 질문들에 미리 대략적인 답을 제시해 놓았다.

다양한 양자 스핀 액체 중에서, 필자는 키타예프 양자 스핀 액체에 대해 이야기하려고 한다.7)8)9) 키타예프 스핀 액체는 정확히 풀리는 키타예프 육각격자 모형의 해로서, 마요라나 페르미온을 준입자로 허용한다.7) 마요라나 페르미온이란 자기 자신이 스스로의 반입자가 되는 아주 특이한 입자인데, 자연계에서 발견되지 않은 이론적으로 제안된 입자이다. 또한 마요라나 페르미온은 양자 계산을 구현할 수 있는 한 가지 방법으로 많은 관심을 받고 있다.7) 따라서 마요라나 페르미온을 갖는 키타예프 스핀 액체는 최근 아주 활발히 연구되었고, 양자자성체 $\alpha$-RuCl₃에서 마요라나 페르미온과 키타예프 스핀 액체의 실험적 증거가 발견된 큰 진전이 있었다. 이 글에서, 필자는 키타예프 스핀 액체의 여러 흥미로운 성질들을 구체적으로 알아보고, 키타예프 스핀 액체의 검증과 관련된 최근 실험들을 소개하고자 한다.

키타예프 육각격자 모형

키타예프 육각격자 모형(Kitaev honeycomb model)은 2차원 육각격자 위에서 정의된 양자 스핀 모형이다. 각 격자점에 스핀-1/2(파울리 매트릭스 ${\sigma }_i^{x,y,z}$)들이 놓여있고 아래와 같은 해밀토니언으로 상호작용한다.7)

한 가지 특이한 점은 스핀들이 본드의 방향에 의존하는 이징 상호작용(bond-dependent Ising interaction)을 한다는 것이다. 본드 방향에 따라 $x,y,z$-본드들로 구분하여, $x$-본드에서는 스핀 $x$-성분끼리, $y$-본드에서는 스핀 $y$-성분끼리, $z$-본드에서는 스핀 $z$-성분끼리 상호작용한다[그림 1(a)]. 이러한 스핀 상호작용을 키타예프 상호작용(Kitaev interaction)이라고 부르고, $K$는 이 상호작용의 세기를 나타내는 상수이다.

Fig. 1. Kitaev Honeycomb model. (a) Honeycomb lattice with x,y,z bonds (denoted by different colors). The numbers represent the site convention for the definition of flux operator W_p. (b) Visualization of the Majorana representation. (c) Action of a local spin operator ${\sigma }_i^z$, which creates two Z₂-fluxes (shaded by blue) and one fermion (yellow dot).

놀랍게도 우리는 이 모형을 정확히 풀 수 있다.7) 겉보기에 대단히 인위적이며 매우 낮은 대칭성을 갖는 것으로 보이지만 말이다. 바닥상태는 양자 스핀 액체 상태(quantum spin liquid)이며, 들뜬 상태로서 두 가지 종류의 분수화된 준입자(fractional quasiparticle)를 갖는다. 하나는 페르미온(fermion), 다른 한 종류는 Z₂ 플럭스(Z₂ flux)이다. 이 모형의 정확한 해를 구하는 과정을 통해 이러한 성질들을 자세히 알아본다.

1. 마요라나 표현

제일 먼저, 키타예프 모형을 풀 수 있게 해주는 아래의 마요라나 표현식(Majorana representation)을 도입한다.7) $$\begin{array}{}\text{(2)}& {\sigma }_i^{\alpha }=i{b}_i^{\alpha }{c}_i\end{array}$$

여기에서 ($b^x,b^y,b^z,c$)는 마요라나 페르미온 연산자로서, 서로 반대 교환관계(anti-commutation relation)를 만족하며 각각의 제곱이 1이 되는 성질을 갖는다.10) 이러한 성질로부터 위의 마요라나 표현식이 스핀-1/2 연산자의 모든 성질을 잘 나타내는 것을 확인할 수 있다.11)

하지만 한 가지 주의할 점이 있는데, 마요라나 표현식은 원래의 스핀-1/2의 2차원 힐버트 공간을 보다 큰 4차원으로 확장한다. 물리적으로 올바른 이론을 위해서는 원래의 2차원 힐버트 공간을 복원시켜야 하는데, 아래의 투영 연산자를 취함으로써 가능하다.

이 연산자($D_i$)는 사실 두 개의 값($\pm 1$)을 취할 수 있지만, ${\sigma }_i^x{\sigma }_i^y{\sigma }_i^z$의 조건에 의해 $D_i=+1$의 섹터가 물리적으로 올바르다. 따라서 확장된 힐버트 공간에서 문제를 다 풀고 마지막에 $D_i=+i$ 섹터로 투영을 취하게 된다.

2. 마요라나 해밀토니안

마요라나 표현을 이용하면, 원래의 스핀 모형은 다음과 같은 마요라나 해밀토니안(Majorana Hamiltonian) 형태를 취하게 된다. 

여기에서 $u_{ij}=i{b}_i^{\alpha }{b}_j^{\alpha }$는 본드 ${⟨ij⟩}_{\alpha }$에서의 상호작용에 참여하는 $b$-마요라나 연산자들의 곱으로, 아래와 같은 아주 유용한 성질을 갖는다.

이 성질을 이용하여, 원래는 연산자였던 $u_{ij}$를 그것의 고유값($u_{ij}=\pm 1$)으로 치환하여 문제를 쉽게 풀 수 있게 된다. 다시 말해서 원래의 복잡해 보였던 스핀 모형이 상호작용이 없는 페르미온 문제(non-interacting fermion problem)로 단순화된다.

위의 마요라나 기술 방식을 풀어서 이야기하면, $b$-마요라나 페르미온들은 각 본드에서 쌍을 이루어 $u_{ij}=\pm 1$의 (동역학이 없는) Z₂ 필드를 만들어낸다. 그리고 이 Z₂ 필드를 보면서 $c$-마요라나 페르미온들이 격자 위를 움직여 다니는 모형이다[그림 1(b)].

3. Z₂ 게이지 필드와 Z₂ 게이지 플럭스

이 시스템은 Z₂ 게이지 구조(Z₂ gauge structure)를 가지고 있다. 사실 앞서 이야기한 Z₂ 필드($u_{ij}=\pm 1$)는 Z₂ “게이지” 필드이다. 그 이유는 $u_{ij}$ 자체는 물리적으로 측정할 수 있는 양이 아니기 때문이다. 정확히 말해서, 물리적으로 측정가능한 양은 $D_i$의 작용 아래 불변이다($D_i\hat{O}{D}_i=\hat{O}$). 이와는 달리, $u_{ij}$는 부호가 달라진다($D_i{u}_{ij}{D}_i=-u_{ij}$). $u_{ij}$를 이용하여 물리적으로 측정 가능한 양을 구성하기 위해서는, 격자 구조 위에서 하나의 폐곡선을 따라 $u_{ij}$를 곱하여야 함을 쉽게 알 수 있다. 그렇게 하여 가장 간단히 얻을 수 있는 양이 바로 다음의 Z₂ 플럭스이다.

이 양은 기본 육각형($p$)의 변을 따라 $u_{ij}$를 모두 곱한 것으로 $W_p=\pm 1$의 값을 갖는다. 이 양을 스핀 연산자들로 나타낼 수 있는데, 그 표현식은 다음과 같다.

육각형 내에서의 격자점 순서는 그림 1(a)에 표시되어 있다. 이 플럭스 연산자는 원래의 스핀 해밀토니언과 교환관계를 갖기 때문에($[W_p,H]=[W_p,W_q]=0$), 시스템을 기술하는 데에 유용한 양자수($W_p=\pm 1$)를 제공해준다.

이제 이 시스템의 Z₂ 게이지 구조는 쉽게 이해되어진다.

먼저 위와 같이 Z₂ 필드($u_{ij}$)를 벡터 포텐셜 $A_{ij}(=0,\pi )$로 나타낸다. 그러면 Z₂ 플럭스($W_p$)는 자기 플럭스 $B_p=\sum _{ij\in p}^{}{A}_{ij}(=0,\pi )$로 대응된다. 이렇게 $u_{ij}$와 $W_p$ 사이의 관계는 “벡터 포텐셜”과 “자기 플럭스”로 간단히 이해할 수 있고, 여기서 Z₂ 게이지 변환은 (물리적으로 올바른 힐버트 공간을 정의해주는) $D_i$ 연산자에 의해 이루어진다($D_i:A_{ij}\to A_{ij}+\pi$).

4. 바닥 상태: 키타예프 양자 스핀 액체

그러면 이제 마요라나 해밀토니언($H_{\mathrm{eff}}$)의 해에 대해 이야기해보자. 바닥 상태를 찾는 문제는 $H_{\mathrm{eff}}$에서 가장 낮은 에너지 상태를 갖는 $u_{ij}=\pm 1$ 패턴을 찾아내는 것과 같다. 수치 계산을 통해 모든 육각형에서 $W_p=+1$인 상태(0-플럭스 상태)가 가장 낮은 에너지를 가짐을 확인할 수 있는데, 이에 대응되는 가장 간단한 패턴으로 우리는 모든 본드에서 $u_{ij}=+1$인 패턴을 선택한다. 이로부터 얻어지는 가장 낮은 에너지 상태 $|GS(u_{ij}=+1)⟩$에 앞서 말한 투영 연산자를 가하여 다음과 같이 바닥 상태가 얻어진다.

이것이 키타예프 모형의 정확한 바닥 상태, 키타예프 양자 스핀 액체(Kitaev quantum spin liquid) 상태이다. 투영 연산자가 나타내듯이, 이 양자 상태는 여러 개의 다른 상태들의 중첩으로 구성되어 있어 기본적으로 강한 양자 얽힘을 갖는 상태이다. 그리고 각 격자점에서 자기 모먼트를 전혀 가지지 않는다($⟨{\sigma }_i^{\alpha }⟩=0$). 보다 흥미롭게, 스핀-스핀 상관함수(spin-spin correlation function)는 키타예프 상호작용의 경우에 대해서 만 영이 아니고 나머지 경우에 대해서는 영이다.

그로 인해 상관거리(correlation length)는 극도로 짧은 값(nearest neighbor 거리)을 갖는 특별한 성질이 나타난다.12)

5. 들뜬 상태: 분수화된 준입자

Fig. 2. Energy spectrum of fermion excitations. The fermion spectrum is gapless when there in no magnetic field (a), but it is gapped out if a magnetic field is applied (b). Vertical axis: energy, horizontal axes: momentum.

다음으로 들뜬 상태에 나타나는 준입자를 살펴보도록 하자. 두 가지 종류의 준입자가 존재하는데, 하나는 페르미온 준입자이고 다른 하나는 Z₂ 플럭스 준입자이다. 페르미온 준입자의 스펙트럼은 앞서 언급한 마요라나 해밀토니안($H_{\mathrm{eff}}$)을 0-플럭스 섹터($W_p=+1$)에서 대각화하여 얻어지는데, 제로 에너지에서부터 연속적으로 이어지는 에너지 갭이 없는 들뜬 상태이다[그림 2(a)]. 반면, Z₂ 플럭스 준입자는 어느 육각형에서 $\pi$-플럭스($W_p=-1$)를 가지는 국소적으로 정의되는 (그리고 한 자리에 생성되면 움직이지 않는) 들뜬 상태이다. 인접한 두 개의 육각형에 Z₂ 플럭스 두 개를 생성하는데 필요한 에너지 크기가 ${\mathrm{\Delta }}_{\mathrm{flux}}\simeq 0.26\left|K\right|$으로 알려져 있다.13)

이 준입자들은 홀로 생성되지 못하고 항상 여러 개가 동시에 생성되는 특징을 갖는다. 예를 들어 한 격자점에 스핀 연산자를 가하면 Z₂ 플럭스 두 개와 페르미온 한 개가 동시에 생성이 된다[그림 1(c)].12)

$$\mathsf{(}\mathsf{스}\mathsf{핀}\mathsf{하}\mathsf{나}\mathsf{뒤}\mathsf{집}\mathsf{기}\mathsf{)}\mathsf{=}\mathsf{(}{\mathrm{Z}}_2\mathsf{플}\mathsf{럭}\mathsf{스}2\mathsf{개}\mathsf{)}\mathsf{+}\mathsf{(}\mathsf{페}\mathsf{르}\mathsf{미}\mathsf{온}1\mathsf{개}\mathsf{)}$$

이것은 마요라나 표현식(${\sigma }_i^{\alpha }=i{b}_i^{\alpha }{c}_i$)으로부터 알 수 있는데, $b_i^{\alpha }$는 격자점 $i$와 연결된 $\alpha$-본드에서의 $u_{ij}$값의 부호를 바꾸어 격자점 좌우로 Z₂ 플럭스 두 개를 생성한다. 그리고 $c_i$는 격자점 $i$에 페르미온 하나를 생성하는 역할을 한다. 즉, 스핀 하나를 뒤집는 과정이 여러 개의 준입자를 동시에 생성한다. 보통의 자기 정렬(magnetic order)을 갖는 시스템에서는 스핀 하나를 뒤집는 과정이 마그논(magnon) 하나를 생성하는 것과는 확연히 대비되는 성질이다.

양자 스핀 액체의 준입자들은 마그논과 같은 보통의 준입자들이 쪼개어진 상태로 볼 수 있고, 따라서 분수화된 준입자(fractional quasiparticle)라고 부른다. 이러한 분수화된 준입자의 존재는 키타예프 양자 스핀 액체를 포함한 모든 양자 스핀 액체의 일반적인 특성이다.

6. 분수화 현상의 흔적: 측정 가능한 물리량

Fig. 3. Signatures of fractionalization. (a) Calculated dynamical spin structure factor, which shows broad continuum of spin excitations in energy-momentum space. Adapted with permission from Ref. [13], Copyright ⓒ 2014, American Physical Society. (b) Calculated heat capacity by Monte Carlo simulation. Two-peak structure is shown in temperature domain. The first peak corresponds to proliferation of flux-excitations and the second peak arises due to fermion excitations. Adapted with permission from Ref. [14], Copyright ⓒ 2015, American Physical Society.

준입자 분수화(fractionalization) 현상을 실험으로 관찰할 수 있을까? 이에 대한 좋은 예로서, 중성자 산란 실험과 열용량 측정을 들 수 있다. 먼저, 중성자 산란(neutron scattering)을 통해서 자성체 내의 들뜬 상태의 스펙트럼 측정을 할 수 있는데, 키타예프 양자 스핀 액체에서는 스펙트럼이 앞서 언급한 ${\mathrm{\Delta }}_{\mathrm{flux}}\simeq 0.26\left|K\right|$의 에너지 위로 broad continuum으로 나타난다. 그림 3(a)는 정확한 바닥상태 $|KQSL⟩$를 이용하여 실제 계산한 결과를 보여준다. 이러한 broad continuum은 스핀 하나를 뒤집는 과정이 여러 개의 준입자를 동시에 생성하는 효과가 반영된 결과이다.13)

다음으로 열용량(heat capacity)을 온도의 함수로 보게 되면, 키타예프 양자 스핀 액체의 경우 두 개의 픽 구조를 나타낸다. 이것은 몬테 카를로 시뮬레이션 결과에서 잘 확인이 된다[그림 3(b)]. 첫 번째 픽은 Z₂ 플럭스 갭 에너지 크기에 대응하는 온도($T^{\ast }\sim {\mathrm{\Delta }}_{\mathrm{flux}}/k_B=0.26\left|K\right|/k_B$)에서 나타나고, 두 번째 픽은 페르미온 에너지 밴드의 폭에 대응하는 온도($T^{\ast \ast }\sim 6\left|K\right|/k_B$)에서 나타난다. 키타예프 양자 스핀 액체에서 두 종류의 준입자들(Z₂ 플럭스와 페르미온)의 에너지 크기가 서로 잘 분리되어 있어서, 열용량에서 잘 분리된 두 개의 픽으로 나타나게 되는 것이다.14)

되풀이하면, 준입자 분수화 현상은 중성자 산란 실험에서 broad continuum으로, 열용량 측정에서 two-peak structure로 확인할 수 있다.

시간대칭성 깨뜨리기: 양자화된 열홀효과

이제 키타예프 스핀 액체가 가지고 있는 흥미로운 위상적 성질에 대해 이야기해 보려고 한다. 이 위상적 성질은 외부 자기장이 걸려서 시간 대칭성이 깨졌을 때 드러나는데, 이를 위해 다음과 같이 제만 상호작용(Zeeman coupling)을 고려하도록 하자.

엄밀히 말하면, 제만 상호작용이 들어오면 스핀 모형은 더 이상 정확히 풀 수 없다. 그렇지만 제만 상호작용이 섭동적으로 들어오는 경우, 다음과 같은 유효 모형을 유도할 수 있다.7)

이 모형은 바닥 상태가 속해 있는 0-플럭스 섹터($W_p=+1$)에서 플럭스 갭(${\mathrm{\Delta }}_{\mathrm{flux}}$) 아래의 페르미온 준입자가 자기장에 의해 어떠한 영향을 받는지를 기술하는 유효이론이다.

$M$으로 표시된 유효 상호작용은 (에너지 갭이 없던) 페르미온 준입자 스펙트럼에 에너지 갭을 여는 역할을 한다. 유효 상호작용 $M$을 아래와 같이 마요라나 표현식으로 나타내어 보면 쉽게 이해할 수 있다.15)

이 마요라나 표현식은 육각격자 위에서 페르미온들의 동역학을 기술하는데, $K$는 가장 인접한 격자점(nearest neighbor)으로 이동을, $M$은 두 번째로 인접한 격자점(next nearest neighbor)으로의 이동을 나타낸다. 푸리에 변환을 통해 모멘텀 공간에서 나타내어 대각화해보면, $M$이 페르미온 준입자의 질량으로 나타나는 것을 직접 확인해 볼 수 있다[그림 2(b)]. 다시 말해, 자기장의 영향 아래 페르미온 준입자가 아래와 같이 질량(에너지 갭)을 얻게 된다.7)

여기서 주목해야 할 점은 페르미온 준입자의 질량이 자기장 방향에 따라 달라지며, 특정 방향의 자기장에 대해서는 영이 되기도 한다는 사실이다.

1. 천 숫자와 마요라나 에지 모드

페르미온 준입자의 에너지 밴드에 갭이 생겼으니[그림 2(b)], 에너지 밴드의 위상적 구조에 대해 살펴봐야 한다. 이 경우 위상 불변양(topological invariant)으로서 천 숫자(Chern number)를 정의할 수 있다. 여기서 천 숫자는 에너지 갭 아래의 음의 에너지 밴드에 대해 베리 곡률(Berry curvature)을 적분한 양으로 정의되는데, 그 결과는 아래와 같이 얻어진다.

흥미롭게도 천 숫자 $\nu$는 $h_x{h}_y{h}_z$의 부호에 따라 (또는 자기장 방향에 따라) +1 또는 -1의 값을 갖는다.

천 숫자의 물리적 의미는 에지에서 한 방향으로만 움직이는 카이럴 마요라나 에지 모드(gapless chiral Majorana edge mode)의 수를 의미한다.7)

2. 양자화된 열홀효과

영이 아닌 천 숫자 그리고 마요라나 에지 모드의 존재는 수송 현상(transport phenomena)에서 홀효과(Hall effect)가 발생할 수 있음을 의미한다. 키타예프 스핀 액체에서의 준입자들은 전하를 띠지 않기 때문에 전기적 수송현상은 기대할 수 없다. 하지만 에너지를 운반할 수 있으므로 열수송 현상을 생각할 수 있는데, 한 방향으로 움직이는 마요라나 에지 모드로 인해 홀효과가 나타난다. 특히, (벌크 에너지 갭보다) 낮은 온도에서 열홀전도도(thermal Hall conductivity)와 온도의 비율이 다음과 같이 양자화되는 특징이 있다.7)

사실 이러한 양자화된 열홀효과(quantized thermal Hall effect)는 정수 양자홀 상태(integer quantum Hall state)에서도 나타나는 것으로 잘 알려져 있다. 하지만 정수 양자홀 상태의 경우, 열홀전도도가 $k_{xy}^{IQH}/T=\nu (\pi /6)(k_B^2/\hslash )$으로 주어진다. 키타예프 스핀 액체에 비해 두 배 큰 것으로 나타나는데, 이것은 열을 실어 나르는 매개체의 차이로 인한 것이다. 정수 양자홀 상태에서는 (물리적인 입자인) 전자가 매개체이지만, 키타예프 스핀 액체에서는 (분수화 현상으로 나타나는) 마요라나 모드가 그 매개체이다. 따라서 열을 실어 나르는 용량에 차이가 생기고, 후자의 열홀전도도가 전자의 경우에 비해 절반으로 나타난다[그림 7(a,b)].

3. 몬테 카를로 시뮬레이션

Fig. 4. Thermal transport at zero magnetic field. (a) Longitudinal thermal conductivity and heat capacity as functions of temperature. (b) Longitudinal thermal conductivity divided by temperature. Adapted with permission from Ref. [16], Copyright ⓒ 2017, American Physical Society.

키타예프 스핀 액체에서 분수화된 준입자들이 일으키는 열수송 현상은 몬테 카를로 시뮬레이션(그림 4,5)을 통해 좀 더 잘 알아볼 수 있다.16)

먼저 자기장이 없는 경우를 알아보자[그림 4]. 이 경우 열홀효과는 일어나지 않는다. 하지만 평행방향 열전도도(longitudinal thermal conductivity)는 온도의 함수로서 흥미롭게도 $T^{\ast \ast }$에서 하나의 픽만을 보인다. 이것은 열용량이 $T^{\ast }$와 $T^{\ast \ast }$에서 두 개의 픽을 보이는 것과는 다른 양상이다. 평행방향 열전도도에서 $T^{\ast }$에서 픽이 나타나지 않는 이유는 플럭스 준입자가 열적으로 생성이 되어도 그 자리에서 움직이지 않기 때문이다. 이와 대조적으로, $T^{\ast \ast }$에서 나타나는 픽은 열적으로 생성된 페르미온 준입자가 에너지를 한 곳에서 다른 곳으로 운반 하는 매개체임을 보여준다(그림 4).

다음으로 자기장이 걸려 있는 경우를 보자[그림 5]. 이 경우 열홀효과가 나타나는데, 일반적인 온도 영역에서는 자기장의 세기가 강해짐에 따라 열홀전도도가 점점 증가한다[그림 5(c)]. 하지만 $T^{\ast }$ 아래의 낮은 온도 근처를 살펴보면 ${\kappa }_{xy}^{KQSL}/T=\nu (\pi /12)(k_B^2/\hslash )$의 값으로 수렴함을 확인할 수 있다. 즉, 양자화된 열홀효과가 수치계산으로 직접 확인이 된다[그림 5(d)].

Fig. 5. Thermal transport at nonzero magnetic fields. (a,b) Longitudinal thermal conductivity as a function of temperature. (c,d) Thermal Hall conductivity as a function of temperature. The dashed horizontal line marks the location of the quantized thermal Hall conductivity. Adapted with permission from Ref. [16], Copyright ⓒ 2017, American Physical Society.

또 한 가지 흥미로운 점은 $T^{\ast }$의 온도에 접근함에 따라 열홀효과의 양자화가 급격히 약화되는 점이다. 이것은 플럭스 준입자의 생성으로 바닥상태의 순수한 0-플럭스 구조가 망가지게 되어 키타예프 스핀 액체의 위상적 성질을 잃어버리게 되는 것을 보여준다[그림 5(d)].

$\alpha$-RuCl₃: 키타예프 양자자성체

이론적으로 제시되었던 키타예프 스핀 액체가 실제 물질에서의 연구로 확장될 수 있었던 데에는 작켈리와 칼리울린(Jackeli and Khaliullin)의 기여가 크다. 그들은 키타예프 상호작용이 존재할 수 있는 실제 물질구조를 제안하였다.17) 전이금속 산화물 중 강한 스핀-궤도 상호작용(spin-orbit coupling)을 가지는 $J_{\mathrm{eff}}=1/2$ 물질에서 산소 정팔면체들이 모서리를 공유하는(edge-sharing oxygen octahedra) 물질 구조가 그것이다. 이 제안에 따라 많은 후보 물질들이 만들어져 활발한 연구가 있어왔다. 그 중 $\alpha$-RuCl₃는 키타예프 스핀 액체의 실험적 증거를 보이며, 최근 지대한 관심과 동시에 논란을 야기시키고 있는 물질이다. 이 물질에 대해 간단히 소개하고 최근 행해진 열홀효과 실험에 대해 이야기하겠다.

1. 스핀 모형

Fig. 6. Crystal structure of $\alpha$-RuCl₃ and the zigzag magnetic order. Adapted with permission from Ref. [8], Copyright ⓒ 2019, Springer Nature.

$\alpha$-RuCl₃에서는 Ru³⁺ 이온들이 $H_{\mathrm{eff}}=1/2$ 스핀을 가지고 있고 육각격자 구조를 이룬다. 그리고 그 주변을 둘러싸는 Cl^‒ 이온들이 모서리를 공유하는 정팔면체의 구조를 갖는다[그림 6]. 이로 인해 키타예프 상호작용이 이 물질 안에서 구현될 수 있게 된다.

하지만 키타예프 이외에도 다른 상호작용이 동시에 존재한다. 예를 들어, 하이젠베르크 상호작용이나 비등방성 상호작용 등이 나타난다. 물질의 대칭성에 기반하여 일반적인 모형을 적어보면 다음과 같다.18) 

$$\begin{array}{}\text{(17)}& H=\sum _{⟨ij{⟩}_{\alpha }}^{}\left[\begin{array}{r}K{S}_i^{\alpha }{S}_j^{\alpha }+J{\overrightarrow{S}}_i\cdot {\overrightarrow{S}}_j+\mathrm{\Gamma }(S_i^{\beta }{S}_j^{\gamma }+S_i^{\gamma }{S}_j^{\beta })\\ +{\mathrm{\Gamma }}^{\prime }(S_i^{\alpha }{S}_j^{\beta }+S_i^{\beta }{S}_j^{\alpha }+S_i^{\alpha }{S}_j^{\gamma }+S_i^{\gamma }{S}_j^{\alpha })\end{array}\right]+\sum _{⋘ij⋙}^{}{J}_3{\overrightarrow{S}}_i\cdot {\overrightarrow{S}}_j\end{array}$$

이 모형은 $K-J-\mathrm{\Gamma }-{\mathrm{\Gamma }}^{\prime }-J_3$ 모형이라고 불리우며,19)20)21) (많은 이론 연구가 있었음에도) 각 상호작용의 크기에 대해서 여러 서로 다른 예측들이 존재한다. 그럼에도 키타예프 이외의 다른 상호작용의 존재는 많은 연구들의 공통적인 결론이다.

실제로 키타예프가 아닌 다른 상호작용으로 인해, $\alpha$-RuCl₃는 낮은 온도에서 (키타예프 스핀 액체가 아닌) 자기 정렬을 갖는다.22) 스핀 모먼트 업과 다운이 육각격자 위에서 지그재그로 번갈아 가면서 나타나는 구조로 인해, 이 자기정렬을 지그재그 반강자성 상태(zigzag antiferromagnetic order)라고 부른다[그림 6].

이러한 자기정렬이 있음에도 $\alpha$-RuCl₃는 강한 키타예프 상호작용의 효과를 보인다. 그 실험 증거로서 중성자 산란 실험에서 보여지는 broad continuum과 열용량 실험으로 측정된 절반의 엔트로피 복원 등이 있다.23) $\alpha$-RuCl₃는 강한 키타예프 상호작용을 가지고 있기 때문에 적당한 조작을 통해 키타예프 스핀 액체를 안정화시킬 수 있으리라는 기대가 가능하다.

2. 자기장에 의해 발현된 양자 액체

Fig. 7. Thermal Hall effect in (a) integer quantum Hall state and (b) Kitaev quantum spin liquid, and (c) phase diagram of α-RuCl₃. Adapted with permission from Ref. [27], Copyrightⓒ2018, Springer Nature.

지그재그 자기 정렬에도 불구하고 왜 $\alpha$-RuCl₃가 키타예프 스핀 액체의 후보 물질로 연구되어지는가? 흥미롭게도, 이 물질에 자기장을 가하면 자기정렬이 사라지고 양자 액체가 나타나게 된다[그림 7(c)].24) 그러면, 이렇게 자기장에 의해 발현된 양자 액체(field-induced quantum liquid)가 키타예프 스핀 액체가 아닐까 하는 자연스러운 질문이 생긴다. 이와 관련하여 최근의 이론 연구가 흥미로운 결과를 제시하는데, 키타예프가 아닌 다른 상호작용이 있는 경우, 외부 자기장이 키타예프 스핀 액체의 안정화에 도움이 된다는 것이다.25)26) 따라서 자기장에 의해 발현된 양자 액체(field-induced quantum liquid)가 키타예프 스핀 액체인지 판별하기 위해 최근 많은 실험 연구가 행해졌다.

3. 양자화된 열홀효과의 실험 관측과 논란

Fig. 8. Quantized thermal Hall effect in α-RuCl₃. Thermal Hall conductivity approaches the quantized value ${\kappa }_{xy}^{KQSL}/T=(\pi /12)(k_B^2/\hslash )$ at low temperatures (see the dashed line). Adapted with permission from Ref. [27], Copyright © 2018, Springer Nature.

양자화된 열홀효과는 키타예프 스핀 액체와 마요라나 모드를 뒷받침하는 강력한 증거로서 이론적으로 제안이 되어왔다. 그런데 이 양자화된 열전도도가 $\alpha$-RuCl₃에서 실제로 측정이 되었다. 이 실험은 교토 대학의 마츠다(Yuji Matsuda) 그룹에서 수행이 되었고, 그 결과는 그림 8에 있다. 자기장에 의해 발현되는 양자 액체 상태에서 열전도도의 양자화가 나타나는 것이 분명하게 보여진다. 이것은 키타예프 양자 액체와 마요라나 모드의 존재를 증명하는 실험이다.27)

이 실험 결과의 발표로 한동안 양자 자성 분야는 흥분의 도가니였다. 이어서 다른 실험 그룹들도 열홀효과 실험을 뒤따라 수행하기 시작했다. 하지만 몇몇 그룹에서 마츠다 그룹의 결과와는 다른 결과가 얻어졌고, 이로 인해 양자화된 열홀효과에 대한 논란이 일기 시작했다. 특히, 프린스턴 대학의 옹(Phuan Ong) 그룹이 보고한 실험 결과가 상당히 흥미롭다. 이들의 결과에서는, 열홀전도도가 예측된 양자화 값에 못 미친다. 하지만 평행방향 열전도도(longitudinal thermal conductivity)가 양자 진동(quantum oscillation)의 양상을 보인다는 것을 발견했다. 이것은 페르미온 준입자가 페르미 면(Fermi surface)을 이루고 있고 이들이 외부 자기장을 느낌으로 인해 양자 진동 현상이 일어날 수 있을 때 가능한 일이다. 따라서 이 열전도도 양자 진동은 키타예프 스핀 액체가 아닌 다른 종류의 양자 액체의 가능성을 의미한다.28)

머지않아 두 그룹의 서로 다른 결과에 대해 체계적인 분석이 이루어졌다. 막스플랑크 연구소의 타카기(Hidenori Takagi) 그룹은 다음과 같은 사실을 발견하였다. 두 실험 그룹이 서로 다른 방법으로 시편을 만들었는데(교토그룹: Bridgman 방식, 프린스턴그룹: CVT 방식), 이것이 시편의 성질에 많은 영향을 미쳐 결국에는 열전도도에도 큰 차이를 만든다. 다른 한편으로는, 교토그룹의 방식으로 만들어진 시편에서 열전도도가 (오차 범위 안에서) 예측된 양자화 값에 가까이 나타나는 것을 확인했다.29)

마지막으로, 양자화되지 않는 열홀전도도 관측에 대해 포논이나 마그논으로 해석하려는 시도들도 있었음을 언급하여 둔다.30)31)

키타예프 스핀 액체의 실험적 확인에 대한 새로운 제안: 자기장 방향 의존성 탐구

앞서 이야기한 열홀효과 실험은 사실 세계적으로 소수의 그룹만이 할 수 있는 어려운 실험이다. 열과 자기 토크 등을 정밀하게 잘 통제할 수 있어야 성공할 수 있는 실험이다. 이러한 실험적 어려움은 열홀효과 실험에 대한 논란을 가중시켰던 이유이기도 하다. 그렇다면 보다 용이하게 키타예프 스핀 액체를 실험적으로 검증할 수 있는 방법은 없는 것인가?

이러한 질문에 대한 한 가지 답으로, 최근에 필자와 공동연구자들이 수행하여 얻은 연구 결과에 대해 간략히 소개하고자 한다. 우리의 결론은 다음과 같다.32)33)

Fig. 9. Magnetic field angle dependence of the Kitaev quantum spin liquid. (a) D₃ point group symmetry, which consists of C₃ and C₂ rotations. (b) Convention for the magnetic field angles, ($\theta ,\varphi$). (c) Field angle dependence of the Chern number in the pure Kitaev model [Eq. (15)]. The dashed lines highlight the topological critical lines. (d) A schematic for the field angle dependence of heat capacity at a fixed temperature. Peak positions reveal the whole shape of the topological critical lines. Adapted with permission from Ref. [32], Copyright © 2022, Springer Nature.

특히, 페르미온 준입자의 에너지 갭과 천 숫자에 키타예프 스핀 액체의 독특한 특징이 잘 담겨있다. 이미 식 (14),(15)에서 보인 바와 같이, 에너지 갭(${\mathrm{\Delta }}_M$)과 천 숫자($\nu$)는 자기장 성분들의 곱($h_x{h}_y{h}_z$)에 의해 결정이 된다. 자기장 세기를 고정하고 자기장 방향의 평면에서 천숫자를 고려하면 그림 9(c)와 같다. 여기서 주목해야 할 특징은 천숫자의 부호가 바뀌는 자기장 방향은 하나의 점이 아니라 연속적인 선을 따라 나타난다는 것이다[그림 9(c)에서 점선으로 표시된 부분]. 그리고 자기장 방향이 이 선을 지나쳐 변하게 되면 천숫자가 바뀜과 동시에 페르미온 준입자의 에너지 갭 또한 닫혔다 열리게 된다. 따라서 우리는 천숫자가 바뀌는 자기장 방향들이 이루는 선을 위상적 임계선(topological critical line)이라고 부른다. 이 임계선은 키타예프 스핀 액체의 위상적 성질에 의해 반드시 나타나므로, 키타예프 스핀 액체를 실험적으로 확인하는 데 쓸 수 있는 아주 유용한 특징이다.

이러한 임계선(페르미온 에너지 갭의 닫힘)은 자기장 방향이 육각격자의 본드의 방향과 일치할 때 반드시 나타난다. 이것은 시스템이 가진 $D_s$ 포인트 그룹 대칭성에 의해 발생하는 성질이다. 구체적으로, 천숫자($\nu$)가 $D_3$ 포인트 그룹의 $A_2$ 표현이기 때문에 나타나는 성질이다. 이러한 대칭성을 바탕으로 천숫자의 일반적인 표현을 적어보면 다음과 같다.

그리고 이에 대응하여 페르미온 에너지 갭은 다음과 같이 주어진다.

여기서, $h_x+h_y+h_z$와 $h_x{h}_y{h}_z$는 자기장으로 나타낼 수 있는 $A_2$ 표현이다. 식 (15)에는 등장하지 않았던 $h_x+h_y+h_z$은 키타예프가 아닌 다른 상호작용(예를 들어, $J,\mathrm{\Gamma },{\mathrm{\Gamma }}^{\prime }$)이 있는 경우에 생성된다. 이러한 추가적인 항의 존재에도, 임계선은 자기장 방향이 육각격자의 본드의 방향과 일치할 때 반드시 나타난다. 이렇게 나타나는 페르미온 에너지 갭의 닫힘을 대칭성의 영(symmetric zero)이라고 부른다.

자기장 방향이 육각격자의 평면 안에서 돌려지면, 페르미온 에너지 갭은 자기장의 삼승에 비례하는 성질(cubic dependence)을 갖는다. 식 (19)에서 보여지는 바와 같이, 자기장이 육각격자의 평면과 평행하면 $h_x+h_y+h_z$항은 영이 된다. 따라서 $h_x{h}_y{h}_z$항이 가장 낮은 차수의 항으로 에너지 갭을 결정한다. 따라서, 자기장 삼승에 비례하는 에너지 갭이 나타난다(${\mathrm{\Delta }}_M\sim h^3$).

방금 언급된 세 가지 성질을 정리하면 다음과 같다.

이 세 가지 성질은 자기정렬이 있는 상들에서는 불가능하고, 오직 키타예프 스핀 액체에서만 나타날 수 있는 성질들이다. 따라서 실제 물질에서 이 세 가지 성질을 관찰하게 되면 키타예프 스핀 액체를 확인하게 되는 셈이다.32)

Fig. 10. Heat capacity measurement. (a) Heat capacity measured for bond-direction field (H ||b, blue) and bond-perpendicular field (H ||a, red). (b) Energy gap extracted from the heat capacity data for bond-perpendicular fields. Adapted with permission from Ref. [33], Copyright © 2022, Springer Nature.

이러한 성질들은 최근에 열용량 실험에서 확인이 되었다. 도쿄 대학 시바우치(Takasada Shibauchi) 그룹에서 $\alpha$-RuCl₃에 대해 이 실험을 수행하였는데, 측정된 열용량으로부터 에너지 갭의 값을 추출하여 자기장 방향 의존성을 조사하였다. 그 결과, 대칭성의 영과 자기장 삼승의 에너지 갭을 확인하였다. 임계선 전체의 모양은 실험 셋업의 제한으로 아직 확인이 되지 않았다. 그림 10이 그 열용량 실험 결과를 보여주는데, 자기장이 본드 방향으로 주어질 때($H\parallel b$) 열용량이 온도의 함수로서 power law behavior를 보인다. 이는 에너지 갭이 없는 들뜬 상태의 존재를 의미하며, “대칭성의 영”을 보여주는 것이다. 다른 한편으로, 자기장이 본드 방향에 수직일 때($H\parallel b$)에는 지수적으로 감소하는 양상을 보인다. 이것은 들뜬 상태에 유한한 에너지 갭이 존재함을 의미하는 것이다. 이 경우 측정된 열용량으로부터 에너지 갭의 크기를 알아낼 수 있는데, 에너지 갭의 크기가 “자기장 삼승”에 비례하는 것이 나타난다. 이렇게 확인된 두 가지 성질들은 키타예프 스핀 액체의 존재를 뒷받침하는 실험 증거들이다.33)

열용량 실험이 자기장 방향 전체에 대해 이루어지면, 열용량의 픽이 나타나는 자기장 방향들로부터 임계선의 모양을 얻어낼 수 있다[그림 9(d)]. 그러면 위의 언급된 세 가지 성질이 모두 검증되는 것으로, 키타예프 스핀 액체에 대한 확실한 증거가 될 것이다.

마무리 글

본 원고에서는 키타예프 양자 스핀 액체의 성질에 대해 알아보고 후보 물질인 $\alpha$-RuCl₃에서의 최근 실험 연구에 대해 소개하였다. 보통의 경우 실험에서 어떤 종류의 스핀 액체인지 알아보는 것은 대단히 어려운 일이다. 하지만 키타예프 스핀 액체의 경우 독특한 위상적 성질을 가지고 있어서, 양자화된 열홀효과나 자기장 방향에 대한 의존성 탐구를 통해 그것을 확인할 수 있는 방법들이 있다. 그럼에도 보다 쉽고 확실하게 키타예프 스핀 액체를 확인할 수 있는 방법들은 앞으로도 계속 연구가 되어져야 한다. 최근 Cobalt 원소에 기반한 키타예프 자성체들이 발견이 되어 활발히 연구되고 있다. 앞으로 이 물질들에서 키타예프 스핀 액체에 관련하여 어떠한 재미있는 결과들이 나올지 기다려진다.