Kitaev Quantum Spin Liquid 

Kyusung HWANG

Quantum spin liquid is a phase of matter featured with quantum entanglement and fractionalization, and it has been sought after in condensed matter. Kitaev quantum spin liquid has been of particular interest due to the emergent quasiparticles of Majorana fermion, which is proposed as a venue for quantum computations. Recently, experimental evidences for Majorana fermion have been reported in the Kitaev quantum magnet \(\small \alpha\)-RuCl₃. Half-integer quantized thermal Hall effect and field-angle dependent Majorana gap were experimentally observed. In this article, we review physics of Kitaev quantum spin liquid and recent advances in experiments.

들어가는 글

양자 스핀 액체는 양자 얽힘이 거시적인 수준으로 시스템 전체에 퍼져 나타나는 물질의 상이다.1)2)3) 애니온이라는 분수화된 준입자를 허용한다는 것이 대표적인 특징인데, 이들의 독특한 위상적 성질과 더불어 이들을 큐빗으로 이용한 양자 계산의 가능성으로 인해 양자 물질과 양자 계산 두 분야에서 각광을 받고 있다.

최근 다양한 플랫폼에서 양자 스핀 액체 상태에 대한 연구가 활발하다. 양자 컴퓨터의 프로세서,4) 리드버그 원자 시스템,5) 그리고 2차원 양자 자성체 \(\small \alpha\)-RuCl₃6)가 그 예이다. 여기서 다양한 학문 분야가 양자 스핀 액체라는 공통 분모를 가지고 만나는 것을 잘 볼 수 있다.

필자는 양자 자성을 연구해온 사람의 관점에서 양자 스핀 액체가 무엇인지에 대해 이야기해 보려 한다. 특히 다음의 네 가지 질문에 대해 답을 제시하고자 한다.

1. 양자 스핀 액체란 무엇인가? 앞서 간단히 소개했듯이, 양자 얽힘이 강하고 준입자 분수화 현상이 나타나는 물질의 상태이다. 또한 시스템의 대칭성이 깨어져 있지 않은 어떻게 보면 심심한 상태이다. 흥미로운 성질은 양자 얽힘의 결과로 나타난다.

2. 그것이 왜 재미있고 중요한가? 기존의 대칭성의 깨짐으로 물질의 상을 이해하는 이해 체계 안에 속하지 않는다. 이런 상태를 이해하기 위해 위상정렬이라는 개념이 필요하고 이 안에서 애니온을 위상적으로 잘 이해할 수 있다. 또한 응용 측면에서 애니온을 이용하여 양자 계산이 가능하다(애니온이 양자 계산을 할 수 있다!).

3. 그러면 어디에서 발견할 수 있는가? 앞서 소개한 여러 플랫폼에서 구현 또는 발견될 수 있다. 양자 자성체로 한정 짓는다면, 2차원으로 양자 요동이 강하고 쩔쩔맴 현상이 있는 자성체에서 발견할 가능성이 크다. 카고메 반강자성체와 키타예프 자성체가 대표적인 예이다.

4. 마지막으로 실험적으로 어떻게 양자 스핀 액체를 확인할 수 있는가? 분수화된 준입자를 볼 수 있는 실험이어야 한다. 중성자 산란 실험, 라만 산란 실험, 열용량 측정, 그리고 열전도실험이 좋은 예이다.

앞으로 이야기를 풀어나가는데 가이드가 되도록, 위의 질문들에 미리 대략적인 답을 제시해 놓았다.

다양한 양자 스핀 액체 중에서, 필자는 키타예프 양자 스핀 액체에 대해 이야기하려고 한다.7)8)9) 키타예프 스핀 액체는 정확히 풀리는 키타예프 육각격자 모형의 해로서, 마요라나 페르미온을 준입자로 허용한다.7) 마요라나 페르미온이란 자기 자신이 스스로의 반입자가 되는 아주 특이한 입자인데, 자연계에서 발견되지 않은 이론적으로 제안된 입자이다. 또한 마요라나 페르미온은 양자 계산을 구현할 수 있는 한 가지 방법으로 많은 관심을 받고 있다.7) 따라서 마요라나 페르미온을 갖는 키타예프 스핀 액체는 최근 아주 활발히 연구되었고, 양자자성체 \(\small \alpha\)-RuCl₃에서 마요라나 페르미온과 키타예프 스핀 액체의 실험적 증거가 발견된 큰 진전이 있었다. 이 글에서, 필자는 키타예프 스핀 액체의 여러 흥미로운 성질들을 구체적으로 알아보고, 키타예프 스핀 액체의 검증과 관련된 최근 실험들을 소개하고자 한다.

키타예프 육각격자 모형

키타예프 육각격자 모형(Kitaev honeycomb model)은 2차원 육각격자 위에서 정의된 양자 스핀 모형이다. 각 격자점에 스핀-1/2(파울리 매트릭스 \(\small \sigma_i^{x,y,z}\))들이 놓여있고 아래와 같은 해밀토니언으로 상호작용한다.7)

\[ H=K \sum _{\left< ij \right>x} ^{} \sigma _{i}^{x} \sigma _{j}^{x} + K \sum _{\left< ij \right>y} ^{} \sigma _{i}^{y} \sigma _{j}^{y} + K \sum _{\left< ij \right>z} ^{} \sigma _{i}^{z} \sigma _{j}^{z} \tag{1} \]

한 가지 특이한 점은 스핀들이 본드의 방향에 의존하는 이징 상호작용(bond-dependent Ising interaction)을 한다는 것이다. 본드 방향에 따라 \(\small x, y, z\)-본드들로 구분하여, \(\small x\)-본드에서는 스핀 \(\small x\)-성분끼리, \(\small y\)-본드에서는 스핀 \(\small y\)-성분끼리, \(\small z\)-본드에서는 스핀 \(\small z\)-성분끼리 상호작용한다[그림 1(a)]. 이러한 스핀 상호작용을 키타예프 상호작용(Kitaev interaction)이라고 부르고, \(\small K\)는 이 상호작용의 세기를 나타내는 상수이다.

놀랍게도 우리는 이 모형을 정확히 풀 수 있다.7) 겉보기에 대단히 인위적이며 매우 낮은 대칭성을 갖는 것으로 보이지만 말이다. 바닥상태는 양자 스핀 액체 상태(quantum spin liquid)이며, 들뜬 상태로서 두 가지 종류의 분수화된 준입자(fractional quasiparticle)를 갖는다. 하나는 페르미온(fermion), 다른 한 종류는 Z₂ 플럭스(Z₂ flux)이다. 이 모형의 정확한 해를 구하는 과정을 통해 이러한 성질들을 자세히 알아본다.

1. 마요라나 표현

제일 먼저, 키타예프 모형을 풀 수 있게 해주는 아래의 마요라나 표현식(Majorana representation)을 도입한다.7) \[ \sigma _{i}^{\alpha} =ib _{i}^{\alpha} c _{i} \tag{2} \]

여기에서 (\(\small b^x , b^y , b^z , c\))는 마요라나 페르미온 연산자로서, 서로 반대 교환관계(anti-commutation relation)를 만족하며 각각의 제곱이 1이 되는 성질을 갖는다.10) 이러한 성질로부터 위의 마요라나 표현식이 스핀-1/2 연산자의 모든 성질을 잘 나타내는 것을 확인할 수 있다.11)

하지만 한 가지 주의할 점이 있는데, 마요라나 표현식은 원래의 스핀-1/2의 2차원 힐버트 공간을 보다 큰 4차원으로 확장한다. 물리적으로 올바른 이론을 위해서는 원래의 2차원 힐버트 공간을 복원시켜야 하는데, 아래의 투영 연산자를 취함으로써 가능하다.

\[ D _{i} =b _{i}^{x} b_{i}^{y} b_{i}^{z} c_{i} = 1 \tag{3} \]

이 연산자(\(\small D_i\))는 사실 두 개의 값(\(\small \pm 1\))을 취할 수 있지만, \(\small \sigma_i^x \sigma_i^y \sigma_i^z\)의 조건에 의해 \(\small D_i = +1\)의 섹터가 물리적으로 올바르다. 따라서 확장된 힐버트 공간에서 문제를 다 풀고 마지막에 \(\small D_i = +i\) 섹터로 투영을 취하게 된다.

2. 마요라나 해밀토니안

마요라나 표현을 이용하면, 원래의 스핀 모형은 다음과 같은 마요라나 해밀토니안(Majorana Hamiltonian) 형태를 취하게 된다. 

\[ H_{\mathrm{eff}} = -K \sum _{\left< ij \right>_{\alpha }} ^{} u _{ij} (ic _{i} c _{j} ) \tag{4} \]

여기에서 \(\small u_{ij} = ib_i^\alpha b_j^\alpha\)는 본드 \(\small\left< ij \right>_\alpha\)에서의 상호작용에 참여하는 \(\small b\)-마요라나 연산자들의 곱으로, 아래와 같은 아주 유용한 성질을 갖는다.

\[ \left[ u _{ij} ,H_{\mathrm{eff}} \right] = \left[ u_{ij}, u_{kl} \right] = 0 \tag{5} \]

이 성질을 이용하여, 원래는 연산자였던 \(\small u_{ij}\)를 그것의 고유값(\(\small u_{ij} = \pm 1\))으로 치환하여 문제를 쉽게 풀 수 있게 된다. 다시 말해서 원래의 복잡해 보였던 스핀 모형이 상호작용이 없는 페르미온 문제(non-interacting fermion problem)로 단순화된다.

위의 마요라나 기술 방식을 풀어서 이야기하면, \(\small b\)-마요라나 페르미온들은 각 본드에서 쌍을 이루어 \(\small u_{ij} = \pm 1\)의 (동역학이 없는) Z₂ 필드를 만들어낸다. 그리고 이 Z₂ 필드를 보면서 \(\small c\)-마요라나 페르미온들이 격자 위를 움직여 다니는 모형이다[그림 1(b)].

3. Z₂ 게이지 필드와 Z₂ 게이지 플럭스

이 시스템은 Z₂ 게이지 구조(Z₂ gauge structure)를 가지고 있다. 사실 앞서 이야기한 Z₂ 필드(\(\small u_{ij} = \pm1\))는 Z₂ “게이지” 필드이다. 그 이유는 \(\small u_{ij}\) 자체는 물리적으로 측정할 수 있는 양이 아니기 때문이다. 정확히 말해서, 물리적으로 측정가능한 양은 \(\small D_i\)의 작용 아래 불변이다(\(\small D _{i} {\hat{O}}D _{i} ={\hat{O}}\)). 이와는 달리, \(\small u_{ij}\)는 부호가 달라진다(\(\small D_i u _{ij} D_i = - u _{ij}\)). \(\small u_{ij}\)를 이용하여 물리적으로 측정 가능한 양을 구성하기 위해서는, 격자 구조 위에서 하나의 폐곡선을 따라 \(\small u_{ij}\)를 곱하여야 함을 쉽게 알 수 있다. 그렇게 하여 가장 간단히 얻을 수 있는 양이 바로 다음의 Z₂ 플럭스이다.

\[ W _{p} = \prod _{ij \in p} u_{ij} \tag{6} \]

이 양은 기본 육각형(\(\small p\))의 변을 따라 \(\small u_{ij}\)를 모두 곱한 것으로 \(\small W_p = \pm 1\)의 값을 갖는다. 이 양을 스핀 연산자들로 나타낼 수 있는데, 그 표현식은 다음과 같다.

\[ W _{p} = \prod _{\left< ij \right>_{\alpha } \in p} ^{} \sigma _{i} ^{\alpha } \sigma _{j} ^{\alpha } = \sigma _{1} ^{z} \sigma _{2} ^{y} \sigma _{3} ^{x} \sigma _{4} ^{z} \sigma _{5} ^{y} \sigma _{6} ^{x} \tag{7} \]

육각형 내에서의 격자점 순서는 그림 1(a)에 표시되어 있다. 이 플럭스 연산자는 원래의 스핀 해밀토니언과 교환관계를 갖기 때문에(\(\small [W_p ,H]=[W_p ,W_q ]=0\)), 시스템을 기술하는 데에 유용한 양자수(\(\small W_p = \pm 1\))를 제공해준다.

이제 이 시스템의 Z₂ 게이지 구조는 쉽게 이해되어진다.

\[ u _{ij} = \exp(iA _{ij} ),~~~W _{p} = \exp(iB _{p} ) \tag{8} \]

먼저 위와 같이 Z₂ 필드(\(\small u_{ij}\))를 벡터 포텐셜 \(\small A_{ij}(=0, \pi)\)로 나타낸다. 그러면 Z₂ 플럭스(\(\small W_p\))는 자기 플럭스 \(\small B_p = \sum _{ij \in p} ^{} A _{ij} (=0, \pi)\)로 대응된다. 이렇게 \(\small u_{ij}\)와 \(\small W_p\) 사이의 관계는 “벡터 포텐셜”과 “자기 플럭스”로 간단히 이해할 수 있고, 여기서 Z₂ 게이지 변환은 (물리적으로 올바른 힐버트 공간을 정의해주는) \(\small D_i\) 연산자에 의해 이루어진다(\(\small D_i: A_{ij} \rightarrow A_{ij} + \pi\)).

4. 바닥 상태: 키타예프 양자 스핀 액체

그러면 이제 마요라나 해밀토니언(\(\small H_\mathrm{eff}\))의 해에 대해 이야기해보자. 바닥 상태를 찾는 문제는 \(\small H_\mathrm{eff}\)에서 가장 낮은 에너지 상태를 갖는 \(\small u_{ij} = \pm 1\) 패턴을 찾아내는 것과 같다. 수치 계산을 통해 모든 육각형에서 \(\small W_p = +1\)인 상태(0-플럭스 상태)가 가장 낮은 에너지를 가짐을 확인할 수 있는데, 이에 대응되는 가장 간단한 패턴으로 우리는 모든 본드에서 \(\small u_{ij} = +1\)인 패턴을 선택한다. 이로부터 얻어지는 가장 낮은 에너지 상태 \(\small \left| GS (u_{ij} = +1)\right>\)에 앞서 말한 투영 연산자를 가하여 다음과 같이 바닥 상태가 얻어진다.

\[ \left | KQSL \right> = \prod _{i} ^{} \frac{1+D _{i}}{2} ~\left | GS~(u_{ij} = +1) \right > \tag{9} \]

이것이 키타예프 모형의 정확한 바닥 상태, 키타예프 양자 스핀 액체(Kitaev quantum spin liquid) 상태이다. 투영 연산자가 나타내듯이, 이 양자 상태는 여러 개의 다른 상태들의 중첩으로 구성되어 있어 기본적으로 강한 양자 얽힘을 갖는 상태이다. 그리고 각 격자점에서 자기 모먼트를 전혀 가지지 않는다(\(\small \left < \sigma _{i}^{\alpha} \right > =0\)). 보다 흥미롭게, 스핀-스핀 상관함수(spin-spin correlation function)는 키타예프 상호작용의 경우에 대해서 만 영이 아니고 나머지 경우에 대해서는 영이다.

\[ \left< \sigma _{i} ^{\alpha } \sigma _{j} ^{\beta } \right > = \left\{ \begin{array}{ll} \mathrm{Nonzero} & \mathrm{(Kitaev~ bond~ Hamiltonian)}\\ \mathrm{Zero} & \mathrm{(otherwise)} \end{array}\right. \tag{10} \]

그로 인해 상관거리(correlation length)는 극도로 짧은 값(nearest neighbor 거리)을 갖는 특별한 성질이 나타난다.12)

5. 들뜬 상태: 분수화된 준입자

양자 스핀 액체의 준입자들은 마그논과 같은 보통의 준입자들이 쪼개어진 상태로 볼 수 있고, 따라서 분수화된 준입자(fractional quasiparticle)라고 부른다. 이러한 분수화된 준입자의 존재는 키타예프 양자 스핀 액체를 포함한 모든 양자 스핀 액체의 일반적인 특성이다.

6. 분수화 현상의 흔적: 측정 가능한 물리량

준입자 분수화(fractionalization) 현상을 실험으로 관찰할 수 있을까? 이에 대한 좋은 예로서, 중성자 산란 실험과 열용량 측정을 들 수 있다. 먼저, 중성자 산란(neutron scattering)을 통해서 자성체 내의 들뜬 상태의 스펙트럼 측정을 할 수 있는데, 키타예프 양자 스핀 액체에서는 스펙트럼이 앞서 언급한 \(\small \Delta_\mathrm{flux} \simeq 0.26 \left|K\right|\)의 에너지 위로 broad continuum으로 나타난다. 그림 3(a)는 정확한 바닥상태 \(\small \left| KQSL \right>\)를 이용하여 실제 계산한 결과를 보여준다. 이러한 broad continuum은 스핀 하나를 뒤집는 과정이 여러 개의 준입자를 동시에 생성하는 효과가 반영된 결과이다.13)

다음으로 열용량(heat capacity)을 온도의 함수로 보게 되면, 키타예프 양자 스핀 액체의 경우 두 개의 픽 구조를 나타낸다. 이것은 몬테 카를로 시뮬레이션 결과에서 잘 확인이 된다[그림 3(b)]. 첫 번째 픽은 Z₂ 플럭스 갭 에너지 크기에 대응하는 온도(\(\small T^\ast \sim \Delta_\mathrm{flux} / k_B = 0.26 \left| K \right| / k_B\))에서 나타나고, 두 번째 픽은 페르미온 에너지 밴드의 폭에 대응하는 온도(\(\small T^{\ast\ast} \sim 6 \left| K \right| / k_B\))에서 나타난다. 키타예프 양자 스핀 액체에서 두 종류의 준입자들(Z₂ 플럭스와 페르미온)의 에너지 크기가 서로 잘 분리되어 있어서, 열용량에서 잘 분리된 두 개의 픽으로 나타나게 되는 것이다.14)

되풀이하면, 준입자 분수화 현상은 중성자 산란 실험에서 broad continuum으로, 열용량 측정에서 two-peak structure로 확인할 수 있다.

시간대칭성 깨뜨리기: 양자화된 열홀효과

이제 키타예프 스핀 액체가 가지고 있는 흥미로운 위상적 성질에 대해 이야기해 보려고 한다. 이 위상적 성질은 외부 자기장이 걸려서 시간 대칭성이 깨졌을 때 드러나는데, 이를 위해 다음과 같이 제만 상호작용(Zeeman coupling)을 고려하도록 하자.

\[ H=K \sum _{ \left< ij \right> _{\alpha}} ^{} \sigma _{i}^{\alpha} \sigma _{j}^{\alpha} - {\vec{h}} \cdot \sum _{i} ^{} {\vec{\sigma}} _{i} \tag{11} \]

엄밀히 말하면, 제만 상호작용이 들어오면 스핀 모형은 더 이상 정확히 풀 수 없다. 그렇지만 제만 상호작용이 섭동적으로 들어오는 경우, 다음과 같은 유효 모형을 유도할 수 있다.7)

\[ H=K \sum _{\left < ij \right > _{\alpha }} ^{} \sigma _{i} ^{\alpha } \sigma _{j} ^{\alpha } -M \sum _{\left < ij \right > _{\alpha } \left < jk \right > _{\gamma }} ^{} \sigma _{i} ^{\alpha } \sigma _{j} ^{\beta } \sigma _{k} ^{\gamma } ~\left ( M \sim \frac{h _{x} h _{y} h _{z}}{\Delta _\mathrm{flux} ^{2}} \right ) \tag{12} \]

이 모형은 바닥 상태가 속해 있는 0-플럭스 섹터(\(\small W_p = +1\))에서 플럭스 갭(\(\small \Delta_\mathrm{flux}\)) 아래의 페르미온 준입자가 자기장에 의해 어떠한 영향을 받는지를 기술하는 유효이론이다.

\(\small M\)으로 표시된 유효 상호작용은 (에너지 갭이 없던) 페르미온 준입자 스펙트럼에 에너지 갭을 여는 역할을 한다. 유효 상호작용 \(\small M\)을 아래와 같이 마요라나 표현식으로 나타내어 보면 쉽게 이해할 수 있다.15)

\[ H_\mathrm{eff} = -K \sum _{\left < ij \right > _{\alpha }} ^{} ic _{i} c _{j} -M \sum _{\left < ij \right > _{\alpha } \left < jk \right > _{\gamma }} ^{} ic _{i} c _{k} \tag{13} \]

이 마요라나 표현식은 육각격자 위에서 페르미온들의 동역학을 기술하는데, \(\small K\)는 가장 인접한 격자점(nearest neighbor)으로 이동을, \(\small M\)은 두 번째로 인접한 격자점(next nearest neighbor)으로의 이동을 나타낸다. 푸리에 변환을 통해 모멘텀 공간에서 나타내어 대각화해보면, \(\small M\)이 페르미온 준입자의 질량으로 나타나는 것을 직접 확인해 볼 수 있다[그림 2(b)]. 다시 말해, 자기장의 영향 아래 페르미온 준입자가 아래와 같이 질량(에너지 갭)을 얻게 된다.7)

\[ \Delta_M \sim \frac{\left\vert h _{x} h _{y} h _{z} \right\vert}{\Delta _\mathrm{flux}^{2}} \tag{14} \]

여기서 주목해야 할 점은 페르미온 준입자의 질량이 자기장 방향에 따라 달라지며, 특정 방향의 자기장에 대해서는 영이 되기도 한다는 사실이다.

1. 천 숫자와 마요라나 에지 모드

페르미온 준입자의 에너지 밴드에 갭이 생겼으니[그림 2(b)], 에너지 밴드의 위상적 구조에 대해 살펴봐야 한다. 이 경우 위상 불변양(topological invariant)으로서 천 숫자(Chern number)를 정의할 수 있다. 여기서 천 숫자는 에너지 갭 아래의 음의 에너지 밴드에 대해 베리 곡률(Berry curvature)을 적분한 양으로 정의되는데, 그 결과는 아래와 같이 얻어진다.

\[ \nu = \frac{1}{2 \pi} \int _{1BZ} ^{} {\Omega ^{z} (q)~d ^{2} q} = sgn(h _{x} h _{y} h _{z}) \tag{15} \]

흥미롭게도 천 숫자 \(\small \nu\)는 \(\small h_x h_y h_z\)의 부호에 따라 (또는 자기장 방향에 따라) +1 또는 -1의 값을 갖는다.

천 숫자의 물리적 의미는 에지에서 한 방향으로만 움직이는 카이럴 마요라나 에지 모드(gapless chiral Majorana edge mode)의 수를 의미한다.7)

2. 양자화된 열홀효과

영이 아닌 천 숫자 그리고 마요라나 에지 모드의 존재는 수송 현상(transport phenomena)에서 홀효과(Hall effect)가 발생할 수 있음을 의미한다. 키타예프 스핀 액체에서의 준입자들은 전하를 띠지 않기 때문에 전기적 수송현상은 기대할 수 없다. 하지만 에너지를 운반할 수 있으므로 열수송 현상을 생각할 수 있는데, 한 방향으로 움직이는 마요라나 에지 모드로 인해 홀효과가 나타난다. 특히, (벌크 에너지 갭보다) 낮은 온도에서 열홀전도도(thermal Hall conductivity)와 온도의 비율이 다음과 같이 양자화되는 특징이 있다.7)

\[ \frac{\kappa _{xy}^{KQSL}}{T} = \nu \frac{\pi}{12} \frac{k _{B}^{2}}{\hbar} \tag{16} \]

사실 이러한 양자화된 열홀효과(quantized thermal Hall effect)는 정수 양자홀 상태(integer quantum Hall state)에서도 나타나는 것으로 잘 알려져 있다. 하지만 정수 양자홀 상태의 경우, 열홀전도도가 \(\small k_{xy}^{IQH} / T = \nu(\pi/6)(k_B^2 / \hbar)\)으로 주어진다. 키타예프 스핀 액체에 비해 두 배 큰 것으로 나타나는데, 이것은 열을 실어 나르는 매개체의 차이로 인한 것이다. 정수 양자홀 상태에서는 (물리적인 입자인) 전자가 매개체이지만, 키타예프 스핀 액체에서는 (분수화 현상으로 나타나는) 마요라나 모드가 그 매개체이다. 따라서 열을 실어 나르는 용량에 차이가 생기고, 후자의 열홀전도도가 전자의 경우에 비해 절반으로 나타난다[그림 7(a,b)].

3. 몬테 카를로 시뮬레이션

또 한 가지 흥미로운 점은 \(\small T^{\ast}\)의 온도에 접근함에 따라 열홀효과의 양자화가 급격히 약화되는 점이다. 이것은 플럭스 준입자의 생성으로 바닥상태의 순수한 0-플럭스 구조가 망가지게 되어 키타예프 스핀 액체의 위상적 성질을 잃어버리게 되는 것을 보여준다[그림 5(d)].

\(\alpha\)-RuCl₃: 키타예프 양자자성체

이론적으로 제시되었던 키타예프 스핀 액체가 실제 물질에서의 연구로 확장될 수 있었던 데에는 작켈리와 칼리울린(Jackeli and Khaliullin)의 기여가 크다. 그들은 키타예프 상호작용이 존재할 수 있는 실제 물질구조를 제안하였다.17) 전이금속 산화물 중 강한 스핀-궤도 상호작용(spin-orbit coupling)을 가지는 \(\small J_\mathrm{eff} = 1/2\) 물질에서 산소 정팔면체들이 모서리를 공유하는(edge-sharing oxygen octahedra) 물질 구조가 그것이다. 이 제안에 따라 많은 후보 물질들이 만들어져 활발한 연구가 있어왔다. 그 중 \(\small \alpha\)-RuCl₃는 키타예프 스핀 액체의 실험적 증거를 보이며, 최근 지대한 관심과 동시에 논란을 야기시키고 있는 물질이다. 이 물질에 대해 간단히 소개하고 최근 행해진 열홀효과 실험에 대해 이야기하겠다.

1. 스핀 모형

2. 자기장에 의해 발현된 양자 액체

지그재그 자기 정렬에도 불구하고 왜 \(\small \alpha\)-RuCl₃가 키타예프 스핀 액체의 후보 물질로 연구되어지는가? 흥미롭게도, 이 물질에 자기장을 가하면 자기정렬이 사라지고 양자 액체가 나타나게 된다[그림 7(c)].24) 그러면, 이렇게 자기장에 의해 발현된 양자 액체(field-induced quantum liquid)가 키타예프 스핀 액체가 아닐까 하는 자연스러운 질문이 생긴다. 이와 관련하여 최근의 이론 연구가 흥미로운 결과를 제시하는데, 키타예프가 아닌 다른 상호작용이 있는 경우, 외부 자기장이 키타예프 스핀 액체의 안정화에 도움이 된다는 것이다.25)26) 따라서 자기장에 의해 발현된 양자 액체(field-induced quantum liquid)가 키타예프 스핀 액체인지 판별하기 위해 최근 많은 실험 연구가 행해졌다.

3. 양자화된 열홀효과의 실험 관측과 논란

키타예프 스핀 액체의 실험적 확인에 대한 새로운 제안: 자기장 방향 의존성 탐구

앞서 이야기한 열홀효과 실험은 사실 세계적으로 소수의 그룹만이 할 수 있는 어려운 실험이다. 열과 자기 토크 등을 정밀하게 잘 통제할 수 있어야 성공할 수 있는 실험이다. 이러한 실험적 어려움은 열홀효과 실험에 대한 논란을 가중시켰던 이유이기도 하다. 그렇다면 보다 용이하게 키타예프 스핀 액체를 실험적으로 검증할 수 있는 방법은 없는 것인가?

이러한 질문에 대한 한 가지 답으로, 최근에 필자와 공동연구자들이 수행하여 얻은 연구 결과에 대해 간략히 소개하고자 한다. 우리의 결론은 다음과 같다.32)33)

특히, 페르미온 준입자의 에너지 갭과 천 숫자에 키타예프 스핀 액체의 독특한 특징이 잘 담겨있다. 이미 식 (14),(15)에서 보인 바와 같이, 에너지 갭(\(\small \Delta_M\))과 천 숫자(\(\small \nu\))는 자기장 성분들의 곱(\(\small h_x h_y h_z\))에 의해 결정이 된다. 자기장 세기를 고정하고 자기장 방향의 평면에서 천숫자를 고려하면 그림 9(c)와 같다. 여기서 주목해야 할 특징은 천숫자의 부호가 바뀌는 자기장 방향은 하나의 점이 아니라 연속적인 선을 따라 나타난다는 것이다[그림 9(c)에서 점선으로 표시된 부분]. 그리고 자기장 방향이 이 선을 지나쳐 변하게 되면 천숫자가 바뀜과 동시에 페르미온 준입자의 에너지 갭 또한 닫혔다 열리게 된다. 따라서 우리는 천숫자가 바뀌는 자기장 방향들이 이루는 선을 위상적 임계선(topological critical line)이라고 부른다. 이 임계선은 키타예프 스핀 액체의 위상적 성질에 의해 반드시 나타나므로, 키타예프 스핀 액체를 실험적으로 확인하는 데 쓸 수 있는 아주 유용한 특징이다.

이러한 임계선(페르미온 에너지 갭의 닫힘)은 자기장 방향이 육각격자의 본드의 방향과 일치할 때 반드시 나타난다. 이것은 시스템이 가진 \(\small D_s\) 포인트 그룹 대칭성에 의해 발생하는 성질이다. 구체적으로, 천숫자(\(\small \nu\))가 \(\small D_3\) 포인트 그룹의 \(\small A_2\) 표현이기 때문에 나타나는 성질이다. 이러한 대칭성을 바탕으로 천숫자의 일반적인 표현을 적어보면 다음과 같다.

\[ \nu = sgn \left[ \Lambda_1 (h _{x} + h _{y} + h _{z}) + \Lambda_3 h _{x} h _{y} h _{z} \right] \tag{18} \]

그리고 이에 대응하여 페르미온 에너지 갭은 다음과 같이 주어진다.

\[ \Delta_M \sim \left\vert \Lambda _{1} (h _{x} +h _{y} +h _{z} )+ \Lambda _{3} h _{x} h _{y} h _{z} \right\vert \tag{19} \]

여기서, \(\small h_x + h_y + h_z\)와 \(\small h_x h_y h_z\)는 자기장으로 나타낼 수 있는 \(\small A_2\) 표현이다. 식 (15)에는 등장하지 않았던 \(\small h_x + h_y + h_z\)은 키타예프가 아닌 다른 상호작용(예를 들어, \(\small J, \Gamma, \Gamma^\prime \))이 있는 경우에 생성된다. 이러한 추가적인 항의 존재에도, 임계선은 자기장 방향이 육각격자의 본드의 방향과 일치할 때 반드시 나타난다. 이렇게 나타나는 페르미온 에너지 갭의 닫힘을 대칭성의 영(symmetric zero)이라고 부른다.

자기장 방향이 육각격자의 평면 안에서 돌려지면, 페르미온 에너지 갭은 자기장의 삼승에 비례하는 성질(cubic dependence)을 갖는다. 식 (19)에서 보여지는 바와 같이, 자기장이 육각격자의 평면과 평행하면 \(\small h_x + h_y + h_z\)항은 영이 된다. 따라서 \(\small h_x h_y h_z\)항이 가장 낮은 차수의 항으로 에너지 갭을 결정한다. 따라서, 자기장 삼승에 비례하는 에너지 갭이 나타난다(\(\small \Delta_M \sim h^3\)).

방금 언급된 세 가지 성질을 정리하면 다음과 같다.

이 세 가지 성질은 자기정렬이 있는 상들에서는 불가능하고, 오직 키타예프 스핀 액체에서만 나타날 수 있는 성질들이다. 따라서 실제 물질에서 이 세 가지 성질을 관찰하게 되면 키타예프 스핀 액체를 확인하게 되는 셈이다.32)