그림 2. RIXS 스펙트럼에서 측정한 자성 엑시톤의 온도 의존성. 관측된 엑시톤의 선폭이 실험적 분해능과 거의 일치하는 것을 볼 수 있다.

서울대 박제근 교수의 공동연구팀은 최근 2차원 자성 반데르발스 물질 NiPS₃에서 한 번도 보고되지 않았던 형태의 엑시톤을 관측하였다. 이 엑시톤의 형성은 Ni의 d 오비탈과 S의 p 오비탈 간의 상호작용으로 인해 나타나는 Zhang-Rice triplet(ZRT) 상태로부터 Zhang-Rice singlet(ZRS) 상태로의 전이를 실험적으로 관측함으로써 발견되었다. ZRS 상태에서는 스핀과 오비탈 자유도가 강하게 결합되어 있다고 예상되기 때문에 NiPS₃에 나타나는 반강자성 자기구조가 이와 크게 연관되어 있다고 생각할 수 있다. 이런 형태의 자성 엑시톤은 지금까지 보고가 되지 않은 새로운 결과이다.

이러한 NiPS₃ 내 엑시톤의 존재는 서강대 정현식 교수팀에서 광방출 실험, 연세대 김재훈 교수 팀에서 광흡수 실험, 그리고 영국 Diamond 방사광 가속기 연구소 Kejin Zhou 팀에서 공명 비탄성 엑스선 산란(Resonant Inelastic X-ray Scattering, RIXS) 실험을 통해 모두 관측되었다. 특히, 광방출 실험에서 관측된 스펙트럼에서 이 엑시톤의 에너지가 약 1.5 eV, 선폭이 0.4 meV임을 확인하였다. 선폭의 경우 실험적 분해능과 일치하는 매우 좁은 선폭을 가짐을 발견하였는데, 이 결과는 ZRT에서 ZRS로의 전이가 매우 강한 “결맞음성”(coherence)을 가진다고 해석된다.

고등과학원 손영우 교수팀에서 실험적 결과를 설명하기 위해 configuration–interaction 이론을 이용하여 모델을 세워 ZRT 및 ZRS 다중항 상태, RIXS 스펙트럼 등을 계산하였다. 그리고 이를 통해 엑시톤의 기원이 ZRT 상태에서 ZRS 상태로의 전이임을 확인하고 엑시톤의 강한 결맞음성이 자성과 관련이 있음을 증명했다. 그리고 이 엑시톤은 스핀과 오비탈 자유도가 양자적으로 얽힌 매우 특이한 형태임을 확인하였다.

이번 연구는 2차원 자성 물질에서 강한 결맞음성을 보이며 스핀과 오비탈이 강하게 얽힌 상태의 매우 특이한 형태의 엑시톤을 발견한 것에 의미가 크다. 현재 많은 2차원 물질들이 활발히 연구되고 있고 그 중 자성을 가지는 물질에 대한 연구 또한 서서히 발전되어 가고 있는 상황에서, NiPS₃에서 발견된 양자 다체 상태(quantum many-body state)의 엑시톤 연구는 향후 자성 반데르발스 물질에서 나타날 수 있는 엑시톤 연구에 기본적인 틀을 제시할 수 있을 거라 기대한다.

▲ 고등과학원 강병민 박사와 포스텍 조길영 교수 연구팀이 새롭게 발견한 방법으로 계산된 천 절연체의 상도표이다. 연구진은 두 개의 다체 기저 상태만을 이용해 천 절연체의 천 수를 정확히 계산할 수 있음을 보였다.

새롭게 발견된 불변량들은 전자 간의 상호작용이 강한 상황에서도 사용 가능하며, 특히 불순물(disorder) 혹은 결함(impurity)이 있는 상황에서도 자유로이 사용 가능한 것이 특징이다. 따라서 밴드 구조 이론이 사용 불가능한 위상 절연체의 특성을 파악하는 데도 적용 가능하다. 물론, 밴드 구조 이론이 적용 가능한 경우에는 연구진이 찾아낸 불변량들이 기존의 밴드 구조 이론의 위상학적 불변량과 일치하는 것 역시 확인되었다. 고등과학원과 포스텍 공동 연구진이 새로 찾은 불변량이 이러한 보편성을 확보할 수 있었던 이유는, 새로운 불변량이 다체 기저 상태(many-body ground state)만을 활용하여 작아지기 때문이다. 따라서 상호 작용이나 불순물 등 구체적 해밀토니언의 모양과 무관하게 항상 적용 가능하다. 

새롭게 찾은 불변량이 위상 물질을 분류하는 올바른 물리량임을 보이기 위해서 연구진은 두 논문1)2)에서 다양한 이론적 기법을 동원하였다. 위상 물질이 가질 것으로 기대되는 위상학적 장론, 강상관계 및 불순물과 무관할 것으로 기대되는 위상학적인 펌핑(pumping) 현상, 이미 알려진 밴드 구조 불변량과의 연결, 그리고 강상관계 물질과 불순물이 많은 양자 상태에 대한 정확한 대각화(Exact Diagonlization) 연구 및 텐서 그물망(Tensor network)을 통한 수치 해석적 시뮬레이션을 포함하였다. 

흥미롭게도 포스텍-고등과학원 공동 연구진이 찾은 새로운 불변량에는 전기적 다중극자2)가 포함된다. 현재 응집 물질 물리 이론 학계에서는 전기적 다중 극자가 고체 격자 구조 내에서 정의가 가능한지에 대해 많은 논의가 이루어지고 있다. 사실 고체 격자 내에서 다중극자의 정의가 가능한지에 대한 질문은, 응집 물질 물리 이론 연구에서 가장 오래되고 중요했던 핵심 문제 중 하나이다. 대표적으로 전기적 이중극자의 경우 관련 분야의 연구자들이 십수 년에 걸쳐 논의한 끝에 베리 곡률(Berry curvature) 혹은 Resta의 표현식이 올바른 수학적 정의를 준다는 것을 알게 되었다. 포스텍-고등과학원 공동 연구진이 찾은 다중극자의 새로운 불변량2)은, 전기적 이중극자를 넘어서서 사중극자, 팔중극자 역시 (자유 전자 이론을 넘어선) 일반적 고체 격자에서 정의가 가능할 수 있음을 암시하고 있다. 물론 국제 학계 내에서 이러한 연구진의 제안에 대해서 여러 반박도 이루어지고 있는 상황이기에, 앞으로 추가적인 연구 및 논의가 필요한 상황이다.

또한 연구진은 천 절연체와 카이랄 힌지 절연체에 대해서 천 숫자를 매우 효율적으로 찾아내는 방법1)을 제안하고 있는데, 이들의 실제 물질 탐색 연구에 본 연구의 적용 역시 기대되고 있다.

열홀효과(thermal Hall effect)란 전기적 홀효과의 열 수송 버전이다. 시료(x축)에 온도 차이를 주면서 시료면에 수직(z축)한 방향으로 자기장을 걸어주었을 때, 두 방향에 수직한 y축 방향으로 열 수송이 일어나 미세한 온도 차이가 생기게 된다. 이를 열홀효과라고 한다.

금속의 열홀효과는 열을 주로 전달하는 전자들이 자기장에 의해 로렌츠 힘을 받으며 기존의 열 수송 경로에 수직으로 휘어지게 된다. 하지만 절연체에서 열홀효과는 상황이 달라지는데, 위와 같이 전자에 의한 열 수송 효과는 없다. 대신 마그논, 포논 등 전기적으로 중성인 준입자에 의해 열 수송이 일어난다. 이런 경우에 열홀효과가 발생할 이유는 뚜렷하지 않고, 상당히 오랜 기간 이런 현상이 없을 것이라고 생각되었다. 그리고 설사 이런 현상이 있다고 해도 0.1 mK 수준의 미세한 온도 차이를 감지해야 하는 높은 정밀성이 요구되기 때문에 2005년에 들어서야 겨우 절연체에서 열홀효과가 측정되기 시작했다. 현재는 전 세계적으로 아주 소수의 그룹이 각 그룹의 독창적인 장비개발로 현재 열홀효과 연구를 진행 중이다. 참고로 시중에 판매되는 측정 모듈로는 측정이 불가능하며 독자적으로 개발한 측정 시스템이 있는 그룹들만 측정을 할 수 있다. 

지금까지 대략 10가지 종류의 절연체에서 열홀효과가 보고되고 있는데, 거의 모든 연구는 절연 자성체에 대한 연구에 쏠려 있었다. 대표적인 예시로는 강자성 파이로클로르, 다강성 물질, 2차원 자성체, 고온초전도체, 양자자성체 등이 있다. 이러한 물질들은 절연체임에도 불구하고 자성을 띠기 때문에 열 수송이 자기장에 반응할 수 있으며 이론적으로 마그논, 마요라나 페르미온 등 여러 작용 기작들이 활발히 연구되었다.

이렇게 절연 자성체가 주목을 받는 와중에 2020년 스트론튬 티탄 산화물(STO, SrTiO₃)에서 거대한 열홀효과가 PRL에 보고되어 학계의 이목을 끌었다. 이 발견이 흥미로운 이유로는 첫 번째로 이 물질은 원자층 증착 등의 분야에 활발히 응용되는 만큼 잘 알려지고 수십 년간 연구된 물질이어서 열홀효과와 같이 새롭고 흥미로운 현상이 발견될 것이라고 예상되지 않았다. 두 번째로 STO는 절연체임과 동시에 비자성체이다. 따라서 전자에 의한 자명한 열 수송은 없을 뿐만 아니라, 자기장에도 반응하지 않을 것으로 기대된다. 이런 예상에도 불구하고, PRL에 보고된 거대한 열홀효과는 전혀 예상치 못한 결과였다. 이 연구에서는 이러한 열홀효과는 포논에 의한 것이며 110 K 아래에서 나타나는 구조 상전이 도메인 때문에 일어난다고 주장하였다.  

서울대학교 박제근 교수 연구팀은 독자적으로 개발한 측정 시스템(국내외 특허를 가짐)을 이용하여 산소 동위원소 치환된 STO에서 열홀효과를 측정함으로써 기존의 가설을 반박하였다. 일반적인 STO(STO16)에서 산소는 자연계에 있는 산소 중 99.8%를 차지하는 질량수 16의 산소이다. 산소의 안정적인 동위 원소는 질량수 16, 17, 18의 세 가지가 존재하는데, 이 중 질량수 18의 산소로 치환된(99% 이상) STO(STO18)는 기존의 질량수 16 산소의 물질과 몇 가지 공통점과 차이점이 있다.

두 물질의 공통점은 모두 동일하게 110 K 아래에서 구조 상전이로 인한 도메인이 형성되고 절연 비자성체이다. 박제근 교수팀의 연구에서 큰 차이점으로는 산소 질량이 바뀜으로써 진동자의 유효 질량 또한 바뀌게 되어 상유전체인 STO16은 동위원소 치환 효과를 통해 강유전체 STO18로 변하게 된다. 박제근 교수 연구팀은 이러한 동위원소 치환 효과로 열홀 전도도가 1/100 수준으로 억제됨을 보고하였다. 이 측정은 0.1 mK 수준의 분해능으로 관찰되는 열홀효과 중에서도 세계 최고 난이도 수준의 측정이다. STO16과 STO18 모두 구조 상전이 도메인이 있기 때문에 이런 상당한 차이는 STO16에서 도메인이 거대한 열홀효과를 일으킨다는 주장의 반증이 된다. 

더불어 STO18의 강유전 상전이 온도(25 K) 밑에서 열홀 전도도가 급격히 감소함이 관찰되었다. 이러한 STO16과 STO18에서 열홀 전도도의 크기 차이와 경향성은 양자 특이적 요동의 경향성과 일치한다. 양자 특이적 요동이란 바닥 상태 간의 상전이가 들뜬 상태에 영향을 미치는 양자 특이성(quantum criticality)에 의한 현상으로, STO가 속한 페로브스카이트 물질에서 활발히 연구되고 있는 분야이다. 박제근 교수 연구팀은 열홀효과와 양자 특이성의 관련성을 세계 최초로 제시하였다. 이 연구는 명확히 알려지지 않은 비자성 절연체의 열홀효과 작용 기작을 밝히는 데 중요한 단서가 될 것이다.