박수빈, 김근수(연세대), Nature 634, 813 (2024).

란다우(Landau)는 1941년 액체 헬륨의 초유체성을 설명하기 위해 로톤(roton)이란 개념을 제안하였다. 액체 헬륨의 집단 들뜸 에너지는 그림 a와 같이 운동량(k)에 따라 증가하다가 극대점(maxon)을 지나고 극소점(roton)을 형성한다. 로톤 극소점은 비탄성 중성자 산란을 이용하여 헬륨4와 헬륨3에서 실험으로 관측되었으나, 그 미시적 메커니즘에 관해서는 이견이 있었다. 란다우, 온사가, 파인만 등은 로톤을 “사라진 소용돌이의 유령”에 비유하면서 유체 속 원자들의 회전 운동과 관련있다고 주장하였다(그래서 roton이라 명명함). 반면 노지에르 등은 로톤을 “사라진 브래그 점의 유령”에 비유하면서 전하밀도파와 관련된 결정화의 전조라는 관점을 제시하였다.

로톤은 액체 헬륨뿐만 아니라 분수 양자홀 효과와 보스·아인슈타인 응축체의 초고체성을 설명하는데 널리 활용되었다. 2차원 전자계 또는 2차원 쌍극자계에서도 구성 입자 간 반발 상호작용을 고려하면 단일 입자 스펙트럼에 유사한 로톤 극소점이 발생할 것으로 예측되었다. 이러한 전자 로톤이 발견된다면, 페르미 액체로부터 위그너 결정, 초전도 상전이를 탐색하는 데 활용할 수 있다. 특히 상전이의 경계를 따라 거품이나 줄무늬 형태의 다양한 중간상이 나타날 것이라는 예측도 흥미롭다. 하지만 지금까지 2차원 전자계 또는 쌍극자계에서 로톤 극소점과 같이 비주기적 에너지-운동량 관계는 실험적으로 발견된 적은 없었다.

▲ (a) 초유체 액체 핼륨을 설명하기 위해 란다우가 제안한 맥손-로톤 스펙트럼. (b) 알카리 금속(회색)이 도핑된 흑린(검은색)에 형성된 쌍극자(붉은색과 푸른색)의 모식도. (c) 전자의 비주기적 에너지-운동량 상관관계를 보여주는 ARPES 데이터. (d)-(f) 알카리 금속 원자의 밀도에 따라 로톤 갭의 변화를 보여주는 ARPES 데이터.

본 연구에서는 흑린(black phosphorus)의 표면에 미량의 알카리 금속(Na, K, Rb, Cs)을 올린 2차원 쌍극자계에 주목하였다. 각 알카리 금속 원자는 전자 하나를 흑린에 공여하고, 이온화된 알카리 금속 원자의 퍼텐셜을 가리기 위해 도핑된 전자들은 대부분 흑린 표면에 몰려 그림 b와 같이 쌍극자를 형성한다. 주사터널링현미경 연구에 따르면 알카리 금속 원자들은 흑린의 표면에서 극저온에서도 마치 액체처럼 자유롭게 움직인다. 주사터널링현미경 이미지를 퓨리에 변환하면, 그림 b의 삽화와 같이 구조 인자(structure factor)가 타원 형태로 나타난다. 이는 2차원 쌍극자의 분포가 완전히 불규칙한 것이 아니라 일정 정도 평균 간격을 갖음을 시사하며, 이를 근거리 질서(short-range order)라 하겠다.

우리는 방사광가속기와 각분해광전자분광(ARPES)을 활용하여 약 8% 표면 도핑된 흑린에서 전자의 에너지-운동량 분산을 측정한 결과 그림 c와 같은 데이터를 얻었다. 통상적인 결정 고체의 경우 주기적인 분산이 기대되는 반면, 측정된 데이터의 극소점(0, 2, 4)의 에너지가 서로 다르고, 운동량 방향으로 등간격이 아님을 확인할 수 있다. 전자 분산의 비주기적 특성은 결정 고체에는 불가능하며, 액체 금속, 준결정, 비정질 고체에서 발견된 적 없는 독특한 현상이다. 한편 이 밴드 분산은 2차원 쌍극자계에 예측된 전자 로톤과 매우 닮아있다. 따라서 로톤 극소점이 액체 상태에 보편적인 ‘근거리 질서’에 기인함을 유추할 수 있었다.

더 흥미로운 점은 알카리 금속의 밀도에 대한 로톤 극소점의 변화이다. 1930년대 위그너(Wigner)는 전자의 밀도가 낮아지면 구성 입자 간 반발에 따른 퍼텐셜 에너지가 운동에너지를 능가하여, 전자가 결정화되는 ‘위그너 결정’ 상태를 제안하였다. 실험에서 알카리 금속의 밀도를 줄여주면, 그림 d와 같이 로톤갭이 줄어들고 결국 0이 된다. 근거리 질서만 갖는 2차원 쌍극자를 위그너 결정립(Wigner crystallites)이라 명하였다. 이는 페르미 액체와 위그너 결정 간의 전이 과정에서 마이크로에멀전과 같이 거품이나 줄무늬 형태의 중간상들이 존재한다는 이론 예측에 잘 부합하며, 밀도가 낮아짐에 따라 원자 몇 개 크기의 결정립이 몸집을 불려 거대한 결정으로 전이해 가는 것이다.

2차원 쌍극자들의 근거리 질서는 구성 입자 간 반발 상호작용에 기인하는 것이다. 이는 로톤이나 슈도갭과 같은 흥미로운 현상들의 근본적인 원인이 강한 상호작용임을 시사하는 것이다.