▲(a) 반데르발스 결합으로 이뤄진 IrTe₂의 층상 구조. (b) 두께에 따른 상전이 그림. 전하정렬(빨간색, 보라색) 상태와 돔 형태의 초전도(노란색) 상태가 공존하여 나타난다.

고체 내부에서 전자 간의 상호작용이 외부요인에 따라 달라질 때, 절대 영도의 기저상태가 변하는 양자 상전이 현상이 일어난다. 그동안 구리 산화물 또는 철기반 초전도체 등 다양한 고체 물질에서 비고전적인 초전도 현상이 양자상전이의 임계점 근처에서 나타난다는 것이 여러 연구를 통해 밝혀졌다. 이는 전자정렬(electronic order) 상태가 사라지면서 나타나는 양자요동이 비고전적인 초전도 상태를 매개하는 중요한 요인 중 하나라는 점을 의미한다. 하지만 전자정렬 상태와 초전도 상태가 관측되는 다양한 고체 물질에서 이들 상태 간의 경쟁 또는 협력관계가 어떻게 이뤄지는지는 명확히 밝혀지지 않았다.

전자정렬 상태와 초전도 상태의 복잡한 관계를 이해하기 위해 화학적 전하주입이나 압력을 이용하는 경우에는, 이로 인한 결정 구조 결함이나 변화의 효과를 피할 수 없다. 반면, 반데르발스 구조를 갖는 물질의 경우에는 상대적으로 약한 층간 결합 특성을 이용하여 결정 구조의 결함을 일으키지 않으면서 물질의 두께를 줄여 전자 간의 상호작용을 조절할 수 있다. 따라서, 전자정렬과 초전도상태가 나타나는 반데르발스 물질의 경우, 그 두께를 조절함으로써 결정성을 최대한 유지하면서 양자 상전이를 연구하는 것이 가능해진다.

IrTe₂는 대표적인 반데르발스 물질인 전이금속칼코젠 화합물 중 하나로, 저온에서 Ir-Ir 간의 이합체 형성으로 인한 전하정렬(charge order) 상태가 나타난다. 전하정렬 상태는 Ir-Ir 이합체가 층 내에서만 아니라 층을 비스듬히 가로지르는 방향으로도 정렬하면서 나타난다. 이러한 특이한 전하정렬 구조 때문에 IrTe₂는 2차원 전자계가 층상 구조에 대해 비스듬히 틀어진 방향으로 구성되는 독특한 성질을 보인다. 화학적 전하주입을 통해, IrTe₂의 전하정렬 상태를 소멸시키면, 초전도 상태가 나타나는 것으로 알려져 있다. 따라서 두께에 따라 IrTe₂의 전하정렬 상태와 초전도 상태가 변화되는 양상을 화학적인 전하주입의 경우와 비교함으로써, 전자정렬 상태와 초전도 상태의 관계를 보다 깊이 이해할 수 있을 것으로 기대된다.

최근 포항공대 김준성 교수, 김태환 교수, 김종환 교수 연구팀은 경북대 김수란 교수, 한국원자력연구원 김규 박사, 미국 럿거스대 정상욱 교수, 포항공대 김범준 교수 연구팀과의 공동 연구를 통해, IrTe₂ 박리 결정에서 전하정렬 상태와 2차원 초전도성이 공존한다는 것을 밝혀냈다. IrTe₂의 경우 전자정렬 상태의 소멸 혹은 그로 인한 양자요동이 없어도 초전도 현상이 유도될 수 있다는 점이 처음으로 확인된 것이다.

연구진은 기계적인 박리를 통해 IrTe₂ 단결정으로부터 얻은 수십 나노미터 두께의 박리 결정에 대해 전도 실험을 수행하여 전하정렬 상전이가 초전도 상전이보다 높은 온도에서 나타나는 점을 확인하였다. 또한, 주사터널현미경법과 라만 분광법을 이용하여, 초전도성이 보이는 두께 영역의 시료에서 전하정렬 상태가 균일하게 나타나는 것을 관측하였다. 결과적으로 IrTe₂ 박리결정의 두께에 따른 상전이 그림에서 전하정렬 상태가 돔 형태의 초전도 상태를 포함하는 것으로 나타났다. 특히, 박리 결정의 초전도 결맞음 길이(100 nm 이상)가 결정의 두께보다 매우 길어져 2차원 초전도상태가 발현되는 것이 관측되었는데, 이는 Ir-Ir 이합체 정렬로 인해 비스듬히 틀어진 특이한 2차원 전자계에서 초전도 상태가 발현되기 때문이다. 정리하면, 전하정렬 상태가 초전도 상태와 경쟁하는 것이 아니라 협력하며 공존하는 관계임을 알 수 있다.

이러한 결과는 화학적 전하주입의 경우, IrTe₂의 전하정렬이 소멸되면서 초전도 상태가 유도된다는 기존의 보고와는 상반되는 결과이다. 특히 이번 연구는 물질의 두께를 조절함으로써 전자정렬의 소멸과 그로 인한 양자요동이 없어도 초전도 현상을 유도할 수 있다는 점을 확인한 첫 사례이다. 이번 연구는 향후 다양한 강상관 반데르발스 물질의 두께 조절을 통해 양자 상전이, 그리고 전자정렬 상태와 초전도 상태의 관계를 새롭게 밝히는 데 중요한 기여를 할 것으로 기대된다.