▲ a 모아레 광결정 물질의 모식도. 광학 마이크로 공진기가 뒤틀린 이중층 그래핀의 탄소 원자 배열을 모사하는 방식으로 배치된다. 붉은색과 푸른색 공진기는 각각 윗층과 아래층의 준원자를 의미한다. b 반데르발스 모아레 물질과 모아레 광결정의 비교. 반데르발스 물질에서는 층간 상호작용이 층내상호작용에 비해 매우 약한 반면, 광결정 기반의 모아레 물질은 매우 강한 층간 상호작용을 구현할 수 있다. c 상쇄 간섭을 이용한 플랫밴드의 구현원리. 회전축을 중심으로 모아레 격자에서 12개의 원자가 정상파를 이룬다. 강하게 결합된 광결정 기반의 모아레층에서는 상쇄간섭의 원리로 정상파가 공간상에 국소화되고 플랫밴드를 형성한다.

바로크의 유럽 귀족들에게 사치스러운 복식은 자신들의 사회적 권위를 드러내는 중요한 수단이었다고 한다. 프랑스어로 ‘물결무늬’라는 의미를 가진 모아레(moire) 원단은 비단 두 장을 압착해서 만든다. 결이 맞지 않는 두 비단을 투과하는 빛의 간섭현상으로 인해 매우 긴 파장의 새로운 물결무늬가 나타난다. 자연스럽고 변화무쌍한 물결무늬는 당시 신비감과 호사스러움 자체였고, 뽐내기 좋아하는 귀족사회에서 큰 호응을 얻었을 것이다.

수백 년이 흐른 지금 모아레 효과는 응집물리학자들의 주목을 받고 있다. 그래핀 두 겹층을 비스듬하게 겹친 뒤틀린 이중층 그래핀(twisted bilayer graphene)에서 초전도 현상이 발견되면서 큰 반향을 얻고 있는데, 두 그래핀 격자간 모아레 효과로 인해 형성된 초격자 구조가 중요한 역할을 한다. 간섭무늬를 이용해 격자구조의 크기를 매우 크게 증폭시킬 수 있어 초전도 현상뿐만 아니라 전자구조와 자기적특성도 다양하게 제어할 수 있는 새로운 플랫폼으로 기대되고 있다.

미시적으로는 층간 반데르발스 상호작용이 전자구조를 변화시키는데 중요한 역할을 한다. 하지만 반데르 발스 물질의 특성상 층간 상호작용이 매우 작은 근본적인 제한점이 있다. 기초과학연구원 복잡계이론물리연구단(단장 Sergej Flach)의 박문집 박사와 박희철 박사 연구팀은 마이크로 공진기를 이용한 광결정 기반의 모아레 격자 구조를 제안하였다(그림 a). 모아레 광결정 물질은 층간 상호작용을 자유롭게 변화시킬 수 있어 기존의 반데르발스 모아레 물질의 한계점을 극복할 수 있다. 게다가 공진기 내부의 기하학적구조와 대칭성들을 제어함으로써 기존의 고체 기반의 모아레 물질에서 실현될 수 없던 강한 층간상호작용을 갖는 모아레 물질을 구현 할 수 있다(그림 b).

모아레 광결정은 뒤틀린 이중층 그래핀의 원자 배열과 유사점을 가지지만, 파동함수 구조는 차별점을 가진다. 층간 상호작용이 층내 상호작용과 엇비슷한 크기를 가질 경우, 큰 뒤틀림 각도(~30도)에서 회전축을 중심으로 12개의 준원자(quasi-atom) 고리에 파동함수가 부호를 바꾸며 존재한다. 이로 인해 상쇄간섭이 유발되며, 전자들은 준원자 고리에 갇혀 국소화된 상태를 가지고 플랫밴드로 나타난다(그림 c). 기존의 뒤틀린 이중층 그래핀의 플랫밴드가 나타나는 마법각도(~1.1도)와는 달리 큰 각도(~30도)에서 플랫밴드가 나타나는 것이 차이점이다. 이러한 차이점에도 불구하고 두 물질은 위상학적 유사성을 가진다. 이중층 그래핀의 에너지띠에서 플랫밴드의 위상학적 성질은 초전도현상에 핵심적인 역할을 하는 것으로 알려져 있다. 또한 무아레 광결정은 이중층 그래핀의 이 위상학적 성질를 이해하는데 중요한 역할을 한다.

모아레 광결정의 층간상호작용을 점진적으로 줄이는 사고실험을 상상해보자. 강한 층간상호작용에서 약한 층간상호작용으로 구조가 바뀜에 따라 플랫밴드가 나타나는 마법각도도 점차적으로 줄어들게 될 것이다. 반면 단열 변형 과정 동안 와니어 중심은 모아레 격자의 회전축에 고정된 채로 전자구조가 변한다. 이 회전축 중심이 다름 아닌 위상학적인 와니어 중심이다. 따라서 뒤틀린 이중층 그래핀과 모아레 광결정은 위상학적 성질을 공유하고, 뒤틀린 이중층 그래핀의 위상학적 성질을 상쇄간섭효과로 이해할 수 있다.

이번 연구는 모아레 효과를 이용해 광결정 물성을 제어하는 새로운 방법을 제안할 뿐만 아니라 아직도 논란의 여지가 많은 뒤틀린 이중층 그래핀의 전자구조를 이해하는데도 도움이 될 것으로 기대된다.

▲ (ㄱ) BaBiO₃와 BaSbO₃ 결정의 격자구조. 두 물질의 구조는 동일하다. 붉은 구는 바륨(Ba) 원자, 파란 구는 비스무스(Bi) 원자 혹은 안티모니(Sb) 원자, 검은 구는 산소(O) 원자를 나타낸다. Bi (Sb) 원자와 O 원자가 이루는 페로브스카이트 격자는 다른 숨쉬기 형태가 번갈아 배열되어 있고 각각 약간 기울어진 형태로 찌그러진다. (ㄴ) 온도를 올리거나 혹은 포타슘(K) 원자를 바륨(Ba) 원자 자리에 넣어주면 (ㄱ)에 있는 찌그러진 구조가 사라지고 모든 페로브스카이트가 동일한 구조를 가지게 된다.

85년 전, 네덜란드 아인트호벤에 있는 전자제품 회사 필립스의 연구소에서 일하던 베르웨이(Verway)가 자철석(Fe₃O₄) 단결정에서 온도변화에 따른 특이한 저항변화를 측정하였다. 그는 그 원인이 Fe²⁺와 Fe³⁺라는 두 개의 다른 전하상태를 가지는 철 원자들의 공존 때문일 것이라는 추측을 네이처에 보고하였고, 그 이후, 고체 내에서 전하 질서(charge order)에 대한 연구는 꾸준히 계속되어왔다. 전하질서를 가지는 물질에서는 서로 다른 전하상태를 가진 원자들이 규칙적으로 배치되어 있기 때문에 전자들 간의 매우 강한 상호작용이 있다. 또한 격자 구조 역시 강한 상호작용에 따른 총에너지 증가를 낮추기 위해서 전하 질서에 맞추어 찌그러질 것으로 예상할 수 있다. 전하질서 상태는 고체에서 매우 큰 자기저항이 보이거나, 강유전성, 다강성과 같은 성질의 발현에 큰 역할을 한다는 것이 잘 알려져 있고, 고온초전도에서 초전도 상태와 경쟁하는 상태로도 잘 알려져 있다.

전하질서가 나타나는 물질의 성질을 이해하기 위해서는 전자들 간의 강한 상호작용과 전자와 격자 혹은 전자와 소리양자간의 강한 상호작용을 동시에 잘 기술할 수 있는 이론 및 계산 방법을 사용해야 한다. 하지만, 기존의 밀도 범함수 이론을 이용한 제일원리계산법들로 대표되는 여러 계산방법들은 몇몇 예외적인 물질들을 제외하고는 전하질서 물질들의 근본적인 성질을 잘 기술하지 못한다고 알려져 왔다. 

이러한 전하질서 물질 중에 가장 대표적이고 많이 연구된 물질이 비스무테이트 계열의 산화물이다. 산소원자가 꼭지점을 공유하는 정팔면체를 이루고 그 한가운데 비스무스(혹은 안티모니) 원자가 있는 페로브스카이트 격자를 형성하고 있고, 팔면체 사이사이에 바륨원자들이 있다[그림 (ㄱ),(ㄴ)]. 이 물질군의 특징은 온도가 낮아지면 Bi 혹은 Sb원자가 자철석과 같이 서로 다른 전하를 가지는 전하질서상태를 보여주고 거기에 따라 각각의 페로브스카이트 구조가 찌그러지게 된다[그림 (ㄱ)]. 특이한 것은 팔면체 사이사이에 있는 바륨 원자를 포타슘 원자로 바꿔주면 특정한 비율에서 격자의 찌그러짐이 사라지고[그림 (ㄴ)], 초전도 현상이 나타난다. 특히 초전도 상태로의 상전이 온도가 약 30도 정도로 꽤 높다. 즉, 바륨 원자를 포타슘으로 바꾸어줌에 따라서 전하질서가 있는 부도체에서 초전도로의 급격한 상전이가 일어난다는 사실이 꽤 잘 알려져 있었으나, 이를 잘 기술할 수 있는 이론적 방법이 없었다. 

최근 전자의 자체에너지를 잘 계산할 수 있는 방법을 이용하면, 이 물질군의 전자와 소리양자 사이의 상호작용을 꽤 잘 기술할 수 있다는 선행연구가 있었다. 하지만 먼저 사용된 계산법은 계산을 위해서 아주 많은 양의 자원이 필요해서 이 물질의 상전이를 이해할 수 없었다. 본 연구진은 전자의 국소적인 강한 상호작용과 비국소적인 상호작용을 동시에 계산양의 별다른 증가 없이 비교적 정확하게 기술할 수 있는 제일원리 계산법을 개발하였다. 특히 BaBiO₃의 디궤도에 있는 전자와 피궤도에 있는 전자는 앞서 말한 두 가지 상호작용이 서로 강하게 경쟁하는 상태라서 본 연구진이 새로 계발한 방법을 적용하기에 매우 적합한 물질이다.

새로 개발한 계산법을 적용한 결과, 이전에는 정확하게 계산할 수 없었던 격자구조의 찌그러진 정도가 실험과 매우 일치하게 나타났다. 또한 포타슘 도핑에 따른 격자구조 변형의 정도를 모든 도핑 구간에 대해서 계산한 결과 부도체에서 초전도로 상전이하는 포타슘의 비율을 정확하게 계산해 낼 수 있었다. 또한 전자와 소리 양자의 상호작용 계수 역시 구할 수 있었다. 전자들 간의 상호작용과 소리양자의 구조 및 이 둘 간의 힘들 역시 모두 전자들 간의 국소적, 비국소적 상호작용을 모두 고려하여 계산할 때만 정확한 결과를 얻을 수 있다는 것을 보였다. 결국, 이 물질에서 중요하게 여겨졌으나 잘 해석되지 않았던 많은 실험 결과들은 비스무스 원자와 산소 원자 간의 비국소적인 상호작용이 결정한다는 결론을 얻었다. 

▲ (a) 압력 하에서의 준입자 산란 분광법 수행을 위한 금속/CeCoIn₅ 접합의 모식도. (b) 상압에서 관측되는 초전도 전이 온도 아래(아래)에서와 슈도갭 발현 온도 아래(위)에서의 대표적인 전기전도도 스펙트럼. 각 스펙트럼에서의 실선은 파노 공명 모델로부터 계산한 값. 수직화살표는 작은 크기의 슈도갭을 나타냄. (c) 계산된 파노 공명 스펙트럼으로 규격화한 전기전도도 스펙트럼. 슈도갭이 발현하는 것이 명확하게 드러난다. (d) 초전도(빨간 원), 슈도갭 발현 온도(파란 정사각형), 그리고 규격화된 콘도 혼성화 온도(T_coh, 초록 역삼각형)를 함께 표기한 CeCoIn₅의 압력-온도 상도표. 비교를 위해 오른쪽 축에 슈도갭의 에너지 규모(보라 삼각형)를 함께 표기. 압력에 따른 대략적인 추세를 점선으로 표기했다.

양자물질에서 종종 보고되는 ‘슈도갭(pseudogap)’은 부도체나 초전도체에서 나타나는 열역학적으로 잘 정의된 진짜 갭은 아니지만 페르미 에너지 근방에서 상태밀도(density of states)의 부분적인 결핍 등으로 나타나는 미지의 현상이다. 구리기반 고온초전도체(Cuprates)에서 거의 예외 없이 관측할 수 있으며 일반적으로 초전도 전이 온도보다 높은 온도에서부터 슈도갭이 점차 열리기 시작한다. 슈도갭의 특성과 발현원리는 강상관전자계(strongly-correlated electronic system)에서 나타나는 복잡한 양자 상태들, 특히 비정상 초전도의 이해에 핵심적인 실마리를 제공할 것으로 기대와 주목을 받아왔다. 뒤이어 유기물 초전도체나 무거운 페르미온(heavy fermion) 등의 다양한 양자물질에서 슈도갭이 꾸준히 보고되었으나, 지난 반세기 동안 슈도갭의 발현원리나 다른 양자 상태와의 연관성 등에 대해서는 이렇다 할 명확한 이해나 일관된 견해가 요원했다.

성균관대학교 물리학과 박두선 교수팀은 최근 양자임계(Quantum critical) 초전도체에서 나타나는 슈도갭의 새로운 특성을 밝히고 무거운 페르미온에서 나타나는 슈도갭의 이해를 넓히는 성과를 거두었으며 이 결과는 2023년 2월에 Phys. Rev. Lett에 출판되었다(Jang et al., Phys. Rev. Lett. 130, 076301 [2023]). 양자임계점에 가까울 것으로 알려진 CeCoIn₅는 온도를 낮춰줌에 따라 약 5 K와 2.3 K의 극저온에서 각각 슈도갭과 초전도 특성을 차례로 보인다. 단결정 시편에 대기압의 약 2만 배 이상의 정수압을 가하며 슈도갭의 변화 양상을 체계적으로 조사한 결과, 슈도갭이 Ce의 f 궤도전자가 자유전자와 맺는 궤도혼성화(c-f hybridization)와 깊은 연관성이 있음을 보였다.

연구팀은 슈도갭의 에너지 크기와 그 변화를 압력에 따라 정량적으로 추적하기 위해 페르미 에너지 근방에서의 준입자들과의 산란 정도를 측정하는 준입자 산란 분광법(quasiparticle scattering spectroscopy)을 주요 실험 기법으로 적용했다. 이는 작은 크기의 금속/CeCoIn₅ 접합을 만들어 전자를 흘려보내 준입자들과의 산란 정도를 측정하는 분광법으로, 바이어스 전압에 따른 전기전도도를 측정해 양자 상태에 대한 정보를 얻는다[그림 (a) 참조]. 금속/초전도 접합경계면에서 일어나는 안드레예프 반사(Andreev reflection)로 인한 전도도 증폭[그림 (b) 참조]이 대표적인 예시이며, 슈도갭이 열리게 되면 전도도 스펙트럼이 감소하는 모양새[그림 (c) 참조]를 보인다. 한편, 금속/CeCoIn₅ 접합면을 통과하는 전자들은 Ce이 갖는 f 궤도전자와의 혼성화로 인해 경로 간에 양자 간섭(파노 공명, Fano resonance)효과가 나타나는 것이 잘 알려져 있다. 이로 인해 전도도 스펙트럼은 양과 음의 바이어스 전압에서의 결과 값이 서로 다른 비대칭성을 보이며 안드레예프 반사 혹은 슈도갭의 특징이 그 위에 얹어진 형태로써 관측된다.

파노 공명에 대한 양자 이론을 바탕으로 슈도갭 이외의 신호를 효과적으로 제거하고, 슈도갭의 에너지 규모와 발현 온도를 정량적으로 추출해 압력에 따른 경향을 연구하였다. 슈도갭의 에너지 규모와 발현 온도는 압력에 따라 거의 선형적으로 증가해 2.3 GPa의 압력에 도달했을 때 약 3배가 됨을 확인했다. 놀랍게도, 이러한 압력 의존성은 콘도 결맞음 온도(Kondo coherence temperature)로 대변되는 c-f 궤도혼성화의 크기가 갖는 압력 의존성과 거의 일치해[그림 (d) 참조], 두 양자 상태 사이에 긴밀한 연관성이 있음을 보여주었다. 이를 통해 기존 CeCoIn₅에서의 슈도갭을 이해하기 위해 널리 통용되었던 미리 형성된 쿠퍼쌍(preformed Cooper pair) 시나리오와는 달리, 궤도혼성화로 인해 유발되는 전혀 다른 새로운 형태의 슈도갭이 창발할 수 있음을 제시했다.

이번 연구결과는 무거운 페르미온에서의 슈도갭에 대한 이해를 더하고, 그 원리를 파악하기 위한 새로운 접근방식을 제시하였다는데 큰 의의가 있다. 슈도갭이 지닌 여러 수수께끼는 여전히 현대 응집물질 물리에서 풀어야 할 주요한 양자 현상 중 하나인 만큼, 이번 연구성과가 비단 무거운 페르미온뿐만 아니라 다양한 강상관전자계에서의 슈도갭을 온전히 이해하는데 핵심적인 단초로 작용하길 기대한다.

▲ 민범기, 김튼튼 교수 연구팀은 비-허미시안 메타표면에 그래핀을 접목하여 고유 편광 특이점에 능동적으로 접근하는 연구를 발표하였다.

최근 허미션 해밀토니안에 의해 기술되는 기존의 광학시스템에서 존재하지 않는 특이 광학특성이 복소 굴절률 분포를 갖는 비-허미시안(Non-Hermitian) 시스템에서 활발히 연구되고 있다. 이는 주로 비-허미시안 시스템에서만 존재하는 비-허미시안 축퇴(degeneracy)라 불리는 특이점(Exceptional point)과 관련이 있다. 고유벡터가 여전히 직교하는 허미시안 축퇴점과는 달리 특이점에서는 고유벡터가 하나로 병합되어 고유공간의 차원이 축소되게 된다. 따라서, 특이점 근처에서 시스템에 작용하는 작은 섭동에도 급격한 응답 변화로 나타나게 된다. 이러한 특성으로 인해 특이점은 현재 물리학 및 기술 연구에서 중요한 개념 중 하나로 다루어지고 있다.

공간-시간 대칭이 없는 일반적인 비-허미시안 시스템의 특이점은 수학적으로 여차원 2로, 이차원 매개변수 공간으로 확장시킨 고유값 표면상에서 0차원 점으로 존재하게 된다. 그러나 이러한 특이점 근처에서는 작은 섭동에서 급격하게 응답하여 실험 및 공정 오차에 민감하다. 따라서 단순히 서로 다른 구조의 샘플을 연속적으로 제작하는 것만으로는 실험적으로 특이점으로 접근하기가 쉽지 않다. 하지만 위상학적으로 보호되는 특이점이 변수 공간상에서 사라지는 것이 아니므로 능동적으로 조절가능한 매개변수 공간을 만들 수 있다면 특이점에 근접할 수 있다.

카이스트 민범기 교수 연구팀과 울산대 김튼튼 교수 연구팀은 공진 주파수는 같으면서 흡수도는 다른 두 개의 끊어진 공진고리를 직교방향으로 배열하여 비-허미시안 메타표면을 구현하고, 그래핀과 접목하여 하나의 소자만으로 외부전압으로 하나의 원편광으로 고유 편광 공간이 축소되는 카이랄 특이점에 근접할 수 있음을 실험적으로 보였다. 먼저, 주파수와 게이트 전압의 연속적인 2차원 파라미터 공간을 구현하였다. 게이트 전압에 따라 광전도도가 달라지는 그래핀의 특성을 적용하여 특이점에 정교하게 접근할 수 있었으며, 이러한 특이점의 존재는 교차하는 두 평면의 리만 표면으로 나타내었다. 특히, 특이점에는 병합된 고유벡터가 좌원편광으로 얻어지며 푸앙카레 구상에서 남극(좌원편광)으로 병합되는 것을 확인하였다. 뿐만 아니라, 원편광을 고유벡터로 가지는 카이랄 특이점은 그 특이점을 둘러싸는 경로에 대해서 항상 분수의 위상 전하를 가짐으로 그 존재가 보호됨을 알 수 있다. 고유 편광공간의 축소로 수직하는 두 원편광 사이의 극단적인 비대칭 편광변환으로 극대화된 카이랄성을 관측할 수 있었다. 본 연구는 고유 편광 공간과 관련된 특이점에 대한 이해와 이를 이용한 새로운 편광 변조 기술 및 응용분야의 개발에 큰 도움이 될 것으로 기대한다.