들어가며

극한 조건에서의 양자물질 및 소자 연구를 위해서는 양자 물질 내 존재하는 복수의 자유도(결정구조, 스핀, 전하, 오비탈 등) 간의 상호작용 및 전자 간 양자 얽힘의 요소들을 통합적으로 고려할 수 있는 이론적 및 계산과학적 방법론의 존재가 필수적이다. 최근 이론적 계산과학적 접근에서는 최첨단 제일원리 전자구조계산, 머신 러닝, 및 텐서 네트워크 방법론의 활용 및 결합을 통해 극한 조건에서의 양자물질 및 소자의 물성연구가 진행되고 있으며, 이를 통해 강상관 양자 물질에서 발현될 수 있는 놀라운 상호작용과 그 결과를 포착하는 데 연구의 초점을 맞추고 있다. 본 특집호에서는 극한 조건에서의 양자물질 및 소자 연구의 진행상황과 향후 목표를 간략히 다루고자 한다.

서 론

극한 양자기능물질 연구는 차세대 양자 소자의 핵심 양자물성으로 예상되는 고온 및 위상 초전도성과 위상 강상관성 등 전자 간 양자 얽힘으로 인해 발현되는 별난 물성을 가진 양자기능물질의 발견과 디자인 연구에 초점을 맞추어 진행되고 있다. 새로운 양자현상의 발현을 위해서는 압력, 온도, 화학적 조성 변화 등의 고전적인 제어 변수를 통한 극한 조건 달성(고압, 극저온 등)뿐만 아니라 초격자 생성을 통한 양자 가둠 (quantum confinement), 초전도-일반 물질 경계에서의 인접 효과(proximity effect) 등의 물질 간 이종 접합을 통한 신물성 제어, 그리고 인접한 물질층 사이의 비틀림 각도 제어를 통한 창발적 거리 척도 제어 등의 새로운 극한 조건 제어 변수들이 필요할 것으로 예상된다.

새로운 기능성 양자 물성 구현 및 이를 위한 물성 제어 변수의 역할 이해를 위해서는 양자물성 발현의 근원과 그 배경 메커니즘의 이해가 필요하다. 이를 위해서는 양자 물질의 이론적 및 계산적 이해가 선행되어야 하며, 신물질 제안 및 물성 디자인을 위한 효율적 계산 방법론이 뒤따라야 한다. 과거에 양자 물질의 통합적 이해가 어려웠던 이유로는 양자 얽힘(quantum entanglement) 효과로 인한 계산 자원 요구량의 지수적 폭증 및 물성 제어에 관여하는 자유도(스핀, 전하, 오비탈, 구조 등) 수의 과대함을 들 수 있다. 다행스럽게도 최근 들어 이러한 양자 얽힘 이해 및 물질의 제일원리적 계산 연구에 여러 가지 돌파구가 제안되어 괄목할만한 성과들이 보고되고 있는 상황이다.

기능성 양자물질 연구에 있어서 이러한 새로운 계산 방법론들을 접목하고 그를 통해 양자물질 이론 및 계산 연구의 돌파구를 제공하려는 시도가 있다. 그중에서 기계학습을 통한 고압 상온 초전도 물질 탐색과 텐서 그물망 이론을 통한 위상 초전도성 및 위상 다체 물성 이해 등이 중점적으로 진행되고 있다.

기계학습을 통한 고압 상온 초전도성 물질 탐색

1. 물성물리학에 응용되는 기계학습 방법론

Fig. 1. (Left panel) Schematic diagram depicting artificial neural network models for atomic energy calculations in molecular dynamics simulations (figure from Lee et al., Comp. Phys. Commun. 242, 95-103 (2019)). (Right) Schematic diagram on the application of crystal graph convolution neural network for crystalline solids (figure from T. Xie and J. C. Grossman, Phys. Rev. Lett. 120, 145301 (2018)).

기계학습 방법론은 화학 및 재료과학,1) 생물학,2) 물리학3) 등의 다양한 자연과학 분야에서 이미 널리 사용되고 있다. 그 중에서도, 고체물리학 및 재료과학 분야는 물리학 내에서도 기계학습 방법론이 활발히 적용되고 있는 분야이며, 그 사례들로서는 다체 파동함수의 효율적 최적화,4) 복소수 영역 수치 데이터의 해석적 연속 문제,5) 분광학 및 이미지 형태의 실험 데이터의 분석,6)7) 고온 초전도성 등의 쓸모있는 물성들에 대한 inverse design 접근법,8) 그리고 물질 내 화학반응 및 상전이 과정에서의 반응 경로 예측9) 등이 있다. 무엇보다도 최근들어 가장 활발하게 연구되고 있는 적용 사례로서, Behler-Parrinello의 인공신경망기계학습 방법을 적용한 분자동력학 원자간 역장의 최적화를 들 수 있으며(그림 1 참조),10) 해당 방법은 최근 들어 ReaxFF 등의 기존 분자동력학 역장의 한계를 뛰어넘을 수 있는 한 가지 방법으로 주목받고 있는 중이다. 해당 방법은 그래프 신경망 등의 보다 진보된 인공신경망 방법론들11) 및 기존의 진화 알고리즘 등12) 제일원리 전자구조계산을 위한 high-throughput 신물질 탐색 방법론들과 결합되어 이전보다 더욱 복잡한 구성 및 구조를 갖춘 신물질을 탐색할 수 있는 기회를 제공하고 있다.13)

2. 기계학습 모델을 이용한 고압 상온 초전도성 물질의 결정구조 탐색 및 상전이 반응경로 탐색

위에서 간단하게 설명한 기계학습 방법론을 이용한 신물질 탐색이 가장 잘 적용될 수 있는 분야로서 수소화물 기반 상온 초전도체의 탐색을 들 수 있다.14) 앞서 소개에서 밝힌 바와 같이, 고압 수소화물의 초전도성은 제일원리적인 전산모사가 가능한 BCS 메커니즘에 의해 발생하며, 상온 초전도성을 달성하기 위해 충분한 전자-포논 결합 강도를 보다 낮은 압력에서 얻을 수 있는 물질의 이론-실험적 탐색이 현재 진행되고 있는 상황이다.

현재 제일원리계산 방법론에 의해 제안되었고 실험적으로 연구되고 있는 고압 수소화물 물질들은 대부분 수소 및 다른 알칼리 또는 희토류 금속 원소가 1종 추가된 물질들이다. 이는 더 낮은 압력에서의 수소화물 금속상 형성과 더 강한 전자-포논 결합을 달성하기 위한 시도로 해석되고, 또 고압 환경에서 수소-희토류원소 간 쿨롱인력에 인한 사전압축(precompression) 효과 때문인 것으로 이해되고 있다. 현재 대략 2 메가바(Mbar) 정도의 초전도 임계 압력을 낮추기 위한 노력으로, 사전 압축 효과를 증폭할 수 있는 삼중수소화물(ternary hydrides)에 대한 연구와 더불어 금속화를 빠르게 증진시킬 것으로 예상되는 전도전하 도핑효과에 대한 연구 등이 다각적으로 진행되고 있다.

기존의 이중수소화물(binary hydrides)에 대한 이론적 탐색에서는, 기존의 전자구조계산 및 구조 예측 방법론들로도 상당한 성과를 거둘 수 있었다.15) 하지만 구성 원소의 숫자에 따라 고려해야 할 결정구조의 수가 기하급수적으로 증가하기 때문에, 구성 원소가 3개 이상인 원소의 제일원리 전자구조계산 탐색은 기존의 밀도범함수이론 기반 구조 탐색으로는 거의 불가능한 것으로 여겨진다. 또한 희토류 금속이 포함된 물질에 대한 기존 분자동력학 역장 적용의 난점 또한 고려해야 한다. 이러한 상황에서, 3종 이상의 원소가 포함된 고압 수소화물에 대한 기계학습 분자동력학 역장 방법론 적용이 돌파구가 될 수 있다.

따라서 기존의 Behler-Parrinello 기계학습 역장과 보다 진보된 그래프 신경망 이론들을 적용하여16) 이중 및 삼중수소화물에 적용될 수 있는 밀도범함수 정확도 수준 분자동역학 역장을 최적화하는 한편, 이를 기존의 진화알고리즘 등의 구조최적화방법론들과 접목하여 새로운 안정적인 고압 수소화물 구조를 탐색하는 데 기여할 것이다. 또한 이러한 구조 탐색 및 방법론들은 수소화물의 벌크 구조뿐 아니라 다이아몬드 고압 셀 및 박막 소자 형태 셋업에서의 결정구조 탐색 및 물성 분석에 또한 응용될 수 있을 것으로 예상된다.

3. 기계학습 적용 상전이 반응경로 예측 및 초전도성 제어 변수 탐색

Fig. 2. An example of the employment of gaussian process action optimization for predictions of reaction pathways in organic molecules (figure from J. Shim, J. Lee, and J. Yu, J. Phys. Commun. 7, 025004 (2023)).

압력 하에서의 서로 다른 물질 상태들 사이의 상전이를 이해하는 것은 이론 예측을 통해 구현된 고압 물질이 실제 구현될 수 있는지에 중요하나, 이러한 반응 경로(reaction pathway) 탐색은 물질 상전이 과정에서 발생할 수 있는 방대한 경우의 수 때문에 고전적인 방법을 통해서 수행되기에는 여러 가지 한계가 있다. 이에 Gaussian process 기계 학습 방법론을 적용하여 반응 경로 탐색에 필요한 계산 작업의 수를 획기적으로 줄일 수 있는 방법이 제안되었으며(그림 2 참조), 이를 확대-발전시켜 고압 수소화물 상전이에 적용할 수 있는 방안을 모색할 수 있다.

Fig. 3. A schematics on the prediction of superconducting critical temperatures via machine learning models, which are trained using superconducting materials database.

위와 같은 기계학습 방법론을 거치거나, 또는 통상적인 방법을 통해 측정되거나 예측된 물질의 초전도 임계 온도는 Migdal-Eliashberg 이론 등의 방법을 통해 계산할 수 있다. 이를 거꾸로 적용하여, 예측된 구조 및 실험 결과로부터 초전도 임계 온도 및 이에 필요한 압력을 낮출 수 있는 방법을 기계학습 모델 구축을 통해 탐색하며, 이를 통해 보다 높은 초전도 임계 온도와 낮은 임계 압력을 갖는 물질 후보를 제안하는 ‘역방향 물질 디자인’을 적용할 수 있다.17) 이론적 구조 예측 및 실험 세부그룹과의 협력을 통해 초전도 수소화물 물질 데이터베이스 구축 및 이를 이용한 초전도 임계온도 예측 모델 학습(그림 3 참조), 이를 통한 새로운 수소화물 초전도체 물질 디자인에 기여할 것으로 본다.

텐서그물망을 통한 위상 물질 및 위상 초전도성 이해

1. 양자얽힘과 텐서 그물망 방법론

고전적인 다체계의 동역학은 입자의 개수에 비례하는 양의 정보처리를 통해 기술이 가능하다. 그러나 양자 다체계의 경우, 파동함수에 포함된 정보의 양은 시스템에 있는 입자 수에 따라 지수적으로 증가한다. 이러한 특성은 강상관계에서 발생하는 다양하고 흥미로운 현상들의 근본적 원인이 되지만, 동시에 이러한 현상들을 이해하고 연구하는 데 있어 가장 큰 걸림돌로 작용한다.

텐서 그물망(tensor network)은 복잡한 데이터를 분석하고 모델링하는 데 사용되는 수학적 구조로서, 여러 작은 텐서들이 그물망 또는 네트워크 형태로 연결되어 다차원 데이터를 표현하는 방식이다. 양자 다체계 파동함수는 하나의 거대한 다차원 데이터로 간주할 수 있으며, 이를 텐서들의 그물망 형태로 효과적으로 표현할 수 있다.18) 이를 가능하게 하는 원리는, 양자 우월(quantum supremacy)에 원천이 되는 양자 얽힘이다. 즉, 양자상태의 얽힘 구조를 파악하면, 파동함수를 텐서 그물망으로 표현할 수 있으며, 이때 다루어야 하는 정보의 양은 놀랍게도 입자 개수에 선형 비례하게 된다. 이를 통해, 강상관계에서 맞닥뜨리는 양자 다체 문제를 효율적으로 해결하고 이해할 수 있다.

2. 텐서 그물망으로 표현되는 위상 양자상태

Fig. 4. (Left panel) Kitaev spin liquid state characterized by open strings and closed loops on the honeycomb lattice. (Center) Tensor network representation on a torus. (Right) Identification of non-Abelian topological excitations via quantum entanglements

텐서 그물망 표현식이 알려진 대표적 양자 파동함수로는, AKLT 상태, 키타에프 스핀액체 상태 등이 있다. AKLT 상태는 Affleck, Kennedy, Lieb, 그리고 Tasaki에 의해 제안된 양자 스핀 모형의 바닥 상태이다.19) 이 상태는 두 개의 1/2-스핀으로 소분화된 크기 1의 스핀 입자들이 특정한 방식으로 얽혀 있는 것이 특징이다. AKLT 상태의 텐서 그물망 표현식은 양자 얽힘과 함께 위상학적 특성을 직관적으로 이해할 수 있는 정보를 제공함으로써, 대칭성으로 보호되는 위상(symmetry-protected topological) 양자상태를 이해하는 데 중요한 역할을 한다. 최근 양자계산에 활용 가능한 비아벨리안 위상입자를 창발하는 양자 상태로 많은 관심을 받고 있는 키타에프 스핀액체에 대한 텐서 그물망의 표현식이 제안되었다.20) 이 텐서 그물망 표현식은 키타에프 스핀액체를 닫힌 고리(loop)와 끈(string)들의 기체 상태로 재해석한다(그림 4). 고리가 공명하는 특성은 독특한 양자 얽힘을 내포하며, 비아벨리안 위상입자의 창발을 끊어진 고리로 기술함으로써 마요라나 페르미온을 기반으로 한 기존 이론을 새로운 관점에서 해석한다. 또한, 텐서 그물망 파동함수를 활용하여, 위상 입자의 발현과 함께 나타나는 양자얽힘의 변화를 직접적으로 판별할 수 있다(그림 4). 나아가, 텐서 네트워크를 사용한 양자 상태의 표현은 단순히 특정 상태에 대한 연구에 국한되지 않고, 일반적으로 해결하기 어려운 강상관계 모델들을 이해하는 데 널리 활용된다. 예를 들어, 키타에프 스핀액체의 텐서 그물망 표현에 변분 방법을 적용함으로써, 일반적인 키타에프 양자 자성체 모형을 연구할 수 있다.21) 이와 같은 접근법은 기존의 이론적 및 계산적 방법론이 가지는 한계를 극복하고, 열역학적 극한에서의 양자 상태를 탐색하는 데 매우 효과적이다.

3. 텐서 그물망을 이용한 카이랄 초전도성 연구

Fig. 5. Exotic excitations emerging from 1/3-fractional Chern insulating phase, which originates from topological flat bands and electron correlations.

카이랄 초전도체는 특정 방향의 회전성(chirality)을 가지는 초전도 상태를 보이는 양자 상태다. 이러한 초전도체는 복소수 형태의 초전도 갭을 가지며, 모멘텀 공간에서 시계방향 또는 반시계 방향의 회전성을 보이며, 마요라나(Majorana) 들뜸입자와 같은 별난 위상학적 현상을 발현한다.22) 마요라나 입자는 입자와 반입자의 얽힌 상태로 이해할 수 있으며, 이러한 얽힘은 양자 컴퓨팅, 양자정보와 같은 분야에서의 응용 가능성을 가지고 있다. 카이랄 초전도는 비s-파형 초전도체에서 초전도 갭의 노드가 제거됨으로써 초전도 응축에너지를 최적화하는 방식으로 창발할 수 있다. 이러한 초전도 현상은 다중 페르미 표면을 가진 UTe₂, UPt₃, Sr₂RuO₄와 같은 삼중(triplet) 카이랄 초전도 후보들에서 관찰되었다. 최근에는 모트 절연체인 1T-TaS₂와 공간반전대칭성이 국소적으로 깨진 1H-TaS₂ 2차원 단일층이 c-축으로 번갈아 적층된 구조를 가진 4Hb-TaS₂ 전이금속칼코겐에서 2.7 K 이하의 온도에서 발견된 초전도 현상이 카이랄 초전도를 암시하는 시간역전대칭성이 깨진 실험적 결과가 보고되었다.23) 카이랄 초전도가 발현될 수 있는 또 다른 플랫폼으로서, 위상학적 평평한 밴드와 전자의 상호작용이 함께 작동하는 계가 있다(그림 3).11)24) 이론적인 예측에 의하면, 이러한 계에서는 분수양자홀 현상과 같은 양자 상태와 함께 양자 컴퓨팅에 활용될 수 있는 마요라나 페르미온이 창발할 수 있다(그림 5).

텐서 그물망을 활용한 카이랄 초전도체 연구는 복잡한 양자 상태와 얽힘 구조를 해석하는 데 중점을 둔다. 위상학적 들뜸입자의 성질에 따라 응용 가능성, 양자 계산 알고리즘 등이 구체적으로 결정되기 때문에 이를 특정하는 것은 매우 중요하다. 반면 국소적인 물리량의 측정을 통해서 위상학적 입자를 규정하거나 제어하는 것은 불가능하다. 이에, 텐서 그물망 응용은 위상학적 들뜸 입자의 측정에 중요한 단서를 제공할 수 있다.

특히, 텐서 그물망 표현식에서 유추할 수 있는 얽힘 스펙트럼은 카이랄 초전도계에서 발현될 수 있는 위상학적 들뜸입자의 종류와 특성을 직접적으로 알려준다.25) 나아가, 최근 개발된 텐서 그물망 기반의 방법론 응용을 통해 양자 회로, 다체계 동역학 등을 전산모사할 수 있다. 이를 바탕으로, 위상입자의 생성과 제어 방법, 양자 계산 알고리즘 개발을 수행함으로써, 위상학적 큐빗을 발현할 수 있는 물질 발견과 이를 제어할 수 있는 소자개발에 기여할 수 있을 것으로 기대한다.

맺음말

상술한 기계학습 응용 고압 초전도성 신물질 탐색 및 텐서 그물망 이론을 통한 위상 양자상 연구는 응집물질물리학 이론 연구의 최전선이라 할 수 있으며, 또한 제일원리 전자구조계산과의 결합을 통해 양자 신물질 디자인에서부터 마요라나 입자 등의 별난 들뜸 상태까지 다양한 에너지 스케일에서의 양자 현상을 이론적으로 통합적으로 다룰 수 있는 이론적 플랫폼을 구축 가능할 것으로 기대된다. 이는 위상학적 양자 큐빗 소자 개발 및 이를 위한 양자 물질 연구 및 디자인에 필수적인 단계라 판단되며, 또한 고온 초전도성 등의 응집물질물리학 내 타 분야 연구에 또한 중요한 기여를 할 수 있을 것으로 기대한다. 또한 기계학습 및 인공신경망 방법론의 응집물질물리학 연구에의 보다 폭넓은 적용, 텐서 그물망 이론과 전자구조계산 방법론의 결합을 통한 보다 정밀한 제일원리 다체 양자물성 계산 방법론의 구축, 그리고 양자 컴퓨터 하드웨어를 이용하는 양자 알고리즘의 응용 및 적용에서도 국내 물리학계에 기여할 수 있을 것으로 기대하고 있다.