Ferroelectrics for Optical Modulator

Seungjoon SUN and Changhee SOHN

Ferroelectric materials are emerging as promising candidates for high-performance optical modulators in integrated photonics. Their intrinsic Pockels effect enables direct and ultrafast control of the refractive index, allowing efficient conversion of electrical signals into optical modulation. This article reviews the operating principles of optical modulators, contrasting thermal and free-carrier approaches with ferroelectric electro-optic modulation, and discusses recent advances toward their integration with silicon photonics platforms.

서 론

인공지능, 클라우드 서비스, 사물인터넷 등으로 인해 처리해야 할 데이터의 양이 기하급수적으로 늘어나면서, 통신 속도와 에너지 효율을 동시에 만족시키는 기술의 필요성이 어느 때보다 커지고 있다. 데이터 센터를 예로 들면, 서버 내부나 수 미터 이내의 근거리 연결에는 비용과 구조 면에서 유리한 전자 기반 통신이 여전히 활용된다. 그러나 전송 속도와 거리에서 뚜렷한 한계가 존재하며, 대규모 데이터 전송에서는 발열과 전력 소모가 커지는 문제가 따른다. 반면, 광 기반 통신은 초고속·고용량 전송이 가능하고 장거리에서도 손실이 거의 없어 데이터 센터 간 연결이나 대규모 트래픽 전송에 필수적이다.

하지만 기존 광통신 기술은 시스템 구축 비용이 크고 기존 전자 소자와의 통합이 제한적이어서, 정보 처리·저장·전송이 긴밀히 연결되는 현대의 데이터 환경에서 대규모 확장에 어려움이 있었다. 이러한 한계를 극복하기 위한 대안으로 주목받는 기술이 바로 실리콘 포토닉스(Silicon Photonics)이다. 실리콘 포토닉스는 반도체 공정을 기반으로 전자 대신 빛을 다루는 기술로, 기존 CMOS 공정과의 호환성을 통해 대량 생산, 소형화, 비용 효율성을 동시에 달성할 수 있다. 특히 포토닉 집적 회로(Photonic Integrated Circuit, PIC)와 결합하면, 레이저, 광 변조기, 광 검출기 등 다양한 광학 소자를 단일 칩 위에 구현할 수 있어 초고속·저전력 데이터 전송뿐 아니라 향후 광 컴퓨팅으로의 확장 가능성도 열 수 있다.

이 모든 응용의 출발점은 결국 정보를 빛에 실어 나르는 과정, 즉 광 변조에 있다. 따라서 본 글에서는 실리콘 포토닉스 기술의 핵심 소자인 광 변조기(Optical Modulator)에 초점을 맞추어, 주요 변조 방식과 원리를 설명하고 특히 강유전체 기반 전기-광학(Electro-Optic) 변조 기술을 중심으로 살펴보고자 한다. 이어서 대표적인 구동 메커니즘인 마하-젠더 간섭계(Mach–Zehnder Interferometer, MZI) 구조를 다루며, 최근 활발히 진행되고 있는 연구 동향과 기술적 진보 사례를 검토한다. 마지막으로, 이러한 변조 기술이 데이터 센터, 초고속 통신망, 그리고 차세대 광 컴퓨팅 플랫폼에 어떻게 응용될 수 있는지를 논의함으로써, 미래 정보 통신 인프라에서 실리콘 포토닉스가 수행할 역할을 전망해 보고자 한다.

다양한 광 변조 메커니즘

포토닉 집적 회로는 크게 수동 광학 소자(passive optical component)와 능동 광학 소자(active optical component)로 구성된다. 수동 소자는 빛의 경로를 안내하거나 분배하는 역할을 하며, 대표적으로 광 도파로, 광 분배기, 광 결합기 등이 있다. 반면 능동 소자는 외부 신호를 통해 빛의 특성을 직접적으로 제어하는 역할을 하며, 레이저, 광 검출기 그리고 가장 핵심적인 소자인 광 변조기가 여기에 속한다.

광 변조기는 전기 신호를 빛의 위상, 진폭 등 다양한 자유도로 변환하여 정보를 실어 나르는 소자이다. 변조 기술은 재료의 굴절률 변화를 이용하는 방식에 따라 크게 나눌 수 있으며, 대표적으로 열-광학(Thermo-Optic) 변조기와 전기-광학(Electro-Optic) 변조기가 있다. 전기-광학 방식은 다시 실리콘에서 널리 활용되는 free-carrier dispersion 효과를 이용한 방식과 포켈스 효과를 이용한 강유전체 기반 방식으로 구분할 수 있다.

1. 열-광학 변조기

열-광학 변조기는 온도 변화에 따라 굴절률이 변하는 열-광학 효과를 이용하여 빛의 위상을 조절하는 방식이다. 재료의 굴절률은 온도 변화에 따라 달라지며, 이러한 관계는 열-광학 계수(\(\small dn/dT\))로 표현된다. 즉, 온도가 변하면 굴절률이 선형적으로 변하고, 이로 인해 빛이 도파로를 통과할 때 위상이 달라진다. 굴절률 변화량은 열-광학 계수와 온도 변화의 곱으로 주어지며, 위상 변화량은 굴절률 변화량과 도파로 길이에 비례한다. 따라서 더 긴 도파로를 사용하거나 더 큰 온도 변화를 가할수록 위상 변조 효과는 커진다.

실리콘은 1550 nm 통신 파장에서 약 1.8×10^‒4 K^‒11) 수준의 큰 열-광학 계수를 가지므로, 온도 변화만으로도 비교적 큰 굴절률 변화를 유도할 수 있어 위상 변조 효율이 높다. 또한 별도의 복잡한 구조나 특수한 재료가 필요하지 않아 제작 공정이 단순하며, 빛의 흡수나 산란이 거의 발생하지 않아 낮은 광 손실을 유지할 수 있다는 점도 중요한 장점이다. 그러나 한계도 뚜렷하다. 본질적으로 열 확산 속도에 의존하기 때문에 반응 속도가 느려 수백 kHz~수 MHz 수준의 대역폭을 가진다. 그리고 구동 전력은 mW 수준으로 비교적 크다. 또한, 열 변화를 이용하는 특성상 도파로 근처에 히터를 배치하기 때문에 소자의 소형화에 한계가 있어, 집적도가 중요한 대규모 포토닉스 시스템에는 불리할 수 있다.

그럼에도, 열-광학 변조기는 단순한 구조, 낮은 광 손실, 넓은 조정 범위라는 장점을 바탕으로 여전히 중요한 역할을 수행할 수 있다. 특히 고속 응답성이 필수적이지 않은 응용에서는 효과적으로 활용되며, 실리콘 포토닉스 기반 광 집적 시스템의 필수적인 구성 요소로 자리매김하고 있다.

2. Free-carrier dispersion 기반 전기-광학 변조기

Free-carrier dispersion 기반 변조기는 실리콘 포토닉스에서 가장 널리 사용되는 방식으로, 실리콘 내 자유전자와 정공의 농도 변화를 통해 굴절률과 흡수계수를 조절하는 원리에 기반한다. 이 효과는 Drude 모델로 설명되며, 전기장을 가해 캐리어 밀도를 변화시키면 굴절률 변화와 흡수 변화가 동시에 유도된다. 이 방식의 장점으로는 CMOS 공정과의 호환성이 높고 이미 상용화된 경험을 바탕으로 대규모 집적과 양산이 가능하다는 점이다. 그러나 캐리어 농도를 크게 변화시킬수록 흡수 손실이 증가하고, 도핑 농도를 높이면 구동 전압은 낮아지지만 정전 용량 증가로 대역폭이 제한되는 상충관계가 존재한다. 실제로 도핑 농도를 3×10¹⁸ cm^⁻3 수준으로 설계할 경우 대역폭은 44 GHz에 머무는 것으로 보고되었다.2) 이를 극복하기 위해 도핑 분포 최적화, 오프셋 접합 등 다양한 개선 기법이 제안되었고, 최근에는 수십~100 GHz 수준의 대역폭을 달성한 사례도 보고되었다.3) 이처럼 free-carrier dispersion 변조기는 여전히 상용 실리콘 포토닉스 트랜시버의 핵심 기술로 자리하고 있으며, 차세대 초고속·저전력 광 통신 모듈에서도 중요한 역할을 이어가고 있다.

3. 강유전체 기반 전기-광학 변조기

강유전체 기반 전기-광학 변조기는 포켈스 효과(Pockels effect)를 이용하는 방식으로, 전기장이 가해졌을 때 물질 내 전기 쌍극자들이 외부 전기장 방향으로 미세하게 정렬되면서 굴절률이 선형적으로 변하는 현상에 기초한다. 이는 굴절률 텐서의 역수 변화가 외부 전기장에 선형적으로 비례함을 의미하며, 수학적으로는 다음과 같이 표현된다.

\[\Delta \left( \frac{1}{n ^{2}} \right) = \sum _{j} ^{} r _{ij} E _{j}\]

여기서 \(\small r_{ij}\)는 전기-광학 텐서, \(\small E_{j}\)는 전기장의 성분을 나타낸다. 이 효과는 2차 비선형성에 기초하기 때문에 중심 대칭성을 가지지 않는 결정 구조에서만 나타난다. 따라서 실리콘과 같은 중심 대칭 재료에서는 포켈스 효과가 나타나지 않으며, 대신 LiNbO₃, BaTiO₃, PZT 등 강유전체나 비중심대칭 결정 재료들이 주로 사용된다. 포켈스 효과 기반 변조기의 가장 큰 장점은 고속 응답성이다. 굴절률 변조가 분극에 의해 거의 순간적으로 일어나므로, 응답 속도가 수백 GHz 이상까지 확장될 수 있으며, 이는 free-carrier 기반 변조기나, 열-광학 변조기의 속도 한계를 극복할 수 있는 중요한 특성이다. 또한, 높은 포켈스 계수를 가진 재료를 사용하면 낮은 구동 전압으로도 큰 위상 변조 효과를 얻을 수 있어 에너지 효율이 크게 향상된다. 반면, 소자 제작의 난이도가 높고, 실리콘 공정과의 이종 재료 통합이 필요하다는 점은 기술적 과제로 남아 있다. 하지만 최근 연구에서는 LiNbO₃, BaTiO₃, PZT 등 다양한 강유전체 기반 재료를 실리콘 포토닉스 플랫폼 위에 성공적으로 집적하는 시도가 활발히 진행되고 있다.

포켈스 효과 전기-광학 변조기에 쓰이는 강유전체

1. LiNbO₃

LiNbO₃는 전통적으로 섬유 통신용 대형 벌크 변조기에 활용되던 대표적 강유전체로, 최근에는 집적형 포토닉스 환경에 맞춘 박막화·집적화 연구가 활발히 이루어지고 있다. LiNbO₃는 3m 점군(point group)에 속하는 비중심 대칭 구조를 가지며, r₃₃ 계수가 약 30 pm/V로 알려져 있어 안정적이고 비교적 큰 전기-광학 응답을 제공한다. 특히 벌크 기판 기반 변조기는 굴절률 대비가 낮아 전극 간격이 커지고, 그 결과 구동 전압이 커지는 문제가 있었는데, 이를 해결하기 위해 LiNbO₃-on-Insulator(LNOI) 기술이 도입되었다. LNOI는 실리콘-온-인슐레이터(SOI)와 유사하게, 이온 절단(smart-cut)과 웨이퍼 본딩을 통해 벌크 LiNbO3로부터 박막을 얻는 방식으로 제작된다(그림 1(a) 참조). 이렇게 얻은 박막은 높은 굴절률 대비를 가지는 ridge 도파로로 가공 가능하여, 광 모드와 전기장의 중첩률을 크게 향상시킬 수 있다.

Fig. 1. (a) Schematic of wafer bonding for LiNbO₃-on-insulating (LNOI) fabrication.4) (b) Schematic of epitaxial integration of BaTiO3 on Si substrate using SrTiO3 buffer layers.5)

제작 측면에서는 화학적 습식 에칭부터 ICP 플라즈마 건식 에칭까지 다양한 공정이 검토되었으며, 최근에는 손실을 0.2 dB/cm 수준까지 낮춘 고품질 도파로도 보고되었다.6) 또한, LNOI 기반 변조기는 100 GHz를 넘는 대역폭, 1‒3 V·cm 수준의 VπL을 달성했다.7) 여기에 더해, 실리콘(Si)이나 실리콘 나이트라이드(SiN)와의 하이브리드 집적도 시도되고 있다. 이 방식에서는 Si/SiN 도파로를 LiNbO₃ 기판 위에 본딩하여, 기존 CMOS 기반 수동 소자와의 호환성을 높이는 동시에 전기-광학 응답은 LiNbO₃ 층에서 얻는다. 실제로 이러한 하이브리드 구조를 통해 100 GHz 이상의 대역폭과 낮은 구동 전압을 동시에 구현한 사례들이 보고되고 있다.8) 종합하면, LiNbO₃는 성숙한 결정 성장 및 웨이퍼 본딩 기술을 기반으로 가장 안정적이고 상용화에 가까운 포켈스 기반 재료로 자리 잡았다고 할 수 있다.

2. BaTiO₃

BaTiO₃는 LiNbO₃보다 훨씬 큰 포켈스 계수(r₅₁이 수백 pm/V 이상)에 기반한 강력한 전기-광학 응답을 제공하는 차세대 후보군으로 꼽힌다. 상온에서 BaTiO₃는 4 mm 점군에 속하는 정방정 구조를 가지며, 외부 전기장 인가 시 굴절률 변화가 특정 결정 방향에 따라 크게 달라진다. 특히 a축 방향으로 정렬된 도파로에서는 TE 모드에 대해 r₃₃, r₁₃, r₅₁이 결합되어 수백 pm/V에 달하는 유효 전기-광학 계수를 얻을 수 있다. 이는 낮은 전압에서도 강한 위상 변조를 구현할 수 있음을 의미하며, 실제로 수백 GHz 대역폭과 V_πL이 0.5 V·cm 이하인 초고효율 변조기가 시연된 바 있다.9)

BaTiO₃ 기반 집적을 위해서는 이종 기판 위에 박막을 성장시키는 방식이 주로 활용된다. 대표적으로 MgO는 격자 상수가 BaTiO₃와 유사해 고품질 박막 성장을 가능하게 하며,10) 실리콘 기반 집적을 위해서는 SrTiO₃ 완충층을 삽입하여 격자 불일치를 완화하는 전략이 널리 사용된다(그림 1(b) 참조).11) 성장 기법으로는 PLD, MBE, RF 스퍼터링, MOCVD 등이 검토되었고, 수십~수백 나노미터 두께의 에피층 확보가 가능하다. 제작된 박막은 SiN이나 amorphous-Si 도파로와 결합하여 하이브리드 도파로 구조를 형성하거나,12) 아르곤 이온 밀링을 통한 직접 패터닝 방식으로 가공된다.13) 성능적으로는 a축 정렬 BaTiO₃ 기반 마하-젠더 변조기가 157 pm/V의 유효 계수와 0.42 V·cm의 V_πL을 달성한 사례가 보고되었다.14)

이처럼 BaTiO₃는 LiNbO₃보다 훨씬 높은 성능 잠재력을 지니지만, 동시에 화학적 안정성 문제, 격자 불일치, 도파로 가공 난이도 등 해결해야 할 과제가 많다. 그럼에도 불구하고 활발한 이종 집적 연구 덕분에, BaTiO₃는 차세대 초고속·저전력 광 변조기의 핵심 소재로 부상하고 있다.

마하-젠더 간섭계 구동 메커니즘

마하-젠더 간섭계(Mach–Zehnder Interferometer, MZI)는 포토닉 집적 회로에서 가장 널리 사용되는 핵심 소자로, 빛의 위상과 세기를 정밀하게 제어할 수 있다. 기본 구조는 크게 네 가지 요소로 이루어진다. 먼저 입력 분할기(input splitter)가 하나의 광 신호를 두 갈래로 나누어 각각의 팔(arm)로 전달한다. 이어서 두 개의 팔을 통해 빛이 진행하는데, 이때 한쪽 팔에는 위상 변조기(phase shifter)가 배치되어 외부 전기 신호에 의해 발생하는 전기장이나 열이 굴절률을 변화시켜서 빛의 위상이 달라지게 된다. 반면 다른 한쪽 팔은 변조가 일어나지 않는 경로로 유지된다. 마지막으로 출력 결합기(output coupler)가 두 팔을 다시 합치면서 간섭 현상이 발생하고, 두 팔의 위상차에 따라 출력되는 빛의 세기가 조절된다(그림 2 참조).

Fig. 2. Schematic of MZI modulator.

위상차가 0° 또는 360°일 때는 두 파동이 보강 간섭을 일으켜 빛이 최대 세기로 출력되며, 반대로 180° 위상차에서는 상쇄 간섭으로 인해 빛이 소멸된다. 이러한 원리를 이용하면 MZI는 단순히 빛의 세기를 켜고 끄는 스위치(on–off)로 동작하거나, 출력 강도를 연속적으로 조절하는 변조기로 활용될 수 있다. 특히 전기-광학 효과를 위상 변조에 결합하면, 신호 전압이 가해질 때 위상차가 실시간으로 변하여 빛의 진폭을 고속으로 조절할 수 있다. 이를 통해 Gbps 이상의 속도로 데이터를 전송하는 고속 통신용 변조기가 구현된다.

맺음말

실리콘 포토닉스는 초고속·저전력 통신과 차세대 광 컴퓨팅을 가능케 할 핵심 플랫폼으로 주목받고 있으며, 그 중심에는 광 변조기가 자리한다. 열-광학, free-carrier, 포켈스 효과 기반 변조기 각각은 장단점을 지니지만, 공통적으로 포토닉 집적 회로의 성능과 확장성을 결정짓는 중요한 역할을 한다. 특히 마하-젠더 간섭계 구조는 이러한 변조 기술을 구현하는 대표적 메커니즘으로, 단순한 스위칭부터 고속 변조에 이르기까지 다양한 응용을 가능하게 한다. 앞으로도 소재·구조적 혁신과 집적 기술의 진보가 이어진다면, 실리콘 포토닉스 기반 광 변조기는 미래 정보 통신 인프라에서 더욱 핵심적인 위치를 차지할 것이다.