Advancing Reactor Neutrino Experiments for the Search for Sterile Neutrinos and New Physics

Sangyong KIM and Jiyoung CHOI

The Reactor Antineutrino Anomaly(RAA) and the 5 MeV excess have presented persistent challenges in modern particle and nuclear physics, potentially indicating the existence of sterile neutrinos beyond the Standard Model. To address this anomaly through a model-independent search, the Reactor Experiment for Neutrinos and Exotics (RENE) project has been launched. This paper provides a concise overview of the physical, chemical, and engineering innovations driving the RENE detector. To overcome the gamma-ray energy leakage inherent in conventional short-baseline detectors, a 150-mm-thick 3D gamma-catcher layer was introduced, achieving an unprecedented energy resolution of approximately 4% at 5 MeV. Furthermore, large-area 20-inch photomultiplier tubes(PMTs) were optimized, and a novel quality assurance framework using Fourier-transform infrared(FT-IR) spectroscopy and density functional theory(DFT) was established to control trace impurities in the liquid scintillator. A detachable 3D-printed support structure was developed to optimize optical coupling in the active cosmic-ray veto system. For reliable unmanned operation in an extreme, power-constrained environment, an asynchronous multi-threaded monitoring system and the advanced RAT-PAC Monte Carlo framework were successfully deployed. Building upon the legacy of the RENO and NEOS experiments, the RENE project is poised to conclusively verify the sterile neutrino anomaly while demonstrating a groundbreaking multidisciplinary expansion into 3D precision medical dosimetry.

들어가며: 표준모형의 한계와 중성미자 질량의 기원

1. 패리티 비대칭성과 중성미자 질량의 기원

입자물리학의 표준모형 체계(Standard Model, SM) 내에서 쿼크와 경입자 등 모든 페르미온은 힉스 기작(Higgs mechanism)에 의한 자발적 대칭성 깨짐을 통해 질량을 획득한다. 수학적 관점에서 입자의 왼손잡이 상태와 오른손잡이 상태가 힉스장(Higgs field)의 진공 기댓값을 매개로 유카와 결합(Yukawa coupling)을 형성할 때 질량이 발현된다. 그러나 1957년 우젠슝(C. S. Wu) 등이 코발트를 이용한 실험을 통해 약한 상호작용 과정에서는 패리티 대칭성이 최대로 깨진다는 사실이 실증되었다.1) 이는 자연계의 중성미자가 오직 음의 나선도(Helicity)를 가지며 약한 상호작용의 사영 연산자에 의해 투영되는 왼손잡이 상태로만 존재함을 의미한다. 오른손잡이 짝이 부재하므로 디랙(Dirac) 질량 항을 구성할 수 없게 된 중성미자는 표준모형 내에서 질량이 없는 입자로 취급되었다.

2. 중성미자 진동과 비활성 중성미자 모형

1990년대 후반 태양·대기 중성미자 관측실험을 통해 중성미자 진동 현상이 발견되며 중성미자의 미세 유한 질량을 가짐이 입증되었다. 이는 표준모형 너머에 존재하는 새로운 물리 현상(Beyond the Standard Model, BSM)을 암시하는 확실한 증거이다. 표준모형의 게이지 대칭성을 파괴하지 않으면서도 중성미자에 질량을 부여할 방법을 모색하던 스티븐 와인버그는 경입자수 보존을 위배하며 마요라나(Majorana) 질량을 발현시킬 수 있는 5차원 유효 연산자를 제안했다.2) 이 유효 연산자의 이론적 발산을 방지하고 자외선 완비 모형을 구성하는 제1형 시소 모형은 게이지 상호작용에 전혀 참여하지 않는 무거운 오른손잡이 비활성 중성미자의 존재를 상정한다. 이 이론에 따르면 활성 중성미자의 질량은 비활성 중성미자의 거대한 마요라나 질량에 반비례하여 매우 작아진다. 관련된 자세한 수식적 전개는 문헌을 참조한다.

더불어, 시소 모형에서 유도되는 마요라나 중성미자는 그 입자-반입자 구조 때문에 대각 자기 모멘트는 가질 수 없지만, 서로 다른 맛깔 상태 사이의 전이 자기 모멘트는 가질 수 있다. 천체 물리 수준의 강한 외부 자기장 환경을 통과할 경우, 마요라나 중성미자는 스핀 뒤집힘과 맛깔 진동을 겪게 된다. 이를 온전히 기술하기 위해서는 헤밀토니언이 확장되며 다수의 섞임각이 요구된다.3) 상세한 이론 전개는 문헌을 참고한다.

최근 여러 단거리 원자로 실험에서 교차 보고되고 있는 이상 현상들을 설명하기 위한 최소 확장 모형은 약한 상호작용에 참여하지 않는 4세대 입자인 비활성 중성미자를 도입하는 (3+1) 모형이다. 실험적 징후들을 이 모형으로 해석할 경우 질량 제곱 차이 약 1 eV² 대역의 가벼운 비활성 중성미자의 존재가 지지된다. 그러나 우주론에서 유효 상대론적 자유도를 엄격히 제한하는 플랑크 위성의 우주 마이크로파 배경 관측 데이터와 초기 우주 대폭발 핵합성 결과는 이러한 가벼운 입자의 존재와 크게 상충하는 결과를 보여준다.4)5) 이 교착 상태를 타개하기 위해, 특정 이론에 얽매이지 않고 스펙트럼의 모양 일그러짐을 추적하여 비활성 중성미자의 존재 여부를 검증할 수 있는 지상 실증 실험이 필요하다.

원자로 반전자중성미자 이상 현상과 학술적 논쟁

1. 원자로 반전자중성미자 이상 현상의 대두

원자력 발전소의 원자로 노심은 연쇄 핵분열 붕괴 과정을 통해 막대한 반전자중성미자를 방출하는 유용한 인공 선원이다. 2010년대 원자로 중성미자 실험들은 섞임각 \(\small \theta_{13}\)을 정밀하게 측정하는 성과를 거두었다. 그러나 2011년 기존의 핵 데이터를 바탕으로 원자로 반전자중성미자 선속을 재평가한 결과, 실제 검출된 절대 선속이 예측 모형 대비 약 6%가량 부족하게 나타나는 현상이 공통으로 보고되었다. 이를 원자로 반전자중성미자 이상 현상(Reactor antineutrino anomaly, RAA)이라 부른다.6)

실제로 RENO 공동연구진이 발표한 장기 원자로 관측 데이터(그림 1)를 살펴보면, 예측 모형을 밑도는 선속 결손과 함께 5 MeV 부근에서 측정된 사건 수가 예측값을 초과하는 스펙트럼 초과 현상이 교차 검증되었다.7)8)

Fig. 1. The reactor antineutrino prompt energy spectrum measured at the RENO far detector is shown. A spectral excess near 5 MeV is clearly identified in the extended 3800-day dataset.8)

핵물리학계는 이 6%의 결손과 스펙트럼 모양 일그러짐이 예측 모형 자체의 내재적 불확실성에서 기인한다고 지적한다. 누적 베타 붕괴 스펙트럼을 중성미자 스펙트럼으로 역산하는 과정은 수학적으로 제1종 프레드홀름 적분 방정식의 해를 구하는 불량 조건 역문제(ill-posed inverse problem)에 해당한다. 이는 측정 데이터의 미세한 계통 오차나 잡음이 고진동수 영역으로 기하급수적으로 증폭될 수 있는 한계를 지닌다. 또한 붕괴 과정에서 고에너지 감마선이 누락되는 판데모늄 효과나 복잡한 핵 다체 이론이 요구되는 첫 번째 금지 전이 계산의 높은 모형 의존성이 선속 오차의 주된 원인일 가능성을 제기한다. 상세한 수학적 전개는 문헌을 참조한다. 특히 최근 우라늄-235(235U) 핵분열 베타 스펙트럼에 대한 최신 재평가 연구들이 기존 예측 모형의 불확실성을 강하게 시사하면서, 절대 선속 예측에 의존하는 해석의 한계가 지적되고 있다.

2. 입자물리학적 해석과 RENE 실험

반면 입자물리학계는 이를 가벼운 비활성 중성미자로 인한 단거리 진동 변환으로 해석한다. 진동 생존 확률은 질량 제곱 차이와 섞임각, 그리고 비행거리와 에너지의 비율에 의존하는 진동 함수로 근사할 수 있다. 상세한 공식은 관련 문헌을 참고한다.

실제로 한빛원자력발전소에서 수행된 RENO와 NEOS 실험 자료를 통합한 합동 분석 결과(그림 2), 비활성 중성미자의 존재 가능성을 시사하는 매개변수 허용 영역이 도출되었다.9)

Fig. 2. The results of the joint analysis using the RENO and NEOS datasets are presented.9) (Top) The measured prompt energy spectra are compared with the prediction models. (Bottom) The allowed parameter regions for the existence of sterile neutrinos are indicated by the contour lines.

이 교착 상태를 타개하기 위해 출범한 RENE (Reactor Experiment for Neutrinos and Exotics) 프로젝트는 절대 선속 예측 모형에 의존하지 않는다. 대신 원자로 노심으로부터 고정된 거리에 향상된 에너지 분해능을 가진 검출기 설치 및 운용 방식을 통해 거리와 에너지에 따른 스펙트럼 모양 일그러짐 패턴들을 직접 교차 비교하여 원자로 모형 오차를 최소화하는 모형 독립적 전략을 채택하였다.10)

표적 매질: 액체 섬광체의 물리화학적 최적화

검출기 계측 성능은 역베타(Inverse beta) 붕괴 반응을 포착하는 표적 매질인 액체 섬광체 투명도와 발광 효율 제어에 직결된다. RENE 공동연구진은 화재 안전성이 뛰어난 선형알킬벤젠(Linear alkylbenzenes, LAB)을 기본 용매로 채택하였다.

1. 투명도 제어 및 분광학적 불순물 감시

연구팀은 밀도범함수이론(Density functional theory, DFT) 전산 모사를 통해, 합성 공정 중 유입된 발색단 작용기가 액체 섬광체 내 최고 점유 분자 궤도함수(Highest occupied molecular orbital, HOMO)와 최저 비점유 분자 궤도 함수(Lowest unoccupied molecular orbital, LUMO) 사이의 에너지 간극을 좁혀 광전자 증폭관 민감 대역에 강한 화학적 흡수를 유발함을 양자역학적으로 규명하였다.11)

이를 엄격히 제어하기 위해 푸리에 변환 적외선 감쇠 전반사 분광학(Fourier-transform infrared spectroscopy with attenuated total reflectance, ATR-FTIR) 기법을 품질 보증 체계에 도입하였다. 빛의 투과를 방해하는 미세 불순물들의 고유 진동 모드를 지문처럼 식별하는 데이터베이스를 구축하였고, 잔여 광 감쇠의 원인이 용매 분자들의 열적 요동에 의한 레일리 산란 및 미 산란임을 물리적으로 입증하였다.12)13) 세부적인 분광 분석 결과는 관련 문헌을 따른다.

2. 소광 현상 제어 및 배위 화학 기반 착화 기술

고속 중성자가 매질 내 양성자를 산란시키며 생성하는 되튐 양성자는 궤적에 따라 국소적으로 매우 강한 이온화 소광 현상을 겪는다. 비선형적인 이온화 소광 응답을 정밀하게 기술하기 위해 확장된 벅스 상수와 2차 전자 궤적을 직접 추적하는 모형을 전산 모사에 반영하였다. 상세한 수식은 참고문헌을 따른다. 이온화 소광에 영향을 받는 섬광체 기반 광전증배관 계측에서 미세한 신호 펄스 파형 형태 차이를 분석하기 위해 자동부호기(Auto encoder, AE) 및 지지 집합 벡터 기계(Support vector machine, SVM) 기반의 펄스 모양 알고리즘을 도입하여, 고속 중성자 배경사건을 99.5% 이상의 정확도로 성공적으로 분류하였다.14)

우연 동시계수 배경 잡음을 억제하기 위해 열중성자 포획 단면적이 매우 큰 가돌리늄(Gadolinium, Gd)을 액체섬광체 용매에 배위화합물 형태로 균일하게 섞었다. 유기 킬레이트 리간드를 활용하여 비극성 용매상으로 금속 이온을 추출하는 용매 추출법을 적용한 결과, 장기 투명도가 입증된 0.6% 가돌리늄 착화된 용매(Gd-LAB)를 대량 합성하였다(그림 3). 이러한 정밀 배위 화학 기술은 사용 후 핵연료 재처리 공정과 원리가 동일하다. 최근에는 아세톤의 양친매성을 활용하여 계면활성제 없이 수용성 금속 이온을 유기 용매에 안정적으로 탑재하는 신기술로도 확장되었다.15)

Fig. 3. A photograph of the 0.6% gadolinium-loaded solvent (linear alkylbenzenes, LAB) is shown. It is synthesized through a precise coordination chemistry process, and excellent transparency is maintained without any precipitation.

검출기 설계 및 정밀 계측 기술

1. 감마선 포획기 계층 도입 및 분해능 향상

기존 검출기는 실험 목표를 위한 단거리 단일 격벽 용기 형태의 기하 구조를 갖는다. 단일 격벽 구조에서는 소멸 감마선이 외부로 유실되어 에너지 스펙트럼 분포에 긴 꼬리가 필연적으로 발생하는 구조적 한계가 있다.

RENE 공동연구진은 상충 관계에 있는 실험 목표들을 고려하여, 원통형 중심 표적 외곽을 150 mm 두께의 액체 섬광체 계층인, 감마선 포획기(Gamma catcher)로 감쌌다(그림 4).

Fig. 4. The cross-sectional geometry of the RENE detector (top) and its internal acrylic vessel (bottom) are illustrated. The central target region and the gamma-catcher region are physically separated by a flexible bellows structure.10) (Top) Schematic view of the RENE detector cross-section, displaying the overall configuration, dimensions, and layout of key components including the acrylic target and chimney, gamma-catcher, and PMT arrays. (Bottom) Photographs of the internal acrylic vessel assembly, highlighting the detailed integration of the flexible bellows structure for separation between the target and gamma-catcher volumes (left: inner view, right: close-up connection detail).

전산 모사 결과, 광학적 이중 완충 지대(감마선 포획기)는 광자와 물질 간 다양한 상호작용을 통해 탈출하려는 감마선을 일정 비율 회수한다(그림 5).

Fig. ５. The simulated prompt energy spectra comparing the effect of the gamma-catcher layer are displayed. (Top) The low-energy tail caused by gamma-ray leakage in the single-vessel design (NEOS). (Bottom) The tail is effectively suppressed by the multi-layer structure (RENO).

다중 산란 비율에 따라, 무한 분산과 극단치 영향력이 큰 안정 분포 족(α-stable distribution family, 두꺼운 비대칭 꼬리 분포)에서 정규 분포 형태로 수렴된다. 감마선 포획기를 통해 재구성 에너지 분포의 비대칭 꼬리가 억제되고, 에너지 응답 함수가 정규 분포 형태에 가까운 형태로 개선되었다(그림 6). 즉 이 150 mm의 두께는 511 keV 소멸 감마선이 액체 섬광체 매질 내에서 겪는 콤프턴 산란의 평균 자유 행로를 고려할 때, 감마선 에너지를 회수할 수 있는 최적의 완충 지대이다.

Fig. 6.　The expected performance of the RENE detector evaluated by Monte Carlo simulations is shown.10) (Top) The prompt energy spectrum demonstrates clean Gaussian peaks without leakage tails. (Bottom) The relative energy resolution reaches approximately 4% at 5 MeV.

2. 광전자 증폭관 정밀 제어

광자 수집에는 1차 광전자 비행 궤적을 효과적으로 집속시켜 양자효율이 향상된 상자-선 구조의 최신 20인치 광전자 증폭관 2기가 사용된다. RENE 연구진은 피코초 레이저와 초고속 디지털 변환기를 결합한 자체 검사 장치를 구축하여 거대 광전면 공간적 수집 편차와 4 ns 이하의 시간 퍼짐 특성 등을 측정하였다(그림 7).

Fig. 7. A schematic diagram of the experimental setup is shown. It is built for the precise characterization of the 20-inch PMTs, utilizing a picosecond laser and a high-speed digitizer.16)

진공관 내 잔류 가스 이온화로 발생하는 지연 펄스 전하량의 물리적 상한선을 규명하여, 분석 시 가짜 신호를 기각하는 논리를 확립하였다.16) 지구 자기장에 의한 광전자 증폭관 증폭 교란을 막기 위해 퍼멀로이 차폐막을 구축하여 자기장을 차폐하였다.

3. 외부 잡음 거부 검출기 및 3차원 적층 결합

원자로 인근 얕은 심도에 위치한 검출기에 들어오는 외부 잡음(우주선)을 막기 위해, 수동 차폐벽 최외각에 대면적 플라스틱 섬광체를 감싸 능동형 외부 잡음(우주선) 거부 검출기를 구성하였다(그림 8). 능동형 외부 잡음 거부 검출기를 관통하는 신호가 포착되면 불감 시간을 적용하여 우연 동시 사건을 강제로 기각한다.

Fig. 8. CAD assembly schematic of the RENE detector is presented. The central chamber is fully surrounded by passive shielding structures and an outermost layer of active cosmic-ray veto panels.17)

외부 잡음 거부 검출기 성능은 플라스틱 섬광체와 부착된 광전자 증폭관 간의 광학 결합 효율에 크게 좌우된다. 기존 광학 시멘트 결합 방식은 장기간 노출 시 황변 현상으로 인해 투과율 저하가 발생함을 분광 분석을 통해 확인하였다. 이를 극복하기 위해 RENE 공동연구진은 광학 그리스를 손쉽게 분해 조립하여 재도포할 수 있는 탈부착형 3차원 적층지지 구조체를 자체 개발하여 도입하였다.17)

구조물을 적용하여 미세 공기 간극을 물리적으로 차단한 결과, 우주선 신호 전하량 분포가 본래 수준으로 복원됨을 보였다(그림 9). 상세한 열변형 시험 및 성능 회복 결과는 문헌을 참조한다.

Fig. 9. The restoration of the cosmic-ray muon signal charge (ADC) distribution for the VETO PMT is shown before and after the reapplication of optical grease using the 3D-printed module.17)

4. 고속 자료 획득 구조

검출기 아날로그 신호는 500 MS/s 이산 추출률과 12-bit 해상도 아날로그-디지털 변환기를 통해 실시간으로 디지털화된다. 이를 통해 펄스의 미세한 감쇠 시간 차이를 구별하는 펄스 모양 판별 알고리즘을 지원한다. 동기화 제어 장비는 256 ns 시간 범위 내 다중 채널 동시성 논리를 판단하여 유효한 사건만 광역 동기화 신호를 발행한다. 이때 사건 발생 시점 이전으로 역추적하여 전체 파형 범위를 추출 및 기록함으로써 단일 채널의 여러 잡음을 효과적으로 차단하고 물리 데이터를 손실 없이 저장한다.

5. 통합 감시 체계

검출기가 최종 설치되는 텐던 갤러리는 통신이 제한되고 전체 가용 전력이 4 kW (2+2 kW)로 엄격히 통제되는 제약이 많은 무인 환경이다. 수십 종의 서로 다른 센서들을 제어하는 과정에서 발생하는 통신 병목과 멈춤 현상을 해결하기 위해, 공동 연구진은 비동기식 다중 스레딩 기법과 생산자-소비자 패턴을 도입하여 독자적인 통합 감시 시스템을 구축하였다.18)

이 프레임워크는 화면 렌더링, 장치 통신, 데이터 기록을 메모리 상에서 격리하였다. 다채널 고전압 제어 통신에는 상태 배열을 한 번에 읽어 오는 일괄 읽기 프로토콜을 적용하여 통신 지연을 30 ms 이하로 단축하였고, 지능형 전력 분배 장치 연동을 통해 능동형 부하 차단 기능을 제공한다. 상세한 명세는 문헌을 참고한다.

6. 차세대 몬테카를로 전산 모사

검출기의 복잡한 광학 수송 메커니즘을 정밀하게 모사하기 위해, 다중 스레딩 연산에 최적화된 GEANT4 11 기반의 차세대 범용 전산 모사 패키지인 RAT-PAC(Reactor Analysis Tool - Point and Centered) 프레임워크를 전면 도입하였다.

특히 열중성자가 가돌리늄에 포획될 때 방출되는 수많은 갈래의 복잡한 감마선 연속 전이(Cascade)를 정밀하게 재현하기 위해 최신 실측 자료 기반의 핵물리 모형인 ANNRI-Gd 모듈을 시스템 내에 이식하였다.19)

이와 더불어 RENE 검출기 매질 내 레일리 산란 및 흡수, 파장 이동 현상을 실제 분광학 측정 데이터와 일치하도록 구현하였다.

나아가 생성된 입자 궤적 자료로부터 참값을 역산하기 위해 베이즈 추론 등 통계적 방법론을 융합하여 미세한 계통 오차를 적극적으로 제어하고 있다.

결 론

1. 의학물리로의 다학제적 확장

RENE 프로젝트를 통해 정립된 정밀 복셀 단위 입자 수송 전산 모사 기술과 역문제 재구성 알고리즘은 의학물리 분야로 확장 적용되었다. 연구팀은 고해상도 의료 영상(SPECT/CT)을 환자의 공간적 대리지표로 활용하여, 최대사후확률 재구성 알고리즘을 융합한 환자 맞춤형 3차원 정밀 선량 평가 모형을 개발하였다.20) 전산 모사를 통해 표적 조직 내부의 극심한 입자 에너지 국소 열점(Hot-spot)과 냉점(Cold-spot)을 명확히 가시화하였으며, 가상 영상과 실제 임상 데이터의 물리적 정합성을 입증하였다. 이는 기초과학이 의학의 테라노스틱스(Theranostics) 발전이라는 실용적 가치로 자연스럽게 환원되었음을 보여준다. 본 연구는 국민의 세금을 바탕으로 수행된 만큼, 그 결실을 모국어로 국내 학계에 가장 먼저 보고하는 데 큰 의의를 둔다.

2. RENE 예상 민감도

감마선 포획기를 통해 확보된 약 4% 수준의 고분해능은 스펙트럼 모양 일그러짐을 정밀하게 분별해 내는 중요한 요소이다. 절대 선속 예측 모형에 의존하는 대신, RENO 근거리 검출기 스펙트럼을 기준으로 한 비율 교차 비교를 수행함으로써 핵물리학적 이론 오차를 상쇄시켰다.

전산 모사 결과(그림 10)에 따르면, 1~2년의 데이터를 축적하는 것만으로도 기존 실험들이 실마리로 남긴 매개변수 허용 공간을 90% 이상의 높은 신뢰도로 검증하거나 새로운 배제 한계를 도출할 수 있음이 입증되었다.10)

Fig. 10. The expected final sensitivity of the RENE experiment in the parameter space of the mass-squared difference and mixing angle is presented. The allowed regions suggested by previous joint analyses are fully covered at a confidence level of over 90%.10)

맺음말

원자로 반전자중성미자 이상 현상을 둘러싼 입자물리학과 핵물리학의 긴장은 현대 물리학이 당면한 주요 연구 주제 중 하나이다. 이 복잡한 난제를 해결하기 위해 시작된 RENE 프로젝트의 배경에는, 섞임각을 정밀 측정해 낸 RENO의 유산과 열악한 환경 속에서도 스펙트럼 모양 일그러짐을 최초로 추적했던 NEOS 실험의 개척 정신이 유기적으로 융합되었기에 가능했다.

RENE 프로젝트는 3차원 감마선 포획기 설계, 정밀 배위 화학 기반 액체 섬광체 정제, 3차원 프린팅 결합 모듈 도입, 비동기 소프트웨어 아키텍처 구축 등 기존 단거리 실험들이 직면했던 한계를 크게 개선하였다. 현재 모든 검증을 마친 RENE 검출기는 인허가가 완료되는 즉시 본격 가동될 예정이다.

이러한 실험 구도는 수십 년간 미스터리로 남은 이상 현상의 근본 원인에 대한 모형에 독립적이고 결정적인 해답을 제시할 것이다. 나아가 이 계측 시스템은 향후 원자로 내부 연소 상태를 실시간으로 비파괴 원격 감시할 수 있는 차세대 핵비확산 안전조치(Safeguards) 기술로의 전략적 확장을 예고하고 있다. 순수 기초과학의 호기심을 넘어 인류의 평화 수호와 생명 연장이라는 실용적 가치로 뻗어나가는 이 역사적 도약의 여정에, 한국물리학회 회원 여러분의 지속적인 관심과 성원을 부탁드린다.