최 재 경
고등과학원 원장

올해는 고등과학원 개원 25주년이 되는 해이다. 1996년 한국의 과학기술을 모방의 단계에서 창조의 단계로 진입시키기 위해 정근모 과학기술처 장관의 주도로 고등과학원을 설립하였다. 고등과학원은 아인슈타인과 괴델이 재직하였던 프린스턴의 고등연구소(IAS)를 모델로 하였다.

IAS에서 아인슈타인과 공동연구를 했던 물리학자 Infeld가 말하길 “IAS는 손을 뻗으면 어디서나 새 아이디어를 끄집어낼 수 있는 곳이다”라고 다소 로맨틱하게 얘기하였다. 한국의 고등과학원도 낭만적으로 표현하자면 호기심의 최전선이 되는 곳이라고 필자는 믿는다. 또한 창조성의 발상지이며 상상력의 무대가 되는 장소라고 생각한다.

코로나 19 사태로 인해 개원 25주년 기념 공식행사는 하지 않고, 대신에 세계적 석학의 줌 강연 Quadranscentennial KIAS Lectures를 8회 개최하였다. 연사로서는 작년 노벨 물리학상을 수상한 Penrose와 Witten 등의 Fields 메달리스트들이 강연하였다.

IAS의 Witten 교수가 강연을 시작할 때 필자는 그를 소개하기 위한 재미있는 일화를 찾다가 그가 Kyoto Prize 수상연설에서 다음과 같은 말을 한 것을 알게 되었다. “무엇이 진리인지와 왜 진리가 사실인지를 이해하는 것(understanding “what” is true and understanding “why” it is true)의 차이점이 물리학과 수학의 중요한 매력이다. “왜?”를 답할 때의 아름다움이 물리학자와 수학자가 학문을 하는 이유이다."

Witten이 이 말을 하게 된 동기는 Jones polynomial의 연구경험에서였다. 1983년 수학자 Vaughan Jones는 Jones polynomial을 창안하여 3차원 공간의 매듭(knot)을 연구하는 방법에 혁명을 가져왔다. 그는 이 업적으로 Fields 메달을 수상하였다. Jones는 각 매듭 \(\small K\)에 어떤 다항식(또는 그 다항식을 특정수에서 계산한 값 \(\small J_K\))을 대응시켰는데, \(\small K\)가 꼬이지 않은 원일 때 \(\small J_K =1\)이고, \(\small J_K \ne 1\)인 \(\small K\)는 꼬인 매듭이다. 그는 \(\small J_K\)를 계산하는 방법을 제시하였는데 이것 말고도 \(\small J_K\)를 계산하는 방법이 수없이 많고, 이 모두 같은 값을 준다는 것도 증명돼 있다. 바로 여기서 Witten은 모든 방법이 같은 값을 준다는 진리는 이해하겠지만 왜 같은지가 불가사의하였다. 

Jones의 논문이 나온 직후부터 \(\small J_K\)와 수리물리학의 관계가 알려지기 시작했다. 그런데 Witten은 매듭을 3차원 시공간에서 하전입자의 경로로 보았다. 양자역학에서 입자가 경로 \(\small K\)를 지나는 확률진폭을 Wilson operator \(\small W_K\)로 표현하는데, 그는 결국 Jones polynomial \(\small J_K\)가 바로 \(\small W_K\)의 평균값이라고 보이는 획기적인 성과를 거두었다. “왜?”라는 질문에서 출발한 Witten은 물리학자의 직관력으로 수학적 진리로부터 새로운 차원의 진리를 찾아낸 것이다.

진리는 왜 진리인가를 보여주는 과학사의 일을 하나 더 소개해보자.

디랙은 1930년 간단하며 직관적이지만 논란이 많은 델타함수를 도입하였다. 디랙 델타함수는 원점에서 무한대이고 그 외의 점에서 0이며, 적분값이 1인 함수이다. 이 함수는 야구공이 타자의 배트에 부딪힐 때의 충격함수, 또는 전자 같은 입자의 점전하와 점질량을 표시할 때 쓰인다. 이러한 델타함수를 수학자들은 받아들일 수 없었다. 왜냐하면 엄밀한 의미의 함수는 무한대의 값을 가질 수 없으며, 한 점을 뺀 모든 점에서 0인 함수는 적분값이 0이기 때문이다. 야구공을 타자가 배트로 칠 때 매 순간 어느 정도 큰 힘이 작용하는가를 알려고 하기보다, 충격이 전달되는 전체시간 동안 전해지는 총 충격량만 알면 야구공의 속도를 예측할 수 있다는 것이 델타함수의 요점이다. 이렇게 함수 같지 않고 괴팍한 델타함수를 당시의 수학자들은 비웃었다. 그러나 거부할 수만은 없었던 것은 디랙을 비롯한 물리학자들이 델타함수를 쓰며 항상 옳은 답을 얻어냈기 때문이다. 그래서 디랙의 물리학적 직관력의 산물인 델타함수는 수학자들에게 큰 골칫거리였다. 그러다가 1940년대 후반 수학자 Schwartz가 초함수(distribution)를 논리적으로 엄밀하게 도입하며 델타함수가 초함수의 일종이라고 보였을 때 수학자들은 비로소 안도할 수 있었다. Schwartz는 이 업적으로 Fields 메달을 수상하였다.

돌이켜 보건대 디랙은 충격함수 자체를 인식하려 들지 않고 그 함수의 영향력에 관심을 둔 것이다. 디랙의 이러한 간접적인 시각의 효용성을 인정한 Schwartz는 논리적인 비약을 행하여 델타함수를 비롯한 초함수를 간접적으로 인식하는 수학이론(distribution theory)을 정립하였다.

고등과학원은 무엇이 진리인지를 탐구하는 곳이다. 그리고 왜 진리가 진리인지를 캐묻는 배움터이다.