양자전기역학(QuantumElectrodynamics, QED)이 완성된 것은 20세기 물리학의 가장 빛나는 순간 중 하나다. QED는 양자 장 이론이자 게이지 이론으로서, 양자역학과 특수 상대성 이론, 게이지 불변성이라는 현대물리학의 기본 원리가 완전히 구현된 최초의 이론이다. <물리학과 첨단기술>에서도 지난 2015년 5월호에서 QED 노벨상 수상 50주년을 기념하는 특집을 통해 QED의 역사적 의미와 이론적, 실험적인 발전상을 소개한 바 있다.1) 그런데 QED가 완성되어가는 순간의 어느 한 장면을 조금 더 자세히 들여다보면, 흥미롭게도 물리학 외에 물리학자들의 개성과 취향도 살짝 엿볼 수 있을 듯하다. 

QED가 발전한 역사를 돌이켜 보면 두 시기가 두드러진다. 첫 번째는 1920년대 말에서 1930년대 초다.2) 하이젠베르크와 슈뢰딩거가 만들어낸 양자역학은 사실 원자 속의 전자의 행동만을 기술하는 이론이었다. 사람들은 빛을 포함하는 보다 완전한 양자 이론을 만들고 싶었다. 요르단은 전자기장에 행렬역학을 적용했고, 디랙 역시 전자기장을 양자역학으로 다루어서 원자에서 빛의 방출과 흡수 등을 기술했다. 디랙은 또한 전자를 상대론적으로 다루는 양자역학 방정식을 만들어냈다. 한편, 하이젠베르크와 파울리는 전자기장뿐 아니라 전자도 장으로 다루고, 이를 양자화해서 QED를 구축했다. 이것이 오늘날 양자 장 이론의 효시다. 페르미는 입자인 전자와 전자기장의 상호작용을 기술하는 QED를 만들었다. 이런 과정을 통해서, 사실상 이 시기에 QED 방정식의 기본적인 형태는 완성이 되었다. 하지만 QED를 가지고 전자의 자체에너지를 구하기 위해 전자가 전자 스스로 만든 전자기장과 상호작용하는 양자 효과를 계산하자 무한대가 되는 문제가 발견되어서 이론은 더 이상 진전되지 못했다.3) 이 문제는 갈수록 심각해져서, 전자의 자기모멘트, 진공편극 등 뭐든지 양자효과를 계산하면 무한대로 발산한다는 걸 알게 되었다.

다음은 1947년에서 1949년에 이르는 시기다. 이 시기에 미국 셸터 섬과 포코노 산에서 열린 회의를 중심으로 QED에서 양자효과의 무한대를 제거하는 재규격화 문제가 제기되고, 논의되었으며, 마침내 재규격화를 포함한 QED가 완성되어 발표되었다. 특히 셸터 섬 회의 직전에 컬럼비아 대학의 램이 발견한, 수소원자의 2s 상태와 2p 상태 사이의 1000메가헤르츠 정도의 에너지 차이와,4) 역시 컬럼비아 대학의 쿠쉬가 발견한, 전자 자기 모멘트의 g-인수가 2보다 1% 정도 큰 값이라는 사실이5) 회의에서 발표되었는데, 이들이 발견한 편차들은 디랙 방정식만으로는 설명할 수 없는 결과였다. 셸터 섬 회의에서 이 실험 결과들을 QED로 설명할 수 있는지 논란이 벌어졌지만 QED로 유한한 결과를 계산하지 못했으므로 결론을 내리지는 못했다. 따라서 다른 가능성도 역시 무시할 수 없었다. 예를 들어 램 본인은 자신의 실험 결과가 원자핵의 효과가 아닐까 하는 의견을 피력했다.

그런데 셸터 섬 회의가 끝나자마자 참가자 중 한 사람이었던 한스 베테가 QED를 가지고 근사적으로 재규격화를 수행해서 램 효과를 계산하는데 성공했다고 알려왔다. 베테가 얻은 값은 1040메가헤르츠로 램의 측정값을 잘 설명할 수 있었다. 베테는 6월 9일에 회의의 참가자들에게 자신의 결과를 알리고 6월 27일에 피지컬 리뷰에 논문을 투고했다. 논문은 8월 15일 자로 출판되었다.6) 이로서 재규격화된 QED에 대한 기대에 초점이 모아졌다. 그 해가 가기 전에 슈윙거가 전자의 자기 모멘트를 계산하는데 성공했고, 결국 QED의 체계적인 재규격화가 가능하다는 것을 보였다.7) 파인만 역시 같은 시기에 전혀 다른 방법으로 재규격화에 성공했다.8) 전혀 다른 이론처럼 보이는 두 사람의 이론은 놀랍게도 같은 결과를 주었고, 다음해 3월에 포코노 산에서 열린 후속 회의에서 발표되었다. 회의에서 온종일 엄밀하고 꼼꼼하게 진행된 슈윙거의 강의는 당대의 석학들도 따라가기 버거워 했으며, 낯선 그림을 그려가며 설명하는 파인만의 강의는 사람들을 어리둥절하게 했다. 슈윙거와 파인만의 논문이 발표된 후, 영국 출신의 프리만 다이슨은 슈윙거와 파인만의 이론이 동등하다는 것을 증명해서, QED가 완성되었음을 확인했다.9)10) 슈윙거와 파인만은 같은 내용을 더 일찍 발전시켰던 일본의 도모나가 신이치로와 함께 1965년 노벨 물리학상을 받았다. 이상이 잘 알려진 QED의 성립 과정이다.

이 글에서는 이 중에서 베테가 셸터 섬 회의에서 돌아오면서 처음으로 재규격화된 QED 계산에 성공하는 장면에 초점을 맞추어 들여다보도록 하자. 재규격화(renormalization)라는 말은 셸터 섬 회의에도 참석했던 로버트 서버의 1936년 논문에 처음 등장하는 것으로 알려져 있다.11) 하지만 무한대를 적절히 다룬다는 개념은 그 전에도 있었다. 특히 고전물리학의 틀 안에서 전자를 가장 깊이 연구한 사람인 로렌츠는 전자를 전하의 모임이라고 생각하고, 전하의 전기 에너지로 질량을 정의하고자 했다. 그런데 그러면 전자의 크기를 0으로 놓을 때 질량이 무한히 커지게 된다. 이를 해결하기 위해 로렌츠는 전하와 무관하게 전자 본래의 맨-질량(bare mass)이 존재하고, 전자의 실제 질량은 맨-질량과 전하가 만드는 전기장에 의한 전자기적 질량을 합친 결과라고 설명했다. 즉 무한대의 계산 결과를 무한대의 맨-질량을 가정해서 상쇄시킨 것이다. 이것이 재규격화의 기본적인 아이디어다. 크라메르스는 셸터 섬 회의에서 램의 결과를 로렌츠처럼 재규격화를 통해서 설명할 것을 제안하고, 간단한 모델의 대략을 그려 보였다. 그래서 QED 재규격화의 역사를 이야기할 때 크라메르스를 첫머리에 놓기도 한다. 하지만 수소원자 속의 진짜 전자에 대해서 재규격화를 어떻게 계산해야 할지는 당시에 아무도 알지 못했다.

베테가 계산을 한 것은 코넬 대학으로 돌아오는 기차에서였다. 베테는 놀랍게도 기차 안에서 계산을 마치고 1040메가헤르츠라는 값까지 얻어냈다. 셸터 섬에서 석학들이 고심했지만 답을 얻지 못한 문제를 베테는 어떻게 이렇게 쉽고 빠르게 해결할 수 있었을까? 베테가 이렇게 빨리 계산할 수 있었던 가장 큰 이유는 상대성 이론에 맞는 완전한 QED로 계산한 것이 아니라, 비 상대론적 양자역학만으로 계산했기 때문이다. 그래도 되나? 그렇다. 원자 속의 전자에 미치는 양자효과는 주로 비 상대론적인 과정이기 때문에 양자역학만으로 계산해도 거의 맞는 값을 얻을 수 있다. 이 점을 잘 이해하고 있었던 것이 베테의 성공 비결이었다. 어쩌면 다른 이론가들은 완전한 QED만이 실험 결과를 설명할 수 있을 것이라고 부지불식간에 전제하고 있었기 때문에 그런 계산을 시도할 생각을 하지 못했던 것인지도 모른다. 어쨌든 베테는 과감하게 복잡한 상대론적 효과를 무시하고 일단 계산을 했던 것이다.

프리먼 다이슨은 베테의 이 업적을 매우 높게 평가해서, 피직스 투데이에 기고한 글에서 이렇게 지적했다.12) 

“ 베테의 논문은 물리학의 역사에서 하나의 전환점이었다. 이 결과가 나오기 전에, 닐스 보어와 오펜하이머 같은 전문가들의 주된 견해는 현존하는 이론들은 근본적으로 문제가 있으며 혁명적인 새로운 개념이 나와야 진정한 진보가 이루어진다는 것이었다. 베테의 논문이 나오고 나자, 전문가들은 현재의 QED가 물리적으로 옳으며 다만 수학적으로 모순이 없으면서 실제로 사용할 수 있도록 뭔가 새로운 기술적 요령이 필요할 뿐이라고 생각하기 시작했다. ”

심지어 다이슨은, 베테가 노벨상을 수상한 업적인 태양과 별 속에서의 핵반응의 메카니즘을 알아낸 일보다 “램 이동을 계산한 업적이 더욱 심오하고, 결국은 과학에 더 중요하게 기여했다고 본다.” 왜냐하면 “이 업적은 회의론의 숲을 뚫고 현대 입자물리학의 시대로 가는 길을 열었다. 그리하여 우리에게 QED와 실제 세계를 어떻게 연결하는지를 알려주었”기 때문이다.12) 파인만이 그의 새로운 양자역학으로 상대론적 QED를 체계적으로 확립하는 작업을 시작한 것도 사실상 베테의 논문을 보고 나서다.

이제 이 업적에 대해 다른 방향에서 바라보자. 오스트리아 출신으로 괴팅겐에서 공부했고, 유대인 박해를 피해 미국으로 건너와서 로체스터 대학에 재직하던 바이스코프는 베테의 논문 초안을 받고 답장에서 “나는 이 결과에 열광하고 있습니다. 이 효과를 추산한 것은 대단한 일이며 매우 고무적입니다.”라며 특히 열광적인 반응을 보였었다. 사실 바이스코프 역시 일찍부터 QED에 기여했던 사람이다. 셸터 섬 회의에 참가할 때도 바이스코프는 슈윙거와 함께 기차를 타고 오면서 램의 실험 결과를 두고 논의했고, 이를 QED를 재규격화해서 설명해야 한다는데 동의하면서 회의 기간 중에 내내 이 문제에 천착했었다. 그래서 같은 편지에서 바이스코프는 “슈윙거와 나의 접근 방식이 결국 옳았던 것으로 보여서 기쁩니다. ... 우리는 컨퍼런스에서 논증했던 것처럼 무한대 질량 항을 다른 항과 분리해서 유한한 항을 얻을 것을 제안했습니다. 이것이 바로 당신이 한 일 아닙니까? 당신의 훌륭하고 영원히 남을 업적은 이 문제를 일단 비 상대론적으로 다룬다는 빛나는 아이디어에 있습니다.”13)라고 말했다. 

자 그럼 이제 모두가 행복해졌는데, 무엇이 다른 관점인가? 사실 바이스코프는 먼 훗날인 1988년에 과학사가인 메라와의 인터뷰에서는 다음과 같이 불편한 심정을 표했다.14) 

“ 베테가 보낸 그의 계산 노트를 보고 사실 나는 정말 불편했습니다. 무엇보다, 베테는 그런 일을 한다고 내게 말해주었어야 했어요. 나는 전쟁 전부터 이미 이 램 이동 문제에 관심이 많았습니다. 그때는 그걸 파스테르나크 효과라고 불렀죠. ... 슈윙거와 나는 셸터 섬 회의에 참가하러 뉴욕에 올 때 같은 기차를 타고 오면서 이 문제를 논의했었습니다. 그때 우리는 비 상대론적인 부분은 행렬요소를 가지고 계산할 수 있으리라고 결론을 내렸어요. 어려운 부분이 무엇인지, 그리고 비 상대론적인 부분은 그리 어렵지 않으며 문제는 상대론적인 영역이라는 점에 대해 나와 베테는 많은 이야기를 나누었습니다. 하지만 어떻게 할지 나는 몰랐습니다. 그래서 그 노트를 받았을 때, 무엇보다 내게 미리 얘기를 할 수도 있었다는 생각에 기분이 언짢았던 겁니다. 어떤 방법으로든 내 이름이 논문에 나타났어야 한다고 생각합니다. 개인적으로 나는 베테가 이 노트를 논문으로 낼 때 나와 함께 쓸 것인지를 물어봐야 했다고 생각합니다. ”

논문의 기여도를 인정하는 문제는 제삼자인 우리가 판단할 일은 아니다. 아무튼 바이스코프는, 그 당시에는 표현하지 않았지만, 베테가 완성되지 않은 QED로 무언가를 계산해낸 일이 무언가 반칙인 듯한, 나아가서 자신의 소중한 일부를 뺏긴 것 같은 느낌이 들었던 모양이다.

그렇다고 베테가 잘못했다고 할 수는 없다. 이론이 완성되기 전이라도 우리는 얼마든지 근사적인 계산을 해서 이론의 타당성을 검증하고, 물리량 계산의 이론적 구조를 탐구해 볼 수 있다. 무엇보다 베테의 계산은 수소 원자 속의 전자의 상태에 대한 충분한 이해를 바탕으로 나온 것이다. 아마도 이것은 연구 스타일의 차이라고 하는 게 옳을 것이다. 

바이스코프와 베테의 차이를 이런 면에서 생각해보자. 다이슨은 베테가 QED 계산을 해낸 데는 페르미의 영향을 받은 것이 중요했다고 말한다. 베테는 뮌헨의 조머펠트 밑에서 박사학위를 받고, 록펠러 재단의 지원을 받아서, 케임브리지와 로마에서 각각 1년씩 보냈다. 특히 로마에서 페르미를 만나고 나서 베테는 페르미에게 커다란 감명을 받고 조머펠트에게 보낸 편지에 이렇게 썼다.15) “콜로세움도 훌륭하지만, 로마에서 최고의 것은 의문의 여지없이 페르미입니다. 그가 주어진 모든 문제의 답을 어떻게 즉시 꿰뚫어 보는지, 양자전기역학 같은 복잡한 문제도 얼마나 쉽게 보여주는지를 보면 정말 엄청납니다.” 베테가 페르미로부터 받은 영향은 페르미의 부인 라우라 페르미의 책에도 언급되어 있다.16) “자기의 사고과정이 너무 느리다고 믿고 있던 베테는 페르미로부터 속도를 배우고는 흡족해 했다. 그가 이전에 받은 교육은 문제에 부딪칠 때는 마치 그것이 커다란 스파게티 접시인 양 한꺼번에 달려들어 모든 자료를 복잡한 공식 속에 집어넣어 끈기 있게 풀어 나가는 것이었다. ... 엔리꼬는 그에게 문제를 본질적인 기본 요소로 축소시키는 법과 먼저 부분적인 해결을 찾는 법, 그리고 어떻게 단순한 추론이 힘든 수학적 추론을 대신할 수 있는가를 보여주었다.” 특히 QED에 대해서 다이슨은 이렇게 말했다.12) 

“ 엔리코 페르미는 1930년 전자는 입자로, 광자는 장으로 다루는 자신의 QED를 발전시켰다. 페르미 버전의 QED는 전형적으로 페르미다운 것으로, 수학적으로 단순하고 물리적으로 명쾌했다. 페르미는 QED를 사용하려고 만들었지, 멋진 이론을 완성하려고 개발한 게 아니었기 때문이다. 당시 만들어지던 QED 중에 페르미의 것이 가장 실용적이었고, 실제 문제를 푸는데 가장 적합했다. 베테는 1931년에 로마에 가서 페르미로부터 QED를 배웠다. 베테와 페르미는 페르미 버전의 QED를 가지고 광자의 방출과 흡수를 통해 두 개의 전자 사이에 일어나는 상호작용을 계산하는 두 편의 논문을 썼다. 이 작업이 베테로서는 QED를 가지고 실제로 일을 한 첫 번째 경험이었고 훗날 QED에 정통하게 되는 기초가 되었다. ”

페르미의 물리학의 핵심은 무엇보다도 실용성이었다. 문제 해결에 얼마나 효과적인가가 늘 페르미의 가장 큰 관심사였다. 거기에 더해 누구보다 핵심을 빠르고 정확하게 파악하는 남다른 눈을 가졌기에, 페르미는 어려운 문제를 (다른 사람이 보기에는) 너무도 쉽게 해결했다. 이런 면에서 페르미는 이탈리아 출신이었지만 페르미의 물리학은 미국에 잘 맞는 스타일이었다고 할 수 있다. 실제로 페르미는 부인의 유대인 혈통 때문에 망명하기 전에도 미국에서 물리학을 하는 걸 매우 편안해했고 좋아했다. 베테는 그러한 페르미의 물리학을 좋아했고 자신의 것으로 흡수했다.

한편 바이스코프는 빈의 부유한 유대인 가정에서 태어나 벨 에포크의 문화적 세례를 듬뿍 받고 자라난 전형적인 유럽의 지식인이었다. 그는 1931년에 괴팅겐에서 막스 보른을 지도교수로 해서 박사학위를 받았고, 이어서 여러 펠로우쉽을 받아서 라이프치히의 하이젠베르크, 베를린의 슈뢰딩거, 코펜하겐의 닐스 보어, 그리고 케임브리지의 디랙 밑에서 포스트닥을 했다. (일부러 양자역학의 창시자들만 찾아다닌 게 아닌가 싶은 리스트다.) 1933년 가을부터는 볼프강 파울리의 조수가 되어 1936년까지 취리히에서 일했다. (리스트의 완성이다.) 파울리 역시 빈의 유대인 가정 출신이며, 교수이자 의사인 아버지와, 당시로서는 드물게 지적이고 교양 있는 어머니 밑에서 자랐으니, 두 사람의 배경은 꽤 비슷하다. 전후에 파울리는 미국에서 좋은 조건의 자리를 제안 받았지만 결국 유럽으로 돌아왔고, 바이스코프도 비록 완전히 유럽으로 돌아오지는 않았지만 1960년대에 유럽입자물리학연구소 CERN의 소장을 맡는 등 유럽의 물리학에 늘 관심을 가졌다.

잘 알려져 있다시피 파울리는 완벽주의자였다. 그는 어설픈 이론이나 불완전한 계산을 참지 못했다. 중요한 문제를 덮어놓거나, 피하는 것도 싫어했다. 대신 파울리는 복잡한 계산이나 어려운 수학은 두려워하지 않았다. 물리학에 대한 깊은 이해와 능숙한 수학적 기술이 모범적으로 결합된 물리학자가 파울리였다. 그렇다보니 파울리의 물리학에서는 이론적 완성이 가장 중요한 덕목이었고, 완전한 이론이 전제되지 않은 상태에서 실험 결과를 설명하는 일은 뒷전인 경우가 많았다. 즉 파울리와 페르미는 둘 다 최고로 위대한 물리학자들이었지만 물리학을 하는 스타일은 아주 대조적이었던 것이다. 바이스코프가 본격적으로 물리학에 중요한 기여를 한 것은 취리히에서부터였다. 그리고 취리히에서 그가 파울리와 함께 연구한 주된 분야가 바로 QED였다. 그래서 어떤 의미에서 바이스코프는 파울리 버전의 QED를 했다고 할 수 있다.

이제 베테와 바이스코프의 미묘한 긴장 관계를 이런 배경에서 보고 나니, 왠지 페르미와 파울리의 대리전을 보는듯하다고 말하면 지나친 상상일까? 파울리는 페르미에게 “양자 엔지니어 같다”라고 한 적이 있다. 정확한 맥락은 알지 못하지만, 물리학자에게 엔지니어라는 말이 좋은 의미일 리는 만무하다. 그렇다고 파울리가 단순히 페르미를 폄하하려고 이렇게 말하지는 않았을 것이다. 이 말을 할 때, 파울리는 바이스코프가 베테에게 느낀 것과 같은 묘한 불편함을 페르미에게서 느낀 건 아니었을까?