현대의 과학은 학술지나 학술회의를 통해 공개된 자리에서 논의되는 게 원칙이므로, 오늘날에는 비전(祕傳)이나, 재야의 숨은 고수에 대한 환상은 거의 존재하지 않는다. 과학의 가치는 기본적으로 논문으로 평가된다. 특히 물리학자들은 완전히 무명이었던 스위스 특허청 직원이 집에서 혼자 꾸역꾸역 쓴 논문도 그 진가를 바로 알아보았던 역사에 자부심을 가지고 있다. 사향을 지니고 있으면 바람이 불지 않아도 향기가 퍼지듯, 훌륭한 논문은 언젠가는 발견되고 인정받으며, 뛰어난 물리학자는 결국에는 합당한 대우를 받게 될 것이다.

하지만 물리학도 역시 사람의 일이라, 현대의 물리학자 중에도 ‘무관의 제왕’이나 제대로 평가받지 못한 ‘숨겨진 천재’라고 여겨지는 사람이 전혀 없는 것은 아니다. 물론 완전히 숨겨진 천재란 물리학의 관점에서도 있을 수 없겠지만 (관측되지 않은 사건은 존재한다고 할 수 없다), 적어도 이룩한 업적에 비해 현저히 덜 알려진 사람은 찾아볼 수 있다. 그러한 사람의 예로, 아마도 스위스의 이론물리학자 슈튀켈베르크(Ernst Carl Gerlach Stückelberg, 1905‑1984)를 들 수 있을 것이다.

사진 1. 슈튀켈베르크(Ernst Carl Gerlach Stuükelberg, 1905-1984), 출전: https://people.math.harvard.edu/~knill/history/stueckelberg/index.html.

슈튀켈베르크의 아버지는 저명한 변호사였고 할아버지 에른스트(Ernst Stückelberg, 1831‑1903)는 유명한 화가였다. 어머니는 귀족 가문인 브라이덴슈타인의 폰 브라이덴바흐의 후손으로, 어머니에게 남자 형제가 없었기 때문에 외할아버지의 귀족 칭호인 ‘브라이덴슈타인과 멜스바흐의 폰 브라이덴바흐 von Breidenbach zu Breidenstein und Melsbach’라는 칭호를 어머니의 아들인 그가 물려받게 되었다. 그가 세례를 받을 때의 이름은 요한 멜히오르 에른스트 칼 게를라흐 슈튀켈베르크 Johann Melchior Ernst Karl Gerlach Stückelberg 였지만 여기에 어머니 쪽의 칭호가 붙어서, 그의 완전한 이름은 “요한 멜히오르 에른스트 칼 게를라흐 슈튀켈베르크, 브라이덴슈타인과 멜스바흐의 폰 브라이덴바흐 Johann Melchior Ernst Karl Gerlach Stückelberg von Breidenbach zu Breidenstein und Melsbach”다. 그는 보통 자신의 이름을 이 중에서 에른스트 칼 게를라흐 슈튀켈베르크 Ernst Karl Gerlach Stückelberg라고 썼다. 첫 번째 포스트닥을 슈튀켈베르크와 함께 했던 루마니아 출신의 이론물리학자 피터 프로인트(Peter George Oliver Freund, 1936‑2018)는 자신의 책에서 슈튀켈베르크에 대해 “키가 크고 인상적인 외모에 고급 귀족의 편안한 우아함을 보이는 사람”이라고 하면서, 여름방학을 지내기 위해 슈튀켈베르크가 가문의 성에 가면 “그 지역의 마부는 기차역으로 책과 문서로 가득 찬 큰 가방을 들고 온 그를 마중나오곤 했다”라고 묘사했다.1) 이런 환경에 더해서, 그의 아버지는 매우 엄격하게 그를 교육했는데, 슈튀켈베르크 자신의 회상에 따르면 그의 아버지는 심지어 공부를 할 때도 자신에게 정장을 갖춰 입게 했다고 한다.2) 이런 형편이었으므로 그의 귀족적인 몸가짐은 물리학자들 사이에서는 매우 눈에 띄는 것이었다.

슈튀켈베르크는 바젤에서 자라고 학교를 다녔다. 바젤 대학에서는 실험물리학을 공부했고, 뮌헨으로 가서 조머펠트 아래서 공부할 때도 역시 실험 연구를 계속했다. 그는 음극선관에 대한 박사학위 논문을 1926년 바젤 대학에 제출해서 학위를 받았고, 1927년에는 미국으로 갔다. 프린스턴 대학에서 공부하면서 슈튀켈베르크는 이론물리학으로 관심의 방향을 바꾸게 되었다. 이 당시 프린스턴의 학생이었던 모스(Philip McCord Morse, 1903‑1985)가 슈튀켈베르크를 만난 인상을 이렇게 서술했다.2)

“ 키가 크고, 마르고, 귀족적인 모습과 프로이센 사람다운 다소 엄격한 분위기의 젊은 남자를 만났다. 그의 본명은 에른스트 칼 게를라흐 멜히오르 슈튀켈베르크, 브라이덴슈타인의 폰 브라이덴바흐였다. ... 그는 정말로 물리학자가 되고 싶어 했고, 컴프턴 밑에서 공부하기 위해 왔다. 우리는 가까운 친구가 되었는데, 아마도 반대되는 사람에게 끌리기 때문일 것이다.”

슈튀켈베르크는 1928년 미시간 대학의 섬머스쿨에 참여해서 양자역학의 창시자 중의 한 사람인 크라메르스(Hendrik Anthony Hans Kramers, 1894‑1952)의 양자역학 강의를 들었고, 크라메르스와 가까워져서 모스와 함께 그로부터 새로운 물리학인 양자역학을 집중적으로 배웠다. 그러면서 이론물리학자로서 부쩍 성장한 슈튀켈베르크는 1930년에는 프린스턴 대학의 조교수로 임용되었다. 하지만 대공황의 여파로 미국에서의 생활이 어려워졌고, 1932년 대학은 재정 문제로 슈튀켈베르크와의 계약을 끝내는 바람에 스위스로 돌아와야 했다.

슈튀켈베르크는 스위스에서 취리히 대학의 사강사가 되었다가 다음 해 취리히 대학에 하블리타치온 논문을 제출하고 정식 강사가 되었다. 당시 취리히 대학의 이론물리학 정교수는 그레고르 벤첼(Gregor Wentzel, 1898‑1978)이었고 바로 옆에 위치한 ETH에는 볼프강 파울리가 있었다. 신진 물리학자 슈튀켈베르크는 이들의 눈에 들었던 모양이다. 파울리가 슈튀켈베르크의 1934년 논문에 대해 “기본적인 아이디어는 옳은 것 같다”고 하이젠베르크에게 보낸 편지에서 긍정적으로 언급한 기록이 남아 있기 때문이다.(파울리가 이 정도로 말했다면 이건 대단한 칭찬이다.) 아직 별다른 경력이나 업적이 없던 슈튀켈베르크의 무엇이 까다로운 파울리의 호감을 산 것일까? 이 질문에 대한 답은 이 글의 뒷부분에서 하도록 하자. 1934년 제네바 대학의 이론물리학 정교수였던 시들로프(Arthur Schidlof)가 사망하자 슈튀켈베르크가 그의 뒤를 잇게 되었다. 이로부터 슈튀켈베르크는 평생을 제네바에서 지내게 된다.

이제 슈튀켈베르크의 주요 업적에 대해서 살펴보자. 1935년 슈튀켈베르크는 질량이 있는 벡터 보손이 힘을 매개하는 핵력 모형을 구상했다고 전해진다. 매개하는 입자가 질량이 있으면 힘이 전달되는 거리가 제한을 받게 되므로, 핵력이 전자기력이나 중력과는 달리 원자핵 안이라는 매우 짧은 거리에만 작용한다는 걸 설명할 수 있다. 이 모형을 구상했다고 전해지기만 하는 이유는 슈튀켈베르크가 이 내용을 논문으로 쓰지 않았기 때문이다. 그리고 논문을 쓰지 않은 이유는 슈튀켈베르크가 논문을 쓰기 전에 연구 결과를 파울리와 상의하는 커다란 실수를 했기 때문이다. 파울리는 그의 연구가 자신이 들어 본 중에 가장 바보 같은 일이라고 하면서, 이런 논문을 발표하면 슈튀켈베르크에 대한 존중을 거둬들일 거라고 했고, 슈튀켈베르크는 파울리의 설득(?)에 논문을 포기한 것이다. 그런데 한 가지 의문이 있다. 논문이 발표되지 않았다면 슈튀켈베르크가 그런 연구를 했다는 건 어떻게 알려진 것일까? 이 이야기는 프로인트의 책1)이나 수학자와 물리학자들의 전기를 모아놓은 세인트 앤드류스 대학의 웹페이지,3) 위키피디아4) 등에 실려 있는데, 모두 근거가 되는 문헌을 표시하지 않아서 지금 나로서는 확인할 방법이 없다.

하지만 이와 관련되어 슈튀켈베르크는 벡터 보손의 질량에 대해서 깊이 생각하게 되었고, 당시 막 알려진 게이지 이론의 맥락에서 벡터 보손의 질량을 만들어내는 방법에 대해 연구했다.5) 그의 이론은 슈튀켈베르크 장이라고 부르는 스칼라 장을 이용해서 적절한 게이지 변환을 통해 질량 항을 얻는 방법이다. 이 연구 내용은 슈튀켈베르크 메커니즘이라고 불리며 지금도 우주론과 암흑 물질 등의 연구에서 많이 언급되고 연구되고 있다. 잘 알려진 대로 게이지 이론에서 벡터 보손의 질량은 힉스 메커니즘이라고 부르는 스칼라 장의 자발적 대칭성 깨짐으로 설명되는데, 슈튀켈베르크 메커니즘은 힉스 메커니즘의 좀 더 단순한 형태로 볼 수 있다. 그런데 힉스 메커니즘이 등장한 것이 게이지 이론이 활발히 연구되던 1960년대임을 생각하면, 게이지 이론이 아직 제대로 확립되기 전인 거의 30년 전에 이러한 업적을 이룬 슈튀켈베르크의 영감은 놀랍다.

슈튀켈베르크의 또 다른 중요한 업적은 양자전기역학에 관련된 것이다. 앞서 말한 대로 1934년에 파울리가 주목한 슈튀켈베르크의 논문의 제목은 “디랙 전자의 상대론적으로 불변인 섭동 이론”이었다. 이 주제야말로 슈튀켈베르크가 가장 중점적으로 연구했던 일이었다. 양자전기역학은 디랙, 하이젠베르크, 파울리 등에 의해 기초가 마련되었으나, 1930년대 초에 양자효과를 단순히 고려하면 계산이 발산한다는 게 알려진 후, 1930년대에는 이를 적절히 재규격화하는 방법을 찾는 방향으로 연구가 진행되고 있었다. 슈튀켈베르크는 1941년에 양전자를 시간을 거슬러 움직이는 전자라고 해석하는 논문을 썼고,7) 1940년대 초에는 양자전기역학의 재규격화 프로그램을 체계적으로 개괄하는 논문을 썼다. 하지만 이 논문은 피지컬 리뷰로부터 거절을 당했다. 여기에 대해 슈튀켈베르크는 “그들은 (게재 거절 이유로) 내 논문이 논문이 아니라 프로그램이나 개요, 제안서라고 했다.”라고 회상했다. 이 논문에서의 슈튀켈베르크의 접근 방법은 파인만의 방법과 비슷하고 심지어 파인만 다이어그램과 같은 그림을 이용하는 방법도 있다고 하는데, 확인하지 못했다.

2차대전 후 양자전기역학 연구가 본격화되면서, 슈윙거와 파인만이 각각 자신의 양자전기역학을 개발해서 발표했고, 그들보다 먼저 발표된 도모나가 신이치로의 논문도 주목을 받았다. 하지만 슈튀켈베르크는 더 이상의 기여를 하지는 못했다. 그래도 슈튀켈베르크의 업적을 언급하는 사람도 있었다. 예를 들어 1948년의 솔베이 학회에서 오펜하이머는 양자전기역학의 재규격화에 대해 언급하면서,

“양자전기역학의 기본 방정식은 게이지 불변이며 로렌츠 불변이어야 합니다. ... 적어도 \(\small e^2\) 차수까지는 공변하는 식을 얻을 수 있을 것 같습니다. 슈튀켈베르크의 4차원 섭동 이론이 적절한 출발점이 될 수 있을 것 같습니다. 파인만의 알고리듬도 그렇습니다.”

라고 말했다.8) 또한 다이슨도 그의 중요한 논문인 “도모나가, 슈윙거, 파인만의 복사 이론”에서 “슈튀켈베르크가 3장의 공변 섭동 이론과 비슷한 이론을 개발했었다”고 언급하면서,9) 슈튀켈베르크의 1934년 논문과 1944년에 네이처에 발표한 논문을 인용했다. 다이슨의 이 논문이 바로 도모나가, 슈윙거, 파인만에게 노벨상을 가져다 준 논문이므로, 양자전기역학에 대한 슈튀켈베르크의 공헌이 완전히 무시되었다고 말하기는 어렵고, 아는 사람은 알고 있었다고 말해야 공정할 것이다. 하지만 결국 노벨상은 그를 외면했다. 여기에 대해서 프로인트는 “그의 이름이 추천되기는 하였으나 노벨상의 규칙은 상을 세 사람보다 많은 사람에게 나누어 줄 수 없다는 것”이기 때문에 제외되었다고 했다.1) 하지만 내가 도모나가, 슈윙거, 파인만이 노벨상을 받은 1965년 근방에 노벨상 추천을 받은 사람의 목록을 살펴보았는데, 슈튀켈베르크의 이름은 찾을 수 없었다. 한편 과학사가인 메라(Jagdish Mehra, 1931‑2008)는 그가 쓴 파인만의 전기 “다른 북의 울림”에서 이렇게 말했다.10)

“ 스톡홀름에서 노벨상 시상식을 마치고, 파인만은 CERN의 소장인 빅터 바이스코프의 초청으로 제네바에 가서 CERN에서 강연을 했다. ... 파인만의 강연에 에른스트 슈튀켈베르크도 참석했다. 슈튀켈베르크도 양자전기역학에서 중요한 일을 했다. 일부는 더 앞섰고 일부는 파인만의 연구와 겹쳤다. 강연이 끝나고 슈튀켈베르크는 혼자 (그의 개와 함께) CERN의 대강당을 떠났고, 파인만은 팬들에게 둘러싸여서 이렇게 말했다. “슈튀켈베르크는 (양자전기역학) 연구를 해내고 나서 석양을 향해 혼자 걸어가고 있고, 나는 여기서, 제대로라면 그의 것이 되어야 할 영광에 감싸여 있다.””

파인만의 말이 좀 연극적으로 들리는데, 메라가 말하기를, 자신은 그때 파인만을 둘러싸고 있던 팬 중 한 사람이었고 저 말은 자신이 직접 들은 것이라고 한다. 이런 여러 상황을 볼 때, 슈튀켈베르크가 한때 양자전기역학 연구에서 가장 앞선 사람이었고, 이후에 스포트라이트에서 비껴나 버렸으며, 그래도 아는 사람은 그를 알고 있었던 것은 분명하다.

1951년에서 1953년에 걸쳐 슈튀켈베르크는 앙드레 페터만(André Petermann, 1922‑2011)과 함께 재규격화에 대해서 연구하면서, 재규격화 과정은 일정한 기준(prescription) 하에 이루어지는데, 이때 이 기준은 유일하게 정해지지 않으며, 그럼에도 불구하고 물리적인 결과는 어떤 기준을 선택하든지 같아야 한다는 점에 주목했다. 이 연구를 통해서 그들은 재규격화 군(renormaization group) 이론을 최초로 만들어냈다.11) 1982년에 재규격화 군을 이용한 “상전이와 관련되어 임계현상에 관한 이론”으로 노벨 물리학상을 받은 K. G. 윌슨(1936‑2013)도 노벨 강연에서 “재규격화 군에 대한 첫 번째 논의는 슈튀켈베르크와 페터만의 1953년 논문에 나타난다.”고 명시했다.

그 밖에도 슈튀켈베르크의 업적은 많다. 그는 반입자를 해석하는 가운데, 바리온 수 개념을 처음으로 생각했다고 하며, 산란 이론 및 S-행렬 연구에도 기여했다. 위의 재규격화 군의 발명은 사실 S-행렬 연구 과정에서 비롯된 것이라고 할 수 있다. 프로인트는, 슈튀켈베르크는 적절한 질문을 하는 교묘한 재주가 있어서, 그와 이야기를 나누고 나면 하던 일들을 다른 각도에서 볼 수 있었다고 말했다.1)

지금까지 살펴본 바에 따르면 슈튀켈베르크가 뛰어나게 창조적인 물리학자였음은 분명하다. 물리학자로서 그는 20세기 물리학의 빛나는 이름들인 유카와, 슈윙거, 파인만, 도모나가 등과 비견될만한 업적을, 동시대에, 혹은 좀 더 일찍이 독자적으로 이룩했다. 노벨상이야 어쨌건 간에, 적어도 슈튀켈베르크의 업적은 그들의 이름과 함께 언급될 가치가 있다고 해도 지나친 말이 아닐 듯하다. 잘 생각해 보면 그의 진정 뛰어난 점은 시대를 앞서간 현대성에 있는 게 아닌가 싶다. 그는 양자전기역학을 연구하면서 1934년 논문에서부터 로렌츠 대칭성과 게이지 대칭성에 대해 공변인 섭동 이론을 구축하려고 했다. 오늘날의 기준으로 보면 아주 당연한 일이지만, 게이지 이론이 막 나왔던 1930년대에 이렇게 대칭성에 충실한 접근법은 흔치 않은 일이었다. 바로 이런 “현대성”이 까다로운 파울리의 호감을 끌었던 게 아닐까? 제네바 대학의 과학사가인 락키(J. Lacki) 등이 슈튀켈베르크의 업적에 대해 쓴 논문에서도 이렇게 설명한다.12)

“슈튀켈베르크의 업적은 더욱 상세히 검토될 필요가 있다. 우리는 그의 업적이 명백하게 상대론적 불변성을 갖는 섭동 계산법의 완벽하고도 쉽게 일반화할 수 있는 첫 번째 사례라고 믿기 때문이다. 이는 기술적인 측면과 인식론적인 측면 모두에서 여러모로 흥미롭다. 이 업적이 보여주는 “현대성”은 놀라울 정도이며, 이는 슈튀켈베르크 특유의 독창적인 사고방식을 잘 보여준다. 이러한 관점에서, 본 연구는 당시 슈튀켈베르크가 이룩한 성취에 대해 역사학자들의 관심을 이끌어내기 위한 첫 번째 단계라고 간주할 수 있다.”

슈튀켈베르크가 숨겨진 물리학자가 된 데는 몇 가지 이유를 생각해 볼 수 있다. 우선 슈튀켈베르크가 물리학자로 활약을 시작한 1930년대만 해도 스위스의 프랑스어권 대학들은 매우 낙후되어서 이론물리학자가 아예 없었다. 제네바 대학의 슈튀켈베르크는 일대를 통털어서 유일한 이론물리학 교수였다. 동료는 물론 조수도 전혀 없었다. 이런 고립된 환경에서 슈튀켈베르크는 1935년부터 1943년 사이에 42편의 논문을 썼는데, 그중 40편이 혼자 쓴 논문일 정도다. 또 다른 이유로 그는 편집증과 우울증 등의 정신적인 문제를 가지고 있었다. 그래서 슈튀켈베르크는 스위스 물리학회를 제외하면 일체 학회에 참가하지 않았고, 당연히 국제적인 물리학 공동체와의 접점이 거의 없었다. 그가 만나는 물리학자는 취리히의 파울리와 벤첼이 거의 전부였다. 아마도 더욱 중요한 이유로는, 참고 문헌에 보인 그의 논문을 보면 알 수 있듯이 그의 논문은 대부분이 스위스 저널인 헬베티카 피지카 악타(Hevetica Physica Acta)에 출판되었고, 그나마 상당수는 프랑스어로 쓰였다. 스위스 물리학회가 발간했던 이 저널은 1928년 창간되어 1999년에 중단되었다. 스위스의 저널답게 이 잡지에 실린 논문은 초기에는 독일어 논문과 프랑스어 논문이 대략 반반이고, 나중에는 영어로 쓴 논문이 차츰 증가한다. 20세기 전반에 독일어는 물리학 분야에서 상당한 영향력이 있었지만 프랑스어는 그러지 못했으므로 그의 논문을 읽지 못하는 사람이 많았을 것이다. 거기에 더해서, 그의 수식 기호는 매우 독특했다고 전해진다. 프로인트는 “그는 모든 기호에 모자 표시 (∧)나 쐐기 표시 (∨)로 장식하기를 원했다. ... 그는 라틴어라든지 그리스어든지 간에 벌거벗은 글자들을 견딜 수가 없었던 것이다. 그는 그의 글자들이 단정하게 장식된 것을 좋아했던 것이다.”라고 썼다.1) 슈튀켈베르크 탄생 100주년을 기념해서 2005년 12월에 제네바 대학에서 국제학회가 열렸고 논문집이 발행되었는데,13) 이 논문집의 서문에도 “사실 (슈튀켈베르크의) 논문을 읽는 것은 쉬운 일이 아니다. 이 논문들은 종종 특이한 표기법으로 독자를 괴롭히고, 수수께끼 같은 문장으로 모호하게 쓰여 있다.”라고 말하고 있다.

하지만 슈튀켈베르크가 정말로 완전히 무명이었던 건 물론 아니다. 그의 업적이 충분히 인정받지는 못했을지 몰라도 물리학자들 사이에서는 차츰 그의 이름이 알려지면서 그는 창조적인 물리학자로 존경을 받았고, 1976년에는 막스 플랑크 메달을 받았다. 오늘날 CERN에는 그의 이름을 딴 슈튀켈베르크 거리가 있고, 슈튀켈베르크와, ETH에서 아인슈타인을 가르쳤던 샤를외진 귀(Charles-Eugène Guye, 1866‑1942)가 오랫동안 근무했던 제네바 대학의 바스티옹 관은 그들의 연구 업적을 기려서 유럽물리학회 EPS에 의해 2017년 EPS 사적지로 선언되었다.

슈튀켈베르크는 제네바 대학에서 내내 근무했지만, 2차 대전 중에 파울리가 미국으로 피신해 있는 동안에는 ETH에서도 강의를 했고, 1956년부터는 로잔 대학에서도 교수로 임명되었다. 그는 제네바 대학과 로잔 대학 두 곳의 자리를 지키다 1975년 은퇴했다. 슈튀켈베르크는 또한 제네바에 위치한 CERN에도 자주 방문했는데, 1972년에 출판된 두 편의 논문에는 CERN도 그의 소속으로 표시되어 있다. 오랫동안 그는 앞서 언급한 정신적인 문제로 내내 고통받았고, 당시 흔히 사용되었던 전기 쇼크 치료를 받기도 했다. 슈튀켈베르크는 사망 후 제네바의 팡테옹에 해당하는 “왕들의 무덤 Cimetière des Rois”에 매장되었다. 제네바를 지배했던 종교개혁가 칼뱅의 묘도 이곳에 있다.

앞에 나온 메라의 글을 보면 슈튀켈베르크가 CERN의 강당을 떠날 때 그의 개가 함께 있었다는 말이 있다. 이 개에 대해서 프로인트가 다음과 같이 재미있는 이야기를 전했다.1) 갈색의 작은 그 개는 주인에게 절대적인 충성심을 가지고 있었고, 주인이 피우는 고급 담배 냄새를 좋아했으며, 심지어 주인이 하는 일인 물리학에도 조예가 있었다고 한다. 슈튀켈베르크는 모든 세미나에 개를 데리고 참석했고, 자신의 개는 발표가 잘못되지 않는 한 절대로 짖지 않아서 세미나에 방해가 되지 않는다고 말하고 다녔다. 그러던 어느 날, 누군가의 발표 도중 개가 짖는 일이 일어났고, 곧이어 슈튀켈베르크가 발표자의 틀린 점을 지적하는 질문을 하기 시작했다. 이에 대한 프로인트의 해석은, 그 개는 물리학을 잘 이해하고 있던 게 아니라 자기 주인의 기분을 알아내는 전문가였다는 것이다. 즉 세미나를 듣다가 슈튀켈베르크가 동의하지 않는 내용을 듣고 불편한 기색을 보이면 개는 이를 알아채고 짖는다는 설명이다. 한편 개가 실제로 짖은 사건에 대해서는, 개가 정말로 짖자 슈튀켈베르크가 개의 행동을 (그리고 그동안 자신이 해온 말을) 정당화하기 위해 발표 내용의 잘못을 찾으려고 했다는 것이다. 이 개는 CERN의 소장으로부터 공식적으로 CERN의 출입을 승인받은 유일한 개라고 한다.