그림 1. Max Born (1882‒1970).

새로운 이론을 제안한 사람들은 어떤 식으로든 자신의 새로운 이론을 정당화하고 더 정확하고 포괄적인 해석방법을 함께 제안하기 마련이다. 비록 초기 주창자들의 생각이 끝까지 모두 살아남는 것은 아니지만, 만일 지금까지 살아남은 것이 있다면 그럴만한 충분한 이유가 있기 때문일 것이다.

지금까지 살아남은 것이 무엇인지 찾아보려면, 여러 가지 다양한 대안적 해석들에도 불구하고 모든 해석이 공통으로 견지하는 기준이 무엇인지를 이해하는 것이 좋다. 어떤 해석을 취하더라도 그것이 다른 것이 아닌 ‘양자역학의 해석’이 되기 위해 갖추어야 할 요소는 무엇일까? 슈뢰딩거 방정식이나 힐버트 공간을 사용해야 한다는 것은 양자역학의 형식체계로서의 기본 요소이므로, 해석에 관련된 문제는 아니라고 할 수 있다. 그다음 떠오르는 것은 바로 막스 보른(Max Born, 1882‒1970)의 해석규칙이다.

보른의 해석규칙1

모든 관측 가능한 물리량에 대하여 힐버트 공간 H에서 작용하는 자기수반 연산자가 대응되며, 그 관측값은 항상 그 연산자의 고유값 중 하나가 되는데, 대상계가 크기 1인 힐버트 공간 H의 벡터 \(\small \psi\)로 기술되는 상태에 있을 때, 관측결과가 특정의 고유값 \(\small a\)가 될 확률은

\[ \mathrm{Pr} ( a| \psi ) = | \left< \psi | \phi_{a} \right> |^{2} \]

으로 주어진다. 여기에서 \(\small \left< \: {\Large\cdot} \:| \: {\Large\cdot} \:\right>\)는 H에 정의된 내적이며, \(\small \phi _{a}\)는 고유값 \(\small a\)에 대응되는 고유벡터이다.

더 간접적이지만 알아보기 쉬운 형태로는 다음과 같이 말할 수 있다.

보른의 해석규칙2

대상계가 크기 1인 힐버트 공간 H의 벡터 \(\small \psi\)로 기술되는 상태에 있을 때, 관측가능한 물리량에 대응하는 자기수반 연산자가 \(\small A\)라면, 그 물리량의 기댓값은

\[\bar{A} = \left< \psi |A \psi \right>\]

으로 주어진다.

폰노이만은 “통계적 표현을 자연법칙의 실제 형식으로 받아들이고 인과성의 원리를 포기하는 양자역학의 견해”가 바로 막스 보른의 ‘통계적 해석’이며, 이것이 “일관되게 추구할 수 있는 유일한 양자역학의 해석”이라고 말하고 있다.

보른의 해석규칙이 1926년 처음 등장했을 때 형식체계의 일부가 아니라, 여러 가능한 해석 중 하나로 제안되었다. 1954년 72세의 보른에게 뒤늦은 노벨물리학상을 안겨 준 공식적인 업적도 “양자역학에 대한 근본적인 연구, 특히 파동함수에 대한 그의 통계적 해석”이었다. 그러나 보른의 확률적 해석은 점차 모든 양자역학의 연구자들이 동의하는 원론적인 해석으로 수용되기 시작했고, 대개 양자역학의 표준으로 간주되는 디랙의 『양자역학의 원리들』(1930)과 폰노이만의 『양자역학의 수학적 기초』(1932)에서 모두 가장 핵심적인 해석규칙으로 정립되었다. 보른의 확률적 해석이 어떻게 모든 해석에 공통된 해석규칙이 된 것일까?

1924년 ‘양자역학(Quantenmechanik)’이란 용어를 처음 만들고 사용한 사람은 막스 보른이다. 물론 그 이전부터 물리량의 값이 정수에 국한되는 것을 ‘양자화 가설(quantization hypothesis)’이라 부르기도 했고, 플랑크의 작용량 단위나 빛알을 ‘양자(Quanten)’라 부르기도 했지만, 이를 ‘역학’의 수준으로 끌어올려 사실상 새로운 이론체계로 제시한 것은 보른의 공로다.

“이제 우리가 할 일은 내부결합이나 외부의 장이 일으키는 역학계의 섭동에 관한 고전적인 법칙들을 단일한 형식으로 바꾸는 것이다. 이는 고전역학으로부터 ‘양자역학’으로의 형식적인 변화를 강하게 암시하는 것이다. 이에 대하여 양자규칙들 자체는 본질적으로 달라지지 않을 것이다. 작용양자 \(\small h\)의 배수는 (중략) 비섭동계의 작용적분에 그대로 나타날 것이다. 한편 역학 자체는 변화를 겪을 것이다. 즉 미분방정식은 차분방정식으로 전이한다는 의미이다.”1)

그림 2. “Zur Quantenmechanik der Stoßvorgánge”6)의 첫 페이지.

즉 보어-조머펠트의 이론이 전자가 여러 개인 원자에 대해 거의 설명력을 갖지 못하는 등의 문제가 드러남에 따라, 이러한 양자 규칙을 명실공히 역학의 수준으로 확장하고 체계화하여 새로운 역학을 만들어야 한다고 주장한 것이다. 이후 양자역학의 실제 모습으로 제안된 행렬역학은 보른의 연구계획 속에서 진행된 것이라고 말할 수 있다. 왜냐하면 하이젠베르크, 요르단, 파울리는 모두 보른의 지도를 받고 있었고, 구체적인 계산을 하고 새로운 아이디어를 꺼내기도 했지만, 이를 정리하고 종합한 것은 언제나 보른이었기 때문이다.

그림 3. “Quantenmechanik der Stoßvorgánge”7)의 첫 페이지.

1925년 여름, 하이젠베르크가 헬골란트에서 얻은 아이디어는 보어-조머펠트 이론에서의 소위 ‘양자도약’을 설명할 필요가 없고 그 대신 관찰할 수 있는 것에 주목하자는 것이었다. 이 숫자를 배열하여 이로부터 가능한 에너지 값들을 계산할 수 있다는 것인데, 그 숫자의 의미에 대해 하이젠베르크 자신은 정확히 이해하지 못하고 있었다. 하이젠베르크는 자신의 계산 결과를 보른에게 들고 가서 “선생님이 괜찮다고 하시면 논문으로 발표하고 싶습니다. 하지만 선생님이 안 좋다 하시면 새로 생각해 보겠습니다.”라고 말했지만, 보른이 명확한 대답을 하지 않은 채 연구를 위해 미국으로 떠나 있는 동안 하이젠베르크는 1925년 7월 29일 단독으로 논문을 투고해 버렸다.2)

1925년 9월 27일, 보른이 요르단과 함께 써서 투고한 논문은 하이젠베르크의 아이디어를 일반적으로 확장하고 행렬 개념을 원용하여 체계화한 새로운 역학이었다. 숫자들의 배열이 행렬임을 알아챈 보른은 그 숫자가 에너지 준위 사이의 ‘전이확률(Übergaswahrscheinlichkeit)’이라고 보았다.3) 보른, 하이젠베르크, 요르단이 함께 써서 11월 16일에 투고한 논문은 이후 ‘삼인작(Dreimännerarbeit)’이라 불리면서 양자역학의 초기 단계부터 핵심적인 역할을 했다.4) 그러나 이 새로운 역학에서는 입자의 산란(충돌)과 같은 현상을 서술하기가 매우 불편했다.

슈뢰딩거의 파동역학이 발표되었을 때 이를 가장 열렬하게 환영한 것은 보른이었다. 슈뢰딩거의 “고유값 문제로서의 양자화”의 연속논문 중 두 번째 논문5)이 출간된 직후에 보른은 슈뢰딩거의 파동함수에 대한 적절한 해석을 제시하는 논문을 제출했다.

슈뢰딩거 자신은 파동 방정식에서 유도되는 연속방정식을 바탕으로 “어떤 의미에서 원자의 정전기 및 정자기 모형을 말할 수 있다”라고 적고 있다. 즉, \(\small \rho=e \psi \psi^{*}\)는 전자의 전하밀도를 나타낸다는 것이다. 그러나 이렇게 파동함수가 실재적인 파동을 나타내는 것으로 보는 환원주의적 해석은 심각한 개념적 문제를 만난다. 파동함수가 전자와 같은 입자를 나타내려면 파동다발(波速, wave packet)이 되어야 하는데, 특별한 조건이 갖추어지지 않는 한 대부분의 파동다발은 짧은 시간 안에 흩어져 평면파가 되어 버린다. 게다가 이 파동함수가 정의되는 공간의 차원이 문제가 된다. 자유도가 1이라면 \(\small \psi (x,y,z,t)\)와 같이 실재적인 파동으로 볼 수도 있지만, 가령 자유도가 2라면 \(\small \psi (x _{1} ,y_1,z_1 ,x _{2} ,y _{2} ,z _{2} ,t)\)와 같이 7차원 시공간에서 정의된 파동이 되므로 실재적인 파동으로 보는 것이 힘들어진다. 그뿐 아니라 이 파동함수는 복소수 값을 취하는데, 복소수가 왜 나오는지 이해하기 어렵다. 또한 측정의 과정에서 파동함수의 오그라듦이 있다는 것을 파동이 오그라드는 것으로 해석하면 비인과성의 문제와 불연속성의 문제를 피할 수 없다. 특히 이 파동함수는 측정에 관련된 물리량이 무엇인가에 따라 달라지는데, 측정과정에서 어떤 물리량을 선택하는가에 따라 파동이 달라진다는 것은 이해할 수 없는 일이다.

보른이 슈뢰딩거의 환원주의적 해석이 당면한 난점들을 해결하려고 한 것은 아니지만, 슈뢰딩거의 파동역학을 이용하여 입자 산란을 계산하는 과정에서 자연스럽게 파동함수를 확률로 해석해야 함을 주장하게 된다. 보른은 노벨물리학상 수상 강연에서 처음부터 슈뢰딩거의 파동역학이 ‘파동’을 서술하고 있는 것이 아님을 알고 있었다고 말했다. 전자기장의 세기와 빛 양자의 밀도 사이의 관계로부터 “거의 자명하게” \(\small | \psi | ^{2} dv\)이 확률임을 알아챘다는 것이다. 그러나 이러한 보른의 사후 진술과 달리 파동함수를 확률밀도함수와 연결하는 과정은 상당한 개념적 변천을 겪었다.

보른의 확률적 해석은 처음에 슈뢰딩거의 파동역학의 틀 안에서 제안되었으므로 이 해석은 파동이라는 존재론적 믿음을 전제로 하는 것처럼 보인다. 그러나 보른의 사후 진술에 따르면, 확률적 해석이 입자의 존재론을 전제하는 것으로 보인다.

1926년에 보른은 충돌에 관련된 두 편의 논문을 발표했는데, 6월 25일에 투고한 첫 번째 논문에서는 충돌 후의 파동함수를

\[\psi _{n \tau }^{(1)} (x,y,z;\;q _{k} )=\sum _{m} ^{} \iint _{\alpha x+ \beta y+ \gamma z>0} ^{} {d \omega ~ \Phi_{nm}^{\tau } ( \alpha , \beta , \gamma )}\;{\sin~k _{nm}^{\tau } ( \alpha x+ \beta y+ \gamma z+ \delta )} \psi _{m}^{0} (q _{k} ) \]

와 같이 유도한 뒤에 다음과 같이 말하고 있다.

“이 결과를 입자로 재해석한다면, 한 가지 해석만이 가능하다. 즉 \(\small \Phi _{nm} ^{\tau } ( \alpha , \beta , \gamma )\)는 \(\small z\) 방향으로 오는 전자가 각 \(\small \alpha , \beta , \gamma \)로 정해지는 방향(위상차 \(\small \delta\) 포함)으로 던져질 확률이다. 여기에서 전자의 에너지 \(\small \tau\)는 양자 하나 \(\small h \nu _{nm} ^{0}\)만큼 늘어나고 원자의 에너지는 그만큼 줄어든다.[교정주석: 더 정확하게 고찰하면 확률은 의 제곱에 비례함을 알 수 있다.]”6)

즉 파동함수를 확률로 해석해야 한다는 것은 곧 이 풀이를 “입자로 재해석하는” 것에 해당한다. 하지만 보른은 이 논문에서 왜 파동함수를 확률로 해석해야 하는지를 명확하게 설명하고 있지 않다. 사후의 진술에서는 전자기장의 세기와 빛 양자의 밀도 사이의 관계로부터 이 점을 즉시 알아챘다고 했지만, 만일 그 말이 사실이라면 논문에서 제곱이 아니라 \(\small \Phi _{nm} ^{\tau }\)가 확률이라고 말하지 않았을 것이다. 논문이 출판되기 직전의 교정을 보는 과정에서야 제곱이 확률에 비례한다고 주석을 달았다는 점은 보른 자신이 분명한 답을 갖고 있지 않았음을 암시한다.

두 번째 충돌 논문[7월 21일 투고]에서는 체계적이고 정리된 문장으로 파동함수에 대한 확률적 해석을 서술하고 있다.

“임의의 함수 \(\small \psi(q)\)를 고유함수로 전개하면 다음과 같다.

\[\psi(q)= \sum_n c_n \psi_n (q) \tag{3}\]

이제까지는 고유진동 \(\small \psi_n\)과 고유값 \(\small W_n\)에 관심을 두었다. 우리가 서론에서 제시한 표상은 (3)식으로 표현된 중첩함수가 확률과 관련되어 있다는 생각에 가깝다. 그 확률이란 상호작용이 없는 원자의 무리에 대하여 상태가 특정한 빈도로 나타날 확률이다.

완전성 관계식

\[\int \psi(q) d q = \sum_n |c_n |^2 \]

은 이 적분을 원자의 수로 볼 수 있음을 말해 준다. 왜냐하면 어떤 정규화된 고유진동의 값은 1(또는 상태의 선험적 비중이 1)이고, \(\small |c_n |^2\)은 상태 \(\small n\)의 빈도를 의미하며, 전체 갯수는 부분들의 합이 되기 때문이다.”7)

그런데 이번에는 ‘입자’라는 용어를 애써 피하고 있다. 오히려 슈뢰딩거의 형식체계를 거의 그대로 가져와서 ‘고유진동’과 ‘고유값’이란 용어를 중심으로 논의를 전개하고 있다. 논문의 뒷부분에서는 에너지밀도의 공간적분

\[W = \iiint _{} ^{} \left\{ \frac{h ^{2}}{8 \pi \mu ^{2}}\;\left| \mathrm{grad} \; \psi \right|^{2} +U | \psi | ^{2}\right\} dS\]\[{(\textsf{단},\; dS=dx\; dy\; dz)}\]

으로 정의된 전체 에너지가 \(\small W= \sum _{n} ^{} \vert c _{n} \vert  ^{2} W _{n}\)으로 주어짐을 보이고, “\(\small |c  _{n} |  ^{2}\)에 대한 우리의 의미에 비추어 보면, 오른쪽 항은 원자계의 전체 에너지의 평균값이다.”라고 말하고 있다. 즉 전체 에너지의 평균값이 고유값 \(\small W_n\)들의 기댓값이 되고, 그 확률은 다름 아니라 \(\small |c  _{n} |  ^{2}\)이 된다는 것이다.

보른이 입자에 대한 존재론적 규정을 염두에 두고 있지 않다는 점은 두 번째 논문의 초록에서도 확인할 수 있다.

“양자역학의 슈뢰딩거 형식은 자연스러운 방식으로 한 상태의 빈도를 해당하는 고유진동의 세기의 도움을 받아 정의할 수 있게 해 준다. 이러한 이해는 충돌과정의 이론으로 이어지는데, 그 이론에 따르면, 전이확률이 비주기 풀이의 점근 거동을 통해 결정된다.”7)

보른이 전이확률을 계산하는 대상은 입자라기보다는 고유진동이다. 이 점을 더 정확히 보려면 첫 번째 논문의 초록을 비교해 보는 것이 좋다.

“충돌과정의 논의를 통해, 슈뢰딩거 형식의 양자역학이 정상상태뿐 아니라 양자도약도 기술할 수 있다는 이해를 설명한다.”6)

단 한 문장으로 되어 있는 이 초록에서는 양자도약을 어떻게 기술할 것인가 하는 문제가 가장 중요한 관심사임을 잘 보여준다. 보른 자신이 하이젠베르크 및 요르단과 더불어 만들어낸 ‘양자역학’(즉 행렬역학)은 정상상태에 대해서는 제대로 된 역학으로서 잘 작동했지만, 행렬역학을 이용하여 양자도약을 서술하는 것은 거의 불가능했다. 보른은 슈뢰딩거가 제안한 또 다른 형식의 ‘양자역학’이 양자도약 문제를 잘 기술함을 보이면서, 그다음 논문에서 이를 정상상태들 사이의 전이확률로 이해하자고 제안하는 것이다. 그런데 정상상태는 다름 아니라 고유진동이며, 전이확률과 관련된 것이 바로 상태의 빈도이다. 그렇다면 첫 번째 논문에서 입자는 어떤 의미로 서술된 것일까? 그에 대한 실마리는 다음의 구절에서 드러난다.

“슈뢰딩거에 따르면, \(\small n\)번째 양자상태의 원자는 전체 공간에서 일정한 진동수 \(\small \frac{1}{h} W _{n}^{0}\)를 갖는 진동 과정이다.”

첫 번째 논문에서도 보른은 슈뢰딩거의 파동을 곧이곧대로 수용하고 있었다. 행렬역학의 존재론적 모형은 자연스럽게 입자였으나, 슈뢰딩거의 파동역학을 받아들인다면 이러한 입자의 존재론적 모형을 고집할 필요는 없었다. 보른 자신도 소위 입자와 파동의 이중성 문제에 대해 명료한 입장을 갖지 않았으며, 수학적 형식체계를 중요하게 여겼던 보른은 존재론적으로 입자나 파동 어느 한쪽에 국한되지 않는 확률의 해석을 제안한 셈이 되었다. 이것이 가능했던 것은 보른의 확률적 해석이 오히려 불분명한 면이 있어서 어느 틀에나 쉽게 가져올 수 있었기 때문이었다. 그런 점에서 보른의 확률적 해석은 양자역학에 대한 다양한 해석 중 하나가 아니라 모든 해석이 포함해야 할 공통된 해석규칙이 되었다.8)

과학사학자 마라 벨러는 이에 대하여 다음 여섯 가지를 설득력 있게 논증한다.9)

첫째, 보른의 확률적 해석은 상당 기간이 지나는 동안 점점 모습이 갖추어진 개념적 기여이다. 그 동안 보른의 아이디어는 슈뢰딩거, 하이젠베르크, 파울리 등의 물리학자들과의 대화를 통해 심각한 변화를 겪었다. 형성단계에서 보른의 지적 주장들은 유연하고 모호하며 매어있지 않았다.

둘째, 보른의 첫 번째 충돌 논문[6월 25일 투고]은 보른의 사후진술과 달리 슈뢰딩거의 파동에 반대하기 위해 쓴 것이 아니었다. 보른은 처음에 슈뢰딩거와의 논쟁에 전혀 연루되지 않았다. 사실상 보른은 슈뢰딩거의 논문에 매우 열광적이었으며, 이는 해석의 가능성도 마찬가지였다. 보른은 입자에 대한 강한 ‘믿음’을 갖고 있지 않은 것으로 보인다. 보른은 입자-파동 이중성 문제에 확실한 입장을 갖고 있지 않았다.

셋째, 보른의 첫 번째 충돌 논문은 해석의 쟁점을 명료하게 하기 위한 것이 아니라 특정한 과학 문제를 풀기 위한 것이었다.

넷째, 보른의 두 충돌 논문은 입자의 실재성과 비결정론이 필수불가결함을 밝히려는 것이 아니었다. 오히려 보어의 ‘양자 도약’(즉 충돌 과정에서 원자에 나타나는 띄엄띄엄 떨어진 에너지 변화)이라는 개념을 이론적으로 내용 있게 하고 서술하려는 것이었다. 보른과 슈뢰딩거 사이의 불일치 대부분의 핵심은 입자-파동 이중성 딜레마나 비결정론이 아니라 이러한 양자 도약의 존재에 놓여 있었다.

다섯째, 슈뢰딩거의 파동함수에 대한 확률적 해석, 즉 \(\small \psi\)가 위치의 확률이 된다는 해석은 \(\small \psi\)가 자유로운 입자의 운동을 서술한다는 비교적 명확한 암시에서 발전된 것이 아니라 오히려 파동함수가 속박계에서 어떻게 해석되어야 하는가 하는 문제에서 비롯한 것이다. \(\small | \psi |^2\)이 원자의 정상상태에 대한 확률을 준다는 보른의 해석은 핵심적인 기여였으며, 이를 중심으로 비결정론과 입자 존재론의 쟁점들이 정립된 것이다.

여섯째, 보른의 원래의 확률해석이 새로운 물리철학의 등장에 중심적인 역할을 한 까닭은 그것이 ‘명백하게’ 옳았기 때문이 아니라 오히려 그것이 낳은 모호함, 난점, 역설들 때문이었다. 이러한 문제들을 해결하려는 과정에서 이전의 개념들이 점점 수정되었고 새로운 이론적 및 철학적 개념들을 다듬어 갈 수 있었다.