그림 1. Heisenberg (1927)1)의 첫 페이지.

하이젠베르크의 아이디어는 시카고 대학 초청강의에서 다시 확장되고 1930년 <양자 이론의 물리적 원리>라는 제목의 단행본으로 출간되었다.2) 여기에는 ‘불확정성 원리’라는 이름이 붙었고, 하이젠베르크의 가장 큰 업적으로 흔히 이야기된다. 하이젠베르크의 노벨물리학상 업적은 “양자역학을 창안하고, 특히 이를 통해 수소 동소체를 발견한 공로”이지만, 종종 불확정성 원리가 그의 노벨상 업적이라고 오해되기도 한다.

그런데 실상 하이젠베르크의 논의를 꼼꼼하게 살펴보면, 그 내용이 수학적으로 엄밀하지도 않고 여러 사고실험을 짜깁기해서 좀 엉성한 느낌을 주기 때문에 당황하게 된다. 양자역학이 세계에 대한 인식에 한계가 있음을 보여주었다고 말할 때 자주 언급되는 것이 바로 하이젠베르크의 ‘불확정성 원리’이다. 가령 전자의 위치와 운동량은 동시에 원하는 정밀도로 측정할 수 없음을 원리적인 수준에서 증명할 수 있다는 것이 흔히 말하는 불확정성 원리의 내용이다. 이는 대개 \(\small \mathit{\Delta} x \mathit{\Delta} p \simeq h\)와 같은 식으로 표현된다. 여기에서 \(\small \mathit{\Delta} x\)라고 표기한 것은 위치 \(\small x\)의 정밀도를 의미하며, 차이(difference)라는 말의 d를 그리스어 델타(\(\small \mathit{\Delta}\))로 나타낸 것이다. 즉 \(\small \mathit{\Delta} x\)란 “\(\small x\)의 차이” 또는 “위치를 나타낼 때 나타날 수 있는 차이”를 의미한다. 마찬가지로 \(\small \mathit{\Delta} p\)라고 표기한 것은 운동량 \(\small p\)의 정밀도를 의미한다. 운동량은 위치를 변하게 만드는 것과 관련되는데, 고전적으로는 무겁고 빠를수록 운동량이 커진다. 이제 불확정성 원리의 의미는 흔히 다음과 같은 식으로 해석된다. 즉 위치를 매우 정확히 측정하여 \(\small \mathit{\Delta} x\)를 매우 작게 하면 그만큼 \(\small \mathit{\Delta} p\)가 매우 커지기 때문에, 운동량에 대해서는 원하는 정도의 정밀도를 얻을 수 없다는 것이다. 반대로 운동량을 매우 정확히 측정하여 \(\small \mathit{\Delta} p\)를 매우 작게 하면 그만큼 \(\small \mathit{\Delta} x\)가 매우 커지기 때문에, 위치에 대해서는 원하는 정도의 정밀도를 얻을 수 없다. 물리학이라는 것이 물리량을 정확히 측정하고 그를 기반으로 물리량들 사이의 관계를 밝히는 학문이라면, 어떤 물체의 위치와 운동량을 동시에 정확히 알 수 없다는 것은 아주 심각한 문제가 된다.

그러나 이 ‘불확정성 원리’는 물리학, 특히 양자물리학의 이해에 상당한 오해를 가져온 이름이다. 영어권에서는 대체로 불확실성(uncertainty)이라는 용어를 쓰고 있다. 이 말을 곧이곧대로 받아들인다면 이 이야기는 ‘확실하지 않음(not certain)’과 관련된 인식적인 문제를 다루는 것처럼 보인다. 따라서 자연스럽게 소위 ‘불확정성 원리’는 가장 근본적인 수준에서 양자역학과 같은 물리학에 불확실한 지식이 본질적으로 내재한다는 믿음으로 이어졌다. 특히 1960년대 미국의 뉴에이지 운동과 함께 나타난 불확실한 세상에 대한 관념들이 양자역학과 연결되어 있다는 점은 놀랍지는 않지만 잘못된 것이다. 하이젠베르크 자신은 주관적 색채가 강한 불확실성(Unsicherheit)이라는 용어를 쓰지 않고, 대신에 불확정성(Ungenauigkeit) 또는 미결정성(Unbestimmtheit)이라는 용어를 사용했다. 이것이 영어로 번역될 때 이상하게도 ‘불확실성’이란 단어가 선택되었다. 그러는 바람에 세세한 내용을 파악하지 않은 채 이름에만 주목하는 사람들이 볼 때, 양자역학에서 세계 그 자체는 이미 확정적이고 결정되어 있지만 이를 확인하려고 할 때 뭔가 확실하지 않은 것이 개입한다는 뉘앙스가 생기고 말았다. 다행히 일본어 번역에서는 ‘不確定性’이라고 했고, 한국어에서는 일본어 용어를 그대로 한국식 독음으로 적는 게으른 선택을 했기 때문에, ‘불확정성’이라는 용어가 자리를 잡게 되었다.

그림 7. Hardy (1933)10)의 첫 페이지.

양자역학에서는 전자와 같은 물리학적 대상의 물리적 상태를 수학적으로 힐베르트 공간의 한 벡터로 표현하고, 실험실에서 관측할 수 있는 물리량을 이 힐베르트 공간에서 작용하는 연산자로 표현한다. 여기에서 관심을 두는 ‘미결정성’ \(\small \mathit{\Delta} A\)는 양자역학 계산을 통해 얻을 수 있는 확장된 의미의 분산이며, 실험실에서 얻을 수 있는 데이터 따위의 통계적 분산과는 아무런 관계가 없다. 그런 점에서 미결정성은 측정행위와 무관하다.

하이젠베르크가 ‘불확정성 원리’의 타당함을 방증하기 위해 도입했던 감마선 현미경 등의 사고실험은 측정에 대한 교란이론을 전제하고 있다. 감마선 현미경으로 전자의 위치를 정확히 측정하고자 하면 감마선의 매우 강한 에너지 때문에 전자의 운동량 값이 크게 변하게 되고, 그런 점에서 전자의 운동량은 정해지지 않는다는 것이다. 그러나 측정 자체만으로 보면, 위치와 운동량을 굳이 동시에 측정해야 할 이유는 없다. 이와 같은 상황은 고전역학적인 대상에도 여전히 성립한다. 빠르게 움직이고 있는 자동차의 위치를 정하는 가장 좋은 방법은 스냅사진을 찍는 것이다. 스냅사진의 노출시간이 짧을수록 자동차의 위치는 정확히 결정되지만, 그와 동시에 자동차의 속도에 대한 정보는 훨씬 적어진다. 그러나 이를 두고 ‘불확정성 원리’가 성립한다고 말할 수는 없다. ‘불확정성 원리’는 측정 이전에 이미 측정과 무관하게 이론적으로 계산할 수 있는 물리량의 평균값에 대해 제한이 있음을 주장하는 것이다. 이런 맥락에서 이 부등식은 ‘불확정성 원리’의 표현이 아니라 오히려 양자역학의 힐베르트 공간 정식화에서 유도되는 미결정성 정리(indeterminacy theorem)로 보아야 한다. 이것은 양자역학이라는 물리학 이론의 테두리와 제한성을 드러내고 있지만, 측정이나 인식상의 한계를 의미하는 것은 아니다.

요컨대 하이젠베르크의 소위 ‘불확정성 원리’는 원리가 아니라 더 큰 양자역학의 체계에서 유도되는 한낱 정리에 지나지 않으며, 지식의 불확실성(uncertainty)의 문제와는 직접 관련되지 않는 이론적 테두리로서 이론의 한계를 보여줄 뿐이다. 따라서 더 객관적이고 중립적인 용어는 미결정성 관계식(Unbestimmtheitsrelation, indeterminacy relation) 또는 ‘날카롭지 않음의 관계(Unschärferelation)’이다. 1925년 미국의 수학자 노버트 위너(Norbert Wiener, 1894‒1964)가 괴팅겐 대학에 초청되어 강연을 했는데, 조화해석에서 미결정성 관계식에 직접 연관되는 것을 말했다. 이 이야기는 위너의 자서전에 나온다.

“1925년에 나는 다시 괴팅겐을 방문했는데 그곳에서 일반화된 조화해석에 대한 나의 연구가 실질적인 관심을 끌기 시작했을 무렵이다. ... 내 강연은 괴팅겐 사람들에게 매우 호평을 받았다. 특히 힐버트가 이 주제에 큰 관심을 보였다. 그러나 지금 양자역학이라 알려진 형태로 괴팅겐에서 꽃을 피우게 된 물리학의 새로운 아이디어에 내 강연이 밀접하게 관련되어 있다는 것을 당시에 나는 알아채지 못했다.”8)

위너는 1932년에도 케임브리지 대학에서 푸리에 해석에 대한 연속 강연을 했다. 그 강연은 나중에 <푸리에 적분과 몇 가지 응용>이라는 제목의 책으로 출판되었다.9) 또한 이 강연을 바탕으로 영국의 수학자 고드프리 해럴드 하디(Godfrey Harold Hardy, 1877‒1947)는 푸리에 변환에서 특별한 부등식을 엄밀하게 증명하여 1933년 발표했다.10) 푸리에 변환에서 다음과 같은 부등식이 성립한다는 것이다.

\[ \left( \int {x^{2} \vert f(x) \vert^{2}} dx \right) \left( \int {k^{2} \vert {\hat{f}} (k) \vert^{2}} dk \right) \geq \frac{1}{4} \left( \int {\vert f(x) \vert^{2}} dx \right)^{2} \]

여기에서 \(\small \hat{f}(k)\)는 함수 \(\small f(x)\)의 푸리에 변환이다. 이 논문의 첫 문장에서는 “한 쌍의 변환 f와 g는 둘 다 매우 작을 수는 없다.”라는 위너의 언급에서 논문의 아이디어가 시작되었다고 말하고 있다. 이 정리는 조화해석에서 하디의 정리로 알려져 있으며, 사실 미결정성 관계식과 완전히 같다.11) 하디는 인도의 천재수학자 스리니바서 라마누잔(Srinivasa Ramanujan, 1887‒1920)의 멘토로도 널리 알려져 있고, 진화생물학에서 유명한 하디-와인버그 법칙에도 등장한다. 하디가 위너의 언급을 직접 들은 것은 1932년의 강연이었을 것이다. 그러나 위너의 언급은 기존의 연구를 초청강연에서 소개한 것이기 때문에 이미 1925년 강의에서 했던 것일 수 있다. 하디는 양자역학이나 하이젠베르크에 대해 전혀 언급하지 않았다.

1925년에 노버트 위너가 푸리에 변환에서 볼 수 있는 수학적 정리를 다른 곳이 아니라 바로 독일 괴팅겐 대학에서 발표했다는 것은 흥미로운 일이다. 이 무렵 괴팅겐 대학에는 다비트 힐버트뿐 아니라 막스 보른이 있었고, 수리물리학자였던 보른은 수학연구소의 세미나에도 줄곧 참석한 것으로 알려져 있다. 하이젠베르크는 1924년부터 1927년까지 괴팅겐 대학에서 사강사(프리바트도첸트)로 강의를 하는 동시에 막스 보른을 지도교수로 하여 교수인정학위(하빌리타치온)를 위해 연구를 하고 있었다. 추측하기에 하이젠베르크가 1925년 위너의 강연을 들었을 가능성이 높다. 또 하이젠베르크 자신이 1930년의 단행본에서 푸리에 변환의 사례를 언급하고 있다. 그렇게 보면, 하이젠베르크의 이름이 붙어 있는 불확정성 관계를 처음 이야기한 것은 실상 노버트 위너라고 해야 하는 게 아닐까. 다만 1925년에 괴팅겐 대학에서 위너가 이런 내용을 강의했으며 이것이 양자역학과 연관된다는 이야기는 위너의 자서전에만 나오기 때문에 논란의 여지가 남아 있긴 하다.

1926년 10월 19일 파울리가 하이젠베르크에게 보낸 편지에 흥미로운 구절이 있다.

“우리는 세계를 p의 눈으로 볼 수도 있고 q의 눈으로 볼 수도 있지만, 두 눈을 동시에 뜨면 오류를 범하게 된다.”

하이젠베르크 미결정성 부등식이 학술지에 처음 발표된 것은 1927년 4월이지만, 이미 파울리와 이 문제를 깊이 토론하고 있었음을 알 수 있다. 1928년에 출간된 바일의 증명에서 증명의 아이디어를 파울리에게서 얻었다고 한 것으로 보아, 이 부등식을 만드는 데 파울리도 기여했을 것이다. 또 그 무렵 하이젠베르크는 코펜하겐에 있었으며, 1927년 논문에 있는 감사의 글로 판단하면, 이와 관련된 내용을 닐스 보어와 자주 이야기했다. 또 미국에서 안식년으로 코펜하겐을 방문하고 있던 케너드도 미결정성 부등식에 대한 논의에 참여했을지 모른다. 무엇보다도 1925년 괴팅겐 대학에서 일반조화해석 특히 푸리에 변환에 관한 위너의 초청강연이 이 부등식의 정립에 도움이 되었을 수도 있다.

이 부등식을 ‘불확실성 원리’라 부르는 것이 부적절함은 분명하지만, 하이젠베르크의 이름을 넣어 ‘하이젠베르크 부등식’이라고 부르는 게 좋을지, 아니면 여러 사람의 기여로 만들어진 ‘미결정성 관계식’이라고 부르는 게 나을지 한번 고민해볼 만하지 않을까.