우주에서 가장 흥미로운 존재는 블랙홀이다. 엄청난 질량이 무한대의 밀도를 갖는 시공간에 갇혀버리는 현상인 블랙홀은 여전히 현대 물리학이 풀어야 할 도전적 대상이다. 올해 노벨 물리학상은 블랙홀을 연구한 세 명의 과학자에게 수여되었다. 영국의 물리학자 로저 펜로즈는 블랙홀이 일반상대론에 의해 예측됨을 이론적으로 밝힌 공로를 인정받았고 독일의 천문학자 라인하르트 겐젤과 미국의 천문학자 안드레아 게즈는 우리은하 중심에 블랙홀이 존재함을 관측적으로 입증한 공로를 인정받았다.

블랙홀을 처음 다룬 과학자는 영국의 존 미첼이다. 1783년에 발표된 논문에서 그는 밀도는 태양과 같지만 크기가 500배나 더 큰 별을 대상으로 사고실험을 했다. 이런 별이 존재한다면 별 표면에서 탈출속도는 빛의 속도가 된다. 입자가 별을 벗어나려면 끌어당기는 별의 중력에너지보다 큰 운동에너지를 가져야 한다. 즉, 입자의 속도가 광속보다 커야 한다. 그래서 빛조차도 별의 중력을 이기고 탈출할 수 없고 빛이 방출되지 않으면 보이지 않는다. 미첼은 이런 별을 검은별(dark star)로 불렀고 우주에는 검은별이 많을 것으로 예측했다. 한발 더 나아가 검은별을 찾는 방법도 제시했다. 검은별 주위를 공전하는 다른 별을 찾으면 검은별의 존재가 확인된다. 가령, 태양이 빛을 내지 않아도 지구가 태양 주위를 공전하면 태양의 존재가 확인되는 것과 같은 이치다. 구체적인 내용은 차이가 크지만, 올해 노벨상은 바로 미첼의 두 가지 아이디어, 즉 블랙홀이 생성된다는 이론과 블랙홀이 실제로 존재한다는 관측 연구에 주어졌다.

첫 번째 수상자인 로저 펜로즈는 1965년에 발표한 ‘중력수축과 시공간의 특이점들’이라는 짧은 논문에서 별 같은 대상이 중력적으로 수축하면 그 결과로 특이점이 생성됨을 논증했다. 일반상대론에 따라 특이점의 생성이 피할 수 없는 귀결임을 보여준 이 결과는 펜로즈의 특이점 정리로 불리는데 특이점이 바로 블랙홀이다. 가령, 별이 점점 수축해서 부피가 0이 되면 별을 구성하던 물질이 무한히 작은 공간에 밀집된다. 밀도가 무한대가 되면 물리적으로 다룰 수 없으며 이런 경우를 특이점이라고 한다. 특이점의 또 다른 예는 빅뱅 특이점이다. 138억 년 전 과거로 가면 우주는 거의 점과 같은 크기이며 질량보존법칙에 따라 밀도는 무한대가 된다. 펜로즈와 함께 빅뱅 특이점을 연구한 스티븐 호킹은 일반상대론에 따라 우주 초기에 특이점이 생성됨을 보였다.

미첼의 검은별은 20세기에 부활한다. 아인슈타인이 일반상대론을 발표한 직후인 1916년에 슈바르츠쉴트는 처음으로 상대론의 해를 구했다. 블랙홀의 경계(혹은 반지름)는 슈바르츠쉴트 반지름이라고 부르는데, 블랙홀에 다가가는 입자가 슈바르츠쉴트 반지름에 이르면 우주에서 가장 빠른 속도인 광속으로도 빠져나올 수 없다. 이 결과는 아인슈타인의 상대론과 미첼이 사고실험했던 뉴턴 역학이 같은 결과를 제시한다. 외부 관측자는 슈바르츠쉴트 반지름 안쪽에서 무슨 일이 일어나는지 알 수 없다. 그 안쪽은 빛이 나올 수 없는 갇힌 공간이 되고 외부 관측자에게 블랙홀의 시간은 정지한 것으로 보인다. 그래서 슈바르츠쉴트 반지름은 사건지평선이 된다. 지평선 너머를 볼 수 없듯이 외부 관측자에게 사건지평선 너머는 관측불가능한 영역이다.[그림 1] 1939년에 오펜하이머와 스나이더는 외부의 관측자가 블랙홀 내부를 볼 수 없다는 점을 처음으로 면밀하게 제시했다.

그림 1. 블랙홀의 슈바르츠쉴트 반지름(사건지평선).

별이 수축해서 슈바르츠쉴트 반지름까지 작아지면 어떻게 될까? 자신의 중력을 이겨낼 수 없기 때문에 별은 더 강력하게 수축한다. 중력을 상쇄할 다른 힘이 존재하지 않는다면 결국 별은 한 점으로 수축될 운명을 피할 수 없다. 가령, 50억 년 뒤에 태양이 핵융합반응을 끝내고 자신의 중력을 상쇄하는 압력을 더이상 만들어내지 못하면 중력수축이 시작된다. 하지만 태양은 질량이 크지 않아서 슈바르츠쉴트 반지름까지 수축되기 전에 전자들의 축퇴압에 의해서 일정한 크기가 유지된다. 그래서 태양은 백색왜성으로 변하게 된다. 태양보다 조금 무거운 별들이라면 중성자들의 압력에 의해서 중력수축이 멈추고 중성자 별이 된다. 하지만 태양보다 수십 배 더 질량이 큰 별은 중력이 워낙 크기 때문에 전자나 중성자의 압력으로도 버틸 수가 없다. 중력수축이 계속되면 슈바르츠쉴트 반지름까지 작아지고 결국은 특이점으로 귀결되고 만다. 블랙홀이 되는 운명이다.

20세기 중반까지 별이 중력수축을 통해 블랙홀이 될 가능성이 제시되었지만 과학자들은 실제로 블랙홀이 만들어질 가능성에 의심을 품었다. 가장 대표적인 경우가 당대 최고의 물리학자였던 알버트 아인슈타인과 당대 최고의 천문학자였던 아서 에딩턴이었다. 1939년에 오펜하이머와 스나이더는 중력수축을 통해 내부를 볼 수 없는 블랙홀이 생성된다고 발표했지만 아인슈타인은 믿지 않았다. 그 이유 중의 하나는 특이점 연구들이 대칭(symmetry)을 가정했기 때문이다. 슈바르츠쉴트는 완벽한 3차원 대칭인 구를 가정했고 별이 회전하지 않는다고 가정했다. 하지만 실제 우주에서 완벽한 대칭이 일어나지 않는다면 과연 특이점이 생성될까? 별은 자전을 하고 폭발이나 충돌 등을 겪기 때문에 구형 대칭 가정이 맞지 않을 수 있다. 아서 에딩턴도 특이점의 생성을 믿지 않았다. 그는 별이 핵융합을 멈추고 수축하기 시작하면 블랙홀 특이점이 되기 전에 막대한 에너지를 밖으로 방출한다고 생각했다. 질량이 에너지로 바뀌어 빛으로 방출되면 밀도가 무한대가 되는 특이점, 즉 블랙홀이 되는 운명은 피할 수 있다.

블랙홀의 존재에 대한 회의적인 분위기는 1963년에 퀘이사가 발견되면서 반전된다. 퀘이사는 은하보다 1000배쯤 밝은데 그 에너지의 기원이 블랙홀이라는 시나리오가 제시되었다. 블랙홀 연구에 중요한 공헌을 한 존 휠러도 중력에너지 방출 때문에 특이점이 생성되지 않는다는 의견이었지만 퀘이사의 발견 이후에 특이점에 대해 재고하게 된다. 휠러와 함께 특이점을 의논하던 펜로즈는 대칭 가정 없이도 과연 특이점이 생성되는지 연구하기 시작했다. 로이 커는 슈바르츠쉴트와 다르게 회전을 포함해서 상대론의 해를 구했지만 커의 특이점도 여전히 대칭을 갖고 있었다. 수학자였던 펜로즈는 위상수학을 도입해서 닫히고 갇힌 표면(closed trapped surface)을 개념화한다. 간단히 말하면 슈바르츠쉴트 반지름 내부를 표현하는 개념이다. 펜로즈는 중력수축하는 대상이 약간의 비대칭성을 갖더라도 일단 갇힌면이 생성되면 결국 특이점으로 귀결됨을 보였다. 즉, 슈바르츠쉴트 반지름까지 작아지면서 갇힌면이 생성되면 결국 블랙홀 특이점이 되는 운명을 피할 수 없다. 

펜로즈의 특이점 정리는 물리학자들의 의심을 잠재우면서 일반상대론이 블랙홀의 존재를 예측함을 확고하게 보여주었다. 아인슈타인 이후에 블랙홀 연구에 새로운 문을 연 셈이다. 물론 특이점의 숙제는 여전하다. 시공간의 곡률이 극도로 크고 크기가 무한대로 작은 특이점은 양자론의 지배를 받기 때문에 일반상대론이 제대로 작동하지 않을 수 있다. 상대론과 양자론은 여전히 통합이 되지 못했으니, 블랙홀 특이점은 현대 물리학의 한계인 셈이다.

노벨물리학상의 나머지 반은 블랙홀의 존재를 입증한 천문학자들에게 주어졌다. 1990년대 중반부터 독일 막스플랑크 연구소의 라인하르트 겐젤이 이끄는 연구팀과 미국 UCLA의 안드레아 게즈가 이끄는 연구팀은 우리은하 중심의 별들의 운동을 면밀히 연구한 역학적 증거를 바탕으로 블랙홀의 존재를 입증했다. 블랙홀의 증거 중에 가장 강력한 증거다.

지구로부터 대략 2만6천 광년 거리에 있는 우리은하 중심에는 거대질량 블랙홀들 중에서 가장 가까운 블랙홀이 존재한다. 최첨단 관측기술로 블랙홀 주변의 별들을 하나하나 볼 수 있는 유일한 경우이기 때문에 우리은하 중심은 중요한 블랙홀 연구 실험실이다. 하지만 지구의 대기 효과로 빛이 흔들리기 때문에 별들을 하나하나 선명하게 분해하기가 어렵다. 이 한계를 넘기 위해서 두 연구팀은 처음에는 1초에 수십 개의 영상을 찍어 각 영상을 이동시킨 후에 합성하는 방식으로 대기효과를 보정하는 스페클 이미징을 사용했다. 2000년대가 되면서 대기권 상공에 레이저를 쏘아올려 인공으로 별을 만든 후에 인공별의 흔들림을 측정하며 광학적으로 대기효과를 보정하는 레이저적응광학(laser adaptive optics) 기술이 발전하면서 우리은하 중심 연구는 더 정밀해졌다.

[그림 2]에 제시한 한 장의 그림은 우리은하 중심에 블랙홀이 존재하는 증거를 요약적으로 보여준다. 1995년부터 지금까지 블랙홀 주변 별들을 추적하여 측정한 공전궤도가 그림에 담겨 있다. 궁수자리에 위치하는 우리은하 중심에서 전파와 엑스선이 방출된다. 가시광으로는 보이지 않지만 전파와 엑스선이 발생되는 위치를 궁수자리(Sagittarius) A*로 표기한다. 전파를 내는 대상이 발견되면 별자리 이름 뒤에 A를 붙이는데 *(스타)를 동시에 표기해서 간단히 Sag A*라고 부른다. 우리은하 중심의 거대질량 블랙홀을 가리키는 명칭이다. 90년대부터 Sag A* 주변의 별들이 매우 빠르게 운동한다는 사실이 알려지면서 별들의 공전궤도 연구가 본격적으로 시작되었다.

그림 2. 우리은하 중심에 있는 거대질량 블랙홀 주변의 별들의 공전운동.

독일과 미국의 두 연구팀이 독립적으로 이 별들을 추적했다. 이 별들은 매우 빠르게 운동하는데 가령, SO-2(혹은 S2)라는 이름을 가진 타원형 궤도를 도는 별은 15.7년 만에 한바퀴 공전한다. 속도를 계산해 보면 초속 수천 킬로미터로 빛의 속도의 1‒2% 가량이다. 다른 별들도 흥미롭다. 느린 속도로 다가오다가 블랙홀 주변에서 속도가 매우 빨라지고 멀어지면서 다시 속도가 느려지는 모습은 케플러 법칙을 드러낸다. 별들이 운동하는 이유는 바로, 공전궤도의 중심인 궁수자리A* 위치에 강력하게 중력을 내는 보이지 않는 무언가가 존재하기 때문이다. 지구의 공전속도와 지구-태양 간의 거리를 측정한다면, 태양의 질량을 잴 수 있듯이, 블랙홀 주변의 별들의 운동을 측정하면 그 중심에 있는 대상의 질량을 알아낼 수 있다.

1997년에 겐젤의 연구팀은 제한된 관측결과를 이용하여 블랙홀 질량을 245만 태양질량으로 측정했다. 그 이후 10년 이상의 자료가 쌓이면서 블랙홀 질량은 정밀하게 측정된다. 2008년에 게즈의 연구팀은 2차원 평면 상의 위치뿐만 아니라 시선속도 측정값을 함께 사용하여 별들의 3차원 운동을 측정하고 블랙홀 질량을 410만 태양질량으로 수정한 결과를 발표했다. 즉, 이 별들의 빠른 운동을 설명하려면 공전궤도 안쪽에 태양 4백만 개에 해당하는 보이지 않는 무언가가 존재해야 한다. 그 정체는 바로 거대한 질량을 갖는 블랙홀이다.

이 검은 천체가 블랙홀이 아닐 수도 있지 않을까? Sag A*에 가까이 다가가는 SO-2의 위치를 보면 태양계 크기의 몇 배 가량밖에 되지 않는다. 만일 이 검은 천체가 블랙홀이 아니라면, 태양계 크기 정도의 작은 공간 안에 빛을 내지 않는 별 4백만개가 존재해야 한다. Sag A*에서 SO-2까지 태양 4백만 개를 다닥다닥 한 줄로 세워야 할 정도로 작은 공간이다. 목성처럼 질량이 작아서 핵융합 반응을 하지 못하는 갈색왜성들이 존재하지만, 이런 별들이 대량으로 우리은하 중심의 좁은 공간에 존재한다는 시나리오는 천문학적으로 받아들이기 어렵다. 수백만 개의 별을 좁은 공간에 모아 둘 수 있다고 해도 역학적으로 매우 불안정하기 때문에 흩어질 수밖에 없다. 결국 우리은하 중심에 존재하는 4백만 태양질량의 밀집 천체는 블랙홀이라는 설명이 가장 타당하다. 겐젤과 게즈를 중심으로 두 연구팀은 20년이 훌쩍 넘는 긴 세월 동안 우리은하 중심의 별들을 추적하면서 대형망원경과 레이저적응광학과 같은 장비를 사용하여 블랙홀의 존재를 입증했다.

블랙홀이 존재하는 우주는 더더욱 흥미롭다. 오래전 미첼이 상상했던 검은별은 일반상대론에서 특이점의 생성이 예측되면서, 그리고 우리은하 중심에서 거대질량 블랙홀의 존재가 입증되면서 현대물리학의 블랙홀로 완벽히 탈바꿈했다. 노벨물리학상 수상은 블랙홀 연구를 마감하는 것이 아니라 새로운 문을 열었다. 블랙홀 특이점은 빅뱅 특이점과 함께 여전히 현대물리학의 숙제로 남아있다. 블랙홀의 존재를 확인한 과학자들은 블랙홀의 물리현상을 구체적으로 밝히기 위해 한층 더 노력할 것이다.