양자론을 개척했던 플랑크(오른쪽)와 보어.

1927년 10월 24일 벨기에의 수도 브뤼셀에서 제5회 솔베이회의가 개최됐다. 1911년부터 개최돼온 이 회의는 그동안 물리·화학계의 주요 쟁점들을 다뤄온 과학계의 ‘빅 이벤트’였다. 회의의 주제는 ‘전자와 광자’. 최근 급격히 발전하기 시작한 양자역학을 토론하는 자리였다.

강연에 나선 사람들은 하나같이 양자역학으로 세상을 떠들썩하게 한 사람들이다. 영국의 윌리엄 로렌스 브래그(1890-1971, 1915년 아버지 윌리엄 헨리 브래그와 함께 노벨물리학상 수상)는 ‘X선 반사’라는 주제로, 미국의 콤프턴(1892-1962, 1927년 노벨물리학상 수상)은 ‘복사의 전자기이론과 실제와의 모순’에 관해, 프랑스의 드 브로이(1892-1987)는 ‘양자의 새로운 역학’을, 독일의 막스 보른(1882-1970)과 하이젠베르크(1892-1968)는 ‘양자역학’을, 오스트리아의 슈뢰딩거(1887-1961)는 ‘파동역학’을, 그리고 덴마크의 닐스 보어(1885-1962)는 ‘양자조건과 원자론의 새로운 발전’이란 주제로 강연했다. 하나같이 노벨물리학상을 받거나 혹은 받을 사람들이었다.

그러나 최대의 화제는 20세기 최고의 슈퍼스타 아인슈타인과 물리학계의 ‘다윗’이라고 할 수 있는 보어의 양자역학 논쟁이었다.

아인슈타인은 양자역학에 대해 매우 부정적인 생각을 갖고 있었다. 양자역학에 따르면 어떤 관측결과든 우연의 영향을 받는다. 또 어떤 물체가 관측되지 않는다는 것은 모든 곳에 존재하거나 어느 곳에서도 존재하지 않는다는 것을 뜻한다. 즉 세상에 확실한 것은 하나도 없다는 말이 된다. 그런데 어디 세상이 그런가. ‘예’(Yes) 아니면 ‘아니오’(No)로 결정되는 것이 너무나 많다. 그래서 아인슈타인은 상식에 어긋나는 양자역학은 불완전한 이론이라고 생각했다.

아인슈타인은 양자역학을 하는 사람들에게 “신은 주사위 놀이를 하지 않는다”고 준엄하게 말했다. 여기서 신이란 자연 혹은 물리법칙이고, 주사위 놀이란 확률을 의미한다. 그런데 보어는 감히 아인슈타인에게 “신이 주사위 놀이를 하든 말든 당신이 상관할 바가 아니다”고 반박했다. 오히려 “신이 왜 주사위놀이를 하는지를 생각해보라”고 충고했다. 양자역학을 연구하는 후배들에게 점잖게 충고하려고 했던 아인슈타인으로서는 당황스럽지 않을 수 없었다. 결국 아인슈타인은 양자역학의 흠을 찾아내 이 보라며 후배들에게 말했다.

“아침마다 아인슈타인은 양자역학이 부적절하다는 것을 보여주는 문제를 냈다. 그런데 저녁 무렵이면 보어는 어김없이 그 문제의 해결책을 찾아냈다. 아인슈타인은 계속 문제를 냈고, 보어는 조금도 물러섬이 없이 그 문제들을 해결하거나 아인슈타인이 안고 있는 논리적 오류를 지적했다.” 이러한 논쟁은 솔베이회의가 열린 6일 동안 계속됐다고 하이젠베르크는 회고했다. 물론 이 논쟁은 여기서 끝나지 않고 이후 30여년 동안 계속됐다. 하지만 승리자는 보어와 양자역학을 지지하는 수많은 다윗들이었다. 과학사학자들은 이때의 논쟁을 두고 아인슈타인이 스스로 쇠락의 길을 택했다고 말한다.

보어와 아인슈타인의 만남은 참으로 운명적이었다. 1922년 보어는 원자구조에 관한 연구로 노벨물리학상을 수상했는데, 공교롭게도 이날 아인슈타인도 함께 상을 받았다. 1921년 노벨상 수상자로 결정됐던 아인슈타인에 대한 시상식이 1년 늦게 이뤄졌기 때문이다. 그러나 두 사람은 알고보면 양자역학 발전에 기여한 선후배였다.

양자역학(넓게는 양자론)의 효시는 독일의 물리학자 막스 플랑크(1858-1947)다. 빛을 파동으로 생각했던 19세기 과학자들에게 흑체복사는 수수께끼였는데, 그는 처음으로 양자란 개념을 도입해 이 문제를 풀어냈다. 입사하는 모든 전자기 복사선을 진동수에 관계없이 흡수하는 흑체는 온도에 따라 일정한 진동수의 복사선을 내보낸다. 그런데 빛을 파동이라고 생각하면 흑체복사를 정확하게 기술할 수가 없다. 1900년 플랑크는 흑체에서 나오는 빛이 양자화돼 있다는 가정을 통해 흑체복사를 말끔하게 설명해냈다. 이러한 업적으로 플랑크는 1918년 노벨물리학상을 받았다.

플랑크에 이어 아인슈타인도 1905년 광량자가설을 세워 빛이 양자화됐음을 주장했다. 빛을 쬐면 금속에서 전자가 튀어나온다. 이때 빛의 세기가 증가하면 전자가 많이 나오고, 진동수가 커지면 나오는 전자의 에너지가 증가한다. 이를 광전효과라고 하는데, 빛이 양자화돼 있을 때(입자일 때)만 설명이 가능하다. 아인슈타인은 양자론을 도입해 광전효과를 설명함으로써 노벨상을 받았다.

닐스 보어 역시 플랑크, 아인슈타인의 계보를 이었다. 그는 1913년 원자 내부의 전자가 원자핵으로 빨려들지 않고 안정된 궤도를 도는 이유를 양자론을 도입해 설명한 공로로 노벨상을 받았다.

양자론은 플랑크, 아인슈타인, 보어 등의 노력으로 20세기에 들어서 새로운 학문의 면모를 갖췄지만, 그들은 왜 빛과 같은 전자기파가 파동과 입자의 성질을 모두 가지고 있는지를 알지 못했다. 또 그것이 트랜지스터, 마이크로칩, 레이저, 원자력발전소, 초전도체, X선 분광학 등 20세기 과학기술에 미칠 파장도 짐작하지 못했다.

양자론이 꽃피기 시작한 것은 보어의 공이 크다. 1916년 영국에서 덴마크로 돌아온 그는 1921년 3월 3일 정부보조금과 민간으로부터 기부금을 받아 코펜하겐대학에 이론물리연구소(닐스보어연구소)를 세웠다. 지상 3층(1층은 강의실과 연구실, 2층은 보어 가족의 방, 3층은 연구원 숙소), 지하 1층(실험실)의 조그만 연구소였지만, 전세계 이론물리학자들이 모이는 사랑방 역할을 톡톡히 했다. 또 보어는 유럽을 돌면서 젊은 과학자들에게 꿈을 심어주었다.

프랑스의 물리학자 드 브로이는 1차대전에 참전하는 바람에 6년 동안 아무런 연구를 하지 못했다. 그가 다시 연구실로 돌아왔을 때 보어의 원자론은 대단한 인기를 끌고 있었다. 보어의 이론에 흠뻑 빠져든 그는 어느날 파동인 빛이 때로 입자처럼 행동한다는 아인슈타인의 광량자가설에서 힌트를 얻어, 전자를 포함한 모든 물질입자들이 파동의 성질을 가진 것은 아닐까 생각했다. 그리고 그 생각을 정리해 1923년 박사논문으로 제출했다. 이때 처음 모습을 드러낸 드 브로이의 물질파 개념은 양자역학의 출발점이 됐다. 드 브로이는 그 공로로 1929년 노벨물리학상을 받았다.

양자역학(quantum mechanics)이란 말은 1924년 독일 이론물리학자 막스 보른이 처음 썼다. 그는 확실성이 아니라 확률이 전자의 측정을 지배한다고 본 최초의 인물이었다. 1921년 괴팅겐대학 이론물리학연구소 소장에 부임한 그는 소위 ‘괴팅겐학파’라고 불리는 과학자군을 이끌며 양자역학의 발전과 핵물리학의 개척에 크게 공헌했다. 물리학계는 보른의 양자역학에 대한 기여도를 인정해 1954년 노벨물리학상으로 보답했다.

흔히 괴팅겐학파라고 불리는 대표적인 사람으로는 보른, 제임스 프랑크(1882-1964, 1925년 노벨물리학상 수상), 원자폭탄의 아버지 오펜하이머, 콤프턴, 수소폭탄의 아버지 에드워드 텔러, 유진 폴 위그너(1902-1995, 1963년 노벨물리학상), 엔리코 페르미(1901-1954, 1938년 노벨물리학상) 등이 있다.

베르너 하이젠베르크 역시 대표적인 괴팅겐학파다. 보른의 지도를 받고 있던 그는 1922년 보어를 처음 만났다. 보어가 독일 괴팅겐대학에 찾아와 양자론과 원자구조에 대한 특강을 했는데, 이를 하이젠베르크가 듣게 된 것이다. 이를 계기로 하이젠베르크는 1924년 닐스보어연구소에서 보어의 지도를 받았다. 하이젠베르크의 총명함에 감탄한 보어가 그를 초청한 것이다.

하이젠베르크는 보어의 원자모델에 관심이 많았다. 그런데 하나의 에너지 준위(상태)에서 다른 하나의 에너지 준위로 이전할 때만 빛이 방출되는 것을 설명하는 그의 이론에 한계를 느꼈다. 그래서 하나의 에너지 준위에서 여러 개의 에너지 준위로 넘어가는 것을 동시에 설명할 수 있는 방법을 찾았다. 그가 1925년 발표한 행렬역학은 원자 내부에 있는 전자들의 세계를 수학적으로 그려낸 최초의 양자역학 방정식이었다. 하이젠베르크는 1932년 양자역학을 확립한 공로로 노벨물리학상을 받았다. 하이젠베르크의 행렬역학은 영국의 물리학자 디랙(1902-1984)에 의해 양자대수로 발전됐다.

같은 해 오스트리아의 이론물리학자 슈뢰딩거는 정반대의 방법으로 원자핵을 도는 전자들의 움직임을 기술했다. 그는 드 브로이의 물질파 개념을 도입해 전자가 입자가 아닌 파동이라고 생각하고 방정식을 만들었다. 이 공로로 1933년 디랙과 더불어 노벨물리학상을 받게 된다. 그런데 양자론의 입장에서 세운 하이젠베르크의 행렬역학과 파동론에 기초한 슈뢰딩거의 파동방정식 중 어느 것이 옳은 것일까. 학자들은 난처해졌다.

1927년 하이젠베르크는 새로운 사실을 깨달았다. 전자와 같은 입자들의 위치와 속도(속력과 방향)를 동시에 알 수 없다는 것. 전자가 어디에 있는지 알면 그 속도를 알 수 없고, 속도를 알면 위치를 알 수 없다. 이를 ‘불확정성원리’라고 한다. 그의 불확정성원리는 특정한 위치에서 전자를 발견할 확률은 파동으로 나타나며, 오랫동안 논란을 벌여왔던 입자설과 파동설 사이에 이해의 다리를 놓는 것과 같았다.

입자이면서 파동이다. 이러한 생각은 당시나 지금이나 상식으로 받아들이기는 매우 힘든 내용이다. 그런 이유로 양자역학을 철학적으로 고찰하려는 움직임이 싹뜨기 시작했다. 대표적인 이론이 보어의 상보성원리. ‘서로 배타적인 것들은 서로 보완적’이라는 뜻. 그는 1927년 ‘양자이론의 철학적 기초’라는 강연에서 상보성원리를 처음 소개했고, 위치와 운동량, 입자와 파동, 에너지와 시간 등은 서로 보완적이라며 예로 들었다.

보어의 상보성원리는 하이젠베르크의 불확정성원리와 결합해 코펜하겐에 모여든 보어의 추종자들에 의해 ‘코펜하겐 해석’이라는 이름으로 세상에 전파됐다. 한편 “양자역학이 측정해낸 것 너머에 더 깊은 실재는 없다”고 주장한 코펜하겐 해석은 아인슈타인, 막스 플랑크 등 과학계의 원로의 비판에도 불구하고 성장해나갔다.