우리 주위에서 볼 수 있는 물질들은 원자로 이루어져 있다. 원자 안에는 전자와 원자핵이 있고 핵 안에는 양성자와 중성자가 있으며, 이들은 다시 쿼크로 구성돼 있다. 그리고 이들은 중력, 전자기력, 약한 상호작용, 강한 상호작용이라는 네 가지 힘을 받는다. 과학자들은 이러한 네 가지 힘들이 하나의 힘이었다가 우리가 살고 있는 세상에서 네 개로 갈라졌다고 생각하면, 네 가지 힘들을 하나의 힘으로 설명할 수 있을 것이라고 생각한다. 이러한 개념이 바로 통일장 이론이다.
상호작용을 통합하려는 노력은 전자기력과 약한 상호작용을 결합시키는 것에서 시작됐다. 이것이 글래쇼, 살람, 와인버그에게 1979년 노벨상을 안겨준 표준이론이다. 그러나 표준이론의 이론적인 근거는 출발부터 수학적으로 불완전했다. 특히 이 이론이 질량이나 전하를 자세히 계산하는데 사용할 수 있는지가 분명하지 않았다. 호프트(Gerardus ‘t Hooft)와 벨트만(Martinus J. G. Veltman)이 올해 노벨상을 받은 것은 바로 이 이론에 대한 든든한 수학적 근거를 제시했기 때문이다. 특히 이들의 연구는 새로운 입자의 성질을 예측하는데 사용되는 이론적인 도구를 제공했다.
표준이론의 복병
입자물리에서 이론으로 인정받으려면 몇 가지 원리가 필요하다. 그 중 중요한 두 가지가 게이지 변환에 대해 변하지 않을 것과 재규격화가 가능한 이론이어야 한다는 것이다. 여기서 말하는 게이지 변환은 상호작용을 표현하는 함수(예를 들어 전위)를 변화시키는 특정한 규칙이다. 이 규칙에 의해 변화된 함수에 의해서도 실제적인 물리량(예를 들어 전기장)이 변하지 않으면 게이지 변환에 불변이라고 한다. 맥스웰의 전자기학 이론이 게이지 변환에 불변인 것이 알려지면서 모든 이론의 기본 조건으로 자리잡았다.
그리고 재규격화란 이론에서 양자역학적인 효과를 고려했을 때 무한대의 양이 나오지 않도록 하는 것이다. 이론물리학자들은 질량이나 전하와 같은 값을 예측해 실험물리학자들이 관측해내도록 한다. 이때 물리량이 무한대이면 실험 물리학자들에게 어떤 값을 줄 수 없다는 얘기다. 이론이 재규격화가 가능해야 한다는 것은 예측 가능한 이론을 위한 조건이라는 말이다. 파인만, 슈윙거, 도모나가는 전자기적 상호작용에 대한 게이지 이론의 계산에서 나오는 무한한 양을 적당히 없애서 유한하게 만드는 재규격화 방법을 고안해 1965년 노벨상을 받았다.
표준이론에서 전자기력과 약한 상호작용은 모두 게이지 변환에 대해 변하지 않는 이론이다. 이론으로서의 1차적인 조건을 만족시킨 셈이다. 그러나 복병은 숨어 있었다. 게이지 변환에 변하지 않는 상호작용을 전달하는 입자는 질량이 없어야 한다. 실제로 전자기적 상호작용을 전달하는 게이지 입자인 광자는 질량이 없다. 그러나 약한 상호작용을 전달하는 게이지 입자인 W와 Z 입자는 양성자의 약 80-90배 되는 무거운 입자들이라는 사실이 밝혀졌다.
핵심은 재규격화
하지만 단순하게 게이지 입자가 질량을 가지도록 이론을 만들 수도 없는 일이다. 왜냐하면 그렇게 되면 이론은 게이지 변환을 만족하지 않고, 더 심각한 것은 재규격화가 불가능한 이론이 된다는 것이었다. 그래서 새로 도입한 방법이 ‘자발적 대칭성 깨짐’을 이용해 게이지 입자의 질량을 만드는 것이다.
자발적 대칭성 깨짐은 우리 주변에 있는 자석에서 볼 수 있다. 강자성체인 자석은 스핀을 가진 입자들이 나란히 배열돼 있는 물리계인데, 이 자석의 전체 에너지는 각 입자들의 스핀 방향에 의존하지 않는다. 따라서 물리계를 회전시켜도 전체 에너지는 변하지 않는다. 하지만 가장 낮은 에너지 상태는 모든 입자의 스핀이 한 방향으로 향해 있을 때 나타난다. 이와 같이 전체 에너지는 방향에 대한 의존성이 없어서 회전에 대하여 변함이 없지만, 가장 낮은 상태의 에너지는 방향에 의존하게 될 때 회전에 대한 대칭성이 자발적으로 깨어졌다고 한다.
이와 비슷한 방법을 표준이론에 도입했다. 그 결과 게이지 입자는 질량을 얻게 되고, 게이지 원리는 깨진다. 그러나 게이지 원리가 깨지는 것은 받아들일 수 있어도, 역시 게이지 입자가 질량이 있으므로 앞에서 설명한대로 단순히 질량이 있도록 만든 이론과는 달리 재규격화가 가능한지는 분명하지 않았다. 다시 말하면 표준이론은 자발적인 대칭성 깨짐을 도입해 게이지 입자가 질량을 얻는데 성공했지만 재규격화가 가능한지는 밝히지 못했다. 이론물리학자들이 표준이론에 대해 깊은 회의를 품고 있었던 이유다.
공을 다툰 사제지간
이런 상황이 벌어지는 1960년대 말에 네델란드 유트레흐트 대학의 벨트만 교수는 자발적으로 대칭성이 깨진 게이지 이론이 재규격화된다는 것을 증명하고자 했다. 1969년 벨트만 교수에게 22살의 대학원생 호프트가 박사과정으로 들어왔고, 호프트는 모든 사람의 예상을 깨고 이러한 이론은 재규격화가 가능하다는 것을 증명했다. 그리고 이 결과를 1971년 두 편의 논문에 발표했다. 당시 학회에 참가한 벨트만은 동료물리학자들에게 “내 학생 중에 호프트란 친구가 재규격화가 가능하다는 증명을 했다고 하네. 하지만 나는 믿지 않아”라고 할 정도로 이 증명은 매우 어려운 것이었다. 호프트, 벨트만의 업적 이후 표준이론은 예측 가능한 이론적 체계로 받아들여졌다. 또한 표준이론에서 나타나는 입자의 성질, 예를 들어 W 게이지 입자와 톱쿼크의 질량과 같은 물리량들을 이론적으로 예측할 수 있게 됐고, 이는 실험에서도 검증됐다.
재규격화가 가능하다는 복잡한 증명은 호프트와 벨트만이 처음 했지만 이에 대한 연구를 둘만이 한 것은 아니다. 예를 들어 진지스탕, 이휘소 등도 같은 연구에서 매우 뛰어난 업적을 이룩했다. 특히 이휘소 박사는 호프트와 벨트만의 논문을 보다 쉽게 설명한 것으로 유명하다. 만일 이휘소박사가 살아있었다면 노벨상을 같이 받았을지도 모른다고 많은 사람들이 아쉬워하는 것도 그러한 이유다. 그러나 역사에서 가정은 없다. 여담으로 호프트와 벨트만은 사제지간이었음에도 불구하고 표준이론을 수학적으로 증명한 진정한 공로가 누구에게 있는가 하는 문제로 격하게 싸운 뒤 지금까지도 사이가 좋지 않다고 한다. 이들이 노벨상 수상식장에서 어떠한 감회를 가지고 얼굴을 대할지 자못 궁금하다. 노벨상을 들고 만나는 두 사람 사이의 나쁜 감정이 사라지기를 기대해본다.