2022년 노벨 물리학상 수상자 3명은 벨 부등식 위배를 실험적으로 입증했다. 양자역학의 가장 핵심 논쟁에 종지부를 찍은 것이다. 또한 양자얽힘을 이용한 기술을 발전시켜 양자암호통신과 같은 양자정보과학의 시대를 여는 데 기여했다. 벨 부등식으로 EPR 역설이 실험실 영역에서 논의되는 데 약 30년, 그리고 벨 부등식 위배를 실험으로 보여주는 데는 약 50년이 걸렸다. 이 위대한 대장정을 따라가면, 이번 노벨 물리학상의 의의를 알 수 있다.
1935년 알베르트 아인슈타인은 보리스 포돌스키, 네이선 로젠과 함께 ‘EPR 역설’이라고 불리는 역사적 논문을 발표한다. 아인슈타인은 논문에서 국소성(locality)과 실재론(realism)이라는 두 가지 가정에 근거해 양자역학에 도전했다. 두 가정을 합쳐 ‘국소적 실재론(local realism)’이라고 한다. 국소성은 ‘그 무엇도 멀리 떨어져 있는 물리계에 즉각적인 영향력을 미칠 수 없다’는 성질이다. 실재론은 ‘자연이 측정과 무관하게 이미 결정돼 있는 ‘물리적 실재’로 구성돼 있다’는 가정이다.
아인슈타인에 따르면 한 입자의 운동량과 위치는 물리적 실재다. 양자역학에 따르면 이 둘은 동시에 정확하게 결정될 수 없어, ‘실재’에 대해 불완전한 이론이라는 결론이 난다. 아인슈타인은 물리 이론으로서 양자역학의 불완전성을 증명한 듯했다. 그러나 EPR 역설의 결정적인 검증 방법(실험)은 오랫동안 존재하지 않았다.
EPR 역설이 맞을까 양자역학이 맞을까
1964년 북아일랜드 출신의 물리학자 존 스튜어트 벨은 ‘EPR 역설에 대하여’라는 제목의 논문을 발표한다. 벨이 제안한 부등식은 국소적 실재론에 따르면 결코 위배돼서는 안 된다. 반면 양자역학은 벨의 부등식이 위배되는 상황을 허용한다. 물리학의 최종 법정은 실험실이다. 실제 실험을 통해 ‘양자역학의 완전성’과 ‘국소적 실재론’ 중 어느 쪽이 폐기돼야 하는지 결판낼 수 있게 된 것이다.
벨 부등식 검증 실험 방법은 먼저 양자역학적으로 얽혀 있는 두 입자를 만드는 것에서 시작한다. 얽힌 두 광자들 사이에는 상관관계가 존재한다. 1번 광자가 수평 편광이면 2번 광자는 수직 편광이고, 반면에 1번 광자가 수직이면 2번 광자는 수평인 식이다.
과학자들은 관찰자에게 ‘앨리스’와 ‘밥’이라는 이름을 붙였다. 앨리스와 밥 두 사람이 각자가 받은 광자의 편광에 대해 독립적인 측정을 하고, 결과들 사이에 나타나는 상관관계를 관찰한다. 앨리스와 밥이 얻은 통계 사이의 상관관계가 고전적 상관관계라면 벨 부등식이 성립한다. 그러나 양자얽힘을 이용하면 앨리스와 밥이 선택한 특정한 측정 방향들이 벨 부등식을 만족하지 않는 결과를 얻는다.
과학사에서 벨 부등식 위배는 고전적 세계관의 폐기와 동시에 양자역학적 얽힘이 가져오는 비국소성(국소적 실재론으로 설명되지 않는)의 시대가 열렸음을 뜻한다. 미국 수리물리학자 헨리 스탭은 “벨의 정리(벨 부등식)는 가장 심오한 과학의 발견”이라고 평가했다.
벨의 부등식 위배 실험에 첫 도전장을 던진 것은 미국의 물리학자 존 클라우저였다. 클라우저는 1972년 UC 버클리에서 대학원생 스튜어트 프리드만과 함께 칼슘(Ca) 원자를 이용해 얽힌 광자쌍을 만들어내고 벨 부등식을 위배하는 결과를 학계에 보고했다. 벨 부등식 위배를 처음으로 보인 역사적 실험이었다.
클라우저 실험 보완한 아스페와 차일링거
클라우저와 프리드만의 실험은 허점이 존재했다. 주로 지적된 것은 광자쌍이 앨리스와 밥을 향해 날아가기 전에 양쪽 측정 방향이 미리 결정돼있다는 점이었다. 두 광자가 양쪽의 측정 방향에 대한 정보를 공유할 가능성을 배제할 수 없다. 이 허점을 피하려면 앨리스와 밥이 광자쌍이 만들어진 후 측정 방향을 독립적으로 결정해야 한다. 또 두 광자를 시공간상에서 충분히 분리시켜 서로 교신할 가능성을 차단해야 한다.
프랑스 파리 광학 연구소의 물리학자 알랭 아스페와 그의 동료들은 이를 보완하는 실험을 수행했다. 그들은 복수의 편광판을 준비해 광자쌍이 만들어진 직후 측정 방향을 결정하는 방식을 사용했다. 1982년에 발표된 아스페 연구팀의 결과는 벨 부등식이 위배된다는 확신을 더해 줬다.
그러나 아스페의 실험도 모든 허점을 다 보완하지는 못했다. 특히 불완전한 측정 장치가 자주 광자들을 놓치는 문제 때문에, 실험 결과를 고전적 방법으로도 설명할 수 있는 허점을 남겼다. 2015년에 와서야 핸슨 등 네덜란드 델프트대 과학자들에 의해 주요 허점들이 충분히 보완된 벨 부등식의 위배 실험이 이뤄졌다. 오스트리아 비엔나대의 안톤 차일링거와 미국 국립표준기술연구소(NIST)의 사에우 남 등에 의해 광자쌍을 이용한 ‘허점 없는’(일부 논쟁은 남아있지만) 벨 부등식 위배 실험들이 뒤따라 발표됐다.
양자얽힘의 유용성은 벨 부등식을 깨뜨리는 양자역학의 근본적 검증을 수행하는 것 이상이다. 양자얽힘을 제어하고 이용하는 기술들은 지난 세기 말부터 실험실에서 발전해왔다. 차일링거는 벨의 부등식 검증 실험을 보완해 허점 없는 벨 부등식 위배를 보이는 데 기여했다. 그리고 양자얽힘의 실제적 유용성을 보이는 여러 기술을 발전시켰다. 양자 순간이동 기술과 장거리 양자통신 기술이 대표적이다.
이론을 넘어 양자통신 기술로 발전
차일링거는 2011년 필자가 주최한 국제 학술대회인 양자기초 및 양자정보 국제회의(QFQI 2011)에 기조 연사로 초빙돼 서울대를 방문한 적이 있다. 인천공항에서 만난 그와 이런저런 이야기를 주고받다가 당신의 연구 중 가장 중요한 업적이 뭐라고 생각하는지 물었다. 그는 대중적으로는 양자 순간이동 실험이 많이 알려져 있지만, 그린버거-혼-차일링거(GHZ) 상태에 관한 연구를 꼽고 싶다고 말했다.
GHZ 상태는 여러 개의 입자가 얽혀 있는 상태다. 차일링거 연구팀은 이러한 상태에 대한 이론적 연구를 수행했고, 1999년 3개 광자들의 얽힘 상태를 구현하는 데도 성공했다. 현재는 광자뿐 아니라 다양한 물리계들을 이용해 더 많은 수의 큐비트를 얽히게 한 뒤 이용하는 연구들이 보고되고 있다. 양자정보기술의 발전이 인류의 삶을 어디까지 바꿀지는 아직 모른다. 분명한 것은 우리가 이 변혁을 지켜보는 시대에 살고 있다는 것이다.