스페인 바르셀로나 과학기술대 광과학연구소(ICFO)가 주도한 ‘거대 벨 테스트(Big Bell test)’ 공동연구단은 인간 10만여 명의 자유로운 선택을 이용해 전세계 12개 실험실에서 벨 부등식 실험을 수행했다. 이 연구결과는 과학학술지 ‘네이처’ 5월 9일자에 실렸는데, 결론은 인간의 자유의지로 선택된 세팅을 사용할 경우에도 벨 부등식이 위배된다는 것이다. doi:10.1038/s41586-018-0085-3

도대체 이게 무슨 말일까.

양자역학을 공격한 아인슈타인의 EPR 역설

“세상 만물은 무엇으로 이뤄져 있는가?”라는 질문은 서양철학의 역사만큼이나 오래됐다. 이제 우리는 답을 안다. 만물은 원자로 돼 있다. 양자역학은 원자를 설명하는 이론이다. 1927년 양자역학은 그 형태를 갖췄지만 아인슈타인은 갓 태어난 양자역학을 거부했다. 그는 그 이유를 이렇게 말했다.

“신은 주사위를 던지지 않는다.” ‘물리학계의 슈퍼스타’ 아인슈타인이 ‘신’을 운운하며 가장 성공적인 물리이론을 거부했던 것이다. “내가 달을 보지 않으면 달은 거기 없는 것인가?”라는 그의 말에도 나타나 있듯이, 아인슈타인은 양자역학의 핵심철학에 반대하고 있었다.

원자 세상에서는 위치와 운동량을 동시에 정확히 알 수 없다. 양자역학의 심장이라고 할 수 있는 ‘불확정성 원리’다. 우리의 측정기술이 시원치 않아서 알 수 없는 것이 아니라, 근본적으로 그렇다.

불확정성 원리를 제안한 하이젠베르크는 그 이유를 ‘측정’때문이라고 봤다. 원자세상에서는 내가 대상을 보는 것만으로도 교란이 일어난다. 본다는 것은 최소한 빛이 대상을 때려야 하는데, 전자는 빛과의 충돌에서조차 운동량에 변화가 일어나기 때문이다.

전자의 위치나 운동량을 정확히 알지 못한다면 우리가 할 수 있는 일은 확률을 계산하는 것뿐이다. 이렇게 양자역학은 확률을 기술하는, 아인슈타인의 말을 빌자면 ‘주사위를 던지는 이론’이 됐다. 아인슈타인은 측정에 의해 대상이 교란된다는 양자역학의 핵심원리에 반대했던 것이다.

1935년 아인슈타인은 보리스 포돌스키, 네이선 로젠과 함께 ‘물리적 실재에 대한 양자역학적 설명이 완벽하다고 할 수 있는가?’라는 제목의 논문을 출판한다. 이 논문은 저자들의 이름을 따서 흔히 ‘EPR 논문’이라고 불린다.

결론을 말하자면 양자역학은 물리적 실재를 제대로 설명하지 못하므로 불완전하다는 것이다. 물리적 실재? 물리학이 아니라 철학 질문이라는 느낌마저 든다. 아인슈타인이 말하는 ‘실재성’의 정의는 다음과 같다.

“대상을 교란하지 않고 물리량을 확실히 예측할 수 있다면, 이 물리량에 대응되는 물리적 실재의 요소가 존재한다.”

EPR의 주장을 이해하기 위해 전자의 스핀을 생각해보자.

스핀은 전자의 회전과 관계된 물리량이다. 자기장 내의 전자는 자기장 방향을 축으로 해 시계방향이나 반시계방향으로만 회전할 수 있다. 편의상 시계방향을 +1, 반시계방향을 –1이라 부르겠다. 이제 전자 두 개가 있다고 하자. 두 전자가 가진 스핀의 총합은 0이다. 전자 A가 +1이면 전자 B는 –1, 또는 전자 A가 –1이면 전자 B는 +1이라는 이야기다.

자, 이제 어느 전자가 +1이고 어느 전자가 –1인지 알지 못한 채, 두 전자를 멀리 떨어뜨리자. 스핀의 총합은 여전히 0이다. 그리고는 전자 A의 스핀을 측정한다. +1이 나왔다면 전자 B의 스핀은 –1이어야 한다. 여기에는 양자역학적으로 두 가지 문제가 있다. 양자역학에서 측정은 특별하다. 측정하기 전에 우리는 측정할 물리량에 대해 아무 것도 알 수 없다. 측정해서 스핀이 +1이 나왔을 때, 측정 전의 값이 무엇이었겠냐고 물으면 ‘모른다’고 답해야 한다. 이미 +1이었기 때문에 +1을 얻은 거라면 측정이 추가로 한 일은 아무 것도 없는 셈이기 때문이다.

EPR의 경우 전자 A의 스핀 측정이 전자 B의 스핀을 자동으로 결정한다. 전자 B를 측정하지 않고 말이다. 대상에 대한 직접적인 측정 없이 결과가 결정된다는 것이 첫 번째 문제다.

하이젠베르크가 제기한 ‘비국소성’의 모순

두 번째 문제는 양자역학의 파동방정식을 만든 슈뢰딩거가 제기했다. 두 개의 전자가 아주 멀리 떨어져 있다고 하자. 예를들어, 두 전자를 각각 우리 은하 양 끝에 가져다 놓는다. 참고로 우리 은하의 크기는 10만 광년이다. 전자 A의 스핀을 측정해 +1이라는 것을 아는 순간, 은하 반대편에 있는 전자 B의 스핀은 즉각 –1로 정해질 거다. 양자역학에서는 측정하기 전에 어느 값인지 알 수 없으니 측정 순간 +1이 됐다고 말해야한다.

‘거대 벨 테스트’ 연구단에서 제작한 게임을 하고 있는 모습. 약 10만 명이 참여해 인간의 자유의지가 양자역학 실험에 활용될 수 있음이 확인됐다.

하지만 상대성이론에 따르면 어떤 정보도 빛보다 빨리 전달될 수 없다. 그 정보가 다른 전자에 도달하는 데에는 최소한 10만 년이 걸린다. 만약 10만 년이 지나기 전에 전자 B의 스핀을 측정하면 어떻게 될까. +1 또는 –1이 각각 2분의 1의 확률로 나올 거다. 만약 +1이 나오면 문제가 생긴다. 10만 년 뒤 전자 A도 +1이었다는 사실이 전달되면 모순이 생기기 때문이다.

이런 모순은 측정하는 순간 스핀이 정해진다는 양자역학의 핵심 원리 때문에 생긴다. 고전역학에서는 측정과 상관없이 물리량들이 이미 정해져있다. 즉, 전자 두 개를 은하 양쪽으로 보낼 때 이미 스핀 값은 정해진 채 이동한다. 이처럼 정보가 전달되는 데 시간이 필요한 것을 ‘국소성’이라고 한다. 반대말은 ‘비국소성’인데, 이 때는 정보가 공간을 뛰어 넘어 순간적으로 전달된다.

EPR 역설을 해결할 후보, 벨 부등식

EPR 역설은 양자역학의 치명적 약점이다. 하지만 당시 대부분의 물리학자는 이 문제를 외면했다. 이것이 물리 문제가 아니라 철학 문제라고 생각했기 때문이다. 1964년 존 벨은 EPR 역설을 물리 문제로 바꾼다. 벨은 EPR 역설과 관련된 두 가지 가정, 실재성과 국소성이 옳다면(쉽게 말해서, 경험과 상식이 통하는 경우라면) 무조건 옳아야 하는 부등식을 제시한다. 이름 하여 ‘벨 부등식(Bell’s Inequality)’이다.

여기서 A1, A2는 전자 A의 스핀 측정값이다. 1, 2는 특정 자기장 방향을 축으로 측정했다는 뜻이다. 예를 들어 1은 x축, 2는 y축, 이런 식으로 말이다. B1, B2는 마찬가지로 전자 B에 대한 것이다. A와 B에 +1과 –1을 어떻게 넣어도 왼쪽 항은 결코 2를 넘을 수 없다. (한 번 해보시라. 변수가 4개니까 모두 16가지 경우뿐이다) 하지만, 이 식을 양자역학적으로 계산해보면 최대 ‘2.8보다 크다’까지 될 수 있다. 즉, 부등식을 위배한다는 말이다.

1982년 앨런 아스펙 등은 광자를 이용한 실험에서 벨 부등식이 위배됨을 보였다. 이는 부등식을 만들 때 사용한 가정이 틀렸다는 뜻인데, 논리적으로 실재성이나 국소성, 적어도 둘 중의 하나가 틀려야한다. 자연은 EPR이 가정한 국소적 실재성을 가지지 않았던 것이다.

이후에도 벨의 부등식을 검증하는 실험은 여러 차례 수행됐다. 하지만 실험에 허점(loophole)이 있다는 논란이 끊이지 않았다. 예를 들어 국소성 문제를 검증하려면 두 전자가 충분히 먼 거리를 두고 떨어져 있어야 한다. 하지만 실제 실험에서 멀리 가는 데에는 한계가 있다. 그렇다면 어느 정도 거리에 가자마자 재빨리 실험을 수행해야 한다. 빛의 속도와 경쟁해야한다는 말이다.

양자역학은 확률을 예측한다. 따라서 결과는 언제나 수많은 데이터를 평균해서 얻어진다. 원자나 광자 한 개를 다루는 실험을 여러 번 하다보면 전자나 광자를 놓치기 십상이다. 100개의 광자를 보내더라도 일부는 관측되지 않을 수 있다. 그렇다면 ‘하필 이상한 녀석들만 골라서 벨 부등식이 위배된 것’이라고 공격받을 수 있다. 뭐 이런 걸 다 시비 거냐고 할 사람이 있을지 모르겠다. 하지만, 우리는 지금 자연이 실재적인가 하는 철학적이고 근본적인 문제를 다루고 있다는 것을 잊지 말자.

벨 부등식 실험의 허점 ‘선택의 자유’

2015년 네덜란드 델프트공대 연구진은 허점이 없는 벨 부등식 실험에 성공했다는 논문을 ‘네이처’에 발표했다. 아직까지 이 논문에 대한 심각한 이의제기가 없는 것으로 봐서, 이제 벨 부등식의 위배가 실험으로 입증됐다고 말해도 될 듯하다.

하지만 일부 학자들은 이 논문에서 막지 못한 허점이 하나 있다고 이야기한다. 그렇다면 네덜란드 연구팀은 왜 허점이 없다고 주장했을까. 어찌 보면 좀 황당할 수도 있는 허점이라 그렇다. 이른바 ‘선택의 자유’ 허점이다.

벨 부등식을 검증하려면 A1B1, A1B2, A2B1, A2B2 네 개의 세팅에 대해 실험을 해야 한다. 각 세팅은 스핀을 측정할 자기장의 방향에 따라 정해진다. 어떤 세팅을 선택할지는 실험하는 사람 마음이다. 하지만 만약 누군가 세팅의 순서를 정교하게 디자인하면 국소적 실재성이 만족하는 경우에도 벨 부등식을 위배하게 만들 수 있다.

물론 누가 일부러 이렇게 하겠냐고 할 수도 있겠지만, 지금 우리는 철학적이고 근원적인 질문을 다루고 있다. 선택의 자유 허점을 피하는 방법은 무작위로 세팅을 고르는 거다. 어떻게 하면 무작위로 고를 수 있을까.

1 거대 벨 테스트에 참여한 스웨덴 린셰핑대 연구팀의 광학 실험 장치. 2 10만여 명이 자유의지로 선택한 무작위 정보는 전 세계 12개 실험기관에 전송돼 자유의지로 선택한 난수로 벨 부등식 검증 실험을 하는 데 활용됐다.

주사위는 무작위가 아니다. 주사위의 초기 조건을 알고 중력과 마찰력을 모두 안다면 결과를 예측할 수 있다. 뉴턴역학은 본질적으로 결정론적이라 모든 것은 정해져 있다. 정해져있다고 했지만 막상 예측하기는 어렵다. 고전역학을 사용하는 한 진정한 무작위는 없다. 그렇다고 양자역학적 무작위성을 쓰는 것은 위험하다. 우리가 검증하려는 것이 바로 그거니까. 그렇다면 어떻게 진정한 무작위적 선택을 할 수 있을까.

스페인 바르셀로나 과학기술대 광과학연구소(ICFO)가 주도한 거대 벨 테스트 공동연구단의 최근 연구가 이에 대한 대답이다. 인간의 자유의지로 선택된 세팅을 사용하더라도 벨 부등식이 위배된다는 것이다.

보통의 벨 부등식 실험은 전자식 난수발생기를 이용해왔다. 하지만 연구단은 사람(참가자)을 실험에 끌어들여 인간의 자유의지를 개입시켰다. 이 실험은 마지막 남은 자유의지 허점을 막은 것이라 할 수 있다. 하지만 여기에는 인간이 자유의지를 갖는다는 가정이 필요하고, 인간의 자유의지는 여전히 철학과 뇌 과학에서 첨예한 논쟁이 되고 있는 이슈다.

김상욱
KAIST 물리학과에서 박사학위를 받았으며, 현재 경희대 물리교육과 교수로 재직 중이다. 양자과학, 정보물리, 통계물리 등을 연구하고 있다. 저서로 ‘김상욱의 양자 공부’가 있으며, 과학대중화와 관련한 여러 활동을 활발히 하고 있다. swkim0412@khu.ac.kr