▲ IBS

기초과학연구원(IBS) 지하실험 연구단이 전자 중성미자 양을 측정하는 NEOS(네오스) 실험을 위해 검출기를 설치하는 모습. 전구처럼 생긴 가운데 장치들은 광학 모듈로, 중성미자 등 입자가 남긴 흔적을 검출한다.

“앞으로 20년간 입자물리학에서 중성미자보다 중요한 주제는 없을 겁니다.”
3월 15일 화상 인터뷰를 통해 만난 유종희 서울대 물리천문학부 교수의 말이다. 중성미자는 현재 과학이 알고 있는 세상을 깨어 놓을지도 모르는 요주의 입자다.중성미자가 가지고 있는 미스터리를 풀다보면, 우주에서 우리가 어떻게 존재할 수 있었는지 설명할 중요한 힌트를 얻을 수 있다. 그리고 한국의 과학자들은 중성미자의 비밀을 푸는 데 무척이나 가까이 접근해 있다. 그 이유를 설명한다.

지금 한국의 중성미자 연구자들은 ‘한국 중성미자 관측소(KNO·Korean Neutrino Observatory)’프로젝트를 추진하는 데 총력을 가하고 있다. KNO는 흔히 ‘거대과학’이라고 부르는 국가 단위의 초대형 연구 프로젝트다. 지하 1000m 깊이에 50만 t(톤) 규모의 물탱크를 만들고, 여기를 지나가는 중성미자를 잡아내겠다는 것이 KNO의 목표다. KNO를 짓는 데에만 6년이 걸리고, 비용은 약 3500억 원이 들 것으로 예상된다. 완공되면 KNO는 세계 최대의 중성미자 연구소이자, 세계 중성미자 연구자들이 모이는 허브 역할을 하게 된다.

유종희 서울대 물리천문학부 교수의 표현을 빌리자면 KNO는 “미국에서 3조 원 이상을 투자한 프로젝트를 단숨에 앞지를 수 있는, 역사에 한국의 이름이 남을 다시 없을 절묘한 기회”다. 과학자들이 왜 3500억 원이라는 거금을 들여 이 프로젝트를 해야 한다고 말하는지 이해하기 위해선 중성미자라는, 현대물리학의 가장 큰 미스터리에 대해 알아야 한다.

▲ 자료: J. Joutsenvaara, 이한철

중성미자의 생성 장소별 에너지 스펙트럼 중성미자는 주로 핵반응의 결과로 생기는데, 원자로, 태양 등 장소에 따라 생성된 중성미자의 에너지와 맛깔(종류)이 달라진다. 중성미자 생성 장소별 에너지를 스펙트럼으로 나타냈다. 어디서 어떤 중성미자가 나오는지는 중성미자의 미스테리를 밝힐 실험을 설계하는 데 기초자료로 활용된다.

미스테리 1
오른손잡이 중성미자는 어디에 있을까?

2024년 영화 ‘파묘’가 크게 흥행하면서 오컬트, 점술 등은 하나의 트렌드가 됐다. 설명할 수 없는 일을 전문가가 묘한 방식으로 풀어내는 내용이 오컬트 영화의 주요 플롯이다. 중성미자의 미스터리를 밝히는 과정도 같다. 중성미자의 별명은 ‘유령 입자’다. 유령이 그렇듯, 중성미자는 그런 존재가 없고서는 설명할 수 없는 현상을 설명하기 위해 탄생한 개념이었다.

1930년, 오스트리아의 물리학자 볼프강 파울리는 당대 과학자들을 괴롭히던 한 현상에 대한 해답을 고안하기 위해 유령을 떠올린다. 원자핵이 붕괴하면서 전자 또는 양전자(베타 입자)가 방출되는 ‘베타 붕괴’라는 현상이 있다. 우주에는 그 어떤 현상이라도 벌어지기 전과 후의 에너지가 보존돼야 한다는 법칙이 있다. 이를 에너지 보존 법칙이라고 한다. 그런데, 베타붕괴 전후 에너지를 측정했더니 에너지 보존 법칙을 만족하지 않았다. 붕괴하기 전 원자핵이 가지고 있던 에너지보다 붕괴한 다음 남은 핵조각과 베타 입자가 가진 에너지 총합이 더 작았던 것이다.

파울리는 문제에 대한 해답을 핵물리학자들에게 보내는 서신을 통해 공개했다. “방사성의 신사 숙녀(Radioaktive Damen und Herren) 여러분께”로 시작하는 이 서신에는 에너지 보존 법칙을 위배하지 않기 위해 “어쩔 수 없는 결단”을 내렸다고 써 있다. 파울리는 베타 붕괴 결과, 전기적으로 중성인 어떤 입자가 생성됐을 것이라고 추정했다. 이 입자가 가진 에너지를 더하면 베타 붕괴 전후 에너지는 보존된다.

그런데 이 입자는 기존에 알던 힘을 이용해선 검출하기 무척 어렵다. 이 이유로 베타 붕괴 실험을 했을 때 발견하지 못했다. 서신은 “이런 입자가 있었다면 진작에 찾았을 텐데, 아직 찾아내지 못한 걸 보면 내 해결책은 아마 있을 법하지 않은 이야기로 보일 수 있다”면서 “그러므로 방사성의 신사 숙녀 여러분께서 유심히 보고 판단해 주시길”이라는 당부와 함께 끝난다.

파울리와 ‘방사성의 신사 숙녀’들은 어쩔 수 없는 해답을 받아들이기로 했다. 그리고 파울리가 제안한 중성 입자에 ‘중성미자’라는 이름을 붙였다. 물질과 쉽게 상호작용하지 않으니 쉽게 검출할 수 없지만, 거기 분명히 있다. 유령처럼.

유령과 다르게 중성미자는 그 존재가 실험을 통해 이미 검증됐다. 1956년, 미국 로스 앨러모스 연구소의 과학자들은 중성미자를 찾기 위해 ‘폴터가이스트 프로젝트’를 진행한다. 중성미자 자체를 검출하긴 쉽지 않으니, 중성미자를 양성자와 반응시킨 다음, 이때 생기는 양전자와 중성미자 신호를 검출하는 방식이었다. 파울리는 중성미자의 존재를 제안한 지 26년 만에 로스앨러모스 연구소 과학자들로부터 “우리가 확실히 중성미자를 검출했다는 사실을 알려드리게 되어 무척 기쁩니다”라는 전보를 받게 된다.

중성미자를 둘러싼 미스터리가 여기서 그쳤다면 파울리가 속 시원히 눈을 감았겠지만, 우주의 비밀은 녹록지 않았다. 중성미자가 처음 검출된 지 2년 뒤 이 입자의 기묘한 성질이 하나 더 밝혀졌다. 중성미자와 전자, 뮤온 등 다양한 입자들에는 제각기 그 종류를 구분하는 몇 가지 성질이 있다. 입자의 질량, 전하, 그리고 나선도 등이 그것이다. 그 중 나선도란, 입자가 진행 방향을 기준으로 시계 방향으로 회전하는지, 시계 반대방향으로 회전하는지 등 회전과 관련한 성질이다.

중성미자의 경우, 나선도가 +ℏ/2(오른손잡이)와 -ℏ/2(왼손잡이) 모두 관찰될 것으로 예상됐다. 그런데 실제 실험 결과는 달랐다. 중국의 우젠슝과 미국의 리언 레더먼이 각각 실험한 결과 모두 왼손잡이 중성미자만 관측할 수 있었던 것이다. 동전을 던질 때 앞면과 뒷면이 같은 확률로 나올 거라고 생각했는데, 막상 던져보니 항상 뒷면만 나오고 있는 상황이다.

이 사실을 알게 된 파울리는 “나는 신이 약간 왼손잡이라는 사실을 믿을 수 없다”며 깜짝 놀랐다고 알려져 있다. 오른손잡이 중성미자는 어디에 있을까. 1958년 사망한 파울리도, 2025년의 우리도 그 답을 알지 못한다.

▲ CERN

주변 물질과 쉽게 상호작용하지 않는 중성미자를 직접 관측하기란 어렵다. 그래서 중성미자가 반응을 하고 나온 부산물을 통해 간접적으로 검출한다. 이 이미지는 1960년대 ‘거품상자(Bubble chamber)’라는 실험장치로 중성미자를 검출한 결과물이다. 이미지 속 푸른 선은 중성미자가 거품상자 안의 네온이나 수소와 상호작용하면서 생긴 입자가 지나간 경로다.

미스테리 2
중성미자의 종류는 3가지 뿐일까?

“한 가지 유력한 가설은 우주 먼 곳에서 중성미자가 처음 생겨났을 때 오른손잡이 중성미자와 왼손잡이 중성미자가 같이 만들어졌을 것이라 추측합니다. 오른손잡이 중성미자는 왼손잡이 중성미자에 비해서 질량이 무척 클 것으로 예상되고요. 이 아직 발견되지 않은 오른손잡이 중성미자를 ‘비활성 중성미자’라고 부릅니다.”

2월 28일 만난 하창현 중앙대 물리학과 교수의 설명이다. 중성미자에는 종류가 여러 가지 있다. 이 종류를 ‘맛깔’이라고 부른다. 아이스크림을 생각하면 편하다. 바닐라 아이스크림, 초코 아이스크림, 딸기 아이스크림처럼, 중성미자에는 전자 중성미자, 뮤온 중성미자, 그리고 타우 중성미자 세 종류가 있다고 알려져 있다. 아이스크림의 맛을 결정하는 건 거기 들어가는 합성 착향료나 과일의 종류다. 중성미자의 맛깔은 중성미자의 질량 고유상태 3종류의 배합에 따라 결정된다. 이 배합 비율을 ‘섞임각’이라고 부른다.

중성미자가 어떤 과정을 통해 생성되느냐에 따라 어떤 맛깔의 중성미자가 나오는지가 결정된다. 예를 들어, 원자로에서 베타 붕괴를 통해 생성되는 중성미자는 주로 전자 중성미자다. 우주에서 온 고에너지 입자가 대기와 부딪힐 땐 주로 뮤온 중성미자가 생겨난다. 그런데 1998년, 일본의 슈퍼-카미오칸데 실험실에서 이 뮤온 중성미자가 사라지는 현상이 관측됐다.

과학자들은 각각의 현상을 통해 생성되는 중성미자의 양을 이론적으로 비교적 정확히 계산할 수 있었다. 그런데 실험 결과는 차이가 있었다. 뮤온 중성미자가 100개 들어올 거라고 예상하고 있었는데, 실상 검출된 건 90개뿐이었던 셈이다.

이 이유를 설명하기 위해선 잠깐 양자역학 개념을 소개해야 한다. 빛이 입자이자 파동인 것처럼, 양자역학의 세계에선 중성미자처럼 아주 작은 기본 입자는 일종의 파동으로 생각할 수 있다(그냥 받아들이자. 이 개념만 받아들이면 나머진 쉽다). 중성미자란 파동은 앞서 소개한 3종류의 질량 고유상태라는 파동의 합으로 결정된다. 이 합쳐진 파동이 어떤 형태인지에 따라 중성미자의 맛깔이 결정된다.

파동은 주기성을 가진다. 마루였다가, 골이었다가. 중성미자도 마찬가지다. 파동의 형태가 주기적으로 바뀌고, 여기에 따라서 중성미자의 맛깔도 바뀐다. 이렇게 중성미자가 주기적으로 그 맛깔을 바꿔 가는걸 ‘중성미자의 진동’ 현상이라고 한다. 슈퍼-카미오칸데에서 관측됐어야 했던 뮤온 중성미자는 지구 반대편 대기에서 생성된 뒤 지구를 통과해 검출기에 도달하면서 진동해 정체를 바꿨던 것이다.

그렇다면 비슷한 일이 오른손잡이 중성미자에게 벌어졌을 거라는 가설을 세워볼 수도 있다. 하 교수가 말한 비활성 중성미자는 원래 3종류의 맛깔이 있다고 알려진 중성미자의 또 다른 맛깔이다. 중성미자가 생성된 지 얼마 안 됐을 때까지는 존재했다가 이내 다른 맛깔의 중성미자로 진동해 모습을 바꾸었다고 하면 오른손잡이 중성미자의 행방을 우아하게 설명할 수 있다.

기초과학연구원(IBS)은 현재 한국에서 오른 손잡이 중성미자를 찾고 있는 대표적인 연구팀이다. 이들은 2015년부터 2020년까지 전남 영광의 한빛원자력발전소 원자로 중심에서 불과 24m 떨어진 곳에 검출기를 설치해 놓고, 진동 변환하지 않고 남아있는 전자 중성미자의 양을 측정했다. ‘NEOS(네오스)’이라고도 불리는 이 실험에 주도적으로 참여한 오유민 IBS 지하실험 연구단 연구위원을 3월 4일 대전 IBS 본원에서 만났다. 그는 “현재는 관측 결과를 분석하는 단계”라면서 “아직까지 비활성 중성미자의 존재를 확인하진 못했다”고 말했다.

비활성 중성미자를 찾는 과정은 모래사장에서 잃어버린 동전을 찾는 과정과 닮았다. 각 실험마다 비활성 중성미자가 검출될 것 같은 특정한 에너지 영역을 정해두고, 그 영역을 야금야금 수색한다. 수색 결과 해당 영역에서 비활성 중성미자가 나오지 않는다면, 다음엔 그 영역 말고 다른 곳에서 또 수색을 이어간다. NEOS 실험에서 비활성 중성미자가 나오지 않았으니, 다음 수색 영역을 찾으면 된다. IBS를 비롯해 서울대, 세종대, 경희대 등 국내 12개 연구소는 현재 힘을 합쳐 다음 실험인 RENE(르네) 실험을 준비하고 있다. RENE는 이르면 올해 안으로 한빛원자력발전소 원자로에서 24m 떨어진 곳에서 시작될 예정이다.

▲ 과학동아/스튜디오51/최항영

IBS는 강원 정선 예미산 지하 1000m에 지하실험실 ‘예미랩’을 구축하고 중성미자를 연구할 계획이다.

미스테리3
반입자는 대체 어디에 갔을까?

NEOS와 RENE 외에도 한국에서 진행됐거나, 진행될 예정인 중성미자 실험은 더 있다. 유종희 교수는 “현재 일본과 미국, 유럽 등 세계 각국에서 중성미자 연구가 한창”이라면서 “한국은 그중에서도 톱클래스 연구를 수행하고 있으며, 특히 RENO(르노) 실험의 경우 입자물리 교과서에 나올 정도로 대단한 실험”이라고 말했다.

RENO 실험은 앞서 설명한 중성미자의 진동 변환과 관련이 있다. 중성미자의 맛깔은 3종류의 중성미자 질량 고유상태가 어떻게 중첩되는지에 따라 결정된다고 설명했다. 이중첩의 형태를 결정하는 숫자가 ‘변환상수’다. 변환상수는 총3가지 종류가 있다. 아래 식을 보며 함께 살펴보자.

J′≡sin2θ12 sin2θ23 sin2θ13 cos2θ13 sinδ

색깔만 보면 된다. 이 식은 야를스코그 불변량(Jarlskog invariant)이라고 불리는 숫자 ‘J′’를 계산하기 위한 식이다. 야를스코그 불변량은 우리가 어떻게 우주에 존재할 수 있었는지 설명하는 중요한 열쇠가 된다. 우주에는 두 가지 종류의 물질이 있다. 물질과 반물질. 물질은 우리와 우리가 알고 있는 세상의 모든 것을 구성한다. 반물질은 물질과 반대 성질을 가지고 있다. 물질과 반물질은 늘 함께 태어나고 함께 죽는다. 이를 쌍소멸과 쌍생성이라고 한다. 어디선가 물질이 생겨났다면, 반드시 반물질도 생겨나야 한다. 그리고 물질과 반물질이 만나면 매우 큰 에너지를 분출하며 사라져버린다.

빅뱅이 일어나 우주가 탄생할 때, 물질이 대거 생성됐다. 그렇다는 건 어딘가 반물질도, 물질과 같은 양 생겨났을 거란 이야기다. 그리고 아직 우주의 밀도가 높을 때, 물질과 반물질은 만나 사라졌어야 했다. 우리은하도, 태양계도, 지구도, 인류도 없었어야 했다. 하지만 우리는 지금 여기 버젓이 살아 숨 쉰다. 우주는 물질로 넘쳐난다. 반물질이 대체 어디로 갔길래 우주에 물질이 남아있을 수 있을까?

유종희 교수는 “야를스코그 불변량은 지금 우주에서 관측되는 물질과 반물질의 불균형에 대해 설명할 수 있는 숫자”라고 했다. 그리고 우리는 야를스코그 불변량을 구하기 직전이다. 붉은색으로 표시된 sin2θ12와 초록색 sin2θ23는 우리가 이미 아는 숫자다. 이는 전자 중성미자에서 뮤온 중성미자, 타우 중성미자에서 뮤온 중성미자로 변환하는 변환상수다. 일본과 캐나다 연구팀이 1998년과 2001년 알아냈다.

파란색 sin2θ13 cos2θ13는 다름 아닌 한국 공동연구팀이 RENO 실험을 통해 알아냈다. 2012년 4월 한국과 중국 연구팀이 각각 구한이 수치는 뮤온 중성미자에서 전자 중성미자로 변환하는 변환상수다. 이 성과로 RENO 연구팀과 중국의 다야 베이(Daya Bay) 연구팀, 그리고 야를스코그 불변량이란 개념을 정립한 세실리아 야를스코그 스웨덴 룬드대 교수는 2023년 유럽물리학회 고에너지분과 학회상을 수상하기도 했다. 매 2년마다 수여되는 이 상의 수상자는 절반 이상이 노벨상 수상자다.

이제 남은 건 마지막, 보라색 sinδ값이다. 이를 구할 수 있는 실험이 바로 KNO다. 멀리 왔다. KNO는 아이러니하게도 일본이 없다면 시작조차 하지 않았을 실험이다. 이 실험은 2028년 완공될 일본의 J-PARC 가속기에서 나오는 중성미자를 분석하는 실험이기 때문이다. 유교수는 “sinδ값을 제대로 측정하기 위해선 가속기로부터 적어도 1000km 거리를 확보해야 한다”면서 “중성미자 진동 변환이 두 번 벌어지는 거리로, 이 거리에서 10년간 중성미자 신호를 측정해 분석하면 sinδ값을 구할 수 있다”고 했다.

sinδ값을 측정하는 실험은 미국처럼 국토 면적이 넓지 않고선 수행하기 어렵다. 실제로 KNO의 라이벌로 꼽히는 미국의 DUNE(듄) 프로젝트는 가속기와 검출기 사이의 거리가 약 1300km가 되도록 건설했다. DUNE 프로젝트는 2030년 이후 가동이 시작돼, 20년간 중성미자 신호를 측정할 계획이다.

한국의 경우 우연히 경남 합천이나 경북 영천 등 한반도 남부지방이 J-PARC이 위치한 일본 도카이 지역에서 출발한 중성미자가 지각을 통과해 다시 나오는 지점이 됐다. 그 덕에 미국은 3조 원을 들여야 할 수 있는 프로젝트를 한국은 3500억 원으로도 할 수 있게 된 것이다.

현재 KNO 추진은 아직 답보 상태다. KNO프로젝트를 이끄는 유인태 성균관대 물리학과 교수는 “한국 연구자들은 이 프로젝트를 추진할 수 있는 과학적, 기술적 역량을 갖추고 있다”면서도 “그러나 한국처럼 톱다운 방식의 과학기술정책 시스템에서는 경제적인 파급효과가 작은 기초과학 프로젝트가 우선 순위에서 밀리고 있는 상황”이라고 말했다. 실제로 KNO 프로젝트 이야기가 나온 지는 20년이 넘었다. 최근엔 이 프로젝트가 정부의 투자를 받지 못해 중단될 위기라는 이야기도 나온다.

중성미자의 미스터리가 한 꺼풀씩 벗겨지고 있다. 그 속도는 21세기 들어 점차 더 빨라지는 추세다. 유인태 교수는 “중성미자는 우주의 기원과 구성을 이해하는 데 핵심적인 역할을 한다”고 말했다. “최근 중성미자 검출과 장치가 발전함에 따라, 중성미자가 우주를 볼 수 있는 새로운 창이 될 수 있다는 인식이 퍼지고 있습니다. 그 때문에 중성미자 연구가 21세기 들어 급격히 발전하기 시작했습니다.”

지금까지 중성미자 연구에서 나온 노벨 물리학상의 수는 총 4개다. 이 숫자는 중성미자와 관련된 새로운 연구결과가 나올 때마다 우주에 대한 인류의 이해도가 얼마나 깊어지는지 증명한다. 꾸준히 중성미자의 정체를 추적해 온 한국의 고스트 헌터들이 우연한 기회로 세계 중성미자 연구의 판도를 뒤엎을 기회를 얻었다. 유종희 교수는 “중성미자 연구는 우주의 비밀을 밝힐, 인생을 바쳐도 아깝지 않을 연구입니다. 우리가 우주의 비밀을 이해하고, 밝힐 기회가 앞으로 얼마나 될까요?”라고 말했다. 이 기회를 잡을 수 있을까.

▲ 김소연

3월 4일 대전 IBS 본원에서 만난 오유민 연구위원이 예미랩에서 진행될 중성미자 실험 장비를 들고 서 있다.
오 연구위원의 손에 있는 장비는 빛 검출기로, 중성미자가 액체를 통과할 때 발생하는 빛을 검출한다.

▲ CERN

한국 KNO 프로젝트의 라이벌로는 미국의 DUNE 프로젝트(사진)가 꼽힌다. 두 프로젝트는 우주의 물질-반물질 비대칭 문제의 해답을 찾기 위해 중성미자를 탐구한다. 이 경쟁에서 이기는 자는 왜 오늘날 우주에는 반물질보다 물질이 더 많은지, 어떻게 우리가 물질로서 우주에 존재할 수 있는지 밝혀내게 된다. 과연, 누가 웃을 것인가.