d라이브러리 2016년 10월 수학동아

우주배경복사를 보면 우주 탄생 후 38만 년, 그 순간의 모습을 볼 수 있다. 하지만 38만 년 이전 초기우주의 모습은 추측일 뿐이다. 아직까지는 직접 볼 수 없는 미지의 세계였다. 이제 그 문을 열 열쇠가 생겼다.

지난 2월 중력파 최초 관측 성공에 이어 지난 6월 두 번째로 성공하면서, 중력파를 이용한 우주 관측이 막 시작됐다. 중력파는 블랙홀 같은 거대한 질량을 가진 천체끼리 부딪치면서 생기는 시공간의 잔물결이다.

급팽창이 있었던 시기(우주가 탄생한 지 약 10-35초 뒤부터 10-32초)는 미지의 문에 가려져 있었다. 아직 빛이 우주로 퍼지기 전이라 이를 직접 관측할 수 없었다. 중력파로 지금까지 베일에 싸여 있던, 빛으로는 볼 수 없었던 초기우주를 들여다 볼 수 있다.

중력파 걸러내는 ‘힐베르트-후앙 변환’

중력파는 아래의 초록색 그래프처럼 ‘파형’으로 관측된다. 시간에 따라 시공간이 흔들리는 모양이다. 이 파형에는 중력파를 발생시킨 천체의 질량, 지구에서 천체까지의 거리, 천체의 기하학적 특성 등 다양한 요소가 섞여있다. 그런데 초록색 그래프에서 볼 수 있듯이 중력파는 여러 잡스런 신호와 섞여있다. 이 때문에 그 안에서 중력파 신호를 구분해 뽑아내야 한다.

중력파 신호를 걸러내는 데는 신호 처리나 샘플링 같은 수학 이론이 쓰인다. 이를 이용해 중력파 신호만을 뽑아내기 위한 ‘필터’를 만들어 낼 수 있다. 관측한 신호를 필터로 걸러 우리가 원하는 중력파 신호가 있는지 없는지 알아내는 것이다. 필터를 통과한 신호에 중력파가 있다면 흰색 파형과 같은 중력파 파형을 뽑아낼 수 있다.

우리나라의 국가수리과학연구소에는 총 4명으로 이뤄진 중력파 연구팀이 있다. 연구팀은 ‘힐베르트-후앙 변환’이라는 수학 이론을 이용해 중력파와 잡음을 분류하는 방법을 연구하고 있다. 이 방법으로 잡음을 더 효과적으로 제거해 데이터의 질을 올릴 수 있다. 기계학습을 활용해 잡음을 자동으로 분류하는 소프트웨어도 만들고 있다.

실험의 한계 넘을 수학 이론이 필요

그러나 중력파 국제공동연구팀인 라이고 과학협력단(이하 라이고) 회원 중에 수학자는 없다. 중력파 연구에 직접 참여하고 있는 국가수리과학연구소 오정근 박사는 “수학자들은 새로운 수학 이론을 탐구하고 싶어 하기 때문에 과학적 목표 달성을 위한 라이고의 연구와는 관심사가 다를 수 있다”고 말했다. 하지만 중력파 검출은 적은 정보로부터 초기우주의 비밀을 알아내는 ‘역문제’의 하나로 높은 수준의 수학이 필요하다. 역문제는 제한된 정보만 가지고 원하는 정보를 얻어내는 수학 기법이다. 그래서 라이고는 수학자들이 학문적 벽을 허물고 중력파 연구에 협력해 주길 바라고 있다.

중력파천문학은 이제 막 시작이다. 우리는 새로운 천문학의 역사적 순간에 살고 있다. 앞으로 중력파가 우리에게 보여줄 초기우주의 모습은 어떠할까. 오정근 박사는 “수학자들이 함께 협력해 라이고의 실험적 한계를 극복하는 데 도움을 주길 바란다”며, 중력파 연구에서 수학자의 필요성을 강조했다. 수학이 미지의 문을 여는 열쇠 역할을 톡톡히 해내길 바란다.

d라이브러리

PART 3. 수학으로 중력파를 찾다