
더 자세히, 더 세밀히, 더 정확히. 측정을 향한 열망은 지난 150년 동안 과학계는 물론 일상에도 숱한 발전을 이룩했다. 이제 과학자들은 과거를 넘어 정밀 측정의 한계에 다가서는 중이다. 세상의 극소 단위인 ‘양자’부터 최대 공간인 ‘우주’까지, 더 깊고 넓은 세계에 대한 도전이다. 측정의 한계에 도전하는 현장, 한국표준과학연구원(KRISS)을 다녀왔다.

1억 년에 1초 오차, 그 이상을 향해
미터(m)와 초(s), 킬로그램(kg). 우리에겐 미터협약이 지난 150년 동안 다져온 국제단위계(SI) 속 단위들이 익숙하다. 밀리미터(mm)나 밀리초(ms) 정도의 정확도만으로도 일상에서 쓰기엔 충분하다. 그러나 세상이 정교해지며 측정도 그만큼 정교해질 필요성이 커지고 있다. 한국표준과학연구원(KRISS)이 SI 단위보다 최소 수억 배는 미세한 양자 단위에 집중하는 이유다.
SI 단위 중 당장 근미래에 재정의를 앞두고 있는 단위는 시간이다. 지금의 1초는 1967년 국제도량형총회(CGPM)에서 세슘(Cs) 원자의 고유 진동수를 기준으로 정의됐다. 세슘을 이용해 만든 시계를 세슘 원자시계라 부르는데, 원자시계란 바닥 상태의 원자가 방출하는 전자기파의 고유한 진동수(주파수)를 기준으로 1초를 측정하는 기구다. 바닥 상태의 세슘이 방출하는 전자기파의 고유한 진동수는 1초에 91억 9263만 1770번이다. 이는 오늘날 우리가 초침 한 번의 똑땀임을 정의하는 기준으로 쓰인다.
세슘 원자시계는 1억 년 이상 작동하더라도 오로지 1초의 오차만을 낼 정도로 정확하다. 그럼에도 과학자들은 더욱 세밀한 측정을 위해 세슘을 대체할 원자를 찾고 있다. 4월 4일 대전 KRISS에서 만난 허명선 KRISS KPS국가시간그룹장 또한 이런 원자의 주파수 연구에 몸담고 있었다. 세슘 원자시계 도입 이후 60여 년이 지난 지금, 세슘을 대체할 가장 유력한 후보로는 원자번호 70번의 이터븀(Yb)과 원자번호 38번의 스트론튬(Sr)이 꼽힌다.
KRISS에서는 이터븀 기반의 원자시계를 주로 연구한다. KPS국가시간그룹은 2014년 개발한 이터븀 원자시계 ‘KRISS-Yb1’으로 세계협정시 생성에 참여하고 있다. 허 그룹장은 “이터븀이 세슘을 대체하면 지금보다 100배는 더 정교한 자를 제작해 시간을 재는 셈”이라며 “138억 년 전 빅뱅 직후 우주가 시작됐을 때 원자시계를 켰어도 지금껏 1초도 틀리지 않을 정도의 정교함”이라고 설명했다.
허 그룹장은 새로운 원자시계가 채택될 시점을 2030년쯤으로 예상했다. 2026년 CGPM에서 재정의를 위한 계획이 마련되면 2030년께 재정의가 이뤄질 수 있다고 내다봤다. 그는 “현재 후보가 되는 원자들이 비슷하게 높은 정확도를 보이고 있어 이를 비교할 데이터 수집에 시간이 걸리는 중”이라며 “정밀한 시간 측정을 위해 세슘 원자시계보다 섬세한 차세대 원자시계가 곧 1초를 재정의할 것”이라고 설명했다.
과학자들이 시간을 원자 단위까지 촘촘히 측정하려는 이유는 뭘까. 허 그룹장은 이미 일상에선 훨씬 정교한 단위까지 측정을 요구하는 경우가 적지 않다고 대답했다. “대표 격이 위성항법시스템(GPS)입니다. GPS는 1억분의 1초 수준의 정밀한 측정이 필요한 국가적 중요 기술이에요. 먼 우주에 떠 있는 위성에서 출발한 빛이 지상까지 도착하는 데 걸리는 시간을 측정해야 하기 때문에, 미소한 차이라도 일상 규모에서는 수십 미터의 오차로 변하거든요. 뿐만 아니라 전력 생산이나 금융 시스템에서도 수 마이크로초 단위의 오차가 적지 않은 손실을 가져옵니다. 미세한 단위에서도 빠르게 변하는 초연결 세상에 맞춰 측정도 발전할 필요가 있죠.”

신이 허락한 측정의 끝, 양자 측정
과학자들이 이토록 극한의 정밀함에 전념하는 대상은 시간만이 아니다. 원자시계처럼 극도로 미세한 측정 장치들을 이용해 그들은 세상을 양자 규모로 들여다보고 있다. 이른바 ‘양자 측정’의 영역이다.
양자는 더 이상 나눌 수 없는 에너지의 최소 단위다. 원자의 에너지 준위처럼 연속값을 취하지 않고 불연속적인 물리량이다. 양자 측정은 관측하려는 대상을 눈에 보이지 않는 극 미립자의 양자 단위 정보까지 측정한다. 양자 측정을 이용하면 원자 스펙트럼, 전압, 큐비트(qubit·양자 컴퓨터에서 정보를 처리하고 저장하는 기본 단위) 등 계(system) 안의 모든 측정 대상을 양자 단위의 정보까지 측정할 수 있다. 최재혁 KRISS 양자기술연구소장은 이렇게 관측 대상을 양자 단위까지 들여다보는 양자 측정을 ‘신이 허락한 측정의 끝’이라고 표현했다.
다만 양자 단위를 관측하는 데엔 자연이 부여한 한계 때문에 ‘선택’이 따른다. 하이젠베르크의 불확정성 원리에 의하면 입자에 대한 위치(진동 크기)와 속도(운동량)를 동시에 정확히 측정할 수 없기 때문이다. 이에 양자 측정 시 원하는 정보값을 택일해야 한다. 입자의 위치와 속도 중에서 둘 중 하나의 정보를 희생한 뒤 남은 하나의 정보를 정확하게 얻는 방식이다. 예컨대 입자의 위치를 측정하려면, 해당 입자가 지닌 위치의 오차는 0에 가깝게 하고 속도의 오차는 커지도록 내버려둬 위치만을 정확히 측정한다.
최 소장은 현재 양자 측정 기술 수준에 대해 “빛이나 원자처럼 극미한 존재부터 현미경으로만 볼 수 있는 구조체까지 다양한 대상을 면밀히 관측할 수 있을 정도”라며 “통상적인 양자 측정 한계에 도달하거나 이를 뛰어넘는 측정이 가능한 수준에 이르렀다”고 말했다. 이를 가능케 한 기술이 ‘양자 제어’다.
양자 제어는 양자의 상태를 인위적으로 제어하면서, 측정 대상의 양자 정보 단위를 측정하는 기술이다. 양자 제어는 양자 상태를 한쪽으로 찌그러뜨려 압축 상태(squeezed state)가 되도록 유도한다. 압축 상태가 되면 측정 대상을 원하는 상태로 조정할 수 있어, 속도와 위치 중 한 가지 측정값의 정확도를 극도로 끌어올려 측정할 수 있다.

양자의 눈으로 빅뱅을 보다
양자 측정이 활약할 차기 무대는 우주다. 우주에는 아직 인류가 닿지 못한 무수한 공백들이 남아있다. 신호가 약해 관측이 어려운 빅뱅 극초기 상태, 암흑 물질, 중성미자 등이 여기에 해당한다. 우주 속 미지의 세계를 보기 위해선 센서를 고도화해야 하지만 기존 센서들의 능력치로는 성능을 최대로 끌어올려도 한계에 직면한다. 바로 이때 양자 제어가 필요하다.
빅뱅 초기 생성된 천체와 같이 지구에서 아주 먼 거리의 천체를 관측하는 것이 어려운 이유는 신호가 미약하기 때문이다. 양자 제어를 이용하면 우주 관측에 쓰이는 서로 다른 양자 센서 간의 ‘양자 얽힘’을 구현해 이 문제를 해결할 수 있다. 양자 얽힘은 두 입자가 먼 거리에 있어도 연결된 채로 유지되면서 한 입자에 가해진 작용이 다른 입자에도 즉시 영향을 미치는 현상이다. 최 소장은 “양자 얽힘은 각각의 양자 센서가 갖는 노이즈에 상관성을 만들어 측정 노이즈를 크게 감소시킬 수 있다”고 설명했다.
양자 측정은 세포를 실시간으로 촬영하는 기술인 ‘바이오이미징’에서도 쓰인다. 세포 기관은 가시광선보다 깊이 투과할 수 있는 적외선을 이용해야 정밀하게 관측할 수 있기 때문이다. 다만 적외선 감지 센서는 가시광선의 그것에 비해 둔감하기 때문에 신호 수신과 분석에 어려움이 있다. 최 소장은 “마치 번역기처럼, 양자 얽힘을 이용하면 확인이 어려운 목표 정보를 관측가능한 정보로 변환할 수 있다”고 덧붙였다.
최 소장은 우주, 바이오와 같이 인류가 아직 개척하지 못한 영역에서 앞으로 양자 측정이 대세가 될 것이라 강조했다. “측정의 길은 정해져 있어요. 양자 외에 다른 길은 없을 겁니다. 앞으로 얼마나 더 극한의 극한까지 도달할지는 정량적으로 알 수 없으나, 분명한 건 우리가 양자 측정을 통해 신이 허락하는 최대치에 가까워지고 있는 점이죠. 양자 측정을 정복하면서 인류는 빅뱅 초기의 공백도, 암흑 물질의 정체도, 중성미자의 모습도 밝혀낼 거예요.”

양자 측정을 딛고 극한 측정의 세계로
최 소장의 말처럼 양자 단위의 미세 측정은 이미 우주 단위의 극한 측정으로 확장되고 있다. 지름 1 m의 거대한 광학거울 앞에서 만난 이윤우 KRISS 우주극한측정그룹 책임연구원은 우주용 광학거울을 양자 측정이 열어젖힌 극한 측정의 산물이라고 소개했다.
겉보기에 그저 커다랗고 둥글기만 한 거울이 왜 극한 측정의 산물이라는 걸까. 이 질문을 들은 이 연구원은 “반도체만큼 정교한 수준으로 그보다 훨씬 큰 거울을 만든 셈”이라고 답했다. “거울 표면의 형상 오차는 20 nm(나노미터·1 nm은 10억분의 1 m) 이하입니다. 분자 하나 크기와 유사하죠. 지구 크기의 거대한 거울에 25 cm의 오차가 생긴 수준입니다.” 여기서 거울의 형상 오차란 설곗값을 기준으로 거울 표면이 미세하게 휘어지면서 표면에 생기는 불균형이다. 즉, 분자 크기의 불균형조차 존재하지 않는 거울이란 뜻이다.
이토록 고도로 정밀한 광학거울을 연마하기 위해서는 측정 기술이 중요하다고 그는 강조했다. 해당 기술은 ‘비구면 형상 측정 기술’이라고 부르는데, 거울에 레이저를 반사했을 때 표면의 높낮이 불균형에 따라 생기는 간섭 무늬를 나노미터의 정밀도로 측정하는 기술이다. 실제 제작한 비구면 광학거울에 컴퓨터 홀로그램으로 만든 기준 렌즈를 사용해 레이저를 반사시켜, 광학거울의 미세한 불균형으로 인해 생성된 간섭 무늬를 분석한다.
분자보다 작은 오차를 정밀하게 측정하는 이유는 지상에서의 아주 미세한 오차도 우주로 나가면 큰 오차를 유발하기 때문이다. 중력이 없고 온도 변화가 큰 극한 환경의 우주에서 사용하는 고해상도 인공위성 카메라는 대구경 비구면 거울로 만들며, 수백 km의 고도에서도 수 cm 물체의 상을 정확하게 맺어야 한다. 이를 위해 극도의 측정 기술을 활용해 오차가 안 나도록 정밀하게 거울 표면을 깎아야 하는 것이다.
광학거울의 시선을 지구가 아닌 우주로 돌리면 과거를 들여다보는 거울로 변한다. 빅뱅 초기와 같이 먼 과거의 우주를 보기 위해선 까마득한 거리에서 지구로 도달하는 미세한 신호를 포착해야 한다. 이 때문에 광학거울은 최대한 면적을 크게 벌려 한 톨의 빛이라도 더 담아내야 한다. 광학거울의 면적을 수 미터까지 늘이는 과정에도 양자 단위의 측정은 빠질 수 없다.
KRISS는 형상 오차를 나노미터 단위까지 측정한다. 이는 미국, 일본 등과 어깨를 나란히 하는 수준이라고 이 연구원은 설명한다. “우리 기술로 현재 최대 0.3 m 이하의 해상도까지 구현합니다. 위성에서 지상의 차종을 분간할 수준이죠.” 이어 “광학거울 제작에도 극한의 측정 기술이 쓰였고, 만들어진 광학거울로 또다시 극한 관측을 하는 셈”이라며 “양자 수준의 측정이 곧 우주를 측정하는 길을 열고 있다”고 전했다.
우주공장 시대, 극한 측정이 앞당긴다
과학자들의 극한 측정은 우주 관측에서 그치지 않는다. 우주의 극한 환경을 모사해 측정 연구를 진행하는 수준까지 도달했다. 이근우 KRISS 우주극한측정그룹 책임연구원을 만나기 위해 실험실 문을 열자, 그는 선글라스를 낀 채 공중에 뜬 빛나는 물체를 주시하고 있었다.
그가 관찰하고 있던 물질은 세상에 없던 신소재 합금으로, 그 온도는 무려 3000 K(섭씨 약 2727 ℃)을 웃돌았다. 그가 들여다보던 기구는 ‘정전기 공중부양장치’. 정전기로 대전된 시료에 전기장을 걸어 공중에 띄운 후 고체 및 액체 상태에서 시료의 열물성을 측정하는 기구다. 공중에 뜬 초고온의 시료를 교류 자기장을 이용해 아주 빠르게 회전시키면 원심력에 의해 시료는 양옆으로 길게 늘어난다. 이를 통해 3000 K 이상의 초고온과 높은 회전 속도에서 신소재가 어느 정도까지 변형을 견디는지 파악할 수 있다.
이 연구원이 진행하는 극한 측정의 목표는 로켓 엔진 소재나 우주선 외피소재 등 우주 환경에서 견디는 내열 소재를 개발하는 일이다. “우주 극한 환경은 극고온과 극저온, 무중력과 고진공뿐만 아니라 수천 K 이상의 초고온을 버티는 신소재를 필요로 합니다. 인공지능(AI)이 발달해 요즘은 시뮬레이션으로 예측한다고 하지만 로켓 엔진, 핵융합로 내부 등 3000 K 이상의 초고온 조건에서는 알려진 고온 물성 데이터가 거의 없어요. 단백질 합성과 달리 기계 학습조차 할 수 없는 이유죠. 그래서 다양한 초고온 열물성 데이터를 측정하고 있는 겁니다.”
정전기 공중부양장치의 또 한 가지 목표는 우주 시대를 겨냥한 ‘우주공장’이다. 무중력인 우주 환경은 고순도의 약품 등을 생산할 수 있는 차세대 환경으로 주목받고 있다. 정전기 공중부양장치는 우주 환경을 모사해 우주에 나가기 전 테스트 베드 역할을 지구에서 할 수 있다.
이미 국제우주정거장(ISS)에서는 정전기 부양장치를 활용하고 있다. 이 연구원은 극한 측정이 우주공장 시대를 앞당길 것이라고 예상했다. “앞으로는 우주공장이 현실로 다가올 거예요. 중력이 강한 지구에서는 작은 시료를 띄워 실험하기 위해 1만~3만 V 이상의 강한 전압을 걸어 줘야 하는데, 우주에서는 적은 전압으로도 크기가 엄청나게 큰 샘플을 띄울 수 있거든요. 지상에서 불가능했던 규모의 극한 실험을 할 수 있죠. 이런 기술은 인류가 우주로 생활 반경을 넓혀가는 데 반드시 필요한 대량생산의 기반이 될 겁니다.”


“극한 측정은 앞으로 인류가 우주에서 지내기 위한 여러 기반 연구를 가능케 합니다.
극한 측정이 인류의 우주 시대를 여는 거죠.”