주메뉴바로가기 본문바로가기

Part 1. ‘기묘한’ 2차원 세계를 설명한 개척자들

노벨물리학상

왼쪽부터 덩컨 홀데인, 마이클 코스털리츠, 데이비드 사울레스 교수.

 


작년 노벨상 발표를 앞둔 10월 초, 필자는 페이스북에 이런 글을 올렸다. “올해 노벨상 수상자는 데이비드 사울레스(미국 워싱턴대 교수)-덩컨 홀데인(미국 프린스턴대 교수)- 찰스 케인(미국 펜실베이니아대 교수) 이렇게 세 명이면 좋겠다.” 필자의 소망이 듬뿍 담긴 글귀는 일 년 뒤 케인이 마이클 코스털리츠(미국 브라운대 교수)로만 바뀐 채 들어맞았다.

무엇보다 건강을 염려하지 않을 수 없는 82세의 거장 사울레스가 학계에서 오래 전부터 기대해 왔던 상을 드디어 수상하게 됐다는 소식이 기쁘다. 또한 응집물리학계의 천재 홀데인까지 수상 명단에 포함됐으니 바야흐로 노벨 위원회가 “위상 응집 물리학”의 비중과 중요성을 제대로 인정했다고 하겠다.


응집물리학, 그리고 ‘기묘한 물질계’


올해 노벨물리학상을 이해하는 핵심 단어는 낮은 차원, 기묘한 물질, 그리고 위상수학이다. 일단 낮은 차원부터 풀이해 보자. 1926년 슈뢰딩거가 파동 양자역학을 만든 직후부터 아르놀트 조머펠트, 한스 베테, 펠릭스 블로흐 등이 고체 속에서 움직이는 전자의 거동을 양자역학으로 이해하려고 노력했다. 그 결과물로 인류가 품어 왔던 오랜 질문인 금속과 비금속의 차이에 대한 답이 나왔고, 고체물리학이란 분야가 탄생했다.

하지만 여전히 두 가지 신비로운 난제가 남아있었다. 바로 초전도와 초유체 현상이다. 자연의 운동에는 마찰이 따르게 마련인데 이 두 물질계는 자연 법칙을 거스르듯 마찰 없이 전류와 물류(물질 자체의 흐름. 즉 초유체를 구성하는 원자의 흐름)를 흘릴 수 있어 보였다. 이 두 문제는 1947년 레프 란다우가 초유체 문제를, 1957년 바딘-쿠퍼-슈리퍼가 초전도체 문제를 해결하면서 마무리됐고, 드디어 고체와 액체, 초전도체와 초유체를 아우르는 응집물리학의 체계가 완성되는 듯했다.

응집물질이라면 흔히 가로, 세로, 높이가 존재하는 고체나 액체 덩어리를 생각한다. 우리 일상생활이 대부분 3차원 세계에서 이뤄지는 탓인지, 물리학자들 사이에서도 물질은 3차원이라는 고정된 생각이 있었다. 그런데 만약 우리가 원자 한 층 두께의 고체나 액체를 만들 수 있다면 어떨까. 이렇게 만들어진 2차원 물질계에서는 어떤 현상이 벌어질까.
 

 

2차원 물질을 일상에서 찾기란 대단히 어렵다. 그래핀처럼 테이프를 이용해 손쉽게(?) 떼어 낼 수 있는 2차원 물질도 있기는 하지만, 대다수의 경우 실험실에서 매우 조심스러운 방법으로 만들어야 한다. 2차원 물질을 제작하는 데 성공했다고 하면, 이번엔 절대영도(영하 273℃)에 근접하는 극저온 환경을 만들어 줘야 한다. 한층 낮은 차원(즉 2차원), 그리고 극저온, 두 조건이 만족되면 그 물질은 철저히 양자역학의 지배를 받는 ‘기묘한 물질’로 탈바꿈하게 된다. 올해 노벨 물리학상 수상자들의 업적은 2차원의 초전도체나 초유체, 양자홀 전자계, 양자 스핀계 등으로 대표되는 기묘한 물질계의 이론을 개척한 데 있다.


2차원 세계의 불청객, ‘위상수학’

기묘한 물질의 세계에는 예상치 못했던 불청객이 있었다. 다름 아닌 위상수학이다. 노벨상 위원회에서 제작한 해설 동영상에는 이 위상수학 개념을 이해시키기 위한 긴급 처방으로 (구멍이 없는) 빵과 (구멍이 하나 뚫린) 베이글과 (구멍이 두 개 있는) 프레첼까지 등장했다(위 그림). 도대체 구멍의 개수와 물리학이 무슨 상관이란 말인가. 어차피 똑같은 재료로 구운 다음, 구멍이야 요리사의 취향에 따라 뚫으면 그만인 것을 그게 무슨 대단한 일이라고 노벨상을 줬다는 건가. 이렇게까지 생각할 독자는 없겠지만, 구멍 개수와 물리학을 연관짓기란 전문 물리학자들에게도 쉬운 일이 아니었다.

빵과 베이글, 프레첼이 하나씩 있다고 생각해 보자. 실이나 고무줄로 구멍이 없는 빵을 묶을 수 있을까. 그건 불가능하다! 왜냐하면 끈으로 빵의 적도 부위를 잘 감았다고 해도 다시 살살 말아 올리면 끈을 빵으로부터 탈출시키는 데 아무런 제약이 없기 때문이다.

이번엔 베이글을 묶어 보자. 이번엔 가능하다! 독자들 역시 쉽게 상상할 수 있겠지만, 베이글의 구멍을 한 번 감싸도록 실을 묶으면 그 실을 끊어버리지 않는 한 베이글로부터 분리할 방법이 없다. 베이글의 어떤 부위를 어떤 모양으로 감든지 결국 실을 이리저리 굴리고 당기다 보면 다 연결되는 모양새니까, 베이글을 실로 감을 수 있는 방법은 딱 한 가지만 존재한다고 할 수 있다.

이번엔 프레첼을 감아 보자. 세 가지 방법으로 프레첼을 감을 수 있다는 것을 독자들도 어렵지 않게 알아차릴 것이다. 구멍 하나를 감싸는 방법, 다른 구멍 하나를 감싸는 방법. 나머지는 구멍 두 개를 동시에 감싸는 방법이다. 이제 빵과 베이글과 프레첼은 서로 ‘다른 물질’이라는 데 독자들도 동의할 것이다. 적어도 실을 감을 수 있는 방법으로 구분한다면 그렇다. 위상수학은 어떤 대상을 분류할 때, 그 물체를 휘감을 수 있는 방법과 종류가 무엇인지 따져 본다.

대략 1960년대까지의 응집물리학은, 비유하자면 ‘똑같은 밀가루 반죽을 이용해 어떤 제조 과정을 거치느냐에 따라 최종 결과물은 빵과 과자와 케이크 등으로 분류할 수 있다’는 식의 물리였다. 물질을 금속과 절연체, 초전도체와 초유체 등으로 분류하고 이해하는 작업이 여기에 해당한다. 반면 이번 수상자들이 개척한 물리학에서는 ‘똑같은 재료와 공정을 거쳐 만들어진 빵이라 해도 구멍의 개수에 따라 그 이름을 빵, 베이글, 프레첼로 각각 구분해 불러야 한다’는 점을 지적했다고 하겠다.


잔잔한 호수를 흔드는 요동, 상전이

이제 올해 물리학상의 구체적 업적이라 할 수 있는 코스털리츠-사울레스 상전이(KT 상전이)와 정수 양자 홀 효과, 홀데인 스핀 고리에 대해 각각 알아보자. 기묘한 물질을 만나려면 우선 고체 덩어리를 깎아  완벽한 2차원에 가깝게 만들어야 한다. 원자 한 층짜리 고체를 만들었다고 치고, 이번엔 온도를 조금씩 높여본다. 모든 고체와 마찬가지로 2차원 고체 역시 어떤 온도가 되면 녹을 것이다. 이렇게 고체가 액체로 바뀌는 (혹은 액체가 기체로 바뀌는) 현상을 물리학에서는 ‘상전이’라고 한다. 물리학자들은 이 상전이 현상에 오랫동안 집착해 왔다. 정확히 어떤 과정을 통해 상전이가 진행되는지 이해하기 위해서다.

2차원 물질계의 상전이를 이해하기 위해 잠시 잔잔한 호수 표면을 상상해 보자. 이런 상태는 2차원 고체처럼 매우 잘 정돈된 상태에 해당된다. 이제 호수를 점점 따끈하게 데우면, 잔잔했던 표면은 이런저런 꼴로 요동하기 시작할 것이다. 그런데 호수 표면 곳곳에 작은 소용돌이들이 생겨나 마침내 표면을 가득 채운다고 생각해 보자. 이제 더 이상 잔잔함이라고는 찾아볼 수 없을 것이다. 이렇게 소용돌이로 가득 찬 상태는 잔잔한 호수 표면과는 위상이 다른 상태다(소용돌이 하나가 생기는 것은 빵에 구멍을 하나 뚫는 것과 같다). 이것이 2차원 고체의 녹은 상태, 즉 2차원 액체에 해당된다는 것이 코스털리츠-사울레스 상전이 이론의 기본 그림이다.

소용돌이는 꼬인 구조다. 엄밀히 말하면 위상학적으로 꼬인 구조다. 소용돌이를 따라 움직이는 작은 입자 하나가 만드는 궤도를 생각해 보자. 소용돌이의 중심을 축으로 하는 원 궤도가 나올 것이다. 원은 일종의 위상학적 구조다. 일직선으로 만들려면 원의 일부를 끊어버려야만 하기 때문에 원은 위상학적으로 일직선과는 구분되는 꼬인 상태다. 이제 우리는 태풍이 소멸되는 데 왜 일주일이나 걸리는지에 대한 ‘위상학적’ 설명을 들었다. 태풍은 꼬여 있는 구조기 때문이다! 놀랍게도 태풍과 같은 이런 구조가, 양자역학이 지배하는 낮은 차원, 낮은 온도 세계의 상전이를 주도한다.
 


 
기묘한 전자의 움직임을 설명한 사울레스

1980년 독일 물리학자 클라우스 폰 클리칭은 정수 양자홀 효과로 불리는 놀라운 현상을 학계에 보고했다. 금속에 전류를 흘리면 저항이 생긴다. 전선의 저항에도 불구하고 전류를 계속 흐르게 하려면 건전지를 연결해서 전자에게 일을 해 줘야 한다. 그런데 어떤 경우는 전압이 걸린 방향에 수직으로 전류가 흐르기도 한다. 마치 투수가 던진 커브볼이 공의 회전성 때문에 일직선으로 날아가는 대신 낙차가 큰 궤도를 그리는 것과 비슷하다. 이때 발생하는 수직 방향의 전류량을 걸어준 전압으로 나눈 값을 ‘홀 전도도’라고 하는데, 클리칭이 측정한 홀 전도도는 어떤 특별한 값의 정수배로만 존재했다.

흔히 전류는 전자의 흐름으로 쉽게 표현하지만, 실제로는 말할 수 없이 많은 전자들이 서로 충돌하면서 움직이는 것이다. 전자 하나 하나의 움직임을 제어한다는 것은 상상도 할 수 없는 일이다. 그런데도 이렇게 정확한 숫자로 표현할 수 있는 운동을 한다니! 당시의 일류 물리학자들이 이 기묘한 현상을 이해하는 데 도전했고, 로버트 러플린이란 걸출한 젊은 이론가가 혜성처럼 나타나 정수 양자 홀 효과를 이해하는 기본 이론을 제시했다(러플린은 몇 년 뒤인 1983년 분수 양자 홀 효과를 설명하는 기막힌 이론을 제안했고, 이 업적으로 1998년 노벨상을 수상했다).

그러나 정수 양자 홀 효과를 가장 완벽하고 우아하게 설명하는 이론은 단연 사울레스의 1982년 논문이다. 이 논문에서 사울레스 연구팀은 홀 전도도 값이 결국 전자가 차지하는 공간에 존재하는 소용돌이의 개수에 정비례한다는 결론을 내린다. 여기서 말하는 전자가 차지하는 공간이란, 우리가 눈이나 현미경, 혹은 어떤 다른 관측 도구로 볼 수 있는 실제 공간이 아니다. 양자역학에서는 물체의 위치와 속도를 함께 결정하는 것이 불가능하기 때문에 둘 중 하나를 택해 운동을 기술한다. 양자 홀 효과를 이해하기 위해서는 전자의 운동을 ‘속도 공간’에서 이해하는 것이 좋다. 물리학 용어로는 속도 공간을 브릴루앙 공간이라고 부른다. 자세한 사정이야 어찌됐든, 소용돌이의 개수는 당연히 정수일 수밖에 없고, 따라서 관측 과정이 아무리 복잡하게 얽혀 있어도 관측 결과는 정수일 수밖에 없다는 결론에 이르렀다. 사울레스는 그의 학문 인생에서 또 한 번 소용돌이 이론으로 물리학에 잔잔한 혁명을 일으켰다.


사울레스의 조력자와 시대를 앞선 천재 물리학자

이번 노벨상의 업적 구분을 따져 보면 사울레스가 절반을, 코스털리츠와 홀데인이 각각 4분의 1씩을 인정받았다. 코스털리츠는 사울레스와 함께 앞서 소개한 2차원 위상 상전이 이론을 만든 사람이다. 소용돌이 생성을 매개로 한 상전이 이론을 완성하기 위해 당시로서는 생소하기 그지없는 새로운 수학적 이론을 개발해야만 했고, 사울레스는 당시 영국 버밍엄대의 젊은 연구원이었던 코스털리츠에게 함께 일해 볼 것을 권유했다. 덕분에 이 이론은 두 사람 이름의 앞글자를 따 KT 상전이로 불린다.

홀데인은 1980년대 초반부터 줄곧 학계를 깜짝 놀라게 한 이론을 발표해 온, 의심의 여지가 없는 천재 물리학자다. 그는 ‘홀데인 간극’이라고 알려진 현상을 발견해서 명성을 쌓기 시작했는데, 학계에서는 종종 홀데인을 일인자로 봤을 때, 두 번째로 뛰어난 응집 이론 물리학자와 그 사이에 존재하는 격차를 홀데인 간극이라고 부르기도 한다.

홀데인이 연구 인생 초반기에 주목한 문제는 1차원 양자 자석이었다. 진주알 대신 자성을 띤 원자를 꿰어 만든 목걸이를 연상하면 이해하기 쉽다. 이런 목걸이의 상태를 양자역학적으로 이해하는 것이 홀데인의 목적이었다. 그는 ‘스커미온’이라고 알려진 또 다른 위상학적 대상이 양자 자석의 상태를 결정하는 데 지대한 역할을 한다는 사실을 알아냈다. 사울레스가 버밍엄대에 재직하던 시절 동료 고참 교수이기도 했던 괴짜 물리학자 토니 스컴의 이름을 딴 스커미온은 그 자체로 흥미로운 역사를 지니고 있다. 최근에는 자성체의 새로운 정보 저장 장치로 떠오르고 있다.

홀데인의 또 다른 비중 있는 업적은 앞서 말한 정수 양자 홀 효과와 관련된다. 본래 양자 홀 효과는 아주 섬세하게 가공한 반도체 계면(서로 다른 물질이 만나는 경계)에 수직 방향으로 매우 강한 자기장을 걸고 온도를 절대 영도에 가깝게 유지하는 극한 상황에서만 관측할 수 있었다. 그러나 1988년 발표한 논문에서 홀데인은 “만약 2차원 고체가 특정한 구조를 갖고 있다면 외부 자기장이 없어도 정수 양자 홀 효과가 나올 것”이라고 예측했다. 2차원, 강한 자기장, 그리고 극저온이라는 세 가지 매우 까다로운 요구 조건 중에서 하나를 제거해도 여전히 위상학적 물질 상태를 구현할 수 있음을 시사한 것이다. 이 논문은 그 어마어마한 가능성에도 불구하고 거의 20년 간 학계의 큰 주목을 끌지 못한 채 남아 있다가, 2006년부터 2, 3차원의 위상학적 부도체 이론이 발전하면서 주목을 끌기 시작했다. 논문의 중요성을 가늠하는 척도 중 하나가 피인용 횟수인데, 2006년까지 매년 10회 미만으로 인용됐던 홀데인의 논문은 그 이후 피인용 횟수가 폭발적으로 증가해 작년에만 400회 가까이 인용됐다.
 

필자의 박사학위 논문이 통과된 날 저녁, 지도교수 사울레스 교수와 맥주집에서 찍은 사진. 대학원생 시절, 외부에서 방문한 교수가 사울레스 교수와 연구실에서 토론하는 모습을 본 적이 있다. 두 사람은 칠판에 적힌 공식을 뚫어지게 쳐다보고 있었다. 10분이 넘는 시간 동안 사울레스 교수의 연구실에 침묵이 흘렀다. 드디어 사울레스 교수가 입을 열었다. “I don't know.” 그걸로 그날의 토론을 마무리했다.
 

또 한 번의 노벨상을 기대하며

고체는 원자가 규칙적으로 배열된 구조를 말한다. 2차원이나 3차원에서 존재할 수 있는 고체의 구조는 유한한 개수밖에 없고, 모든 가능한 구조를 분류하는 작업은 이미 20세기 이전에 마무리됐다. 20세기 들어 X선 분광학의 발전으로 고체의 구조를 하나하나씩 밝힐 수 있게 되면서, 기존의 분류법이 완벽했음을 확인했다. 그리고 노벨물리학상 수상자들이 개척한 위상 부도체 이론으로, 응집물질이 가질 수 있는 상태를 위상학적 측면에서 완벽하게 분류할 수 있게 됐다. 앞으로는 새로운 위상 물질을 제작하고 전자 소자에 응용하는 분야에서 큰 도약이 있을 것으로 기대된다.

생명력 있는 물리학 분야에서는 노벨상이 여러 차례 나오기도 한다. 노벨위원회는 입자물리학의 새로운 입자 예측과 관측에 대해 꾸준히 상을 수여해 왔고, 중성미자 물리학에 대해서도 여러 차례 노벨상을 줬다.

위상 응집물리학은 물질을 분류하는 새로운 기준으로, 위상수학을 물리학에 접목시키는 데 성공했다. 뿐만 아니라 위상 양자계산과도 밀접하게 연결돼 있는 만큼, 향후 위상-응집-양자계산을 아우르는 분야에 대한 노벨상 수상도 점쳐볼 만하다. 위상 부도체와 양자계산 이론을 주도한 인물들의 나이가 이제 겨우 50대 중반임을 고려할 때, 이들이 노벨상을 수상할 거라고 예측하는 건 매우 안전한 도박이다. 그날이 정말 온다면, 노벨상 위원회가 과연 K-이론을 대중에게 어떻게 설명할 것인지 궁금할 따름이다.
 



 
글 : 한정훈 성균관대 물리학과
에디터 : 최영준
이미지 출처 : Princeton University, Office of Communications, Denise Applewhite, 한정훈, 고등과학원

과학동아 2016년 11호