개인용 컴퓨터(PC)가 등장한 지 불과 50년도 지나지 않은 지금, 컴퓨터는 이제 양자컴퓨터라는 또 다른 변화를 맞이하고 있습니다. 지난 2022년에는 양자컴퓨터의 기반인 양자 얽힘 연구가 노벨 물리학상을 받았죠. 다만 양자컴퓨터는 불안정한 양자 상태를 유지하기 위한 어렵다는 한계가 있습니다. 최근 이런 한계를 해결할 차세대 양자컴퓨터 기술이 들려오고 있습니다. 양자컴퓨터의 새로운 도약, ‘위상 양자컴퓨터’를 들여다봅니다.
편집자 주

양자공학의 산물, 양자컴퓨터
양자컴퓨터는 입자의 얽힘(entanglement)이나 중첩(superposition) 같은 양자역학적인 현상을 활용해 정보를 처리하는 컴퓨터입니다. 양자컴퓨터는 1981년 미국의 물리학자 리처드 파인만이 초기 개념을 제시하며 연구가 시작됐습니다. 고전 컴퓨터가 0과 1로 이뤄진 비트로 정보를 저장하고 계산했다면, 양자컴퓨터는 0과 1의 중첩 상태를 이용한 큐비트(Qubit)를 이용합니다.
큐비트 덕에 양자컴퓨터는 고전 컴퓨터보다 계산 처리에 있어 압도적인 속도를 뽐낼 수 있습니다. 고전 컴퓨터는 최소 정보 저장 단위인 0 또는 1중 하나의 값으로만 정보를 저장하는 반면, 양자컴퓨터는 0과 1의 두 상태가 중첩된 형태로 정보를 저장힙니다. 쉽게 말해 종이 한 장을 동그랗게 자르면 한 개의 동그라미가 나오지만, 한 번 접은 종이를 자르면 한 번의 가위질에도 두 개의 동그라미가 나오는 모습처럼 양자컴퓨터는 한 번의 작동으로 여러 결괏값을 창출할 수 있습니다.
큐비트가 늘어날수록 위력은 급증합니다. 종이를 두 번 접어 자르면 한 번에 4개가 나오고, 100번 접어 자르면 한 번에 2100개의 동그라미가 만들어집니다. 이처럼 큐비트 수가 늘어나면 계산 가능성이 기하급수적으로 증가해, 100개의 큐비트가 있으면 약 2100개의 상태를 동시에 다룰 수 있습니다. 양자 우위가 기대되는 문제에서 고전 컴퓨터가 우주 여행에 소요되는 무수한 시간만큼 걸려 해결하는 반면, 양자컴퓨터는 몇 초 만에 풀 수 있다고 하는 이유입니다.
이를 가능케 하는 핵심은 양자 얽힘입니다. 양자 얽힘은 두 입자가 먼 거리에 있어도 계속 연결돼 한 입자에 가하는 작용이 다른 입자에게도 즉시 영향이 미치는 물리적 현상입니다. 양자컴퓨터 속 큐비트 역시 서로 얽혀있습니다. 그래서 하나의 큐비트를 조작해도 얽힘 상태의 다른 큐비트에도 영향이 갑니다. 큐비트는 평소 0과 1의 중첩된 상태로 유지되면서 무수한 경우의 수가 큐비트에 저장돼 있다가, 사용자가 관측하면 양자 얽힘을 통해 단 하나의 경우의 수로 결정됩니다. 1만 개의 경우가 있더라도 관측 즉시 하나의 결괏값으로 정해지죠. 정리하면양자 얽힘은 큐비트들을 하나로 묶어 모든 가능한 조합을 동시에 계산하게 만들고, 관측을 통해 그중에서 하나의 답을 골라냅니다.
2011년 캐나다 기업 디웨이브 시스템즈는 최초의 상용 양자컴퓨터 ‘디웨이브 원(D-Wave One)’을 출시했습니다. 2016년에는 미국의 IBM이 최초의 클라우드 기반 양자컴퓨터 플랫폼을 내놨습니다. 이후로도 구글, 아이온큐 등 여러 기업이 양자컴퓨터 구현을 위해 뛰어들고 있죠. 이렇게 양자컴퓨터의 시대가 본격적으로 막을 올리자, 양자 얽힘이 이론을 넘어 실재하는 현상임을 밝힌 과학자들인 알랭 아스페 프랑스 에코폴리텍 교수, 존 클라우저 미국 J.F 클라우저 협회 창립자, 안톤 차일링거 오스트리아 비엔나대 교수 3인은 2022년 노벨 물리학상을 받았습니다.
양자컴퓨터, 위상수학을 만나다
상용 양자컴퓨터가 등장한 지 15년이 지났지만, 양자컴퓨터는 여전히 불안정합니다. 그리고 이런 불안정성은 양자컴퓨터의 한계로 꼽히죠. 이러한 배경에서 양자역학에 ‘위상’이라는 새로운 해석을 탑재한 양자컴퓨터가 태동하고 있습니다. 그것이 ‘위상 양자컴퓨터’입니다.
러시아 태생의 이론물리학자 알렉세이 키타예프 미국 캘리포니아대 교수는 1997년 위상 양자 연산에 관한 논문을 발표하며 위상 양자컴퓨터의 개념을 처음으로 제시했습니다. doi: arXiv:quant-ph/9707021 그로부터 28년이 지난 2025년 2월 19일(현지시간), 미국의 IT기업 마이크로소프트(MS)는 위상 양자컴퓨터 구현을 위한 ‘마요라나 1(Majorana1)’ 칩의 실험 결과를 공개하며 위상 양자컴퓨터 개발이 본격화됐죠.
양자컴퓨터 동작의 핵심 단위인 ‘큐비트’는 불안정해 이를 다루기 위해선 까다로운 조작이 필요합니다. 큐비트가 오류 없이 제대로 작동하려면 절대영도(약 영하 273°C)에 근접할 정도로 냉각해야 합니다. 이는 초전도 기반 큐비트의 양자 상태를 제어하기 위해서는 큐비트를 구성하는 물질을 초전도 상태로 만들어야 하기 때문입니다. 현재 상용화된 초전도 물질을 초전도 상태로 유지하기 위해서는 극도로 낮은 온도가 요구되죠. 이런 까다로운 조건을 만족하지 않으면 큐비트는 양자의 작은 틀어짐이나 찌그러짐에도 오류가 나타납니다.
위상 양자컴퓨터는 이러한 불안정성을 보완하기 위해 등장했습니다. 위상 양자컴퓨터는 정보를 위상학적으로 해석해 큐비트에 저장합니다. 위상은 물체의 위치나 상태를 말하며, 위상수학은 사물의 모양이나 꼭짓점, 크기와 같은 구체적 요소보다는 공간이 변해도 유지되는 성질인 위상적 성질로 대상을 분류하는 수학 분야입니다.
예컨대 머그잔과 도넛은 겉보기엔 완전히 다른 물체지만, 머그잔의 제작 업체나 도넛 종류와 관계없이 구멍이 한 개라는 사실은 늘 같습니다. 이를 ‘위상 수’가 같다고 하는데, 위상수학적 관점에서 머그잔 모양의 반죽을 구멍이 무너지지 않게 잘 주무르면 도넛으로 만들 수 있다는 뜻입니다. 즉, 전혀 다른 생김새의 머그잔과 도넛도 위상수학에서는 같은 위상 수를 가지며 동일한 그룹으로 분류됩니다. 같음과 다름을 나누는 분별 기준이 확연히 낮아지는 거죠.
위상 수는 이렇게 작은 변화에 덜 민감하기에 기존 초전도 기반 큐비트보다 오류 대응에 용이합니다. 기존 양자컴퓨터는 두 방법으로 오류에 대응합니다. ‘양자 오류 정정(quantum error correction)’과 ‘양자 오류 완화(quantum error mitigation)’입니다. 큐비트를 앞선 머그잔에 빗대자면, 컵에 균열이 조금이라도 나면 이를 오류로 인식해 잔을 사용하지 못할 정도로 큐비트는 예민합니다. 오류를 다른 머그잔의 정보값과 비교해 원래의 올바른 값으로 수정하는 게 양자 오류 정정입니다. 양자 오류 완화는 애초에 머그컵을 애지중지 다루면서 균열 자체를 방지하는 접근입니다. 이를 위해서 양자 상태를 관측할 때 방해가 되는 외부의 전자기파를 철저히 차단해야 하죠.
반면 위상 양자컴퓨터는 오류에 훨씬 관대합니다. 위상 양자컴퓨터는 컵에 균열이 생기거나 일부 찌그러지는 정도로는 오류를 일으키지 않습니다. 컵이 훼손되더라도 손잡이의 구멍이 하나라는 정보는 여전히 바뀌지 않았기 때문입니다. 민감한 양자정보를 위상학적으로 보호(topological protection)하는 셈이죠. 위상 양자컴퓨터의 소재를 연구하는 이길호 POSTECH 물리학과 교수는 “위상 양자컴퓨터는 일종의 차세대 양자컴퓨터”라면서 “외부 간섭과 오류에 취약한 양자컴퓨터의 약점을 보완하는 위상 양자컴퓨터가 구현만 된다면, 기존 양자컴퓨터에 비해 안정성이 1000배는 더 강해질 것”이라고 기대했습니다.

위상 양자컴퓨터를 발전시킬 결정적 논문 2

· 논문 제목 : Fault-tolerant quantum computation by anyons (애니온에 의한 내결함성 양자 계산)
· 게재 저널 : 물리학 연보(Annals of Physics) (2003년)
· 피인용 수 : 8696회
· 연구 의의 : 위상 양자컴퓨팅의 개념을 제시하며 초기 이론을 정립한 연구 _ 이길호(POSTECH 물리학과 교수)
1997년, 알렉세이 키타예프 미국 캘리포니아공대 물리학과 교수는 위상 양자컴퓨팅의 개념이 되는 위상 영구 자석에 대한 논문을 발표합니다. 키타예프 교수는 구체적인 거리나 각도보다 더 추상적인 ‘형태의 불변성’에 초점을 둔 위상(topology)을 양자 정보에 이용하면 외부 노이즈로부터 자연스럽게 보호될 수 있다고 제안했습니다.
특히, 2차원 공간에 존재하는 특이한 준입자(quasiparticle)인 애니온(anyon)의 교환 과정을 통해 기존 양자컴퓨터가 수행하는 양자 게이트 연산을 수행할 수 있을 거라 예측했습니다. 즉, 정보를 애니온의 위치가 아닌 얽힘 경로에 저장한다면 여타 양자컴퓨터보다 노이즈에 강할 것입니다.
마이크로소프트(MS) 등 일부 기업은 키타예프 이론에 기반한 마요라나 페르미온(Majorana fermion) 기반 위상 양자컴퓨터를 개발 중입니다. 아직 실험적 단계이지만, 성공한다면 획기적인 양자컴퓨터 기술이 될 것으로 물리학계는 내다보고 있습니다.

· 논문 제목 : Signatures of Majorana Fermions in Hybrid Superconductor-Semiconductor Nanowire Devices (하이브리드 초전도체-반도체 나노와이어 소자의 마요라나 페르미온 존재)
· 게재 저널 : 사이언스(Science) (2012년)
· 피인용 수 : 5026회
· 연구 의의 : 준입자 형태의 마요라나 페르미온의 실험적 증거를 제시한 연구 _ 이길호(POSTECH 물리학과 교수)
2012년, 레오 쿠벤호벤 네덜란드 델프트공대 물리학과 교수는 준입자 형태의 마요라나 페르미온(Majorana fermion)의 실험적 증거를 제시한 논문을 발표합니다. 마요라나 페르미온이란 1937년 이탈리아의 물리학자 에토레 마요라나가 이론적으로 제안한, 자기 자신이 반입자인 준입자입니다. 일반적으로 우리가 아는 전자, 양성자 등은 반입자를 갖지만, 마요라나 페르미온은 입자와 반입자가 동일하다는 독특한 특성을 갖습니다.
쿠벤호벤 교수팀은 인듐 안티모나이드(InSb) 반도체 나노와이어를 금(Au) 전극과 니오븀 티타늄 나이트라이드(NbTiN) 초전도 전극 사이에 배치한 하이브리드 구조를 제작하며, 마요라나 페르미온의 존재를 확인했습니다.
이 연구는 고체 물리 시스템에서 마요라나 페르미온의 존재 가능성을 실험적으로 제시한 최초의 사례 중 하나로, 이론적으로만 예측되던 입자의 실재 가능성을 보였습니다. 마이크로소프트(MS)가 마요라나 칩1 개발에 나서게 된 토대가 되는 연구이기도 합니다.
차세대 양자컴퓨터의 ‘key’ , 위상 큐비트
위상 양자컴퓨터 소재 연구는 이제 걸음마를 막 뗀 상태입니다. 현재 초전도 양자컴퓨터에선 1K 이하에서 초전도 상태를 띠는 알루미늄(Al) 소재가 주로 활용됩니다. 알루미늄은 초전도 상태를 띤다는 사실이 알려진 지 100년도 더 넘은 소재입니다. 이에 알루미늄 기반 초전도체는 반도체 공정에서도 비교적 쉽게 제작이 가능하죠. 덕분에 구글, IBM 등 여러 기업에서 양자컴퓨터 연구가 활발히 이뤄지고 있습니다.
반면 위상 양자컴퓨터 구동을 위한 위상 큐비트는 아직 개발 단계입니다. 위상성을 가지는 초전도체가 아직 명확히 발견되지 않았기 때문입니다. 이 교수는 “우선 위상성을 갖는 초전도체 소재를 발견해야 위상 양자컴퓨터 연구 또한 본격화할 것”이라고 내다봤습니다. 그래서 현재 위상 큐비트를 위한 소재 연구에 여러 이론물리학자들이 뛰어들고 있습니다. 이 교수는 위상 큐비트를 만드는 주요 후보 소재 중 하나인 ‘철 셀렌화 텔루라이드(FeSeTe)’를 연구하고 있습니다. 2025년 2월 연세대·UNIST 공동연구팀은 2차원 위상 양자컴퓨팅 소재 후보 물질(Cu3Co2SbO6)을 발견하기도 했죠. doi: 10.1038/s41467-025-56652-w
위상 초전도체를 개발 중인 대표적인 기업은 MS입니다. MS는 위상 부도체와 초전도체를 접합시켜 위상 초전도체처럼 ‘행동’하는 ‘후천적 위상 초전도체’를 만드는 방향으로 연구에 나서고 있습니다. MS는 2025년 2월 인듐비소(InAs)와 알루미늄 소재로 위상 초전도체를 구현한 8큐비트 규모의 ‘마요라나1 칩’을 만들었다고 발표했습니다. 다만 마요라나 1은 초기 연구인 2017년 논문의 공동 저자 빈센트 무리크 독일 율리히연구센터 연구원이 “당시 논문 속 데이터가 선별적으로 채택됐다”며 공동 저자 목록에서 자신과 동료 연구원 1명의 이름을 자진철회하는 등 논란이 일기도 했습니다. doi: 10.1038/ncomms16025
이 교수는 “기존의 양자컴퓨터는 비교적 구현이 용이한 큐비트 플랫폼들이 존재하는 덕에 관련 연구에 뛰어드는 연구자들이 많고 발전 속도가 빠르다”면서 “반면 위상 큐비트는 만들기조차 어려워 아직은 일부 그룹만 초기 연구를 진행 중”이라고 설명했습니다. 그럼에도 이 교수는 위상 양자컴퓨터의 노벨상 가능성을 조심스레 내다봤습니다.
“양자역학과 양자이론이 등장한 지는 벌써 100년이 됐지만, 양자공학 기반의 양자 기술이 부상한 건 얼마 안 됐어요. 불완전한 양자컴퓨터가 이제야 세상에 나와서 주목받았으니까요. 그 덕에 수십 년 전 양자 얽힘 이론을 입증한 물리학자들이 2022년 노벨 물리학상을 받은 겁니다. 그러니 앞으로 양자컴퓨터가 더 고도화되고 불안정성이라는 결정적인 한계를 극복한 위상 양자컴퓨터가 구현된다면, 위상 양자 연산의 기반을 닦은 연구자들도 언젠간 노벨상을 받지 않을까요.”