▲IBM

▲김진화

인천 송도의 연세대 국제캠퍼스 양자 컴퓨팅 센터에 설치된 IBM 양자 컴퓨터 ‘퀀텀 시스템 원’. 2024년 12월 4일, 정재호 연세대 양자사업단장(왼쪽)이 퀀텀 시스템 원 앞에서 도입 과정과 활용 계획에 관해 설명하고 있다.

세계에서 다섯 번째, 가장 최신의 IBM 양자 컴퓨터

2024년 12월 4일, 연세대 국제캠퍼스가 있는 인천 송도로 향했다. 목적지는 양자 컴퓨팅 센터. 한국에서 첫 번째, 전 세계에서는 다섯 번째로 IBM의 양자 컴퓨터 ‘퀀텀 시스템 원’이 설치된 곳이다. IBM은 1980년대부터 이론 연구를 시작, 1990년대 중반부터 양자 컴퓨터 개발을 해왔다. 현재는 40여 년간 축적된 기술력을 바탕으로 양자 컴퓨터 분야를 이끌고 있다.

연세대 양자 컴퓨팅 센터는 과거 지혜관A동으로 사용되던 건물을 리모델링해 만들어졌다. 양자 컴퓨터가 들어올 수 있도록 1층 천장 고도를 높였고, 지진 등 외부 진동을 막기 위해 제진 장치를 바닥에 설치하는 작업이 이뤄졌다. 건물 내부로 들어가 짧은 복도를 지나자마자 바로 오른편에 퀀텀 시스템 원이 설치돼 있는 것을 볼 수 있었다.

“마치 국립중앙박물관의 사유의 방 같아요!” 감탄이 터져 나왔다. 내부 조명을 다 켜도 일반적인 밝기로 환하지 않아, 퀀텀 시스템 원에 시선이 갈 수밖에 없었다. 지금은 양자 컴퓨팅 센터 바로 옆에서 양자 연구동 건설 공사가 진행 중이라 다소 시끄러웠지만, 조만간 공사가 끝나면 아주 작은 진동에도 영향을 받는 양자를 위해 고요함이 내려앉을 공간이었다.

두 개의 견고한 유리창 뒤로 퀀텀 시스템 원은 검고 커다란 원통 안에 들어있었다. 양자 컴퓨터를 상상했을 때 쉽게 떠올릴 수 있는 ‘샹들리에’는 양자 컴퓨터의 본체 형태가 맞지만, 양자 컴퓨터는 절대 온도 0K, 즉 영하 273캜를 유지하기 위한 냉각 장치 안에 있어야 안정적으로 구동된다. 이 때문에 2021년 국제전자제품박람회(CES)나 2024년 퀀텀코리아처럼 대중들에게 그 화려한 모습을 보이기 위한 특별한 행사가 아닌 이상, 냉각 장치를 둘러싼 원통만 볼 수 있다.

“퀀텀 시스템 원은 ‘이글’이란 프로세서 칩으로 구동되는데, 이글 칩은 커다란 동전 정도 크기입니다. 나머지는 초전도 현상을 만들기 위한 초저온 장치죠.” 정재호 연세대 양자사업단장과 함께 고개를 숙여 아래에서 올려다보니 검은 원통 안쪽으로 양자컴퓨터를 한 겹 더 감싸고 있는 하얀색의 차폐 장치 끝자락이 보였다.

“IBM 클라우드에 접속하면 한국을 포함해 앞서 퀀텀 시스템 원이 설치된 캐나다, 미국, 독일, 일본의 양자 컴퓨터 성능 지표가 다 나오는데요, 재밌게도 이 지표상 가장 나중에 설치된 연세대의 퀀텀 시스템 원 성능이 가장 좋습니다.” 정 단장은 “정확한 이유는 모르지만, 나타나는 버그를 수정하고 펌웨어도 업데이트하는 등 시간이 지남에 따라 양자 컴퓨터 제작에 노하우가 쌓인 결과인 것 같다”며 웃었다.

▲Garry McLeod/Lawrence Livermore National Laboratory

미국 에너지부 산하의 로렌스 리버모어 국립연구소(LLNL)가 소유한 슈퍼컴퓨터 ‘엘 캐피탄(El Capitan)’. 2022년 미국 오크리지 국립연구소(ORNL)의 슈퍼컴퓨터인 프론티어가 세계 최초로 엑사스케일(초당 1엑사플롭스 이상의 계산 성능) 컴퓨팅 시대를 연 이후 2년 동안 유지하고 있던 최고 성능 자리를 엘 캐피탄이 2024년 넘겨 받았다.

슈퍼컴퓨터 개발이 끝나지 않은 시대, 양자 컴퓨터가 내놓은 답은?

2024년 6월 과학기술정보통신부는 약 2930억 원의 예산을 투입해 ‘국가초고성능컴퓨터 6호기’를 구축하겠다고 밝혔다. 성능으로 세계 10위 안에 드는 슈퍼컴퓨터를 구축하겠다는 것이었다. 당초 6호기는 2024년 구축이 목표였으나 GPU 등 핵심 부품 가격 상승의 영향으로 총 4483억 원을 들여 2026년 서비스를 개시하는 쪽으로 구축 계획이 변경됐다.

슈퍼컴퓨터는 0과 1로 정보를 처리하는 기존 컴퓨터를 빠르고 복잡한 계산을 수행할 수 있게 ‘업그레이드’한 장치다. 일반적으로 보통 사람들이 사용하는 컴퓨터에는 CPU와 GPU가 1개씩 장착된다. 슈퍼컴퓨터는 일반적인 단위를 훌쩍 뛰어넘는다. 수십만 개에서 수백만 개의 CPU와 GPU를 사용한다. 이들 프로세서를 동시에 작동시켜 계산 속도를 높인다.

2024년 기준 세계에서 가장 고사양의 슈퍼컴퓨터는 미국 로렌스 리버모어 국립연구소(LLNL)의 ‘엘 캐피탄(El Capitan)’이다. 약 100만 개의 CPU와 약 999만 개의 GPU가 연결된 엘 캐피탄의 실측성능은 1.742엑사플롭스(EFlops)로 1초에 174.2경 번 연산이 가능하다.

이처럼 초강력 슈퍼컴퓨터를 확보하기 위한 경쟁이 계속되는 중에, 양자 컴퓨터는 왜 ‘게임 체인저’라 불리는 걸까? “양자 컴퓨터는 골짜기가 여러 개인 산에서 가장 깊은 골짜기를 찾는 문제에 적합합니다.” 정 단장은 양자 컴퓨터가 슈퍼컴퓨터에 비해 경쟁력을 갖는 상황을 골짜기에 비유했다. 현재 슈퍼컴퓨터는 인공지능(AI)의 등장으로 날개를 단 모양새다. AI가 많은 데이터를 빠른 시간에 계산할 수 있는 훌륭한 도구이기 때문이다. AI는 마치 산 정상에서 한 걸음씩 내려오면서 가장 낮은 산골짜기가 어디인지 찾는 것처럼 잘 구조화된 문제를 정밀하게 계산해 오류율을 낮춘다.

문제는 산봉우리가 여러 개인 경우다. 슈퍼 컴퓨팅 시스템을 병렬로 만들 수 있지만, 곧 메모리 문제에 부딪힌다. 수백만 개의 프로세서가 병렬 처리를 위해 동시에 메모리에 접근하고자 할 때 데이터 전송 속도가 느려지는 병목 현상이 발생한다. 또 메모리에 저장할 수 있는 데이터의 양을 초과해 성능 저하가 생긴다.

더군다나 인류가 풀고자 하는 난제 중에는 몇 개의 봉우리를 살펴봐야 하는지조차 모르는 문제들이 많다. 여기서 상태를 얼마만큼 표현할 수 있냐는 질문이 중요해진다. 127큐비트로 구동되는 퀀텀 시스템 원은 2의 127승 개의 상태를 동시에 표현할 수 있다. “천문학 연구에 따르면 우주의 별은 10²²~10²⁴개 정도로 추산됩니다. 2¹²⁷개의 상태를 동시에 표현할 수 있는 퀀텀 시스템 원은 우주에 있는 모든 별을 각자 다르게 인식할 수 있습니다. 이처럼 양자 컴퓨터는 ‘글로벌 옵티마이저’, 즉 전역 최적화에 가장 적합한 도구입니다.”

유용성 단계의 양자 컴퓨터, 양자 오류 정정 기술로 국제 바이오 경쟁

연세대는 2022년 여름, IBM과 퀀텀 시스템 원 계약을 체결했다. 퀀텀 시스템 원은 최초로 상업화에 성공한 100큐비트급 양자 컴퓨터다. 100큐비트급은 양자 컴퓨터가 고전 컴퓨터와 비교해 양자 우위를 달성할 가능성이 크게 높아지는 수준으로 간주된다. 현재 한국에서 자체적으로 개발한 양자 컴퓨터로는 한국표준과학연구원(KRISS)이 2024년 1월에 발표한 20큐비트급 초전도 양자 컴퓨팅 시스템이 있다.

연세대 퀀텀 시스템 원의 제작 시간은 약 2년 정도 소요됐고, 올해 7월부터 설치를 시작해 10월 1일 설치 완료됐다. 이후 10월 15일 최초로 시험 가동을 시작했다. 정 단장은 “퀀텀 시스템 원이 주문 제작이 들어간 2년 여 동안 연세대는 IBM과 함께 양자 컴퓨터의 사용 방안에 대해 고민했다”고 말했다. 연세대가 내놓은 답은 ‘신약 개발’이다. 양자 컴퓨터를 이용하면 AI와 슈퍼컴퓨터보다 더 빠르게 신약을 개발할 수 있기 때문이다. 정 단장은 “특허 하나에 수십, 수백조원의 가치 창출이 이뤄지는 신약 개발 분야의 특성상 현재보다 더 빠른 계산 속도는 경쟁력을 크게 향상시킨다”고 강조했다.

연세대 국제캠퍼스가 위치한 송도는 2024년 6월, 첨단바이오특화단지로 지정됐다. 연세대는 대학에서 양자 연구 인력을 양성하고, 양자 과학기술을 연구하는 한편 주변의 바이오 기업과 함께 첨단 바이오 산업을 고도화하는 데 양자 기술을 활용하겠다는 전략을 내놨다. 일명 ‘바이오 퀀텀 클러스터’를 함께 만들어가겠다는 것이다. 정 단장은 “2025년 1월부터 퀀텀 시스템 원을 활용하고자 하는 바이오 기업들의 신청을 받을 예정”이라고 설명했다.

한편, 퀀텀 시스템 원은 현재 ‘유용성 단계’에 있다. 유용성 단계란, 양자 컴퓨터가 고전 컴퓨터는 해결하기 어려운 문제를 다룰 수 있는 능력을 갖췄음을 의미한다. 하지만 모든 분야의, 모든 문제 탐구에서 더 나은 도구인 것은 아니다.

양자 컴퓨터가 유용성 단계를 넘어서 상용화에 이르기 위해서 넘어야 하는 가장 큰 산이 무엇이냐는 기자의 질문에 정 단장은 “양자 오류 정정”이라고 대답했다. 양자 오류 정정은 양자컴퓨터에서 발생할 수 있는 오류를 탐지하고 또 수정하는 방법이다. 양자는 매우 민감하고 쉽게 붕괴할 수 있어서, 오류 정정 기술이 뒷받침되지 않는다면 유용한 양자 계산이 불가능하다. 정 단장은 이런 상황에서 “퀀텀 시스템 원 도입이 양자 오류 정정 기술 개발에 큰 동력이 될 것”이라 기대를 드러냈다. 수학적으로 설계한 오류 정정 알고리즘이 실제로 어떻게 동작하는지 확인해볼 수 있기 때문이다. 적은 개수의 큐비트를 활용하는 실험용 양자컴퓨터로 양자 오류 정정 알고리즘을 테스트할 때 보통 ‘오버 헤드’ 문제가 발생한다. 오류를 정정하는 데 양자 컴퓨터가 가진 대부분의 큐비트가 활용돼 정작 유용한 계산을 제대로 수행할 여력이 없어지는 문제다. 127개의 큐비트로 구동되는 퀀텀 시스템 원은 그럴 걱정이 없다.

구글, 양자 오류 정정 난제 해결한 양자 칩 ‘윌로우’ 개발

▲Google

2024년 12월, 구글이 새로운 양자 컴퓨터 프로세서 ‘윌로우(Willow아래 사진)’를 공개하며 “30년 동안 난제였던 오류 정정 문제를 해결했다”고 발표했다. ^{doi: 10.1038/s41586-024-08449-y}현재 양자 컴퓨터는 큐비트가 늘어날수록 계산 오류가 커지는 문제가 있다. 많은 수의 입자 상태가 외부의 영향을 받아 왜곡될 가능성이 커지기 때문이다. 105큐비트 윌로우 칩은 큐비트를 사각형 격자인 ‘표면 코드’ 구조로 배열해 양자 오류 정정 시스템을 구현했다. 연구팀은 표면 코드 구조 안에서 큐비트를 많이 사용하면 사용할 수록 오류가 줄어드는 것을 확인했다. 윌로우의 오류율은 ‘임계값 이하’로 나타났다. 임계값 이하는 양자 오류율을 제어 가능한 수준 이하로 줄이는 것으로, 양자 오류 정정에서 핵심 개념이다. 구글은 “윌로우 칩은 임계값 이하의 첫번째 시스템으로, 앞으로 대규모 양자 컴퓨터 구축의 기반이 될 것”이라고 기대를 드러냈다.

‘게임 체인저’ 양자 컴퓨터, 인류의 새로운 등불 될까?

‘가로등 효과’라는 것이 있다. 예를 들어 길을 걷다가 열쇠를 잃어버린 것을 뒤늦게 깨달았을 때 곧장 돌아서 온 길을 따라가며 찾아보더라도, 가로등이 켜진 길에서만 눈으로 열쇠의 유무를 파악할 수 있다. 만약 가로등이 비추지 않는 껌껌한 길에 열쇠가 떨어졌다면 아무리 꼼꼼히 살펴보더라도 보지 못하고 지나칠 가능성이 있다. 이처럼 과학 연구에서도 연구자는 문제를 해결할 때 접근하기 쉬운 방법이나 이미 이해가 된 영역에만 집중하는 경향이 있는데, 이런 연구 편향을 가리켜 가로등 효과라고 부른다.

정 단장은 계산 방식과 접근법이 고전 컴퓨팅과 근본적으로 다른 양자 컴퓨터가 오랫동안 제기된 과학 연구에서의 편향을 타파해 줄 미래 핵심 기술이라고 강조했다. “양자 컴퓨터는 그동안 우리가 어떤 질문을 마주하며 찾아냈던 답들이 정말 정답이었는지 아닌지를 알려줄 겁니다. 그리고 우리가 인지하지 못했던 영역에서 진짜 해답을 찾아낼 것입니다.”

▲courtesy of Quantinuum

2024년 4월, 글로벌 양자 기술 회사 퀀티넘과 함께 양자 오류 정정 분야를 연구하고 있는 마이크로소프트는 “이온 트랩 하드웨어와 큐비트 가상화 시스템을 사용해 1만 4000개 이상의 실험을 단 한 건의 오류 없이 실행했다”고 발표했다. 사진은 양자 컴퓨터에 레이저 펄스를 전달하는 데 사용되는 빔을 조정하는 퀀티넘의 과학자들.

d라이브러리

[주요기사] 수학적 사고력이 쑥쑥! 두뇌퍼즐