산업과 학문을 연결해 양자컴퓨터 기술 상용화에 앞장서는 이가 있다. 양자컴퓨터 개발 초창기 등장한 난제를 해결한 연구자였던 백한희 IBM 퀀텀 알고리즘 센터 디렉터다. 8월 18일, 미국 시카고에서 백 디렉터의 하루를 따라갔다.

 

 

백한희 IBM 퀀텀 알고리즘 센터 디렉터의 아침은 커피 한 잔으로 시작한다. “시카고에는 공정무역 커피 원두를 판매하는 곳이 여럿 있어요.” 백 디렉터는 단골 커피숍에서 원두를 사 와 집에서 자주 내려 마신다고 말했다. 오전 8시, IBM에 출근한 백한희 디렉터의 첫 일정은 동료들과의 일대일 대화와 짧은 회의였다. 백 디렉터는 2000년대 초, 양자컴퓨터 연구에 터를 닦은 연구자다. IBM에는 2014년에 입사해 양자컴퓨터 프로세서와 초전도 큐비트를 비롯한 하드웨어를 연구하고 설계했다.

 

백 디렉터와 양자컴퓨터의 인연은 약 25년 전으로 거슬러 올라간다. 백 디렉터는 초전도체 연구로 석사학위를 받은 뒤 2000년, 미국 메릴랜드대에서 박사학위 과정을 밟았다. “당시 지도교수님이었던 프레드 웰스투드 교수님이 초전도체 소자를 만들어 큐비트를 구현하는 연구를 시작했어요. 이를 계기로 저도 초전도 큐비트 연구를 시작했죠.” 백 디렉터가 설명했다.

 

당시는 양자컴퓨터 큐비트를 구현하기 위해 여러 이론이 제안되고, 이를 증명하기 위해 실험실에서 각자의 방법을 찾던 시기였다. 체계적인 연구 시스템이 갖춰지지 않은 건 당연했다. “연구 주제가 생기면 모든 걸 직접 만들어야 했죠.” 그렇게 길을 만들며 걷던 중 백 디렉터는 양자컴퓨터 난제를 해결해 전세계의 주목을 받았다.

 

“미국 예일대에서 박사후연구원을 하던 당시 초전도 양자컴퓨터의 큰 난제 중 하나가 큐비트가 양자 상태를 얼마나 오래 유지할 수 있느냐였어요. 이 시간을 ‘결맞음 시간’이라 하는데, 당시엔 이 시간이 너무 짧아 큐비트를 사용해 제대로 계산하기가 어려웠죠.” 당시 연구자들은 큐비트 표면의 결함이 에너지를 빼앗으며 양자 상태를 무너뜨린다고 봤다. 백 디렉터는 이렇게 빼앗기는 에너지를 당장 줄일 수 없다면 차라리 에너지를 저장하는 부분을 아주 크게 만들어 결함의 영향력을 줄이는 아이디어를 떠올렸다. 양자 회로를 작고 정교하게 만드는 연구가 대세인 시기에 정 반대의 생각을 한 것이다. 실험 결과, 약 1μs(마이크로초·100만 분의 1초) 정도의 결맞음 시간이 60μs까지 늘어났다. 백 디렉터가 당시 디자인한 큐비트는 지금도 대학 연구실에서 사용되고 있다.

 

 

오전 10시, 백 디렉터가 회의실 문을 열었다. 미국 어배너-섐페인 일리노이대와 IBM 소속 인공지능(AI)과 양자물리학 연구자들이 자리에 앉았다. 일리노이대와 IBM의 공동연구 프로그램 시작을 앞두고, 연구자들이 처음으로 모여 방향성과 계획을 공유하는 회의였다. 일리노이대와 IBM은 양자 프로세서와 슈퍼컴퓨터를 물리적으로 통합하기로 합의했기 때문이다.

 

양자컴퓨터와 슈퍼컴퓨터의 결합은 ‘양자 중심 슈퍼컴퓨팅’이라 부른다. 양자 중심 슈퍼컴퓨팅이란 양자컴퓨터와 기존의 슈퍼컴퓨터를 하나의 계산 시스템으로 결합해 사용하는 컴퓨팅 방식이다. 슈퍼컴퓨터의 안정적인 대규모 인프라와 범용 연산 능력을 양자컴퓨터의 초고속 연산 능력과 결합하는 기술이다. 백 디렉터는 IBM에서 이 개념이 처음 구체화되기 시작한 때부터 두 종류의 컴퓨터를 어떻게 연결할지, 계산 과정에서 데이터가 어떻게 오가야 할지, 이를 위해 어떤 연구가 필요한지를 정리했다. 현재는 특히 여러 대학 및 연구기관과 함께 이 시스템에서 실제로 사용할 수 있는 양자 알고리즘을 개발하고, 양자컴퓨터와 슈퍼컴퓨터를 함께 활용할 수 있는 문제를 찾는 공동연구를 진행하고 있다.

 

일리노이대 연구자들과 회의를 마친 백 디렉터는 라우라 가글리아르디 시카고대 화학 및 분자공학과 교수가 이끄는 연구실의 연구원들과 반가운 인사를 건냈다. “이론 및 계산화학 연구자들과 양자 컴퓨팅과 과학 연구가 교차하는 지점에 어떤 기회가 있을 지 논의했죠. 연구자들이 장기적인 과학적 난제를 어떻게 바라보는지 직접 확인할 수 있는 자리는 언제나 즐겁습니다.” 대화는 점심시간까지 이어졌다. 오후 1시, 백 디렉터는 회의실에서 샌드위치를 주문해 시카고대 연구자들과 함께 점심을 먹으며 대화를 이어나갔다.

 

 

 

오후 업무도 미팅으로 빼곡했다. “시카고대 교수진 및 연구 리더들과의 미팅이 연속으로 있었어요.” 데이비드 마찌오티 시카고대 화학과 교수와 지울리아 갈리 시카고대 화학과 교수팀 연구원들과 백 디렉터는 양자 연구의 방향과 협력 방법에 대해 논의했다.

 

과거 직접 큐비트를 만들던 백 디렉터는 오늘날 사업 개발과 조직 운영에 좀더 초점을 맞추고 있다. “양자 하드웨어, 알고리즘, 고성능컴퓨팅 등 다양한 분야를 탐구했지만 사업개발이나 조직 운영은 완전히 새로운 영역이었어요. 사업개발 전문가들과 함께 일하면서 협상하는 법, 사람들과 소통하는 법, 관계를 만들어가는 법 같은 것을 배워야 했죠. 결국 새로운 분야로 가려면 배워야 합니다. 그리고 배우기 위해서는 열린 자세가 있어야 해요. 돌이켜보면 제 전문성을 넓히는 과정에는 항상 다른 분야의 전문가들이 있었습니다. 제가 제 자신에게 한 가지 칭찬을 한다면, 그런 사람들에게 배우고 싶어 했고 실제로 적극적으로 배웠다는 점인 것 같아요.”

 

 

 

늦은 오후부터 초저녁까지 백 데릭터는 팀원들과 미팅에서의 논의 내용을 정리하고, 다음 계획을 세웠다. “저는 당장 눈 앞에 있는 문제를 어떻게 풀 수 있을지 고민하면서 살아왔어요. 지금도 당장 할 수 있는 것을 열심히 하고 동료들과 함께 눈앞의 문제를 하나씩 풀어가고 싶어요. 현재 가장 관심 있는 건 양자 중심 슈퍼컴퓨팅이 실제로 어디까지 갈 수 있는지를 더 확인해보는 거예요. 양자컴퓨터와 슈퍼컴퓨터를 결합했을 때 어떤 새로운 계산이 가능한지, 또 거기에 어떤 알고리즘이 필요한지 계속 연구해보고 싶어요.”

 

 

 

 

‘엑사원 디스커버리’는 과거 22개월이 필요했을 후보 물질 발굴을 단 하루 만에 끝냈다. 이제 한세희 LG AI연구원 머티리얼즈 인텔리전스 랩장은 인공지능(AI) 자율주행실험실을 디자인하고 있다. 지난 8월 20일, 한 랩장이 북미로 떠난 출장 중 하루를 따라갔다.

 

 

오전 9시 30분, 캐나다 토론토대 액셀러레이션 컨소시엄 건물 입구에서 한세희 LG AI연구원 머티리얼즈 인텔리전스랩장(소재화학랩장)의 하루가 시작됐다. 대학에서 화학공학을 전공한 한 랩장은 2002년 LG화학에 입사해 2020년 LG AI연구원 머티리얼즈 인텔리전스랩을 이끌고 있다. 머티리얼즈 인텔리전스랩은 화학·소재 연구자들이 현장에서 마주하는 문제를 인공지능(AI)으로 해결하는 연구 조직이다.

 

액셀러레이션 컨소시엄은 AI와 로봇을 결합해 화학·소재 탐색 속도를 높이는 자율실험실(SDL·Self-Driving Lab) 연구 기관이다. 한 랩장은 “화면과 보고서로 검토해 오던 기술이 실제 가동되는 현장을 직접 확인하고 협력 방안을 타진하기 위해 방문했다”고 설명했다.

 

첫 일정은 LG가 구상하고 있는 자율실험실에 관해 컨소시엄 관계자들에게 소개하는 자리였다. 자율실험실은 AI가 다음 실험 조건을 고르고, 로봇이 실험을 수행하는 공간이다. 그 결과를 AI에 다시 입력하면 AI는 다음 실험을 설계한다. 자율실험실은 소재 개발에 소요되는 시간을 단축하고, 기존보다 훨씬 넓은 범위를 빠르게 탐색할 수 있다. “LG가 만들려는 자율실험실은 이미 개발된 AI 모델의 성능만 확인하는 시설이 아니라, AI가 아직 학습하지 못한 화학 영역을 스스로 탐색하고, 새로운 실험 데이터를 계속 생산하는 곳이죠.” 한 랩장이 말했다.

 

 

 

회의가 끝난 뒤, 합 랩장은 자리를 옮겨 엑셀러레이션 컨소시엄의 의약화학 자율실험실을 살폈다. 실험실에서는 후보 물질을 합성하고, 성분을 분석하고, 표적 단백질과 잘 결합하는지 확인하는 과정이 하나의 자동화 라인으로 연결돼 있었다. 

 

한 랩장의 눈길을 사로잡은 것은 수십 억 원을 호가하는 첨단 장비보다, 현장 연구원들이 직접 만들어낸 ‘커스텀 조율 장치’였다. 연구원들은 로봇 팔이 장비의 문을 열고 시료를 전달할 수 있도록 3D 프린터로 직접 제작한 손잡이와 맞춤형 그리퍼를 로봇팔에 장착했다. 서로 다른 목적으로 만들어진 장비를 하나의 자동화 시스템으로 연결하기 위해 현장에서 찾아낸 해결책이었다. “컴퓨터과학을 전공하지 않은 화학자들이 AI 코딩 도구를 활용해 실험을 감시하는 프로그램을 직접 만들어 쓰고 있다는 점도 흥미로웠어요.”

 

자율실험실에서 AI는 연구자가 더 좋은 판단을 내릴 수 있도록 실험 조건을 제안하고 데이터를 분석하는 도구에 가까웠다. “처음 계산기가 만들어졌을 때처럼 AI는 좋은 도구예요. 과학자와 AI가 일자리를 놓고 경쟁한다고 보기보다, 지금까지 갈 수 없었던 더 넓은 공간을 함께 탐색할 수 있게 됐다고 봐야 하죠. 과학에는 아직 풀지 못한 문제가 너무 많습니다. 논문과 책에 적힌 지식만으로는 담기 어려운 연구자의 경험과 판단이 더 중요해질 거예요. 어떤 가설을 버리고 어떤 방향을 더 탐구할지 결정하며 AI의 답을 올바른 방향으로 이끄는 일은 사람이 해야 합니다.”

 

 

점심 식사는 프랭크 구 토론토대 화학공학 및 응용화학부 교수 연구팀과 함께했다. 구 교수는 의약품과 화장품 등의 ‘제형’을 개발하는 자율실험실 연구를 이끌고 있다. 제형은 하나의 유효성분을 실제 제품으로 만드는 방법을 뜻한다. 유효성분에 용매와 첨가제를 어느 비율로 섞느냐에 따라 제품의 안정성과 질감, 성능, 체내 전달 방식이 달라진다.

 

LG AI연구원이 개발한 분자 파운데이션 모델 ‘엑사원 디스커버리’가 대화의 주요 화제였다. 파운데이션 모델은 많은 데이터를 미리 학습한 뒤 하나의 목적에만 쓰이지 않고 여러 문제에 활용할 수 있도록 만든 범용 AI 모델이다. 엑사원 디스커버리는 별도의 추가 학습 없이도 저분자 유기 물질의 40여 가지 물성을 즉시 예측하고, 분자 생성과 화학 반응 결과까지 사전에 도출해 낼 수 있다. 2026년 LG생활건강과의 협력 과제에서, 기존 방식으로는 22개월이 소요됐을 화장품 효능 소재 ‘람시딜’의 최적 분자 구조를 단 하루 만에 도출해 내는 성과를 입증한 바 있다.

 

 

 

한 랩장이 이날 마지막으로 만난 이는 벤저민 산체스-렝겔링 토론토대 화학공학 및 응용화학부 교수였다. 산체스-렝겔링 교수는 AI를 이용해 새로운 화학물질을 탐색하는 연구자다. 그는 2023년, 분자 구조만 보고 그 물질에서 어떤 향(냄새)이 날지 예측하는 ‘후각 지도’ 모델을 공동 개발해 주목을 받았다.

 

“산체스-렝겔링 교수가 냄새 혼합물을 최적화하는 자율실험실, 사람이 색을 조합하듯 향료를 조합하는 ‘냄새의 RGB’ 모델 등에 관해 소개했는데, 모든 주제가 제 호기심을 강하게 자극하더라고요.” 한 랩장이 말했다. ‘냄새의 RGB’는 몇 가지 기본 요소의 조합으로 복잡한 냄새를 표현할 수 있는 원리를 찾으려는 연구다. 이런 체계가 만들어지면 AI가 원하는 냄새를 내는 분자 조합을 예측하고, 자율실험실이 실제로 혼합해 결과를 확인할 수 있다. 대화는 분자 파운데이션 모델의 구조와 학습 방법, AI가 세운 가설을 자율실험실에서 실제로 검증하는 방법을 놓고 긴 기술 토론으로 이어졌다.

 

“고된 하루였지만 저희 연구원이 갖춘 기술과 액셀러레이션 컨소시엄의 역량이 만나면 좋은 성과를  만들어낼 것이라 확신할 수 있었던 하루였어요.” 한 랩장이 말했다. “토론토 출장 기간에 BTS 콘서트가 겹쳐 출장단 모두가 작은 집에서 함께 묵었어요. 저녁에 거실에 모여 앉아 교류한 기술을 반추하며 의견을 나누었는데, 자율실험실의 궁극적 지향점은 실험실에서 사람을 빼내는 것이 아니라, 단순 반복 작업에서 벗어난 연구자가 ‘더 크고 본질적인 과학적 질문’을 던질 수 있도록 돕는 데 있다는 것을 확신할 수 있었습니다.”