조금 더 미래로 눈을 돌리면 반도체의 한계를 극복하기 위해 과학계가 약 80년간 유지한 컴퓨터의 기본을 뒤엎으려는 연구자들이 있다. 기존의 캔버스 위에 새 혁신을 그리기에는 여백이 부족해, 원점에서 스케치부터 다시 시작했다. 뇌처럼 생각하고 기억하는 ‘뉴로모픽 반도체’와 전자의 스핀을 이용하는 ‘스핀트로닉스 반도체’가 반도체의 미래를 새롭게 그린다. ‘실리콘 포토닉스 반도체’는 빛으로 정보를 옮긴다는 아이디어로 기존 반도체를 보완한다. SF 같지만 가까이 다가오고 있는 차세대 반도체를 만들 세 가지 기술을 전한다.

▲Shutterstock

삼성전자, SK하이닉스, 엔비디아. 반도체 하면 떠오르는 기업들의 움직임이 심상찮다. 2025년 11월 21일 삼성전자는 보도자료를 통해 박홍근 전 미국 하버드대 교수를 SAIT(옛 삼성종합기술원) 신임 원장으로 위촉했다고 밝혔다. SAIT는 삼성전자가 미래를 먹거리가 될 핵심 기술을 개발하는 종합 연구소다.

박 원장은 ‘뉴로모픽 반도체’ 대가로 꼽힌다. 삼성전자는 미래 반도체 시장을 이끌 기술로 뉴로모픽 반도체를 눈 여겨 보고 있다. 뉴로모픽 반도체란, 신경망을 모방해 만든 새로운 형태의 반도체다. 뇌처럼 연산과 저장을 한 곳에서 처리하겠다는 게 핵심이다.

전자의 스핀으로 정보를 저장하는 ‘스핀트로닉스 반도체’도 주목을 받는다. 전세계 메모리 반도체 시장을 양분하는 삼성전자와 SK하이닉스는 지금, 전자의 흐름을 이용하던 기존 시스템에서 벗어나 스핀트로닉스 반도체를 연구하고 있다. 스핀트로닉스 반도체는 기본적으로 메모리 반도체인데, 최근에는 간단한 연산 기능까지 결합하려는 시도도 진행되고 있다. 계산 기능이 있는 메모리 반도체는 데이터를 동시에 병렬적으로 연산해야 하는 인공지능(AI) 에서 빛을 발할 것으로 기대된다.

해외에서는 미국의 반도체 기업 엔비디아가 2026년 내로 실리콘 포토닉스를 도입한 AI 반도체 ‘베라 루빈’을 내놓을 것이라는 전망이 나온다. 3월 16일 젠슨 황 엔비디아 최고경영자(CEO)는 기자간담회에서 “실리콘 포토닉스 기업과 긴밀히 협력할 것”이라고 했다. 실리콘 포토닉스는 전기가 아닌 빛으로 정보를 보내는 기술이다. 에너지 소비량이 적고, 빠르게 많은 데이터를 동시에 보낸다는 장점이 있다.

빛, 스핀, 그리고 뇌. 반도체가 기존의 틀을 넘어 새로운 과학에 손을 뻗고 있다. 조류가 뒤바뀔 때, 휩쓸리지 않으려면 이 흐름이 어디서 시작해서 어떻게 나아갈지 바라볼 눈이 필요하다. 뉴스 속 단편적 정보를 넘어, 반도체를 꿰뚫는 눈을 전수받기 위해 전문가들을 만났다.

▲Shutterstock

젠슨 황 엔비디아 최고경영자(CEO)는 3월 16일 차세대 반도체 ʻ베라 루빈’을 공개했다. 베라 루빈은 실리콘 포토닉스 기술을 이용해 데이터를 송수신한다.

AI, 폰 노이만의 그림을 찢다

반도체 기술이 왜 새 페이지를 펼쳐야 했는지 먼저 짚어야 한다. 현재의 컴퓨터는 1945년 수학자 존 폰 노이만이 개발한 ‘폰 노이만 구조’에 따라 설계됐다. 폰 노이만 구조는 컴퓨터의 작동을 제어하고 명령어를 해석해 연산하는 중앙 처리 장치(CPU)와 데이터를 저장하는 메모리로 이뤄졌다. 이해를 쉽게 하기 위해 비유를 하자면, CPU는 요리사다. 메모리에는 식재료와 레시피가 저장돼 있다.

요리사가 식재료와 레시피를 전달받기 위해선 둘 사이에 운송수단이 있어야 한다. 컴퓨터에선 이 역할을 버스(BUS)가 맡는다. 컴퓨터에서 버스는 장치와 장치를 오가는 데이터 통로다. CPU와 메모리 반도체 사이에도 버스가 있다. 승객은 메모리 반도체에 저장된 데이터와 프로그램이다. 버스를 통해 CPU는 메모리 반도체에 저장된 데이터(식재료)와 프로그램(레시피)을 불러와 연산(요리)을 수행한다. 이 연산의 결괏값(음식)은 다시 버스를 지나 메모리 반도체에 저장된다. CPU가 아무리 빠르고, 메모리 반도체의 저장 용량이 아무리 많다고 한들 사이의 버스가 포화되면 컴퓨터는 느릴 수밖에 없다. 미슐랭 급 식당의 요리사들이 최고급 식재료를 주문해 놓고도 배송이 늦어져 칼을 들고 하염없이 기다리는 꼴이다. 이를 ‘폰 노이만 병목현상’이라고 한다.

폰 노이만 병목현상은 AI 시대, 컴퓨터의 결정적인 한계점이 됐다. AI를 구동하기 위해선 방대한 양의 명령어와 데이터를 메모리 반도체에서 불러와 CPU에서 연산하는 작업을 반복해야 한다. 작은 식당에서 수석 셰프가 최고급 요리를 만드는 것보다는 수천, 수만 명의 요리사가 동시에 당근 볶음을 하는 것에 더 가깝다. 다량의 당근이 빠르게 전달돼야 한다. 따라서 버스를 오가는 정보량이 많아진다. 너무 많은 정보가 오가, 버스가 포화되면 CPU와 같은 시스템 반도체가 정보를 받을 때까지 대기하는 시간이 생긴다. 그래서 반도체 연구자들은 결정했다. 폰 노이만 구조를 벗어나자고.

차세대 반도체 3종 비교

▲GIB

뉴런은 뇌의 신경망을 구성하는 세포로, 뉴런과 뉴런 사이에는 시냅스가 있다. 시냅스는 서로 다른 뉴런들 사이에 정보를 전달한다.

뉴로모픽 반도체, 뇌의 기능을 고스란히 담다

“메모리와 시스템 반도체가 합쳐져 있으면서, 스파이크, 아날로그라는 요소를 사용하는 반도체를 뉴로모픽 반도체라고 부를 수 있습니다.” 3월 5일 연구실에서 만난 정홍식 UNIST 반도체 소재·부품 대학원 교수가 말했다. 그의 말을 이해하기 위해서 우선 뉴로모픽, 즉 뇌 신경을 모사한다는 게 어떤 의미인지 알아보자.

뇌의 신경망은 뉴런, 그리고 뉴런과 뉴런 사이를 잇는 시냅스로 구성된다. 뉴런에는 길다랗게 생긴 ‘축삭’이라는 팔이 있다. 축삭을 따라 전기 신호(신경 신호)가 이동하는 일종의 회로다. 그런데 전기 신호가 흐르기 위해선 우선 임계점을 넘어야 한다. 물레방아에 물을 한 방울 넣는다고 해서 물레방아가 회전하진 않는다. 물레방아를 돌릴 만큼의 물이 쏟아져야 한다. 마찬가지로, 축삭을 따라 전기 신호가 흐르려면 우선 뉴런의 전압이 임계점을 넘어야 한다. 그러면 전압이 급격히 상승하는 ‘스파이크’가 발생하고, 전기 신호가 전달된다.

뉴런의 전압은 유동적으로 변한다. 이렇게 연속적으로 변하는 물리량을 ‘아날로그’라고 부른다. 현재 반도체는 0과 1이라는 두 개의 물리량을 활용해 작동하는 디지털 신호를 사용한다. 뇌의 신경망은 여러 개의 물레방아가 복잡한 그물처럼 연결되는 식으로 구성된다. 한 뉴런이 다른 뉴런보다 더 많은 전기 신호를 쏟아부을 수도 있고, 여러 개의 뉴런이 합쳐 임계점을 넘는 전기신호를 보내기도 한다. 이 신호의 합, 물레방아에 떨어지는 물의 합이 임계점을 넘으면 스파이크가 발생한다. 이것이 정 교수가 짚은 ‘스파이크’와 ‘아날로그’라는 요소다.

뉴런을 완전하게 모사하는 뉴로모픽 반도체는 전류의 크기를 조절하는 장치인 트랜지스터를 이용해 뉴런처럼 동작하는 회로를 만든다. 이렇게 만든 회로 A에 회로 B, C, D를 연결한다. 회로 A를 통해 전류가 흐르게 하기 위해선 회로 B, C, D를 통해 전해진 전류의 전압 총합이 임계점을 넘어야 한다. 이런 시스템을 통해서 반도체의 처리 장치 역할을 뉴로모픽 반도체에서 구현할 수 있다.

폰 노이만 구조와 뉴로모픽 반도체

▲자료: Integration

폰 노이만 구조는 현재 대부분 컴퓨터의 구성방식으로 채택됐다. 중앙 처리 장치(CPU)와 데이터를 저장하는 메모리로 이뤄졌다. 뉴로모픽 반도체의 경우, 처리 장치 역할을 뉴런이, 메모리 역할을 시냅스가 맡는다.

뇌처럼 기억하고 뇌처럼 생각하는 AI

스파이크를 기준으로 정보를 처리하는 인공 신경망 모델을 ‘SNN(Spiking Neural Network)’이라고 한다. 기존 딥러닝에서는 입력되는 값을 숫자로 변환하지만, SNN에선 스파이크 발생 빈도로 변환한다. 변환한 신호를 시냅스, 즉 메모리에 저장된 가중치 값에 따라 연산하는 식이다.

SNN는 스파이크가 발생할 때, 연결된 뉴런들만 반응해 정보를 처리한다. 반면, 기존 딥러닝 방식은 입력값이 들어오면 모든 계층이 반응해 정보를 처리한다. 그러니 SNN을 이용하면 불필요한 에너지 소모를 대폭 줄일 수 있다. AI 시대, 데이터 처리를 위해 소비하는 전력량은 가장 큰 걸림돌이다. 뉴로모픽 반도체는 이 부담을 덜 근본적 해결책으로 꼽힌다.

나아가 뉴로모픽 반도체는 메모리 역할도 한다. 뇌의 신경망에선 자주 연결돼 작동하는 뉴런 사이 시냅스에 가중치가 생긴다. 뉴런 A에 연결된 뉴런들 중에 뉴런 B가 유독 더 자주 신호를 준다면, 뉴런 A는 뉴런 B에서 온 신호에 더 크게 반응한다. 이렇게 시냅스에 가중치가 ‘저장’되는 방식으로 저장 기능을 한다.

뉴로모픽 반도체는 언제쯤 상용화될까. 정 교수는 “까다로운 질문”이라며 “인류가 폰 노이만 구조 안에서 수십 년 동안 쌓은 인프라를 한번에 바꾸는 일은 쉽지 않을 것”이라고 말했다. 그러나 “뉴로모픽한 접근방식을 활용한 반도체는 이미 상용화 단계에 있다”고 했다.
예시로는 ‘PIM(Processing in Memory)’이있다. 앞서 뇌의 신경망은 시스템과 메모리 반도체의 역할을 동시에 한다고 설명했다. 이는 중요한 장점이다. 폰 노이만 병목현상은 시스템과 메모리 반도체가 분리돼 있어, 이들 사이를 잇는 데이터 통로가 포화돼 생긴다. 애당초에 시스템 반도체와 메모리 반도체가 붙어있으면 문제가 없을 테다. 이 장점만 차용한 반도체가 바로 PIM이다. 정 교수는 “현재 삼성전자와 SK하이닉스가 메모리 반도체, D램(DRAM)을 기반으로 PIM을 구현하고자 한다”고 말했다.

D램을 여러 장 쌓아 만든 것이 HBM이다. 정 교수가 말한 ‘D램 기반 PIM’을 HBM-PIM이라고 부른다. 간단히 설명하자면, 메모리 반도체에서 시스템 반도체로 정보를 보내기 전에 PIM이 간단한 ‘전처리’ 연산을 하는 것을 말한다. 앞서 소개한 당근 볶음의 예시를 다시 가져와보자. AI를 구동하기 위해선 수백, 수만 명의 요리사(처리 장치)가 당근과 당근 볶음 레시피를 저장고(메모리)에서부터 버스를 통해 배송 받은 다음 요리를 해야 한다. HBM-PIM은 견습 요리사가 저장고에 있다가, 당근을 다듬어 주방으로 보내는 식이다. 버스로 운송하는 물류의 양이 줄고, 요리사의 손도 덜 수 있다.

▲Intel

인텔이 2019년 공개한 뉴로모픽 반도체 ‘포호이키 비치(Pohoiki Beach)’는 1세대 뉴로모픽 반도체 로이히(Loihi)를 64개 이어붙인 형태로, 800만 개의 뉴런이 구현돼 있다.

전자 스핀 이용해 ‘메모리-시스템’ 합친다면

정 교수는 HBM-PIM 다음에 올 차세대 반도체로 STT-MRAM을 적용한 PIM을 꼽았다. D램은 정보가 영구적으로 저장되지 않고 휘발된다는 특성이 있다. STT-MRAM은 스핀 전달 토크(STT) 기술을 사용한 MRAM이다. 갑자기 어려운 말이 나왔는데, STT는 MRAM을 구현하는 효율적인 방식이라고 보면 된다. MRAM이란 단어에 집중해보자. MRAM은 전자의 자기적 특성을 이용한 반도체다. 전문가인 한동수 한국과학기술연구원(KIST) 반도체기술연구단 책임연구원을 3월 9일 만나 설명을 들어봤다.

쉽게 말해 MRAM은 자기력을 이용하는 반도체다. 전자에겐 스핀이라는 각운동량 특성이 있다. 이에 따라 전자의 자기장은 위 또는 아래 방향으로 형성된다. 이걸 업스핀, 다운스핀이라고 부른다. 전자의 스핀 방향은 외부에서 전기를 흘려 조절할 수 있고, 전기를 공급하지 않아도 계속 유지된다. 이런 점을 이용해 영구적 메모리를 만들 수 있다. 전자의 스핀을 이용해 정보를 저장하는 반도체를 ‘스핀트로닉스 반도체’라고도 부른다.

MRAM은 D램보다 정보 처리 속도가 빠른 데다가, S램 대비 더 많은 정보를 저장할 수 있다. 여기에 더해, 정보 처리를 할 수 있다는 중요한 장점도 있다. 폰 노이만 구조에서 정보 처리를 하는 논리회로는 0 또는 1이란 명확한 두 상태를 가진 소자를 이용해 구현한다. 전기의 흐름을 기반으로 논리 연산을 할 경우 전기가 흐를 때를 1, 흐르지 않을 때를 0에 대응시킨다. MRAM에선 업스핀을 1, 다운스핀을 0에 대응시키고 간단한 곱 연산과 덧셈 등을 한다.

“MRAM은 원래 메모리 기능을 하도록 연구가 진행됐는데, 최근에는 연산까지 할 수 있는 MRAM 연구가 많이 되고 있습니다.” AI 시대에는 메모리와 시스템 반도체가 합쳐지고 있다는 게 한 책임연구원의 설명이다. “AI에 최적화된 차세대 반도체는 메모리 반도체 자체에서 일정 부분의 연산을 수행하고 처리장치에서는 최종값만 뽑아내는 방식을 지향합니다.”

업스핀과 다운스핀

스핀은 전자가 가지고 있는 각운동량이다. 전자가 실제로 회전하지는 않지만, 직관적으로 설명하자면 전자가 시계 반대방향으로 회전할 때 업스핀(자기장 방향이 위쪽), 시계 방향으로 회전할 때 다운스핀(자기장 방향이 아래쪽)이라고 볼 수 있다.

가까운 미래의 그림 그리는 ‘실리콘 포토닉스’

“뉴로모픽 반도체나 스핀트로닉스 반도체는 모두 새로운 컴퓨터 구조를 만들기 위한 것입니다. 하드웨어 전체를 바꾸죠. 실리콘 포토닉스는 조금 더 실용적이고 손에 잡히는 접근방식입니다. 전기를 이용해 정보를 전달하던 기존 시스템을 빛을 이용해 정보를 전달하는 방식으로 바꾸는 겁니다.” 한상윤 DGIST 로봇및기계전자공학과 교수가 3월 10일 화상인터뷰에서 말했다. 그는 실리콘 포토닉스 분야에서 많은 성과를 내고 있는 연구자다.

실리콘 포토닉스 반도체는 시스템 반도체와 메모리 반도체 사이를 광통신으로 연결한 형태다. 한 교수는 실리콘 포토닉스 반도체를 “비행기를 타고 이동하는 것”이라고 설명한다. 전자를 이용해 정보를 이동시키는 건 지상에서 차를 이용하는 것과 같다. 익숙하고, 다루기 쉽지만 느리다. 한편, 빛은 존재하는 순간 광속으로 이동한다. 다루기도 어렵고, 빛을 이용한 장치를 제작하는 데 비용도 많이 든다. 그럼에도 엔비디아가 현재 실리콘 포토닉스를 접목한 반도체를 만들고자 공격적으로 투자하는 이유가 있다. 역시 폰 노이만 구조의 한계 때문이다.

빛은 적은 에너지로도 수 미터, 수 킬로미터까지 정보를 보낼 수 있다. 게다가 여러 파장의 빛을 한번에 보내면 한 통로로 훨씬 많은 데이터를 전달할 수도 있다. 시스템 반도체와 메모리 반도체 사이를 잇는 버스가 말 그대로 광속이 되는 셈이다. 그래서 제작 비용이 더 드는 것을 감수하고서라도 에너지 효율과 빠른 처리 속도를 챙겨야 하는 분야, 연산을 많이 해야 하는 분야에서 수요가 있다. AI가 좋은 예시다.

“엔비디아, 인텔, 구글, 마이크로소프트, 아마존 등 AI를 한다는 광범위한 기업들이 관심을 가집니다. 고성능 컴퓨팅 시스템이 필요한 사람, 고성능 컴퓨팅 시스템을 설계하고 만들어 팔아야 하는 사람, 이걸 제조해야 하는 사람들 전부 관심을 가지죠.”

한재훈 KIST 차세대반도체연구소 선임연구원은 3월 10일 인터뷰에서 “실리콘 포토닉스 반도체는 기존 반도체 설비를 적용해 제작하기도 쉽다”고 설명했다. 웨이퍼(반도체 집적 회로를 만드는 원판)를 깎아 빛이 지나가는 길인 도파로를 만들고, 그 도파로로 광회로를 만든다. 이 과정은 메모리 반도체를 제작하는 과정과 기본적으로 똑같다는 게 한 선임연구원의 설명이다.

특히나 실리콘 포토닉스 기술을 보유한 미국의 반도체 파운드리 기업 글로벌 파운드리는, 광자 기반 양자컴퓨터 스타트업들과 협업하면서 관련 연구분야에 대규모 투자를 이어가고 있다. KIST 양자기술연구단 권형한 선임연구원은 3월 9일 “광자 기반 양자컴퓨터 기술과 실리콘 포토닉스 반도체 기술은 서로 연결되어 있다”면서 “양자컴퓨터 개발 기술이 폰 노이만 구조의 한계를 돌파하는 데 도움이 되므로 투자가 이어지는 것”이라고 풀이했다.

▲김소연

3월 9일 한국과학기술연구원(KIST)에서 만난 한동수 반도체기술연구단 선임연구원이 스핀트로닉스 반도체의 구조를 관찰하는 장비 앞에 서 있다.

▲Shutterstock

▲LioniX

실리콘 포토닉스 반도체는 광통신 기술을 이용해, 전자의 흐름으로 정보를 전송하던 기존 시스템보다 에너지를 더 절약하고 통신 속도를 높일 획기적인 방법으로 꼽힌다.
왼쪽 사진은 데이터센터의 송전 케이블. 오른쪽은 네덜란드 기업 라이오닉스(LioniX)의 실리콘 포토닉스 반도체다. 빛 신호가 지나는 도파로를 따라 붉은 빛 레이저가 지난다.

한국에 온 기회, 기업과 학계가 손잡을 때

폰 노이만 구조의 한계를 극복하려는 시도들은 이미 많은 결실을 얻었다. 뉴로모픽 반도체를 활용하는 흥미로운 예시가 하나 있다. 김재욱 KIST 반도체기술연구단 선임연구원의 목표는 소뇌를 모사한 반도체를 개발하는 것이다. 김 선임연구원은 3월 10일 기자와 만나 “뇌과학 연구자와 팀을 이뤄 소뇌를 이용한 자율주행 승차감 개선 시스템을 만들었다”고 했다.

“소뇌는 자연스럽고 부드러운 움직임을 구현하는 부위입니다. 이 자율주행 시스템은 인간의 주행을 학습해 부드럽게 주행할 수 있습니다. 학습이란, 실수가 발생했을 때 최적화를 통해 이를 극복하는 과정입니다. 뉴로모픽 반도체에 피드백 알고리즘 등을 탑재해 자율주행 시스템이 인간의 주행 방식을 계속해 비교하고 닮아가도록 만들었죠. 다음 목표는 소뇌를 모사한 뉴로모픽 반도체를 피지컬 AI에 적용해 어떤 상황에서도 최적화를 통해 자연스럽게 움직이는 로봇을 만드는 겁니다.”

대규모 뉴로모픽 반도체도 공개된 바 있다. 인텔은 2017년 1세대 뉴로모픽 반도체 로이히(Loihi)를 공개한 데 이어 2021년 로이히2를, 2024년엔 할라 포인트(Hala Point)를 공개했다. 할라 포인트는 1억 5000만 개의 뉴런과 1280개의 시냅스를 구현한다. 김 선임연구원은 “CPU 하나로 세계를 제패한 회사, 인텔이 AI 시대에 폰 노이만 구조의 대척점에 있는 두뇌를 닮은 반도체가 경쟁력이 될 것임을 아는 것”이라고 풀이했다.

스핀트로닉스 분야에선 삼성전자가 2018년 세계 최초로 28나노 STT-MRAM을 양산했다. 삼성전자는 반도체 위탁 생산 공장인 ‘파운드리’를 보유하고 있다. 메모리뿐 아니라 시스템 반도체 또한 생산할 수 있기에 STT-MRAM을 탑재한 PIM을 생산하기에 적합한 환경이다. SK하이닉스는 파운드리가 없는, 메모리 반도체에 특화된 기업이다. D램을 대체할 MRAM을 단독으로 만드는 방향성을 택했다.
메모리 강국인 한국 기업들이 MRAM을 메모리로서 사용할 연구를 이어가는 한편, 반도체 제조 기업인 대만의 TSMC는 연산 기능을 탑재한 MRAM연구에 몰두하고 있다. “TSMC는 기초연구에 더 열려 있어요. 파운드리 회사는 고객의 수요에 맞춰 최적화된 반도체를 만들어내야 하니까요. 기초연구를 통해 얻은 노하우를 공정에 반영할 수 있는 여지가 있어, 연구기관들에 자사의 정보를 주며 협업합니다.” 한 책임연구원의 설명이다.

차세대 반도체를 취재하면서 만난 연구자들은 공통적으로 차세대 반도체에서도 ‘메모리와 비메모리’라는 기존 구도가 무너지고 있다고 짚었다. 이는 메모리 반도체 강국으로 자리매김해온 한국에 기회가 될 수 있다.

정 교수는 현재 상황을 “한국 산업의 분기점”이라고 짚었다. “폰 노이만 구조의 한계를 극복하려는 시도가 이어지면서 시스템 반도체와 메모리 반도체 사이의 경계가 허물어지고 있습니다. 설계만 잘해서는 AI 시대를 이끌기 힘들죠. 메모리에 강점을 둔 한국 기업들이 설계까지 선도할 새로운 기회입니다. 정부는 그런 면에서 다양한 연구사업을 진행해 성과를 얻었다고 봅니다. 그러나, 기업 입장에서는 당장 먹거리가 될 기술이 우선순위다 보니 멀리 바라보고 연구하기가 쉬운 일이 아닙니다. 시장을 선도할 기술이 있을 때, 기업이 학계와 손잡고 새로운 시도를 해보면 좋겠습니다.”

정 교수는 1992년부터 2013년까지 삼성전자 반도체 사업부 부사장을 맡은 바 있다. 산업과 학계를 아우른 그의 경험이 전해주는 인사이트다.