인공지능(AI) 시대가 열리며 메모리의 가치가 연일 고공행진 중이다. 시스템 반도체를 보조하는 ‘을’의 역할만 해왔던 메모리 반도체가 주역으로 올라서며, 그간 뚜렷이 양분됐던 두 반도체의 경계가 무너지고 있다. 그간 메모리 반도체 공정 선진국이었던 한국은 이제 ‘잘 만드는(제조)’ 강국에서 ‘잘 그리는(설계)’ 나라로의 변신을 꾀하고 있다. 반도체 미세화가 극한에 도달하면서 양자 역학과의 사투가 시작된 지금, 반도체 설계 능력이 곧 국가 경쟁력을 좌우하는 시대가 온 것이다. 그 최전선을 다녀왔다.

▲Shutterstock

K반도체, ‘반도체 설계 올림픽’서 정상 오르다

2026년 3월, 반도체 설계의 ‘올림픽’이라 불리는 2026 국제고체회로학회(ISSCC)에서 한국 논문이 아시아-태평양 지역에서 1위를 차지했다. 최재혁 서울대 전기정보공학부 교수팀의 논문이 그 주역이었다. 2월 28일 전화로 만난 최 교수는 반도체 학계의 지형 변화를 누구보다 생생하게 증언했다. 그는 지난 10년 동안 ISSCC의 심사위원으로 참여하며 전 세계 반도체 설계 기술의 흐름을 지켜봤다.

“반도체 학계가 근 10년간 급격히 바뀌었어요. 중국의 반도체 굴기가 시작되면서 급격히 치고 올라와 현재는 중국 논문의 수가 제일 많아요. 숫자로는 미국도 추월했습니다. 제가 ISSCC에서 기술 프로그램 위원을 10년째 하고 있는데, 10년 전만 하더라도 한국이나 아시아 논문은 많지 않았어요. 미국이 가장 앞섰고, 유럽, 아시아 순이었죠.”

그의 말대로 올해 ISSCC에 채택된 약 250편의 논문(제출된 논문은 총 1025편) 중 절반을 넘는 165편이 아시아 지역에서 나왔다. 채택 논문 수는 중국이 96편으로 압도적이었지만, 한국 역시 46편이 채택됐다. 그중 최 교수팀이 발표한 논문은 HBM(고대역폭 메모리) 클락 신호 분배망의 전력 소모를 10분의 1로 줄인 연구로 아시아-태평양 지역 최우수상을 거머쥐었다. doi: 10.1109/ISSCC49661.2025.10904589 한국이 기술적 영향력에서 타 국가에 밀리지 않음을 보여준 것이다.

▲Shutterstock

2026년 현재, 반도체는 미세화를 거듭 거쳐 2nm(나노미터·10억 분의 1m)보다 작아지고 있다. 1nm보다 작아지면 원자 규모의 크기에 근접한다.

‘만년 을’ 메모리 반도체, AI 만나 ‘갑’ 되다

ISSCC는 단순한 학회가 아니다. 세계 기업 및 학계 연구자가 3000명 이상 참석하는 학회로, 반도체 설계 분야 최고의 무대로 꼽힌다. 참석자들의 면면도 굵직하다. 삼성전자와 SK하이닉스는 물론 구글, 엔비디아, 애플, 같은 미국의 글로벌 빅테크들이 자사의 최신 칩을 들고 논문을 발표하는 곳이다. 대만의 반도체 설계(팹리스) 회사 미디어텍은 20여 년 전 신생 기업이던 시기, ISSCC에서 논문을 발표한 계기로 오늘날 글로벌 AP(애플리케이션 프로세서) 제조사로 성장했다. 즉, ISSCC에서 인정받은 기술 위상은 곧 글로벌 반도체 시장에서의 가치를 의미한다.

한국 논문이 이 무대에서 최고상을 받은 것은 우연이 아니다. 인공지능(AI) 시대의 도래가 반도체 지형을 근본적으로 뒤바꿨고, 그 변화 속에서 한국에 기회가 열렸기 때문이다. 배경에는 단연 메모리 반도체가 있다. 지난 수십 년간 반도체 산업의 구조는 명확했다. 연산을 담당하는 시스템 반도체(CPU, GPU, NPU 등)가 주인공이었고, 저장 장치인 메모리 반도체(DRAM, 낸드플래시 등)는 조연이었다. 그런데 AI 시대가 열리면서 모든 것이 바뀌었다.

“모든 걸 직접 사고하고 결정하는 AI 에이전트의 시대로 흐름이 넘어가면서 추론 과정에서 훨씬 많은 데이터가 필요해졌어요. 알고리즘에서 메모리가 다른 요소보다 더 중요해진 이유입니다. 그동안 시스템 반도체가 중요했는데 오히려 지금은 메모리가 더 중요해진 거죠.”
3월 9일 화상으로 만난 김정호 KAIST 전기 및 전자공학부 교수는 앞으로 메모리의 시대가 올 거라 확언했다. 삼성전자 메모리사업부 DRAM(D램)팀 수석 엔지니어를 거친 그는 2025년 HBM 8세대에 이르는 장기 로드맵을 공개하며 메모리 반도체를 이끄는 석학이다.
“미래엔 메모리 중심의 컴퓨터가 올겁니다. 연산 장치보다 저장 장치가 더 중요해지면서 주객이 전도되는 셈이죠. 대규모 언어모델(LLM)이 나오면서, AI 성능은 더 이상 CPU(중앙 처리 장치)나 GPU(그래픽 처리 장치)의 연산 속도에만 좌우되지 않아요.”

ʻ산업의 쌀’ , 반도체의 가계도

▲자료: SK하이닉스

반도체는 1947년 벨 연구소의 트랜지스터 발명으로 시작해, 1950년대 집적회로(IC) 개발을 거쳐 현대 전자산업의 핵심으로 성장했다. 미국과 일본의 주도에서 1980년대 이후 한국이 메모리 반도체 분야에서 세계 1위로 도약했다.

진리의 ‘무어의 법칙’도 벽에 부딪혔다

반도체 분야는 거칠게 말하면 ‘설계’와 ‘공정’으로 나뉜다. 먼저 ‘설계’는 가장 극한의 효율을 뽑아내는 시스템 반도체의 설계도를 그리는 실력’을 말해왔다. 요컨대 특정 게임을 실행할 때 맞춤형 CPU나 GPU가 게임이 요구하는 기능에 특화된 능력치만 끌어올리는 것처럼, 원하는 기능을 수행할 때 그 작업을 제일 잘 해내는 연산 장치다. 반대로 메모리 반도체는 저장이 주된 기능이기에, 맞춤형 설계보다는 대규모로 잘 만들어내는 ‘공정’이 중요했다. 한국이 잘해왔던 분야다. 그러나 이는 반도체 미세화의 극한이 다가오기 전까지의 얘기다.

반도체의 발전은 오랫동안 ‘무어의 법칙’을 따라왔다. 반도체 칩에 집적되는 트랜지스터(반도체에서 전류의 크기를 조절하는 장치)의 수가 대략 2년마다 두 배씩 증가한다는 법칙이다. 이는 선폭(회로의 가로 길이)을 계속 줄여나가면서 실현해 왔다. 1970년대만 해도 10µm(마이크로미터·백만 분의 1m)였던 선폭이, 이제는 3nm(나노미터·10억 분의 1m) 수준까지 3000배 이상 작아졌다. 3nm는 머리카락 두께의 2만 분의 1에 해당한다. 무어의 법칙은 미국 반도체 회사 인텔의 공동 창업자 고든 무어가 1965년 제시한 이후 반도체 발전의 핵심 지표로 쓰였다.

반도체가 극한의 세계에 들어서면서 새로운 적이 나타났다. 양자 터널링이다. 무어의 법칙이 더 이상 통하지 않을 거란 전망이 두터운 이유다. 유회준 KAIST 전기 및 전자공학부 교수는 e메일 인터뷰를 통해 반도체 미세화의 한계를 설명했다. 반도체공학회 회장을 역임한 유 교수는 2019년 아시아 교수로서는 최초로 ISSCC에서 AI반도체 기조연설을 했으며, 2023년에는 최다 논문 발표자로 선정되는 등 AI 반도체의 세계적 권위자다.

“반도체 크기가 2nm 이하로 내려가면 게이트(트랜지스터에서 전류의 흐름을 제어하는 스위치 역할을 하는 구성 요소) 산화막이 불과 원자 몇 개의 두께밖에 안 됩니다. 이 정도 규모에서는 전자가 고전적 물리학의 에너지 장벽을 뛰어넘지 못하더라도 양자역학적으로 투과해 버리는 터널링 현상이 불가피합니다. 선폭이 원자 단위가 되면, 전자는 물리 법칙을 어기기 시작하거든요. 정해진 공간에 갇혀야 할 전자가 갑자기 벽을 뚫고 나가버리죠.”

트랜지스터는 0(전자가 갇혀 있음)과 1(전자가 흐름)을 정확히 구분해야 하는데, 전자가 확률적으로 존재하면 구분이 무너진다. 없어야 할 곳에 나타나고 있어야 할 곳에서 나가버리니, 반도체의 오류와 발열로 이어진다.

이에 김 교수는 더 급진적인 전망을 내놓는다. 기존 무어의 법칙은 끝났고, 이제부터는 ‘수직적 무어의 법칙(Vertical Moore's Law)’으로 간다는 것이다. 더 작게 가는 방향이 아니라 더 높게 쌓는 방식으로 진화할 예측이다. 그는 “이젠 전자공학이 아니라 양자공학의 영역으로 넘어가고 있어요. 전자공학에서 배운 회로 설계가 하나도 안 맞는 것이죠. 반도체 설계는 지금 물리학과의 전쟁에 돌입하고 있습니다.”

▲최재혁

최재혁(맨 왼쪽) 서울대 전기정보공학부 교수팀은 일명 ‘반도체 설계 올림픽’이라 불리는 2026 국제고체회로학회(ISSCC)에서 아시아-태평양 지역 최우수 논문상을 거머쥐었다.

물리적 한계를 극복하는 ‘설계의 마술’

반도체 설계자들은 양자 터널링과 같은 원자 수준의 문제를 어떻게 상쇄하고 있을까. 유 교수는 세 가지 차원의 대응을 설명했다.

첫째는 ‘회로 레벨의 중복성과 오류 허용 설계’다. “(양자 현상으로) 트랜지스터의 불확실성이 높아진 시대에는, 디지털 설계에서도 (양자역학적인 방법처럼) 통계적으로 사고해야 합니다. 오류 보정 코드를 로직에 내장하는 거죠.” 쉽게 말해, 양자 오류를 ‘어차피 일어날 일’로 간주하고, 그 오류를 자동으로 잡아내고 재빨리 수정하는 회로를 미리 심는 방식이다.

다음은 ‘DVFS(Dynamic Voltage-Frequency Scaling)’라고 불리는 ‘실시간 보정 설계’다. 칩이 동작하는 중에도 전압과 주파수를 계속 조정하는 기법이다. 전자가 빠져나가면 칩에서 흐르는 전류의 전압과 주파수도 미세하게 달라진다. 이를 실시간으로 잡아주는 것이다. 그는 “센서로 누설 전류를 모니터링하고, 피드백 루프로 편차를 조절하는 접근”이라며 “회로적 기교라고 할 수 있는 부분”이라고 덧붙였다. 차를 운전할 때 속도에 따라 기어를 바꾸듯, 칩도 상황에 따라 전압을 자동으로 조정해 불확실성을 상쇄하는 방식이다.

마지막은 ‘아키텍처 근본 재설계’다. 반도체를 설계할 때 ‘메모리’나 ‘연산’처럼 특정 역할만 보는 게 아니라, AI 학습에 쓰일 것이란 반도체의 목적부터 구성하는 여러 부품까지 총체적으로 큰 그림을 그리며 설계하는 방법이다. 유 교수는 “양자 터널링을 오류로만 볼 것은 아니”라면서 “그 불확실성을 고려해 효율적인 시스템을 설계하는 일이 현대 반도체 설계자의 역할”이라고 강조했다. 이렇듯 반도체 고도화는 설계의 패러다임을 바꾸고 있다. 과거 엔지니어링이 완벽성을 추구했다면, 현대의 설계자는 ‘불확실성을 통제 가능하도록’ 설계해야 한다는 뜻이다.

반도체의 ʻ난적’ , 양자터널링

▲자료: SK하이닉스

반도체가 점차 작아지며 1nm(나노미터)보다 아래로 가면 원자 수준에 근접한다. 이때 양자터널링 현상이 생기는데, 이는 0과 1 상태의 중첩을 일으켜 0과 1로 신호를 뚜렷하게 나눠야 하는 반도체 기능에 큰 오류를 남긴다.

▲Shutterstock

반도체 공정은 정교함의 정수로 꼽힌다. 이에 소재부터 부품, 제조 장비를 비롯해 제작 능력 등이 전문적으로 세분화돼 있다. 한국은 대규모 생산 공장을 기반으로 한 반도체 제작 능력을 필두로 다른 영역으로 확대하는 전략을 취하고 있다.

설계를 뒷받침하는 ‘공정의 혁신’

물리적 한계를 극복하는 것은 설계만의 몫이 아니다. 반도체 구조 자체의 혁신도 뒷받침해야 한다. 설계가 진보한 만큼 제조 공정도 따라서 혁신해야 하는 것이다.

조그마한 칩이 엄청난 연산을 감당해야 하면서 반도체 전력 문제도 최근 급부상했다. 이에 메모리 반도체 구조의 질서도 서서히 뒤틀리고 있다. 지난 20년간 반도체 미세 공정을 지배한 구조는 ‘FinFET(핀펫)’이었다. 트랜지스터의 게이트가 채널을 3면에서 감싸는 구조로, 전자를 제어하는 능력이 뛰어났다. 하지만 이 구조도 결국 한계에 도달했다.

이제 ‘GAA(Gate-All-Around)’ 구조가 그 자리를 대체한다. 게이트가 채널을 360도로 감싼다. GAA만으로도 전력 효율을 기존 대비 20~30% 개선할 수 있다. AI 학습에선 연산 난이도에 이어 데이터도 무지막지하게 투입한다. AI 반도체처럼 엄청난 양의 데이터를 처리하는 반도체에서 전력은 곧 발열을 의미하고, 발열은 반도체의 성능 저하를 의미한다. 따라서 반도체의 전력 효율은 AI 시대의 가장 중요한 지표가 됐다.

회로를 까는 방식인 배선도 혁명을 맞이했다. 기존 방식은 웨이퍼(반도체의 틀이 되는 기판)의 앞면에 모든 신호선과 전력선을 배치했다. 무려 70년 이상 이어온 방식이다. 이 방식 역시 한계에 봉착했다.

반도체가 정교해질수록 내부에 복잡하게 얽힌 신호선과 전력선의 간섭이 심해진다. 동시에 수백억 개의 트랜지스터가 교류하면서 순간적으로 엄청난 전류를 필요로 하는데, 전력을 제때 제대로 공급하지 못하면 칩이 마비된다. 그래서 나온 모델이 ‘BSPDN(후면전력공급)’이다. 웨이퍼의 뒷면을 활용해 전력선을 배분하는 기술이다.

ʻ반도체 아키텍처’ , 실리콘 위 도시 계획

도시를 설계할 때는 도시의 철학부터 도시 위치와 건물, 전체적 인프라까지 한번에 구상한다. 반도체 아키텍처는 이처럼 반도체를 만들 때 목적과 구성, 인프라까지 한번에 기획하는 능력을 말한다.

메모리와 비메모리 합쳐지며 한국에 열린 기회

“앞으론 메모리인지 로직(시스템)인지 구분이 무의미해질 것입니다. 한국이 가진 세계 최고의 메모리 제조 역량 위에 시스템 설계 역량을 쌓는 것이 가장 효율적인 전략이에요”

반도체 전문가들은 이 모든 혁신의 핵심은 따로 있다고 의견을 일치했다. 바로 메모리 반도체와 시스템 반도체의 일체화다. HBM은 처음 등장했을 때 ‘높이 쌓은 메모리’로만 알려졌다. D램을 수직으로 적층하고, 가운데 실리콘 인터포저라는 채널을 통해 GPU 같은 시스템 반도체와 연결하는 방식이다. 다시 말하면, 진보한 메모리 반도체일 뿐이었다.

그러다 2020년대 AI가 등장하자 메모리의 역할은 보조에서 주도로 바뀌었다. 연산 능력 만큼 데이터를 빠르게 불러오는 역량이 긴요해졌다. 2026년 중순 출시 예정인 HBM 6세대(HBM4)부터는 메모리 반도체 하단에 로직 공정이 도입되며 메모리와 시스템 반도체가 ‘한 몸’이 된다. 메모리 반도체가 단순 메모리 기능을 넘어 연산 역량을 갖춘 칩이 되는 셈이다.

이는 게임의 규칙이 변하는 수준이다. 과거엔 ‘누가 더 작게 만드는가’가 승부였다면, 이제는 ‘누가 메모리와 로직을 하나로 더 잘 엮느냐’가 승부처다. 최 교수가 강조한 점이 바로 이 부분이다. “HBM과 AI의 등장으로 반도체는 지금 전환점입니다. ‘문명 충돌’ 급이에요. 메모리와 시스템 반도체가 하나로 엮이면서 전에 없던 메모리 주인공 시대가 온 거죠. 공정 단계부터 설계를 고려하고 있어서 이제 공정과 설계 또한 하나로 다 통합되고 있어요.”

지금의 변화가 나타내는 바는 명확하다. 반도체 패권의 본질이 바뀌었단 점이다. 이는 한국의 기존 전략으로는 시대에 뒤떨어질 수 있음과 동시에, 한국이 새로운 패권을 차지할 수 있는 기회가 왔음을 뜻한다. 한국은 40년간 “더 작게, 더 빠르게, 더 많이” 만드는 전략으로 메모리 반도체의 왕좌에 올랐다. 메모리 반도체 업계의 두 공룡 삼성전자와 SK하이닉스의 초대형 팹(fab)은 이 전략의 상징이다. 매년 수조 원을 투자해 최첨단 공정을 갖춘 거대한 제조 시설이다.

서서히 그 공장의 존재 의미가 변하고 있다. 최고의 공정 기술은 더 이상 경쟁 우위를 보장하지 않는다. 최 교수는 기존 강점인 메모리 반도체를 기점 삼아 설계 기술도 점차 정복해야 한다고, 할 수 있다고 짚었다. “메모리 반도체도 이제 시스템 반도체 못지않게 고도화됐어요. 한국은 시스템 반도체를 못한다는 말을 듣는데, 옛날에 비해서 기술 자체는 많이 발전했어요. ISSCC에도 다양한 분야로 논문을 투고하고, 시스템 반도체도 미국과 격차를 많이 줄였고요. 메모리와 시스템 반도체가 HBM을 통해 한 배를 탄 지금, 우리가 큰 장점을 지닌 메모리를 기반으로 반도체 프로세서를 복합적으로 만들어 나가면 돌파구가 될 거라 봅니다.”

▲Shutterstock

미국 텍사스 지역에서 건설 중인 삼성전자의 반도체 제조 공장. 삼성전자, SK하이닉스와 같은 반도체 제조 기업들은 대규모의 자체 공정 인프라를 바탕으로 새로운 반도체 아키텍쳐 시대에 유연하게 적응할 수 있다는 강점을 지닌다.

앞으로 10년, 한국의 돌파구는 ‘아키텍처’

좀 더 멀리 보면, 설계의 다음 단계는 ‘연결’이다. AI 가속기에서 GPU, NPU, 메모리 반도체는 모두 다른 ‘칩(반도체 제품)’이다. 이들을 빠르게 연결하는 기술이 전체 성능을 결정한다. 이에 김 교수는 반도체의 후방부터 전방까지 전 영역을 아우르는 ‘아키텍처 설계력’이 무엇보다 필요하다고 강조했다.

“엔비디아가 아성을 쌓는 이유는 GPU와 메모리, 반도체끼리 연결하는 기술이 최고 권위를 갖고 있어서 그래요. 우리나라도 이쪽에 좀 더 투자해야 한다고 봐요. 말 그대로 도시의 고속도로를 뚫는 모습입니다. GPU라는 한 도시가 있고, 메모리라는 다른 도시가 있다고 하면 서로 간 고속도로를 뚫어주는 기술입니다.”

반도체의 미래는 ‘도시 계획’과 같아졌다. 개별 칩(도시)을 잘 만드는 것도 중요하지만, 그 도시들을 연결하는 인프라(고속도로)가 더 중요하다는 뜻이다. 아키텍처 설계의 핵심이다. 단순히 회로를 설계하는 것이 아니라, 전체 시스템의 철학과 구조를 생각하는 능력이다. 그는 이를 건설에 비유했다.

“아키텍처란 시작부터 끝까지, 즉 전체를 보는 눈입니다. 건물 기둥은 어떻게 지을지, 벽지는 무슨 소재로 할지부터 1층엔 어떤 시설을 둘지, 이 건물의 용도가 오피스텔인지 아파트인지 결정하는 것까지 모두 해당하죠. 나아가 도시 자체를 어떤 철학을 갖고 설계할지 큰 그림까지 해당해요. 반도체에서도 설계 부터 부품, 제작, 용도 등 모든 요소를 한 번에 꿰뚫는 시각이 필요해지고 있어요. 이는 세계에서도 아직 10명 남짓한 인력뿐입니다. 한국도 10년 뒤엔 아키텍처 전문가를 배출해야 할 텝니다.”

반도체 전장에서 모은 취재를 종합해 보면, 앞으로 한국이 반도체 패권을 넓히기 위해선 미세화라는 과거의 경주에서 벗어나야 한다. 대신 한국의 장기였던 메모리 반도체가 중요해지는 AI 시대를 발판 삼아, 앞으론 최적화된 아키텍처를 어떻게 더 빨리, 영리하게 설계할지에 집중해야 한다고 전문가들은 입을 모았다.

반도체는 ‘만드는 산업’에서 ‘그리는 산업’으로 변모 중이다. 기회는 왔다. 설계 능력의 중요성이 날로 높아지는 이 시대에 한국이 ‘잘 그리는’ 나라로 거듭날 수 있을지가 앞으로 10년 한국 반도체의 운명을 가를 예정이다.