어릴 때 부산에 살았다. 과학동아를 읽고 싶을 때면 한 번에 가는 버스를 타고 수영구 도서관에 가곤 했다. 잡지 서가 앞에서 새로 온 과학동아를 펼치면, 바로 먼 세계와 연결된 듯했다. 우주, 로봇, 수학, 생명과학까지 분야도 가리지 않고 재미있게 읽었다. 지금 생각하면 어려운 단어도 많았고, 그림과 설명을 여러 번 봐도 이해하지 못한 적도 적지 않았다. 그런데도 과학동아를 읽는 시간이 이상하게 즐거웠다. 새로운 자극, 계속해서 눈앞에 펼쳐지는 모르는 세계가 좋았다.

도서관에 가면 과학동아 외에도 문학부터 수학자와 과학자, 공학자의 일화까지 다양한 분야의 책을 찾아 읽었다. 책 속의 과학자는 공식을 잘 외우는 사람들이 아니었다. 세상을 다르게 보며 이상한 질문을 오래 붙잡고 끝내 자기만의 방식으로 답을 찾은 사람들이었다. 과학과 공학을 사회에 적용해 사람들의 삶을 개선한 사례들도 기억에 남았다. 많은 데이터를 분석해 복잡한 사회 현상을 이해하고, 삶을 편리하게 바꾸는 이야기들이 어릴 때부터 무척 인상 깊었다.

필자는 KAIST 학부 졸업 전에 마지막으로 떠난 여행에서 페루의 잉카 문명 유적지인 마추픽추를 찾아갔다.

AI 연구자로 나아간 든든한 토대, 수학

과학동아를 읽던 이때부터 이공계 연구자로 살면 참 즐거울 것 같다고 생각했다. 사람들에게 가치를 직접 전하고, 사회에 도움이 되는 분야를 연구하고 싶었다. 어린 시절의 나는 똑똑하진 않지만, 새로운 것, 다양한 분야를 좋아한, 조금 호기심이 많은 학생이었다. KAIST에 들어갈 때도 비슷했는데, 처음 선택한 전공은 수리과학이었다. 모든 분야의 근간인 수학부터 공부해 보고 싶었고, 나중에 어떤 분야를 연구해도 수학은 든든한 기반이 돼 줄 것이라 생각했다. 순수 수학은 정말 어려웠지만, 공부할수록 하나의 새로운 세계를 정의하고, 그 위에 논리들을 쌓아 가며 이 세계를 구축해 가는 즐거움이 있었다.

어린 시절의 생각이 3, 4학년이 되자 다시 떠올랐다. 데이터를 기반으로 사회에 가치 있는 것을 연구, 개발하고 싶다는 마음이었다. 데이터와 통계로 자연스럽게 관심이 옮겨 갔다. 현실의 복잡한 문제를 수식과 데이터로 이해하고, 그 속에서 쓸모 있는 판단을 도출해 내는 일이 재미있어 보였다. 당시 KAIST에서 관련 과목 강의가 많이 열리던 산업및시스템공학과를 복수전공한 것도 그래서였다.

이런 관심을 실제 연구로 옮긴 때는 비교적 늦은 학부 4학년이었다. 인공지능(AI) 연구자의 길에 들어선 결정적 계기는, 문일철 KAIST 산업및시스템공학과 교수님 연구실에서 학부 연구생을 경험한 것이었다. 대량의 텍스트를 효과적으로 자동 분석하는 연구를 했는데, 지금 기준에서는 초기 단계였지만 당시에는 무척 강렬했다. 컴퓨터가 수많은 문장을 읽고 그 구조와 의미를 찾게 만드는 과정이 신기했다. 특히 교수님, 대학원 선배, 동료들에게 연구 태도와 문제를 바라보는 법을 많이 배웠다. 혼자서는 막막했던 질문이 토론을 거쳐 연구 문제, 실험, 결과로 이어지는 과정을 겪으며 “이 일을 계속하고 싶다”고 생각했다.

2024년 8월 제주도에서 열린 국제 인공지능 공동 학술대회(IJCAI)에 참석한 필자(오른쪽)과 연세대 연구실 학생들. 필자는 인공지능(AI)가 사회에서 잘 쓰이려면 기술을 함께 만들고 책임지는 사람들 간의 관계가 중요하다고 강조한다.

더 똑똑해질수록 더 믿을 수 있는 AI를 향해

대학원 과정과 서울시립대 인공지능학과 교수를 거쳐, 현재는 연세대 응용통계학과 교수로 통계와 AI를 가르치고 연구한다. 우리 연구실의 큰 관심 주제는 ‘실제 세계에서 믿고 쓸 수 있는 AI’다.

요즘의 AI는 글을 쓰고 코드를 짜며 사람과 대화한다. 더 나아가 목표를 이해하고 스스로 계획을 세워서 일하는 자율형 AI인 에이전틱(Agentic) AI도 빠르게 발전 중이다. 기존 AI가 주어진 문제에 답하는 데 초점을 맞췄다면, 에이전틱 AI는 목표를 이해하고 필요한 자료를 찾으며 중간 결과를 점검해 자율적으로 일하는 독립적 개체에 가깝다.

하지만 에이전틱 AI가 아무리 똑똑해도 모르는 걸 아는 척하거나 틀린 정보를 그럴듯하게 말하거나 낯선 상황에서 엉뚱한 결정을 내린다면, 중요한 일을 맡기기 어렵다. 특히 의료, 금융, 공공 서비스처럼 영향력이 큰 분야에서는 평균 성능이 조금 높은 것으로는 충분하지 않다. 신약 개발, 암 조기 발견처럼 AI로 새로운 과학적 사실을 찾는 분야도 마찬가지다. AI가 자신이 언제 틀릴 수 있는지, 자신의 답을 얼마나 믿을 수 있는지, 낯선 환경에서도 안전하게 작동하는지 설명, 보장할 수 있어야 한다. 그래서 나의 가장 중요한 연구 주제도 신뢰성 AI다.

최근 인상적인 연구들도 모두 이 신뢰성 AI와 연결돼 있다. 우리 연구실은 대형언어모델의 환각(할루시네이션)을 줄이고 답변의 신뢰성을 높이는 방법을 통계적으로 보장하기 위한 연구를 진행했다. AI 환각을 줄이는 연구는 많지만, 실제로 고위험 분야에 쓰이려면 “대체로 좋아졌다”를 넘어 “어느 정도까지 믿을 수 있다”는 보장이 필요하다. 또한 AI의 편향과 환각이 실제 사회에 어떤 영향을 미치는지 시뮬레이션으로 정량 평가하는 연구를 한국인공지능안전연구소와 준비 중이다. AI가 사회 속에서 어떤 결과를 가져오는지 직접 살펴보려는 시도다.

연구는 매 순간 쉽지 않다. 언제를 가장 힘들었던 시기로 꼽아야 할지 고르기 어렵다. 어떻게 더 임팩트 있는 연구를 할지, 사람들에게 더 도움이 되는 연구를 할지, 주어진 문제를 가장 단순하고도 효과적으로 풀 수 있을지 계속 고민한다. 그럼에도 “힘들다”는 말을 함부로 하기는 조심스럽다. 세상에는 생사의 위험을 실제로 감수하며 일하는 분들이 훨씬 많기 때문이다. 그래서 연구가 힘든 날에도 내가 좋아하는 질문을 붙잡고 있다는 사실에 감사하고 있다.

시간이 지날수록 연구는 더 재미있다. AI가 논문 속 기술을 넘어 실제 사회와 가까워져서다. 내 연구가 질병 진단을 돕고 제조 현장의 문제를 해결하며 과학자가 신물질과 신약을 찾는 데 쓰인다는 가능성은 연구를 이어가는 큰 힘이다. 똑똑하고 열정적인 연구실 학생들과 토론하며 이들의 가능성을 함께 키우는 과정도 큰 즐거움이다. 좋은 연구자, 좋은 연구는 대화와 협력 속에서 자란다. 내가 연구하는 신뢰성 AI도 사람에 대한 신뢰와 맞닿아 있다. AI가 사회에서 잘 쓰이려면 그 기술을 함께 만들고 책임지는 사람 간의 관계도 필요해서다.

필자는 2025년 연세-UK 글로벌 리서치 심포지엄에 참석해 정신건강 분야에서의 인공지능(AI)과 머신러닝 기술의 적용 가능성에 대해 강연했다.

더 멀리, 더 오래 연구하기 위한 준비

앞으로 몇 년 사이에 사회는 크게 바뀔 것이다. 매일 설레면서도 두려운 마음으로 AI의 변화를 바라본다. 대형언어모델 같은 AI의 등장과 발전으로 단순히 지식을 많이 아는 것의 희소성은 빠르게 줄고 있다. 이제 누구나 전보다 훨씬 높은 수준의 지식, 추론 도구에 접근 가능해지고 있다. 그렇다면 그 지식을 어디에, 어떻게, 누구를 위해 사용할 것인지 묻는 능력이 더 중요해질 것이다.

그리고, 시대가 아무리 바뀌어도 변하지 않는 것도 있다고 믿는다. 깊이 고민하는 능력과 태도, 다른 사람과 협력하는 열린 마음, 그리고 밝고 적극적으로 소통하는 자세다. AI가 답을 대신 찾아 주는 시대가 와도, 좋은 질문을 오래 붙잡는 힘은 여전히 사람에게서 나온다. 세상에 진정으로 기여할 가치를 만들려면, 사람들로 이루어진 이 세상을 이해하고 다양한 사람과 협력할 수밖에 없다.

AI로 많은 것이 자동화되고 있는 시대이지만, 연구를 추진하는 가장 깊은 힘은 “왜 그럴까?” “정말 그럴까?” “다르게 볼 수는 없을까?”라는 우리의 질문과 이를 포기하지 않는 의지다. 변화가 빠른 시대일수록 자신의 질문을 성실히, 꾸준히 따라가는 사람이 자기만의 길을 만든다.

돌이켜보면 정말 많은 사람의 도움으로 여기까지 왔다. 어린 시절 다니고 싶은 학원의 학원비가 부족했을 때 선뜻 도와주신 선생님, 방황할 때 다잡아주시며 조언해 주신 선생님이 계셨다. KAIST 학부와 대학원에서는 지도교수님이, 교수가 된 뒤에는 학생들을 위한 교수가 될 수 있도록 조언해 주신 선배 교수님들이 있었다. 지금은 과학적 발견을 함께 꿈꾸는 연구실의 대학원생들과 이 모든 과정을 믿고 기다려 준 가족들이 있다. 이와 같은 큰 행운이 모여 지금의 연구가 가능해졌다.

지금 과학동아를 읽는 학생들에게도 말씀드리고 싶다. 지금 좀 어려운 기사를 만나도 너무 걱정하지 않길 바란다. 나도 어릴 때 과학동아를 읽으며 모든 내용을 이해하지는 못했다. 하지만 그 자극과 설렘이 오래 남았다. 어떤 문장, 그림, 주제가 마음에 걸리면, 붙잡아보길 바란다. 그리고 혼자 모든 것을 해야 한다고 생각하지는 않았으면 한다. 우리는 좋은 선생님, 동료, 친구, 가족의 도움 속에서 조금씩 자란다. 이 글을 읽는 여러분 주위에도 그런 좋은 관계들이 있을 것이다. 언젠가는 여러분도 주위의 누군가에게 그런 좋은 사람이 되기를 바란다.

과동 피플에게 묻는다

Q.당신의 호기심은 보통 어떤 순간에 시작되나요?

호기심은 혼자 산책하며 생각할 때도 생기지만, 대화할 때에 가장 자주 시작됩니다. 서로 다른 배경의 사람들과 이야기하면 새 관심사가 생기고, 막힌 문제의 해결책이 떠오르기도 합니다. 독자 여러분도 좋은 동료, 선후배, 선생님들과 많이 이야기하며 자극을 주고받았으면 합니다.

Q.과학동아에서 가장 호기심을 자극한 기사는 무엇이었나요?

어린 시절에는 우주, 로봇, 수학, 생명과학, 데이터 과학처럼 과학동아의 기사 분야를 가리지 않고 재미있게 읽었습니다. 다 이해하지 못해도 새로운 세계를 만나는 자극이 컸고, 그 경험이 꿈을 키우는 데 도움이 됐습니다.

Q.지금 과학동아를 읽고 있는 독자들에게 해주고 싶은 말은?

AI로 사회가 빠르게 바뀌고 있지만, 깊이 고민하는 태도와 협력하는 마음은 여전히 중요합니다. 혼자 모든 것을 해내려 하지 말고, 주변의 좋은 사람들과 함께 배우고 성장했으면 합니다. 마음에 오래 남은 질문을 놓치지 않고, 동시에 주위 사람들에게 따뜻한 사람이 돼 준다면, 언젠가 여러분만의 길을 더 단단히 만들어 갈 수 있을 것입니다.