수학 문제 푸는 게 좋아 수학과에 진학했다. 석사과정까지 밟으며 수학을 공부했지만 풀 수 있는 미해결 문제는 거의 없었다. 그래서 실생활에 도움을 주는 문제를 풀기 위해 IT로 눈을 돌렸다. 약 25년간 기업에서 프로그램을 개발하다 최근 대학으로 자리를 옮긴 서홍석 교수의 이야기를 들어보자.
“수학 난제를 해결하고 새로운 개념을 제시했던 가우스, 오일러와 갈루아를 존경했습니다.”
학창시절 서 교수의 꿈은 언제나 ‘어려운 문제를 푸는 수학자’였다. 유난히 문제 푸는 걸 좋아했는
데, 특히 방정식을 풀어 깔끔한 답을 찾는 걸 즐겼다. 별다른 진로 고민 없이 수학과에 진학했고, 석사과정에서는 액체나 기체의 운동을 예측하는 편미분방정식을 풀기 위해 공부했다.
하지만 생각만큼 문제 푸는 게 쉽지 않았다. 답이 있는 문제를 풀던 대학교 때와는 달리 아직 아
무도 풀지 못한 문제에 도전하면서 슬럼프에 빠진 것이다. ‘3할 타자’라는 말처럼 10문제 중의 3문제는 풀고 싶었지만, 그게 어려웠다. 문제를 푼다고해도 실생활에 어떻게 쓰이는지 와닿지 않아 막
막했다.
실생활 문제 풀고 싶어 진로 바꿔
서 교수는 프로그래밍과 금융 수학, 두 가지를 놓고 진로를 고민하다 결국 실생활과 가까운 문제를 푸는 프로그래밍을 선택했다. 그리고 삼성 SDS에 입사했다.
"배운 프로그래밍이 일하는 데 큰 도움이 됐어요. 하지만 일을 하면 할수록 더 공부하고 싶다는
생각이 들었죠.”
때마침 기회가 찾아왔다. 회사에서 임직원 대상으로 박사과정을 밟을 수 있는 인재양성 프로그
램을 진행한 것이다. 그렇게 KAIST 전산학과에서 5년 동안 데이터베이스를 연구할 수 있었다.
이후 서 교수는 삼성 SDS로 복귀해 인사관리시스템 만드는 일을 10년 동안 했다. 프로그램을
만드는 것 자체가 매 순간 문제를 정의하고 아이디어를 내 푸는 거라 재밌었지만 어느 순간 내가
만든 프로그램을 더 많은 사람이 썼으면 좋겠다는 목표가 생겼다.
“마이크로소프트에서 만든 프로그램은 전 세계인이 쓰잖아요. 그런 프로그램을 내 아이디어로 만들고 싶었어요. 삼성 SDS에서 이런 목표를 이루는 게 어려워지자 V3로 유명한 안랩으로 일터
를 옮겼죠. 하지만 안랩에서도 제 아이디어를 반영한 제품을 만들기는 어렵더라고요. 그래서 현재
는 대학원대학교에 있습니다.”
꿈을 이루기 위한 새로운 도전
현재 서 교수는 내가 아는 정보를 드러내지 않고도 답을 아는지 증명할 수 있는 ‘영지식 증명
(Zero-Knowledge Proof)’을 AI와 블록체인 기술에 적용해 개인 정보를 더 철저하게 보호할 방법을 찾고 있다. 블록체인은 정보를 한곳에 두지않고 네트워크에 참여한 모든 개인이 공유하도록 데이터를 ‘블록’ 형태로 묶고 그들을 다시 암호 체인으로 연결해 안전하게 저장하는 기술이다.
“문제를 풀었을 때 느낀 그 짜릿한 희열을 맛보고 싶어 계속 도전해왔는데, 기업에서는 제 목표
를 달성하기 어려우니 행복하지 않았어요. 그래서 그 꿈을 이루기 위해 현재 새로운 도전을 하고
있습니다. 여러분도 사명감이나 비전 같은 목표를 세워보세요. 그리고 노력하다 보면 좋은 결과를 얻을 수 있을 거예요.”
많은 사람이 사용할 프로그램을 만드는 서 교수의 꿈은 지금도 진행 중이다. 이 꿈 하나로 약 25
년간 일한 서 교수는 끝으로 수학동아 독자들에게 목표를 갖는 것이 중요하다고 강조하며 인터뷰
를 마쳤다.