d라이브러리

추적추적 봄비가 오는 날 서울 강남에 있는 한 카페에서 수학자 서재홍 교수를 만났다. 서 교수의 전공은 암호! 암호를 연구하는 교수라니, 간단한 비밀번호조차 우리가 모르는 특별한 방법으로 쓰고 있지는 않을까? 궁금하다면 서 교수의 이야기를 들어보자.

교수님 만나서 반갑습니다! 암호를 연구하신다고요?

네, 저는 암호화된 상태에서 연산하는 방법을 연구하고 있어요. 어떤 정보가 암호화된 상태라면, 암호를 풀지 않은 상태에서 아무 조작도 못한다고 생각할 수 있어요. 그런데 암호를 해독하지 않고 잠겨 있는 상태에서 일부 조작이 가능하게 만드는 것이지요. 2009년 IBM의 연구원 크레이그 젠트리가 최초로 가능하다는 것을 보였어요. 그 이후 암호학계에서는 화제가 됐고, 저도 이 분야를 연구하고 있습니다.

교수님 연구가 구체적으로 어떻게 쓰이나요?

예를 들어 유전자 검사를 받을 때 본인만 결과를 알 수 있게 만들 수 있어요. 다른 사람, 심지어 의사에게도 내 유전자에 문제가 있는지 알려주고 싶지 않을 수 있잖아요. 내 유전자 정보를 암호화한 상태에서 검사하는 거예요. 암호로 잠겨 있어 결과는 알 수 없죠. 암호를 푸는 열쇠는 본인만 갖고 있고요. 암호를 쓰는 이유가 개인 정보를 다른 사람에게 알려주지 않기 위해서잖아요.

상산 젊은수학자상뿐 아니라 국가정보원과 방송통신위원회에서도 상을 받으셨네요. 어떤 성과로 받게 된 건가요?

먼저 상산 젊은수학자상부터 말씀드릴게요. 미국 캘리포니아대 호바브 샤참 교수가 제한된 조건에서 불가능한 수학적 구조를 증명한 게 있어요. 그런데 저는 그 제한 조건을 벗어날 수 있다고 증명했죠. 불가능하다고 여겨졌던 게 가능해지게 된 거죠.

그리고 국가정보원과 방송통신위원회에서 받은 상은 암호 공모전으로 받은 거예요. 공인인증서와 같은 데 많이 쓰이는 전자 서명과 관련된 내용이었죠. 쉽게 말해 안전한 전자 서명을 만드는 방식이에요.



왜 암호학을 선택하셨는지 궁금해요.

대학원에 처음 갔을 때는 순수수학의 한 분야인 대수학을 공부했어요. 그때는 ‘세상에! 천재들은 이런 것도 생각해 내는구나!’하며 신기해 했어요. 그런데 공부를 할수록 ‘그래서 이게 어디에 쓸 수 있는 거지?’라는 의문이 생겼어요. 나 혼자 재밌고 말기에는 아깝다는 생각이 들었지요. 그래서 세상에서 실질적으로 쓰이는 수학을 찾았고, 그게 바로 암호학이었어요. 특히 암호는 깔끔한 대수학을 기반으로 한 학문이라는 게 매력적이었어요. 해석학에 기반한 학문은 계산이 종종 복잡하거든요.

안전하고 기억하기 쉬운 비밀번호를 만들 수 있을까요?

암호 관련 수업 중에 쉽게 접할 수 있는 예로 비밀번호 만드는 법을 알려주기도 해요. 안전하게 비밀번호를 설정하는 방법을 알아보고 그 비밀번호가 얼마나 안전한지 분석하지요. 그중 구문으로 비밀번호를 만드는 ‘패스프레이즈(passphrase)’라는 방법이 있어요. 자신에게 특별한 사건을 한 문장으로 만들어 암호로 이용하는 거죠. 특정 단어는 시간이 지나면 잊기 쉽지만 본인에게 의미 있는 문장 하나 정도는 기억하기 쉽잖아요. 단어의 첫 글자만 따서 만든 비밀번호는 기억 못 해도, 문장은 기억할 수 있고요.
 

실제로 패스프레이즈 방법은 충분히 안전하다는 게 검증됐어요. 보통 비밀번호를 깨기 위해 사전에 있는 단어를 이용하는데 자기만 아는 구문의 단어 앞글자로 만든 단어는 세상에 없는 단어지요. 규칙도 없어 보이니 무작위로 만든 암호로 볼 수 있습니다.



학교 다닐 때, 공부 외에 관심 분야가 있었나요?

제가 대학을 다닐 때 스타크래프트 게임이 유행했어요. 저도 스타크래프트에 푹 빠져있었죠. 특히 저희 과에 최초로 프로게이머 특채로 들어온 후배가 있었어요. 스타크래프트의 저그 종족으로 세계대회 2위를 한 친구였죠. 그 친구를 중심으로 친구들과 게임을 많이 했어요. 인공지능 스타크래프트가 나올지도 모른다는 얘기를 들었는데 굉장히 기대돼요.

중·고등학교 시절 교수님은 어떻게 공부했나요?

저는 고등학교 때 상상하고 공상하는 걸 좋아했어요. 예를 들어 핵융합과 같은 추상적인 개념이 있으면 어떻게 만들어지는 것일까 머릿속으로 상상했죠. 수학 공부를 할 때도 문제를 많이 풀기보다는 한 문제를 풀면서 깊이 생각했어요. 이 문제에는 왜 이런 과정이 들어가게 된 걸까, 어떤 원리일까 끊임없이 생각했죠. 잘 풀리지 않는 새로운 문제가 생기면, 생각할 거리가 생긴 것 자체로 좋았어요. 문제는 못 풀어도 상관없었죠. 생각해 보는게 재밌으니까요. 그리고 계속 생각만 하다가 한두달 뒤에 갑자기 해결하기도 했어요.

마지막으로, 교수님이 생각하는 ‘수학’이라는 학문의 매력을 한마디로 말해주세요.

깔끔함이요. 제가 고등학교 때 추상적으로 핵융합 원리 같은 걸 생각하는 게 좋았다고 말했잖아요. 그래서 사실 대학에 입학해서 처음에는 물리학을 전공하려고 했어요. 그런데 막상 공부해보니 추상적으로 상상해볼 때와는 다르더라고요. 물리는 의문이 남는 데 해소가 안 되는 부분이 있었거든요. 그에 비해 수학은 결과가 명확하게 드러나 좋았어요. 문제가 어떤 과정으로 해소되는 지 깔끔하게 드러나는 게 제가 생각하는 수학의 매력입니다.