수학을 좋아하는 사람이 적지 않겠지만, 사실 수학은 고등학생이 가장 꺼리는 과목 중 하나다. 대학을 가기 위해 미적분학처럼 어려운 공부를 억지로 해야 하는 우리나라 형편상 어쩌면 당연한 얘기다.
그런데 여기 전혀 색다른 수학분야가 있다. 복잡한 숫자를 다루지 않는 수학. 바로‘매듭’을 연구하는 분야다. 물건을 묶거나 머리를 예쁘게 땋을 때 쓰는 매듭 말이다. 이 얘기를 듣고 매듭이 무슨 수학이야, 매듭 묶는 방법 연구해 무엇에 쓸 수 있지 하고 의심을 품는 사람이 있을 것이다. 그런데 현대수학 중 가장 잘 나간다는 위상수학 중에서도 가장 각광받는 분야가 매듭이란 사실을 안다면 놀랄 수밖에 없다.
세계 최초의 땋임 암호키
그렇다면 왜 매듭일까. ‘고르디온의 매듭’이란 옛날 얘기에서 힌트를 얻을 수 있다. 고대도시 고르디온의 수레에 묶여 있는 밧줄의 매듭을 푸는 사람이 세계의 지도자가 된다는 전설이 내려왔다. 그런데 아무도 이 복잡한 매듭을 풀 수 없었다. 하지만 알렉산더대왕은 단칼에 끊어버리는 방법으로 매듭을 풀고 고대 오리엔트를 통일했다고 한다(매듭분야에서 사용되는 알렉산더 다항식은 이 얘기에서 연유했다). 매듭이 직관적으로 이해하기 쉬운 대상이면서도 그것을 푸는 일이 상상처럼 간단하지 않다는 얘기다.
교차를 많이 할수록 매듭은 복잡해진다. 매듭을 풀기는 커녕 매듭들이 서로 같은지 판별하는 것조차 어렵다. 이 때문에 매듭은 정보통신 사회의 총아라는 정보보호분야에서 핵심기술로 사용될 수 있다. 쉽게 말해 정보를 복잡한 매듭으로 묶어 전달하면, 이 매듭을풀 수 있는 사람만 정보를 볼 수 있다는 얘기다.
매듭이론을 이와 같이 정보보호기술에 최초로 응용한 연구실이 우리나라에 있다. 바로 KAIST 수학과 고기형교수가이끄는매듭이론연구실이다. 고교수는 매듭이론 중 특히 땋임이론에 관심을 가지고 있다.
땋임이란 머리를 딸 때처럼 몇개의 가닥으로 만든 매듭이다. 땋임은 서로 위아래를 연결할 수 있다. 덧셈이나 곱셈과 같은 연산을 한 셈이다. 그런데 덧셈이나 곱셈은 순서를 바꿔도 똑같은 결과가 나온다. 하지만 땋임은 순서를 바꿔 연결하면 다른 땋임이 생긴다. 땋임과 같이 연산 순서에 영향을 받는 집합을 비가환군이라 하는데, 연산이 더 복잡할 수밖에 없다. 어떤 땋임들을 연결했는지 알지 못하는 사람이 땋임을 풀기란 하늘의 별따기보다 어렵다.
고교수 연구팀은 땋임이론을 바탕으로 세계 최초로 실용적인 공개키 암호시스템 기술을 개발하는데 성공해 정보보호분야에서 가장 권위있는 국제 학회인 CRYPTO 2000에 발표했다. 기존의 암호시스템과 전혀 다른 새로운 기술이어서 곧바로 전세계의 주목을 받았다.
정보보안 분야 최고 꿈꾼다
암호시스템에 대해 좀더 자세히 알아보자. 공개키 암호시스템은 정보를 암호로 만들 때는 공개키를, 암호에서 원래 정보를 복원할 때는 비밀키를 사용하는 방법이다. 예를 들어 빌 게이츠가‘나한테 자료를 보낼 때는 이 키로 암호를 만들어 보내세요’라며 키를 인터넷상에 공개해버린다. 그러면 빌 게이츠가 받을 문서를 중간에 빼돌려도 소용없다. 왜냐하면 암호를 풀수 있는 비밀키는 빌 게이츠만 가지고 있기 때문이다.
이에 반해 비밀키 암호시스템은 보내는 사람과 받는 사람 모두 비밀키를 가지고 있어야 한다. 하지만 비밀키는 인터넷에 공유할 수 없고, 이메일로 보낼 수도 없다. 비밀키가 유출되면 정보 유출은 피할 방법이 없기 때문이다.
따라서 전자상거래 등 전송에 의존하는 데이터의 보안에는 공개키 암호시스템을 사용해야 한다. 정보보호가 점점 중요해지고 있는 지금, 암호 기술은 곧 국력과도 직결되기 때문에 각국에서는 경쟁적으로 연구하고 있다. 하지만 1978년 공개키 암호시스템이 처음 제안된 후 지금까지 실용적인 공개키 암호시스템 기술을 갖고 있는 나라는 미국뿐이다.
더욱이 실제 사용되고 있는 공개키는 그 원리가 인수분해와 이산대수 문제 정도다. 이처럼 암호시스템의 공개키는 탄탄한 수학이론을 바탕으로 구성돼야 한다. 슈퍼컴퓨터나 최고 수학자들이 아무리 노력해도 절대 풀 수 없는 문제여야 된다는 얘기다. 그래야 암호시스템으로 실용성과 안전성을 확보할 수 있다.
고교수가 땋임이론을 바탕으로 개발한 공개키 암호시스템 덕분에 우리나라는 미국 외에 독자적인 공개키 암호 시스템의 원천기술을 가진 유일한 나라가 됐다. 정보보호 분야에서 우리나라가 선도적인 위치에설 좋은 기회를 잡은 셈인데, 앞으로 차세대 암호시스템의 표준으로 만들기 위한 노력이 요구된다.
한편 연구실은 영재교육에 지속적인 관심을 가져 왔는데, 1990년대 초부터 세계수학경시대회 준비반인‘한국수학올림피아드 학교’를 주관하고 있다. 이 경험을 바탕으로 1998년부터는 중학생 영재수학교실도 운영하고 있다. 또 세계 유수논문지에 투고할때 사용하는 문서편집 프로그램 TeX를 한글화하는데 성공한 것도 연구실의 자랑이다.
현재 연구실은 고기형 교수를 중심으로 박사후과정 4명, 박사과정 3명과 석사과정 2명의 연구원이 참여하고 있다.
