암호 해독을 잘하려면 셜록 홈즈도 울고 갈 추리력과 탁월한 직관력이 있어야 합니다. 수학적 사고는 필수고요. 여러분은 어떤가요? 자신의 숨은 능력이 궁금하다면 다음 문제를 풀어보세요! 제2의 튜링이 당신일 수 있습니다.
영국 맨체스터대학교 수학과는 매년 중학생을 대상으로 ‘앨런 튜링 암호 해독 경진대회’를 열어 숨은 암호 인재를 찾고 있습니다. 올해는 1월 15일부터 3월 26일까지 대회가 진행되며, 매주 월요일 홈페이지(maths.manchester.ac.uk/cryptography_competition)에 올라온 암호를 네 명 이하로 조를 짜서 함께 풀면 됩니다.
여러분도 참여하고 싶다고요? 안타깝게도 영국에서 교육을 받은 학생들만 대회에 참여할 수 있습니다. 하지만 문제는 인터넷에 공개돼 있어 마음만 먹으면 풀어 볼 수 있습니다. 여기서는 2017년 대회에 나온 문제를 소개합니다.
1. 우연히 종이 두 장을 발견했다. 한 장에는 알파벳이 규칙 없이 나열돼 있고, 크기가 같은 다른 한 장에는 구멍이 숭숭 뚫려 있다. 설마 암호문? 두 장을 겹쳐서 보는 것까지는 알겠는데, 어떻게 해야 숨은 메시지를 알 수 있는지 오리무중이다.
2. 찾은 메시지의 내용을 따라 온 영국 맨체스터 대성당에 또 다른 암호가 새겨져 있다. 무덤은 수백 년 된 것 같지만, 비문은 훨씬 최근에 써진 걸로 보아 누군가 메시지를 남긴 게 분명하다. 설마 낙서가 힌트?
3. 비문을 해독해 온 이곳은 영국 존 라이랜즈 도서관. 창문에 철학자의 모습을 담은 스테인드글라스가 있다. 로직이라는 글자가 있는 작품은 독일 철학자 게오르크 헤겔의 초상화뿐! 그 주위에 이상한 문자가 쓰여 있다.
컴퓨터 좀 안다면 디지털 포렌식에 도전!
영화 속 한 장면을 연상케 하는 이 문제는 고려대학교 정보보호대학원이 주관한 ‘2016 암호경진대회’ 5번 문제입니다. 현대 암호는 모두 컴퓨터로 설계하고 해독하는 만큼 고등학생 이상이 참여하는 암호대회에는 컴퓨터로 풀어야 하는 문제가 출제됩니다. 디지털 자료에 숨겨 놓은 정보를 찾는 디지털 포렌식은 단골 문제지요.
요즘은 범죄자들이 죄다 증거를 디지털로 숨겨 놓아서 검찰, 경찰, 국방부는 물론 민간 분야까지 디지털 포렌식에 대한 관심이 뜨겁거든요. 그래서 디지털 포렌식을 잘하는 사람을 사방팔방에서 찾고 있습니다. 이력서 파일 어디에 정보가 있을까요? 다음 문단을 읽기 전에 한번 추리해 보세요.
2016 암호경진대회 대상 수상자인 한국정보보호시스템 소속 심재범 씨와 김병관 씨는 이력서파일 크기에 주목했습니다. 1장으로 구성된 한글파일치고 5메가바이트는 너무 크다고 생각하고 이미지 파일부터 살펴봤습니다. 문서에서 사진을 지우자 ‘보관자료’라는 압축 파일이 나타났습니다(그림➊). 또 이력서 하단에 ‘경애!!’라는 글자를 흰색으로 적어놔 보이지 않았다는 것도 알아냈습니다(그림➋).
압축 파일을 열자 그 안에는 사업계획, 직원관리 같은 기업 운영과 관련된 각종 파일과 함께 이미지 파일 안에 데이터를 저장하거나 추출(스테가노그래피)하는 프로그램인 ‘Setup-OpenStego-0.6.1.exe’도 있었습니다(그림➌). 이미지 파일 안에 숨은 정보가 있는 거지요.
파일명이 ‘민아’인 PNG 파일을 스테가노그래피 분석하고 앞서 찾은 정보인 ‘경애!!’를 한·영 전환 해 암호로 입력하자 ‘[주요]2016년 1분기 보고 및 지령’이라는 텍스트 파일이 열렸습니다(그림➍). 이로써 이철진, 김나라 등 9명을 추가 조사해야 한다는 것을 알아내 문제를 말끔히 풀었지요.
대상 팀의 추리를 보니 여러분도 암호대회에 도전할 수 있을 것 같나요? 컴퓨터 좀 아는 고등학생이라면 6월 열리는 고려대 정보보호대학원 암호대회에, 중학생이라면 2월 3일부터 예선전을 치르는 ‘코드게이트2018 국제해킹방어대회’ 주니어부문에 응시해 보세요!
★ 앨런 튜링 암호 해독 경진대회 정답과 해설 ★
암호전문가를 꿈꾼다면 고전 암호는 꼭 알아야 합니다. 암호 분석은 크게 고전 암호 분석, 부채널 공격, 패스워드 공격으로 나뉘기 때문이에요. 고전 암호로 이뤄진 앨런 튜링 암호 해독 경진대회 문제를 풀어봤나요? 답을 얼마나 맞혔는지 확인해 보세요. 한 문제도 못 맞혔다고 실망할 필요는 없습니다. 원래 4명 이하로 조를 짜서 일주일 동안 꼬박 고민해서 풀어야 하는 문제니까요. 문제 해결 아이디어만 떠올렸어도 제2의 튜링이 될 자격이 충분합니다.
1. SEEK TOMB IN OLD PARISH CHURCH. 오래된 교구 성당에서 무덤을 찾으세요.
구멍 뚫린 종이를 오른쪽으로 뒤집은 다음 시계방향으로 180° 회전한 뒤 두 종이를 겹치면 메시지를 확인할 수 있습니다. 아래쪽으로 뒤집으면 단박에 알 수도 있지요.
구멍 뚫린 종이는 총 8가지 방법으로 대칭이동 할 수 있습니다. 90°씩 회전하는 4가지 방법과 뒤집어 다시 90°씩 회전하는 방법으로 8가지 경우만 고려해 보면 됩니다. 답을 알고 나니 매우 쉽죠? 하지만 아무런 정보가 없는 상태에서 이를 생각해내는 건 굉장히 어렵습니다.
‘카르단 그릴’이라고 불리는 이 암호는 16세기 이탈리아의 수학자 지롤라모 카르다노가 제안한 방법입니다. 암호 해독이 결코 쉽지 않기 때문에 카르다노가 이 암호를 제안했겠죠? 카르다노는 3차 방정식의 일반적인 해법을 발견하고, 제곱하면 음수가 되는 수인 허수 개념을 처음 도입한 것으로 유명합니다.
2. QUAERITE LOGICAM FENESTRAM IN BIBLIOTHECA IOANNIS RYLANDS. 존 라이랜즈 도서관에서 논리 창을 찾으세요.
알파벳을 순서대로 16 글자씩 뒤로 밀어서 쓴 카이사르 암호입니다. 즉 A는 Q, B는 R, C는 S로 바꿔 쓰면 위와 같은 라틴어 문장을 알아낼 수 있지요. 답이 영어가 아니라서 당황했지요? 암호를 해독해도 그 의미를 알지 못하도록 일부러 다른 나라의 언어를 써서 메시지를 전달하기도 합니다.
여기에 쓰인 암호는 로마 정치가이자 장군인 율리우스 카이사르가 자주 사용한 암호로, 문자를 일정 간격으로 이동해 다른 문자로 바꾸는 ‘이동암호’입니다. 알파벳은 26 글자이니, 26가지 경우가 존재합니다. 모두 다 헤아려 봐도 영어로는 말이 되지 않으니 아주 어려운 문제지요.
3. THE GRESLE FAMILY LEGACY IS HIDDEN SOMEWHERE IN THE LIBRARY. WHEN READ ARIGHT IT TELLS WHERE WONDEROUS INFORMATION CAN BE FOUND. THE GUARDIANS WILL GUIDE THE RIGHTFUL TO THE HIDING PLACE. 그레슬리 가문의 유산은 도서관 어딘가에 숨겨져 있다. 그것을 읽으면 놀라운 정보를 어디에서 찾을 수 있는지 알 수 있다. 후견인이 정당한 사람을 유산이 숨겨진 장소로 안내할 것이다.
5가지 기호와 5가지 색이 있으니 총 25가지 글자가 가능합니다. 알파벳은 26 글자긴 하지만 Z는 자주 사용하지 않으니 충분히 메지시를 전달할 수 있지요. 그렇다면 어떤 기호와 색이 알파벳과 짝지어질까요? 암호 분석에서는 평소 어떤 글자를 가장 많이 사용하는지 알아보는 ‘빈도분석’이 자주 쓰입니다.
많은 연구를 통해 영어에서 가장 많이 사용하는 알파벳이 E라는 것이 알려져 있지요. 이 문제에서 가장 많이 나오는 글자는 노란색 α이니, 이를 E라고 합시다. 암호문에 있는 5가지 기호는 그리스 문자입니다. 알파벳처럼 표준 순서가 있으며 α, β, γ, δ, ε 순입니다. 따라서 암호문에서 α는 5 종류뿐이므로 나머지 색의 α가 각각 A, B, C, D에 해당할 겁니다.
노란색이 5번째가 될 만한 규칙을 찾아보면 색을 영어로 나타냈을 때 첫 글자의 알파벳 순서입니다. 따라서 파란색(blue) α가 A, 초록색(green) α가 B, 빨간색(red) α가 C, 흰색(white) α가 D입니다. F는 파란색 β가 되겠죠. 이런 규칙을 Y까지 적용하면 다음과 같이 기호와 알파벳을 짝지을 수 있고, 암호문을 해독할 수 있습니다.
▼관련기사를 계속 보시려면?