무게 30t, 사용된 진공관 1만7천개, 직선의 길이 1백30㎞였던 매머드 기계 '에니악'은 당시로서는 놀랄만한 계산속도를 자랑했다.
'U보트를 격침시켜라'라는 전문이 급하게 영국해군본부 암호해독실에 전달되었다.
2차대전이 막바지에 이른 1943년, 영국의 보급선은 나치독일이 자랑하는 U보트의 공격에 속수무책이었다. 독일은 모든 명령을 암호문으로 만들어서 전파로 내보냈다. 예를 들어 '13번 U보트는 영국의 9번 순양함 뒤쪽으로 추격하라'라고 동내방내 떠들 수는 없다.
독일은 일찍이 보다 안전한 암호문 작성을 위해 자동암호문 작성기를 만들었다. 그 기계의 이름은 수수께끼라는 뜻을 가진 '에니그마(Enigma)'였다. 이렇게 작성된 암호문을 해독할 수 있는 방법은 에니그마와 같은 기계를 훔쳐오든지, 아니면 그 제작자를 붙들어와서 비밀을 캐어내든지, 이것도 저것도 아니면 암호문을 두들겨 맞추어 해석해 보는 방법 뿐이었다.
「무인도게임」즐긴 튜링
마침내 영국은 한 천재 수학자의 도움으로 '컬로서스'(Colossus, 거인이라는 뜻)라는 최초의 디지털형 컴퓨터를 개발했다. 비록 범용이 아닌 암호문 해독전용 컴퓨터였지만, 이후 영국군은 컬로서스로 인해 큰 도움을 받았다. 그것이 연합국의 승리에 결정적인 영향을 주었는지는 모르지만 꽤나 많은 이득을 주었음에는 틀림없다.
이 최초의 디지털형 컴퓨터를 제작하는데 결정적인 도움을 준 사람은 알랜 튜링이라는 영국의 젊은 수학자였다. 천재의 삶이 대개 그러하듯이 튜링 역시 젊은 나이에 자살했다. 자살이라기 보다는 자신에 대한 타살이라고 해야 정확할 것이다.
튜링은 항상 자신의 지식능력을 시험해 보이기를 좋아하여 자신이 고안한 '무인도 게임'이라는 것을 즐겨했다. 무인도 게임은 준비물로 청산가리라는 극약이 포함된 아주 무시무시한 것이었다. 적당한 시간내에 자신이 낸 문제를 자기가 해결하지 못하면 극약이 자신의 입으로 쏟아지는 그런 게임이었다. 더러의 문헌에는 튜링이 동성연애자라고 기록되어 있다.
하여간 모험심이 무척 강한 젊은 천재 수학자에 의해서 현대 전자계산학의 이론적 기초가 다져지기 시작했으며, 아직도 그의 이름을 사용한 튜링머신(Turing machine)이란 이론적 모델이 전산학의 전 분야에서 이용되고 있다. 현대의 모든 컴퓨터는 튜링머신의 능력에 미치지 못한다. 튜링머신은 전선과 트랜지스터로 구성되어있는 쇳덩어리가 아니라 몇개의 기호와 수식으로 구성된 종이 기계((paper machine)였다.
펀치카드와 전기릴레이
이보다 앞서 전기를 동력으로 하는 전기식 계산기가 선보이기 시작했다. 1800년대만 하더라도 전체 국민에 관한 통계자료를 처리하는 일은 여간 골칫거리가 아니었다. 즉 1900년에 조사한 통계자료를 처리해서 행정에 사용하려면 무려 1,2년이나 걸렸다. 그 사이에 인구는 또 늘어나고, 완성된 자료는 그 상태를 제대로 반영하지 못했다. 이런 상황이 미국의 통계국에서 종종 발생했다.
드디어 많은 상금을 걸고서 해결책을 공모했다. 이 문제에 뛰어든 사람은 홀러리스라는 젊은 기술자였다. 홀러리스는 역무원이 검표시 두꺼운 차표에 구멍을 뚫는 것에 착안하여 모든 자료를 두꺼운 종이에 구멍을 뚫어서 표시하였다. 최초의 펀치카드시스템이 탄생하게 된 것이다. 펀치카드가 실려오면 위에 늘어서 있는 핀들이 살그머니 내려오게 된다. 구멍이 뚫려있는 곳으로는 핀들이 빠지게 되어 아래의 수은이 핀이 담겨지게 된다. 이것으로 인해서 전기가 통하게 되어 각 펀치카드에 찍힌 자료가 전기적 자료로 표현된다. 이 덕택으로 통계국은 처리속도를 4배나 향상시킬 수 있었다.
물론 홀러리스의 아이디어 이전에도 펀치카드를 이용한 기계장치가 있었다. 1725년, 보촌이라는 프랑스 사람은 직물기의 무늬를 보다 쉽게 생성하기 위해서 펀치카드를 사용했다. 이후 1801년에 잭 쿼트라는 사람도 종이카드를 이용했다.
홀러리스가 만든 태뷸레이팅 머신(Tabulating machine)회사는 나중에 IBM으로 발전하게 된다. 마치 로마가 하루 아침에 나타나지 않았듯이, 거대 공룡기업인 IBM도 하루 아침에 이루어지진 않았다.
초기계산기는 릴레이를 스위치로 사용하였다. 하버드대학의 아이켄은 1937년 ASCC(Automatic Sequence Controlled Calculator)를 만들었다. 비록 스위칭체제는 전기식 릴레이를 사용하였지만 모든 수치자료를 2진수체제로 표시했다. 전기식 릴레이는 전자석의 원리를 이용했다. (그림)a에서 나타나 있듯이 코일 A에 전기가 흐르면 A가 감고 있는 철심이 전자석으로 변하게 된다. 전자석으로 변한 철심은 옆의 철판을 끌어당겨(그림)b와 같이 전류가 흐르게 된다. 이러한 전기식 릴레이를 사용한 기계는 동작할 때 다닥거리는 소음이 심했다. 20여년전 아직 엘리베이터에 전자식 제어장치가 없을 때 전기식 릴레이가 사용되었다. 한번씩 엘리베이터가 움직일 때면 새파란 불꽃과 릴레이의 다닥거리는 소리가 대단하였다. 릴레이는 기계식장치를 포함하고 있었으므로 고장도 잦았다.
진공관의 등장은 산업혁명시 증기기관의 발명에 필적할 만한 커다란 영향을 미쳤다. 진공관이 탄생하기에는 기구한(?) 사연이 있었다. 진공관을 설명해주는 기본원리는 에디슨이 백열전등을 개량하면서 발견되었다. 에디슨은 전류가 전등의 탄소 필라멘트와 양전하로 입혀진 금속판사이의 진공 속으로 흐른다는 것을 알게 되었다. 그러나 에디슨은 그 진공관의 원리를 잘 응용하지 못했고 그냥 '에디슨 효과'라고만 명명하였다.
에디슨 효과의 실용성을 처음으로 이해한 사람은 영국의 물리학자 플레밍이었다. 이후 드 포레스트는 플레밍의 도움으로 최초의 3극 진공관을 만들었다. 진공관을 사용한 최초의 컴퓨터는 아타나소프가 1939년에 만든 ABC였다. ABC는 Atanasoff Berry Computer의 약자다. 혹자는 아타나소프의 ABC가 최초의 전자식 계산기라고 주장한다.
총알보다 빠른 「에니악」
현대적 의미에서 볼 때 전자계산기의 시초는 펜실베이니어대학에서 모클리와 에커트가 만든 에니악(ENIAC)이었다. 에니악은 미육군탄도연구소의 의뢰로 만들어졌다. 에니악은 1943년에 시작되어 1946년에 완성되었다. 2차대전이 끝난 뒤라서 다소 섭섭하기도 했을 것이다. 전쟁은 흔히 과학적 진보에 커다란 이정표를 세운다.
에니악의 덩치는 30t, 진공관이 무려 1만7천4백68개나 사용되었다. 사용된 전선의 길이는 1백30㎞였다. 그보다 앞서 만들어진 마크Ⅰ(MARKⅠ)에 소용된 전선의 길이가 9백㎞였으니까 에니악에 이르러서는 많이 줄어들었다. 에니악은 50평규모의 연구실에 설치되었는데 진공관이 내뿜는 열과 벌건 색깔의 진공관 빛, 둔한 소리 등이 어우러져 마치 괴기영화의 한 장면과 같았다. 실제로 진공관에서 방출되는 열기로 인해서 방안의 온도는 50℃까지 올라갔다. 전산실이 사우나실과 겸용을 해도 될 정도였다. 또 쉴새없이 망가지는 진공관의 사체(?)를 수거하고 새로운 진공관으로 갈아끼우기 위해서 여러 명의 기술자가 어슬렁거리며 에니악 주위를 맴돌았다.
초기 에니악의 개발에 참여한 사람들에 따르면 에니악이 동작할 때 나는 소리는 노파들이 편물기계를 돌리면서 웅얼거리는 것과 비슷했다고 한다. 지금은 에니악보다도 더 강력한 컴퓨터가 무릎 위에 올라갈 정도니 그 발전속도에 놀라울 뿐이다. 현대에 와서 컴퓨터가격이 초기에 비해서 얼마나 떨어졌는지를 살펴본다면 더욱 놀랄 것이다. 만약 우리가 타고 있는 중형승용차가 컴퓨터가격의 하락 비율로 떨어졌다면 1천원에 1천5백㏄급 승용차를 두대 정도 살 수 있을 것이다.
현재 개인용 컴퓨터인 AT의 성능에 불과한 정도였지만 에니악은 당시 대단한 계산능력을 자랑했다. 사람이 손으로 하면 7시간 정도 걸리던 탄도계산을 릴레이를 이용한 전기식계산기를 쓰면 1시간 정도 소요되었다. 시간이 줄어든 것이 중요한 것이 아니라 계산결과가 정확했다. 그러나 에니악은 그 문제를 단 3초만에 해치워버렸다. 즉 기존의 릴레이식 계산기에 비해서 약 1천배나 빨랐다. 이 정도의 속도라면 포탄을 발사시키고 동시에 그 착탄지점을 계산해도 포탄이 폭발하기 전에 그 위치를 예상할 정도였다.
미국에서는 '총알보다도 더 빠른 계산기'라고 떠들썩했다.
망신당한 샹크스
에니악은 대충 초당 5천번 정도의 곱셈을 할 수 있었다고 한다. 이 거대한 기계의 덕택으로 골치아픈 탄도계산은 사람의 손에서 기계에게로 넘어갔다. 그러나 에니악의 등장으로 톡톡히 망신당한 사람도 있었다. 어느 시대든지 기괴함과 고집스러움만으로 생을 살아가는 사람이 있다. 평생 한번도 머리를 깎지 않는다든지, 나비만 연구한다든지 하는 사람 말이다.
샹크스라는 수학자가 있었다. 이 사람은 자신의 전생애를 바쳐서 원주율(π)을 계산했다. 평생 걸려서 무려 7백자리까지 계산했다. 그 고통은 대단했을 것이다. 계산하는데 드는 종이를 감당하는 데에도 돈 깨나 날려버렸을 것이다. 에니악을 개발한 사람들 중에서 다소 악취미(?)를 가진 사람이 있었던지 샹크스의 원주율이 얼마나 정확한지 따져 보려고 했다. 하긴 어떤 사람은 성경에서 서로 모순되는 구절만 찾아내어 책으로 만들기도 했지만. 에니악이 드디어 심판의 칼날을 높이 들었다. 원주율이 에니악으로부터 찍혀나오기 시작했다. 3.1415926…. 7백자리까지의 계산은 수초만에 끝나 버렸고 샹크스의 계산은 52자리 이하부터는 모두 틀렸다는 사실도 밝혀졌다. 에니악이 아니었더라면 샹크스는 '원주율의 아버지'라는 이름으로 그 이름이 오랫동안 빛났을 것이다. 그러나 겨우 '원주율의 이종사촌누이의 조카' 정도로 전락해 버리고 말았다. 모두들 악마와 같이 정확한 에니악의 능력에 두려움을 느낄 정도였다.
지금도 컴퓨터간의 힘자랑에는 가끔씩 원주율계산이 사용된다. 최근에는 소숫점이하 1백만자리까지 계산이 가능하다고 한다. 그것이 무슨 소용이 있을까? 실제 대부분의 공학적 계산에서 원주율은 소수 10자리까지면 충분하다고 한다. 차력사들이 힘자랑을 위해서 계란껍질 깨듯이 맥주병을 깨는 일이 실제로 아무런 소용이 없듯이, 2백만자리까지 π값을 추적하는 일은 단지 하나의 짜릿한 차력술을 보는 기분만을 선사할 뿐이다.
천재 폰 노이만의 활약
그러나 에니악도 몇가지 문제를 내포하고 있었다. 먼저 입출력이 그렇게 자유롭지가 않았다. 입출력은 모두 천공카드에 부호화된 형태로 이루어졌기 때문에 사용자가 즉시 이해하기에는 어려움이 많았다. 그리고 에니악은 프로그램 내장방식이 아니었다. 소위 말해서 '폰 노이만 방식'이 아니었다. 에니악의 프로그램은 기억장치내의 내용을 바꾸는 것이 아니라 고정배선을 몽땅 들어내고 새로운 일에 적합하도록 새로 배선을 놓는 작업이었으므로 계산 속도를 증가시키는 과정에서 프로그램 작성이 어려워지는 점을 감수해야만 했다.
에니악의 프로그래밍 작업은 마치 냉장고를 보온밥통으로 바꾸는 일만큼이나 번잡한 것이었다. 그 이유는 에니악은 탄도계산에 적합하도록 만들어진 특수목적용 계산기였기 때문이다. 이제 계산기는 보다 범용적인 목적을 만족시켜야 할 때가 되었다. 그 원리를 제시한 사람은 폴란드 최고의 천재 수학자 폰 노이만이었다.
노이만의 천재성은 일찍부터 알려져 다섯살때 아버지와 고대 그리스어로 농담을 나눌 정도였다고 한다. 그리고 약 3백개의 전화번호를 암기하는 것은 물론 셰익스피어 희곡의 어느 부분이라도 시작 몇마디만 불러주면 계속 이어서 한자도 틀림없이 외웠다고 한다. 앞에서 소개한 알랜 튜링과는 매우 대조적이었다. 튜링은 극히 비사교적이었는데 비해 노이만은 항상 파티를 열어서 자신의 박식함을 과시했다고 한다. 한쪽은 비극적인 최후를 맞이했으나 노이만은 국가과학정책의 최고자문위원으로 일했으며 원자폭탄개발계획에도 깊숙이 관여했다.
노이만이 제시한 프로그램 내장방식이란 기억장치에 계산의 순서를 미리 기억시켜 두고, 실행할 때 순차로 그 기억내용을 끄집어 내어 기억내용을 해독하며 그 지시대로 계산해 나가는 방법이다. 이렇게 되면 기억장치에 어떤 명령어를 집어넣는가에 따라서 수행하는 일도 달라지므로 보다 일반적인 일을 수행할 수 있게 되었다.
이런 노이만이 원리를 채택한 최초의 범용 전자계산기가 탄생했다. 1949년 케임브리지 대학의 월크스는 에드삭(EDSAC)이라는 컴퓨터를 완성했다. 그리고 1950년에는 노이만 자신이 직접 에니악을 개선한 에드박(EDVAC)컴퓨터를 개발하였다. 에드박은 진공관의 수도 4천개 정도로 줄였으며 전과정에 2진법 회로를 채택하였다.
컴퓨터를 과학발전에 이용
에니악에서 에드박으로 이어지는 순조로운 발전을 IBM사장 토머스 왓슨은 그냥 보고만 있을 수 없었다. 그는 IBM에서 에니악을 능가하는 '초대형 계산기'를 만들어 모든 사용자들의 뇌리에서 에니악과 그 사촌들의 이름을 지우고 싶어했다. 먼저 사내에 순수과학부를 창설해서 기초부터 꾸준히 투자했다. 지금도 IBM의 위력은 이때 만들어진 연구센터 '왓슨연구소'에서 나오고 있다. 박사급 연구원만도 2천명이 넘는 그야말로 거대한 두뇌공장이라고 불러야 할 것이다.
드디어 IBM의 작품이 SSEC(Selective Sequence Electric Calculator)라는 이름으로 세상에 나왔다. 수석엔지니어는 프랭크 해밀턴과 수학자인 시버였다. SSEC는 1947년 완성되어 1948년 2월초까지 시험운영되었다. 더러 진공관이 말썽을 피우기는 했지만 1948년 1월 28일 공개시범에서 SSEC는 태음천체력계산문제를 수월하게 풀어냈다. 1952년부터 1971년까지 달의 위치를 12시간 간격으로 정확히 계산해내었다. 이후 IBM은 모델 701을 생산하였다. SSEC는 분해되었고 그 왕좌를 701에게 넘겨주어야 했다. 모델 701은 범용컴퓨터이면서 다량으로 생산돼 상업적인 성공을 거둔 최초의 스타가 되었다. IBM은 SSEC의 사용을 모든 과학기술자들에게 무료로 허용했다. SSEC는 컴퓨터가 과학발전에 얼마나 기여할 수 있는지를 똑똑히 보여 주었다.
IBM은 701로부터 상업적인 성공을 거두기 시작했으며 거인으로서의 일보를 내딛었다. 세계최초로 인류를 달까지 실어보낸 아폴로 우주선에서 사용한 운항항로표의 기초가 된 천체표는 이미 SSEC가 만든 것이었다.