d라이브러리

인간의 손으로는 불가능한 과학기술계산을 식은 죽 먹듯 순식간에 해치우는 슈퍼컴퓨터의 탄생에 얽힌 뒷얘기들을 엮어본다.

비행기를 새로 개발하려는 회사가 있다. 먼저 유체역학에 의해서 날개모양을 만들고 몸통도 대충 어떤 모양이 될 것인가 구상해본다. 생각나는 대로 설계도를 만들고 이에 따라 실물을 제작할 때 어떤 일이 생길까. 만약 설계상에 약간의 문제점이 있어서 새로이 모델을 바꾸어야 한다면 그전에 만든 비행기는 순식간에 고철덩어리가 되어 버릴 것이다. 더구나 그런 비행기가 간단한 글라이더나 농약치는 비행기 정도가 아니라 대형수송기라면 실물제작은 어미어마한 모험이 될 것이다.

이 사실을 항공기 제작자들은 누구보다도 잘 알고 있었다. 그래서 보다 축소된 항공기 모형을 만들어서 그에 상응하는 바람을 일으켜보고 각각의 속도에서 비행기의 진동이 얼마나 되는지를 알아 보려고 했다. 보통 이런 실험은 초대형 선풍기가 준비된 창고속에서 행해지며 풍동(風洞)실험이라고 부른다. 그러나 풍동실험을 하는데도 약 5천만달러라는 거대한 자금이 소요된다. 더구나 문제는 비용이 아니라 모형을 통한 실험 자체가 가지는 결함에 있다. 모형 비행기를 그냥 풍동실 공간에 덩그렇게 띄우기 위해서는 비행기를 천장에 매달거나 몇개의 지지대를 이용해서 받쳐야만 했다. 이때 풍동실의 벽면과 지지대 사이의 간섭으로 말미암아 실제로 비행시에는 생겨날 수 없는 난류가 지지대 사이에서 발생하게 된다. 이런 난류의 발생으로 어떠한 풍동실험도 실제상황과 정확하게 일치할 수가 없으며, 다양한 바람을 일으키기에는 좁은 풍동실의 터빈으로 불충분했다.

배를 만들 때에도 이와 비슷한 실험을 한다. 커다란 물탱크속에 모형배를 띄워두고 배의 축소비율에 따라서 파도크기를 조정하여 각 흐름에 배의 상태가 어떠한지를 조사한다. 이같은 실험을 하는 방을 수조실이라고 부른다.

필자가 공부한 대학의 기숙사 옆에도 항공공학과에서 만든 풍동실이 있었다. 가끔씩 밤을 틈타서(？) 한번씩 동작할 때면 커다란 바람소리로 인해서 기숙사 전체가 떠들썩할 정도였다. 그렇다면 이 같은 실물모의실험을 대치할만한 방법은 없는 것일까. 그 답은 바로 슈퍼컴퓨터가 제공한다.

온실효과를 추적한다면…

슈퍼 컴퓨터는 기존의 유체역학 공식이나 실물모의실험에서는 도저히 할 수 없을 정도의 정확한 계산을 해준다. 예를 들면 아직도 유체역학에서 깨끗하게 해결하지 못하는 난기류의 문제를, 약 1백만 분의 1초단위로 공기분자가 어떻게 움직이는가를 추적함으로써 거의 완벽하게 해결해준다. 비행기 동작 실험에서 어떤 프로그램은 비행기 표면을 수십만개의 조각으로 나누어서 각 조각마다 기체의 압력 밀도 그리고 속도를 산출해 낸다. 이를 위해 기존의 컴퓨터보다 월등히 계산능력이 뛰어난 슈퍼컴퓨터의 사용이 필수적이다.

그러나 몇몇 항공공학자들은 아직도 실제모형의 풍동실험이 더 가치있는 일이라고 믿고있다. 물론 슈퍼컴퓨터를 사용하더라도 그에 사용되는 계산모델이 부정확하다면 어이없는 결과가 나오게 된다. 그러나 컴퓨터는 공기가 거의 없는 대기 상층부에서의 비행이라든지 심한 태풍 눈 비 등 기상악조건속이나, 음속의 몇배나 되는 조건 등 현재의 풍동실험설비로서는 도저히 흉내도 낼 수 없는 실험을 실제상황과 유사하게 할 수 있다. 특히 개발속도 자체가 회사의 존망까지도 좌우하는 자동차개발에서 슈퍼컴퓨터의 사용은 필수적이다. 일일이 시험자동차를 만들어서 벽에 부딪히는 실험을 한 후 그 프레임구조를 바꾸는 일은 작업의 양도 양이거니와, 다른 회사와의 속도경쟁에서 배겨날 수 없을 정도로 느릴 것이다.

최근에는 지구과학분야에도 슈퍼컴퓨터가 응용되고 있다. 예를들면 토네이도(tornado)라는 회오리바람을 일으키는 폭풍우의 활동을 분석함으로써 미리 경계경보를 발하게 할 수도 있게 됐다. 최근들어 크게 문제가 되고 있는 오존층의 파괴가 지구인들에게 어떤 영향을 미칠 것인지에 대해서도 실험을 할 수 있으며, 나아가 어떤 연구원들은 현재의 기후와 대기모델을 사용해서 지구상에서 완전히 멸종해버린 공룡의 수수께끼를 알 수 있지 않을까 하는 기대까지 하고 있다. 다소 뉴턴적 기계론에 의존하고 있긴 하지만 재미있는 추리라고 할 수 있다. 대기의 운동은 워낙 복잡해서 서너개의 식으로 표시되는 전자기학과는 도저히 비교조차 할 수 없다. 문명이전에는 이런 현상들이 자연스럽게 초자연적인 신의 존재를 합리화시켜 주었지만 현재는 슈퍼컴퓨터가 이런 질문에 충실히 답해준다. 밀림이 훼손되어감에 따라 차츰 대기중의 이산화탄소량이 많아져 간다고 과학자들은 분석한다. 만일 이산화탄소량이 두배로 증가된다면 무슨 일이 벌어질 것인가.

최근 과학자들이 추적한 이산화 탄소의 증가에 따른 기후변화는 다음과 같다고 한다. 이 계산을 위해서 슈퍼컴퓨터인 크레이-Ⅰ으로도 무려 1백32시간이 들었으며 총계산한 횟수는 43번 정도였다. 극지방에서 온도가 무려 16℃ 상승하고, 적도지방에서는 2℃정도 상승한다. 이로 인해 극지방의 얼음이 녹아내린다. 녹은 얼음물의 영향으로 해안선 근처의 도시들이 물에 잠기며 농사에 결정적인 영향을 미치는 토양의 습윤도는 유럽 아시아일부 캐나다 일대에서 올라가고, 아프리카와 남아메리카에서는 떨어질 것이라고 내다보았다. 다소 우울한 예측이지만 대체적으로 타당성이 있는 진단이라고 기상학자들은 말한다.

그러나 슈퍼컴퓨터의 개발동기를 부여하고 현재까지도 슈퍼컴퓨터의 가장 열렬한 구매자는 역시 핵물리학자들이다. 슈퍼컴퓨터가 입자물리학에 응용되는 것은 두가지다. 하나는 현재의 입자가 속기 조차도 실현하기 불가능한 실험을 모의로 해준다는 것이고, 또 하나는 입자가속기 자체를 제어하며 입자가속기에서 나온 사진(두개의 입자가 부딪쳐 생긴 새로운 입자들의 궤적을 찍은)을 분석해서 어떤 입자가 생겼으며 그 입자들이 어떤 경로를 따라가서 소멸했는지를 추적하는 일이다.

전자의 예를 들면 크립톤(Kr)핵이 하나의 란탄(La)핵과 충돌하는 과정을 '불가사의한 비탄성충돌'이라고 부른다. 이들은 부딪치는 순간 결합하여 순간적으로 아주 무거운 원자핵이 되고 다시 둘로 나뉘어져 중성자와 양성자의 개수가 다른 새로운 원자핵으로 바뀐다.

이 과정을 인간의 수학계산으로 해결한다면 너무 복잡해서 계산자체가 거의 불가능할 뿐만 아니라, 가장 효율적인 계산방법을 생각해 내는 데만 1년이 족히 걸린다. 그러나 슈퍼 컴퓨터인 크레이-Ⅰ은 이 계산을 불과 90분만에 끝냈다. 인간이 계산한다면 수많은 오류를 포함해서 1년이 걸리는 일을 단지 90분만에 해낸 것이다. 실세계에서 이 과정은 불과 ${10}^{-21}$초만에 일어나기 때문에 인간의 상상을 초월한다. 그러면 현대과학을 이루는데 없어서는 안될 슈퍼컴퓨터의 개발에는 어떤 역사적 배경이 있었는지 살펴보자.

스페리랜드, 상처뿐인 영광

역시 시초는 제2차세계대전부터 시작한다. 2차대전중 디지털컴퓨터는 암호해독과 무기개발에 응용되었다. 특히 2차대전이 끝날 무렵부터 핵무기에 대한 각 나라의 열띤 경쟁이 시작되면서 보다 빠른 컴퓨터의 개발에 대한 요구가 증대되었다. 원폭개발에 성공한 미국은 핵무기개발에 더욱 박차를 가하게 되었다. 그 중에서도 버클리대학부설 로렌스방사능연구소는 당시 가장 빠른 컴퓨터로도 약 1백시간이 걸리는 계산문제에 골머리를 앓고 있었다.

1954년의 일이었다. 로렌스연구소는 현재 사용하고 있는 컴퓨터보다 1백배는 족히 빠른 컴퓨터를 찾는다고 여러 회사에 공고를 내었다. 여기에 뛰어든 회사는 IBM과 스페리랜드, 두 회사였다. 먼저 스페리랜드가 그 신청을 받아들여 1956년 3월에 주문명세서를 완성하고 본격개발에 돌입했다. 연구지정을 빼앗긴 IBM은 다소 실망스러웠지만 분을 삭이며 후일을 도모했다. 다행히 그 무렵 진공관 기술이 새로운 트랜지스터라는 매체로 대신되면서 스페리랜드의 개발은 별 무리없이 진행되었다.

개발작업은 루코프라는 공학자에 의해 지휘되었다. 새로운 기계의 이름은 LARC라고 명명됐다. 모든 진공관은 트랜지스터로 대체되고, 이전의 유니백(Univac)류와는 달리 순수하게 계산을 담당하는 장치와 외부로부터의 입출력을 담당하는 부분으로 전체 구조를 나누었다. 얼마나 그 배선구조가 복잡했던가 하면 기판위로 얽혀있는 배선의 두께만 5㎝가 넘었다고 하니 그 복잡함을 짐작하고도 남음이 있다. 후일 루코프는 "그 일이 성공할지 실패할지도 모른채 묵묵히 일해준 배선공들의 노력이 없었다면 아마도 LARC는 태어나지 못했을 것이다"라고 말했다.

우여곡절속에서도 LARC는 1960년에 완성되었다. 그러나 문제는 제작가격이 비싸 애당초 기꺼이 사줄 것이라는 고객들이 하나둘씩 고개를 내젓는 것이었다, 아직까지는 그 정도의 가격이라면 구식기계로 엉금엉금 계산하는 편이 더 경제적이라 생각했기 때문이다. 게다가 잦은 부품고장으로 애당초 인도하기로 계약한 성능의 90%정도에 그쳤다. 원래 인도계약시간보다 2배정도는 더 끌었기 때문에 스페리랜드는 할말이 없었다. 한대는 로렌스 연구소에 억지로 팔았다. 1961년 미해군에서 한 대를 주문했다. 선구자에게 돌아 온 것은 '상처뿐인 영광'이었다. 결국 스페리랜드는 1천7백만 달러를 고스란히 날려버리고 그 일에 관여했던 연구원들도 뿔뿔이 흩어져 버렸다. 과학의 세계와 경영의 세계가 일치하지 않는다는 교훈만을 남기고….

IBM의 실패와 CDC의 도전

한편 1955년 로렌스연구소의 입찰에서 쓴 맛을 본 IBM은 와신상담끝에 독자적인 개발계획을 세우고 1957년 원폭개발에 선구적인 역할을 한 로스알라모스연구소와 IBM704보다 1백배나 빠른 최신형컴퓨터를 만들어보자는 합의서를 교환했다. 새로운 컴퓨터에는 스트레치(Stretch)라는 별명을 붙여주었다. 부품의 개선만 가지고서는 10배이상 속도를 내기 힘들기 때문에 전체적으로 어떤 혁신적인 개혁이 필요하다는 사실을 IBM은 직감했다. IBM은 LARC이 어떤 점에서 고통을 받아왔는가를 면밀히 살펴왔다.

IBM은 수동식배선의 부정확성과 느린 속도를 감안하여 새로운 배선 프로그램을 개발했다. 그 배선프로그램은 IBM 704로 처리되는 혁신적인 프로그램으로 CAD(컴퓨터 이용 설계)프로그램의 초기단계를 구축했다. 그러나 기계는 인도기한을 1년 가까이 넘기고서야 로스알라모스에 인도되었으나, 애당초 요구한 속도의 25% 밖에 내지 못했다. 게다가 낮은 신뢰도 때문에 인도가격은 원래 계약된 1천3백만달러에서 반정도가 깎인 8백만달러였다. 그뒤로 8대정도를 다시 주문받았지만 IBM의 총손해액은 2천만달러에 달했다.

IBM과 유니백(나중에 스페리랜드와 유니백이 병합되었음)이 고배를 연이어 마시자 한동안 과학기술전용 컴퓨터에 대한 연구열기는 긴 동면에 들어가게 되었다. 보다 실익을 챙길 수 있는 사무용 컴퓨터제작으로 기업들의 개발방향이 재조정되었다.

이 와중에 IBM과 유니백의 뒤를 이어 다른 기업이 대형컴퓨터 연구에 뛰어들었다. CAD라는 약자로 알려진 콘트롤데이터였다. 몇년전 국내에서 떠들썩한 노사분규를 일으킨 바로 그 회사다.

1957년에 세워진 CDC의 첫작품은 바로 트랜지스터를 주장치로 활용한 1604였는데 당대 최고의 작품이라는 IBM704보다도 빨라 주목을 받았다. 이 회사를 실질적으로 주도한 기술자는 전직 암호 해독자였던 윌리엄 노리스와 하워드 엥스트롬이었다. CDC의 목표는 사무용계산기가 아니라 오로지 대형컴퓨터를 만드는 것이었다. 그래서 1964년에는 더 빠른 모델 3600을 발표했다. 모델 3600은 6600에 추월당할 때까지 세계 최고의 속도를 자랑하는 컴퓨터로 자리를 지켰다.

CDC의 사장 노리스는 군과 학계의 자신과 친분이 있는 사람들을 대상으로 CDC제품을 선전하기 시작했다. 몇가지 재정상의 문제로 CDC는 도산위기까지 몰렸으나 해군에 있는 몇 친구들의 도움으로 1604를 주문받는데 성공했다. 한때는 컴퓨터의 개발과정 중 재무상태가 너무 악화되어 전사원의 월급을 반으로 줄여야 할 정도에 이르렀다. 어려운 과정 끝에 1960년 드디어 1604가 탄생했다. 가격도 파격적으로 1백만달러 이하로 책정했는데 당대의 어떤 컴퓨터보다도 뛰어난 능력을 보였다.

슈퍼컴의 대부, 크레이

모델 1604의 설계를 담당한 사람중에는 나중에 슈퍼컴퓨터업계의 대부로 군림하는 크레이라는 뛰어난 엔지니어가 숨어있었다. 세이모 크레이(Seymour R. Cray). 괴팍스럽고 황당무계한 성격의 크레이는 1925년 위스콘신주의 조그만 도시에서 태어났다. 어려서부터 크레이는 유달리 뛰어난 재능을 보였다. 그가 졸업한 고등학교의 학보에는 크레이에 대해서 다음과 같이 묘사하고 있다. 크레이가 과학상을 받았다. 그는 고교 시절 내내 한 분야에 집요한 관심을 쏟았다. 그가 앞으로 과학자의 길을 걷게되리란 것을 우리는 믿어 의심치 않는다. 그는 미네소타주립대학을 졸업한 후 25세에 유니백 1103의 개발 책임을 맡았다. 그후 노리스의 눈에 띈 크레이는 CDC의 엔지니어로 들어와서 과학용컴퓨터를 연구하게 된다.

크레이의 성격을 잘 말해주는 에피소드가 있다. 그는 자신이 연구하는 일이외에는 도무지 관심이 없었다. 한번은 진행중인 프로젝트에 관해서 책 한권 분량의 보고서를 만들라는 요구에 다음과 같은 한 페이지의 메모로 답했다. '보고:자신있게 나아감.' 그가 태어난 치피와지방의 이름을 따서 '치피와 폭포의 마술사'라는 별명으로 불리기도 했다.

크레이는 노리스에게 자기 고향 근처로 연구소를 옮겨야겠다고 우겼다. 다른 사람의 요구라면 일언지하에 거절할 노리스였지만 일찍부터 그의 천재성을 알고있기 때문에 CDC본부가 있는 미니애폴리스에서 1백60㎞나 떨어진 크레이의 고향 근처에 연구소를 차려 주었다. 마음의 평안을 찾은 크레이는 도시락까지 싸와 자신이 직접 납땜까지 해가면서 모델 6600의 개발에 몰두했다. 연구소 직원은 경비원 포함 모두 34명이었다.

세월이 흘러 1964년 3월, 드디어 모델 6600이 공개되었다. 무려 1백28만㎞의 전선으로 뭉쳐진 기계. 높이는 서양인의 키 정도되는 1백80㎝에, 길이는4m 35만개의 트랜지스터가 사용되었고, 냉각에는 기존의 공랭식이 아니라 냉각수가 컴퓨터내부 이곳저곳을 움직이며 식혀주는 수냉식을 채택하였다. 초당 3백만번 정도의 계산이 가능하였다. 이는 CDC1604보다는 20배나 빠른 속도였으며 IBM의 스트레치보다는 약 3배 빠른 속도였다.

완전한 히트 작품이었다. CDC의 주가가 폭등하기 시작했다. CDC의 성공소식에 가장 배아파한 것은 IBM이었다. IBM의 회장인 왓슨은 간부회의에서 분통을 터뜨리면서 거대기업 IBM의 구겨진 자존심을 세우기 위한 대책을 마련하라고 긴급 지시했다. 드디어 IBM이 CDC의 6600을 겨냥해서 알쏭달쏭한 성격의 X-프로젝트를 발표했다.

CDC는 6600의 성공에 힘입어 새로운 모델 7600을 개발하기에 이르렀다. 7600은 곧바로 로렌스 국립연구소로 팔렸고 이후 10년동안 CDC는 독무대를 누리게 된다. 그러나 CDC7600에도 어느덧 경쟁자가 생기게 되었는데, 그것은 CDC를 뛰쳐나온 크레이가 만든 크레이-Ⅰ이라는 슈퍼컴퓨터였다. 드디어 본격적인 슈퍼컴퓨터의 시대가 개막된 것이다.