신경망이란 의학과 생리학이 지금까지 밝혀낸 뇌의 기능을 컴퓨터에 이식시키려는 시도다. '미지의 블랙박스'로 불리는 인간의 뇌는 컴퓨터에서 어떤 모습으로 나타날 것인가.
인간과 유사한 기능을 가진 시스템의 개발은 인류의 오랜 꿈이었다. 고대 신화에서도 자주 나타나는 바와 같이, 육체적으로 연약한 인간은 절대적인 능력을 가진 신을 갈구하였으며 한편으로는 이러한 기능을 가진 기계나 컴퓨터를 이용해 자신의 한계를 극복하고자 했다.
컴퓨터 기술의 비약적인 발전은 정보처리 면에서는 괄목할만한 성과를 이루었으나 인간과 유사한 지능적인 컴퓨터에의 구현은 아직까지도 거리가 멀다. 1초에 10억개 이상의 연산을 처리할 수 있는 슈퍼컴퓨터조차 어린 아이의 영상인식 능력에도 미치지 못하고 있으며 음성을 통한 대화도 거의 불가능한 실정이다.
이러한 관점에서 인간 두뇌와 유사한 능력을 지닌 지능적인 시스템의 개발을 목표로 하는 첨단 컴퓨터 이론인 신경망의 세계를 간략히 고찰하고자 한다.
지능적인 컴퓨터에의 꿈
인간 두뇌에 관한 연구는 고대 그리스 시대까지 거슬러 올라가며, 의학의 아버지 히포크라테스는 그 당시에 이미 두뇌와 정신과의 관계를 연구했고, 아리스토텔레스는 연상기억의 개념에 관해 고찰한 바 있다.
인간 두뇌에 관한 본격적인 연구는 20세기 초반에 들어 해리슨 등에 의해 신경세포라고 불리는 '뉴런(neuron)'에 관한 연구로부터 본격화됐다. 그 후 20세기 중반에 들어와 뇌에 관한 연구가 이루어졌는데, 노벨상을 수상한 영국의 호지킨 (Hodgekin)과 헉슬리(Huxley)는 뉴런의 작용을 일부 규명해냈다.
약 1백40억개 정도의 '뉴런'으로 이루어진 인간의 두뇌는 뉴런의 신비롭고도 정교한 작용을 통해 고도의 두뇌활동이 가능하다. 현재 두뇌의 특정 부분에서 일어나고 있는 작용들은 어느 정도 규명됐으나, 보다 근본적인 기억이나 판단력 등은 뉴런의 메커니즘과 더불어 호르몬을 통한 매우 복잡한 작용으로 추측되고 있다.
인간이 가지고 있는 뇌의 평균 무게는 1.5㎏, 넓이는 0.15㎡, 두께는 약 2㎜ 정도다. 이렇게 정교하고 복잡한 대뇌를 인공적으로 만들거나 모델링한다는 것은 현재로선 거의 불가능하다. 그러나 꾸준한 연구를 거쳐 인간의 지능을 어느정도 구현할 수 있는 인공적인 신경망의 개발이 진행되고 있다.
인간의 두뇌작용을 모델링한 인공적인 신경 시스템에 관한 연구는 1943년 워렌 맥컬러크(McCulloch)와 월터 피츠(Pitts)에서 비롯됐다. 그들은 인간의 두뇌를 논리적 서술을 구현하는 이진 원소들의 집합으로 여겼으며, 수많은 신경세포로 이루어진, 잘 정의된 컴퓨터로 보았다. 그들의 모델은 네트워크 내의 매우 단순한 요소들의 연결을 통해 무한한 컴퓨팅 능력을 가진다는 점에서 매우 고무적이었으며 계산과 더불어 논리적인 처리를 할 수 있다는 점 등으로 그 가능성이 돋보였다.
그 후 1957년 미국의 로젠블럿에 의해 개발된 '퍼셉트론(Perceptron)'이란 최초의 신경망 모델에서는 글자를 인식할 수 있는 수준으로까지 발전했다. 그러나 주어진 입력에 대해 선형적인 분리가 불가능하다는 점이 발견됨으로써 신경망 모델에 관한 연구는 침체를 겪게 됐다. 이는 항상 경쟁 위치에 있는 인공지능에게 지능적인 시스템에 관한 자리를 물려주었음을 의미한다.
그 후 1980년대 중반에 들어 퍼셉트론 모델의 문제점들을 보완한 다층 퍼셉트론과 새로운 신경망의 등장으로 신경망에 대한 연구가 더욱 확산됐으며, 지금도 수많은 과학자들이 지능적인 시스템의 구현을 위한 가장 핵심적인 기술의 하나로서 인공적인 신경망에 대한 연구를 계속하고 있다.
인간 뇌처럼 정보 분산 병렬처리
인간의 두뇌를 닮은, 실세계 모델링을 위한 신경망의 응용은 음성인식 문자인식 영상인식 신호처리 등 그 폭이 매우 넓다. 이러한 인간의 주요 기능과 관련된 응용들은 전통적인 컴퓨터를 통해서는 구현하기가 매우 어렵고 수준 또한 매우 낮다. 따라서 신경망을 통한 구현의 노력이 진행되고 있다.
신경망의 첫번째 특징은 프로그램되지 않는다는 것이다. 전통적인 폰 노이만형 컴퓨터는 사용자에 의해 프로그램된 대로만 작동하는데 비해 신경망에서는 목표값을 입력으로 주면 영상이나 음성신호 센서 데이터 등의 자료를 학습하는 기능을 가지게 된다.
둘째, 신경망 구조는 정보를 분산된 형태로 코드화한다. 신경망의 내부적인 표현은 네트워크의 일부, 또는 전체에 걸쳐 분산돼 있기 때문에 정보의 표현이 풍부하고 네트워크의 일부가 파손되더라도 제대로 작동하게 되므로 애매한 정보에 대해서도 효과적인 처리가 기능하다.
셋째, 신경망은 분류작업에 있어서 두드러진 특징을 발견할 수 있다. 들어온 입력을 신경망 스스로 조직화해 효과적인 분류를 함으로써 정확하게 패턴을 인식할 수 있다.
넷째, 신경망은 병렬 분산처리된다. 이미 말한 바 대로 현재 가장 빠르게 정보를 처리하는 슈퍼 컴퓨터 조차 대상을 인식하는 능력이 어린 아이의 수준에도 미치지 못함을 생각할 때 병렬처리는 지능적인 판단에 있어서 매우 중요하다. 인간의 두뇌는 하드웨어적으로는 매우 느리나 약 1백만개에 이르는 신경섬유가 동시에 작동하기 때문에 다량의 정보를 빠르고 정확하게 처리할 수 있는 것이다.
음성 인식과 관련된 현재의 기술은 특정 화자(話者)에 대해 1천단어 수준에 머무르고 있다. 그러나 2005년 경에는 불특정 화자에 대해서도 수만 단어를 인식할 수 있을 것으로 예상되며, 5백단어 정도의 일상회화도 능히 인식할수 있을 것으로 기대된다. 이런 정도의 수준이면 키보드 없이도 인간과 컴퓨터간에 의사가 소통될 수 있을 것이며 로봇제어 음성 컴퓨터 음성에 의한 기계 조작 등이 이루어질 전망이다.
문자인식은 온라인과 오프라인 인식으로 나누어지는데, 컴퓨터와 연결된 상태로 입력하는 온라인은 문자의 획의 순서, 획의 수, 획의 방향 등을 알 수 있으므로 이미 쓰여진 정보를 가지고 인식하는 오프라인 방식보다는 인식률이 상대적으로 높다. 미국이나 일본에서는 인쇄체 문자인 경우 99% 이상의 인식이 가능하고, 우리나라에서도 한글을 인식할 수 있는 상업적인 문자인식 시스템이 시판되고 있다. 그러나 손으로 쓴 글자를 정확하게 인식하기 위해서는 보다 정교한 신경망 모델에 관한 연구가 필요하다.
자연계에 있는 물체를 인식하는 영상인식은 약 20여년 전부터 시작되었으나 디지털 컴퓨터를 이용할 경우 픽셀(pixel)이라 불리는 영상 정보의 양이 너무나 많고, 또한 영상에 있어서의 변화성 때문에 한계점에 부딪쳤다. 현재 신경망을 이용해 영상을 인식하는 기법은 비교적 간단한 영상을 인식할 수 있는 수준에 와 있으나 2000년 초반에는 로봇이 주위 환경을 인식하고 스스로 이동하는 단계에 이를 전망이다. 또한 21세기 중반에는 주어진 영상을 단지 인식하는 수준이 아니라 영상을 이해하는 수준으로까지 발전될 전망이다.
신경망을 이용한 신호처리면에서는 수중음파 인식을 통한 잠수함의 탐지, 통신에 있어서의 잡음제거, 태아의 심전도 검사 등 다양한 분야에 활용되고 있다.
현재 신경망 구현의 수준은 지렁이나 벌 정도의 지능을 구현하는 단계에 있다. 미국에서는 생체 신경계에서의 뉴런의 연결수가 몇천개 정도의 지렁이 수준의 두뇌를 이미 구현한 바 있으며 1997년까지 10억개 정도의 뉴런 연결을 가진, 벌 수준의 인공적인 신경망 칩을 구현하기 위한 프로젝트가 진행중이다.
그러나 여기서 한가지 간과해서 안될 점으로는 몇 억개 정도의 초집적도를 가진 신경망 칩의 개발이 곧 지능적인 신경망의 구현을 의미하는 것은 아니라는 것이다. 신경망 칩의 개발은 신경망 모델의 발전이라기 보다는 처리 속도를 빠르게 해주는 전자공학적인 구현에 더 큰 의의가 있다.
지렁이 수준 넘어 벌 수준으로
신경망 컴퓨터란 신경망을 효율적으로 처리하기 위한 신경망 전용의 새로운 컴퓨터로서 미국의 DARPA 프로젝트와 유럽의 ESPRIT 계획, 일본의 제 6세대 컴퓨터 개발 계획 등에서 추진되고 있다. DARPA 프로젝트에서 개발된 MARK IV는 25만개의 처리 요소들과 5백만개의 연결을 가지고 있다. MARL IV는 비행기를 식별하는데 사용되었는데 95% 이상의 인식률을 나타냈다. 그 후 MARK V와 LORAL NET 등 보다 진보된 신경망 컴퓨터들이 대규모 프로젝트로 연구 개발되고 있다.
지능적인 신경망을 구현하기 위해서는 대규모 병렬처리가 불가피하다. 현재 1천24개의 프로세서를 가진 병렬처리 컴퓨터인 NCube/10이 개발돼 연구에 투입되고 있으나 필자의 경험에 의하면 이 정도의 병렬 연결 정도로는 지능적인 신경망을 구현하기가 어려운 실정이다. 따라서 보다 많은 프로세서들이 사용되는 초병렬처리의 기술이 요구되고 있다.
일본에서는 마이크로 수준에서 1천배의 고집적도를 구현하고 또한 천개의 프로세서를 사용함으로써 결과적으로 1백만개의 프로세서를 사용하는 효과를 낼 수 있는 초병렬처리 칩의 개발을 시작했다. 그러나 병렬처리의 방법으로는 프로세서들간의 통신지연 등의 문제점이 존재하기 때문에 빛의 속도로 정보를 처리하는 광학적 구현에 관심이 쏠려있다.
그 중에서 최근 가장 각광받고 있는 연구 분야로는 신경망과 광 기술이 융합된 광 신경망(Optical Neural Networks)을 들 수 있다. 주요 연구 동향으로는 뉴런 전달함수에서의 광학적 구현을 통한 학습 능력의 향상, 대규모 데이터를 처리해야 하는 영상인식에 있어서의 광 신경망의 구현, 통상적으로 학습에 많은 시간이 걸리기 때문에 제한받을 수 밖에 없었던 수학적 두뇌 모델의 향상 등이 있다. 현재 광학적 신경망에 관해 매우 활발한 연구가 진행 중이므로 멀지않은 장래에 보다 정교한 신경망과 광 컴퓨터의 결합을 통해 초병렬적으로 작동하는 광학적 신경망의 구현이 실현될 것으로 보인다.
신경망에 대한 연구는 상당히 큰 가능성을 보이고 있으나 현재의 수준으로는 인간의 두뇌에 필적하는 지능을 시뮬레이션할 수 있는 수준은 아니다. 따라서 보다 많은 연구가 진행 되어야 한다. 신경망에 관한 문제점과 앞으로의 연구 방향은 다음과 같다.
조급한 기대는 발전에 도움안돼
첫째, 뉴런 모델과 신경망 모델의 개선이다. 현재의 뉴런 모델은 인간의 뇌 신경계를 매우 단순한 형태로 모델링한 것이기 때문에 뇌 신경계의 전기적인 활동과 화학적인 작용 등을 충분히 반영하지 못하고 있다. 따라서 생물학적인 개념을 추가하는 것이 필요할 것이다.
둘째, 신경망 크기의 확장이다. 현재까지 구현된 신경망은 1초에 1백만개 정도의 연결을 처리할 수 있는데, 이는 슈퍼컴퓨터를 사용 하더라도 곤충 이하의 지능 수준에 불과하다. 따라서 1초에 1조개 정도의 연결을 처리할 수 있는 신경망 칩을 통한 구현이 요구되고 있다.
셋째, 학습의 문제다. 현재 사용되고 있는 대부분의 신경망 모델들은 지도학습(Supervised Learning)이기 때문에 인간이 미리 학습할 목표값을 네트워크에 제시해 주고 신경망의 연결강도를 조절함으로써 학습하게 된다. 그러므로 이 모델로는 인간의 두뇌를 모델링하기가 매우 어렵다. 인간은 주어진 상황에 따라 자기 스스로의 조직화를 통한 자율학습 기능을 가지고 있으므로 자율학습에 대한 연구가 더욱 진행되어야 한다.
그 외에도 학습 데이터의 문제, 애매한 정보에 대한 실세계 모델링의 문제, 신경망을 전용으로 처리할 수 있는 신경망 컴퓨터의 개발, 광신경망 기술의 개발, 인공지능, 퍼지, 유전자 알고리즘 등 최신 기술과의 융합을 통한 지능의 극대화 등도 해결해야 할 주요 연구 과제다.
신경망의 이와 같은 문제점이나 해결되어야 할 일들에 대해 크게 놀라거나 위축될 필요는 없다. 신경망에 관한 대부분의 연구를 몇년 내에 끝낸다는 것 자체가 도리어 이상할 따름이다. 설사 인간 두뇌의 수준에 도달하지 못할지라도 인간의 두뇌와 유사한 기능을 가진 인공적인 신경망의 구현을 위해 꾸준히 나아갈 뿐이다.
인간의 두뇌를 시뮬레이션하는 신경망에 관한 연구는 컴퓨터를 통한 실세계 모델링에 크게 기여해 왔다. 패턴인식을 통한 문자인식 음성인식 영상인식 등 인간 능력과 관련된 분야의 활발한 연구를 통해 지금까지 많은 업적을 쌓았으며 그와 관련된 수많은 분야로 연구가 확산되고 있는 것이다.
신경망에 대한 지나친 기대와 조급한 마음은 신경망 발전에 그리 도움이 되지 않는다. 신경망에 대한 연구는 이제부터가 시작이라 할수 있다. 신경망 관련 연구자들은 신경망의 문제점들을 철저히 분석하고 그 장벽을 허물 수 있는 방법들을 연구해내야 한다. 어렵다고 도피하거나 우회하는 방법으로는 인간의 두뇌를 시뮬레이션 하는 신경망에 대한 충분한 탐구는 어려울 것이다.
끊임 없는 노력과 관련 기술의 발전을 통해 인간의 두뇌에 보다 근접한 신경망이 구현될 시기가 기다려진다. 신경망에 대한 탐구는 만물의 영장인 우리 인간의 두뇌에 대한 탐구이기 때문에 아무리 어렵더라도 도전 가치는 충분하다.
