우주에서 가장 복잡한 구조는? 아마도 ‘뇌’일 것이다. 뇌는 수천억개의 뉴런(신경세포)이 다시 수천조개의 시냅스로 연결된 네트워크의 네트워크다. 현재 수준에서 뇌에 대한 이해는 아직 초보단계일 뿐이며, 아주 부분적인 영역과 방법에 한해서만 연구가 진행돼왔다.

뇌의 각 영역이 어떤 기능을 하는지 구분해 놓은 그림을 ‘뇌지도’라고 한다. 미지의 대륙, 뇌를 탐구하는 여정에서 뇌지도는 가장 근간이 되는 방법 중 하나다. 필자의 연구팀은 최근 물리학을 뇌지도 연구에 응용하는 방법을 개발해 물리학계 권위지인 ‘피지컬 리뷰 레터스’에 발표했다.

물리학이 과연 뇌 연구에 어떤 도움을 줄까.

초기의 뇌지도 연구는 주로 사고능력에 문제가 있는 환자의 뇌에서 손상된 부분에 해당하는 기능을 추론했다. 1861년 프랑스의 외과의사이자 신경해부학자인 폴 브로카 박사는 실어증에 걸린 ‘탄 탄’이라는 환자의 뇌를 연구했다. 그는 언어기능을 담당하는 영역을 찾아냈고, 이곳은 후에 ‘브로카 영역’이라고 불리게 됐다. 그 후 독일의 신경해부학자인 코르비니안 브로드만 박사가 약 50개로 나뉜 뇌영역 지도를 제안했다. 이는 이후 약간의 수정을 거쳐 널리 통용되고 있다.

일반적인 뇌지도

생후 수년 이내 뇌지도 형성

각 개체마다 뇌지도가 발달할 때 유전적인 요인이 얼마나 많이 작용하는지에 대해서는 아직도 논란이 많다. 하지만 뇌지도는 반드시 정해져 있는 것이 아니라 개체마다 차이가 있으며, 태어난지 몇 주~몇 년 정도에 주로 발달하고 재조정된다고 알려져 있다. 최근에는 신경과학의 발달로 뇌지도를 더욱 세세한 영역까지 실시간으로 그려볼 수 있게 됐다. 특히 레이저를 이용한 광학이미지기술은 뇌의 좁은 영역에서 다른 반응을 보이는 뉴런들이 어떻게 분포하는지에 대한 자세한 정보를 제공할 수 있다.

브로드만 뇌지도 17번 영역인 1차 시각피질은 뇌 뒷부분인 후두엽 쪽에 있으며, 시각자극을 제일 먼저 처리하는 곳이다. 책을 볼 때 뉴런은 망막으로 들어온 빛 정보를 일종의 전기신호로 바꾼다. 이 신호는 전용 케이블, 즉 신경망을 따라 시속 500km로 달려 1차 시각피질에 있는 뉴런들에게 전달된다. 시각피질의 뉴런들은 외부자극에 대해 반응이 비교적 확실하게 나타난다. 시각피질은 뇌에서도 세부 구조가 가장 많이 알려져 있는 영역이기도 하다. 특히 시각은 뇌로 들어오는 정보의 80%를 차지한다. 1차 시각피질에서 시각정보가 어떻게 처리되는지 이해하는 것은 뇌의 감각정보 처리를 이해, 응용하는데 매우 중요하다.

1차 시각피질의 뉴런들은 눈을 통해 들어오는 시각자극으로부터 가장 먼저 기초적이고 근본적인 정보를 파악하고 처리해야 한다. 이때 뉴런들이 반응하는 시각자극은 각각 다르며, 반응하는 시각정보의 차이에 따라 세부 시각지도를 만들 수 있다.

광학이미지기술로 얻은 포유동물의 시각지도^뇌 특정 영역에 어떤 시각 기능을 가진 신경세포가 분포하는지를 레이저로 측정했다. 원숭이(왼쪽)와 고양이(가운데)는 신경세포가 두 눈 중 한쪽에서 오는 시각정보를 선호하는 경향을 뜻하는 안우성 지도가 나타났다. 원숭이의 안우성 지도에는 줄무늬, 고양이에는 점무늬가 생긴다. 두더지(오른쪽)는 신경세포가 특정 방향을 선호하는 경향을 뜻하는 방향성 지도가 나타났다. 두더지의 신경세포가 원숭이나 고양이보다 사물의 윤곽을 더 잘 인식한다는 얘기다. 8가지 색의 막대는 신경세포가 반응하는 시각 방향, 오른쪽 위 사각형은 이 8가지 방향이 모여 있는 특이점.

포유동물의 3가지 시각지도

뉴런은 두 눈을 통해 시각자극을 받는다. 뉴런은 이 중 어느 한쪽으로부터 오는 시각정보를 더 선호하는 경향이 있는데, 이를 ‘안우성’(眼優性)이라고 한다. 뇌의 각 영역별로 뉴런이 어느 쪽 눈의 정보를 선호하는지에 따라 두 가지(보통 흑과 백) 색으로 표현한 것이 ‘안우성 지도’다.

또한 뉴런은 특정 방향의 막대나 모서리 모양에 특히 반응을 잘 하는데, 이를 ‘방향성’이라고 한다. 뉴런의 방향성은 다음 단계의 시각정보 처리과정인 사물의 가장자리 감지 또는 윤곽 인식을 위해 필수적이다. ‘방향성 지도’는 뇌의 각 영역을 뉴런이 선호하는 방향에 따라 다른(보통 8가지) 색깔로 나타낸 것이다.

사실 뉴런은 비슷한 성질을 가진 세포끼리 모여 더 큰 단위의 구조체를 이룬다. 1차 시각피질에서는 100여개의 뉴런들로 이뤄진 기둥구조를 발견할 수 있는데, 이 기둥들이 다시 하나의 거대한 정보처리단위가 되기도 한다. 대뇌는 분명 3차원으로 구성돼 있지만, 보통 한 기둥구조 내의 뉴런들이 같은 성질을 공유하고 있기 때문에 안우성이나 방향성 지도는 2차원 평면으로 그릴 수 있다.

과학자들이 포유류를 대상으로 실험한 결과 안우성 지도는 크게 세 가지 유형으로 나눌 수 있다. 사람과 비슷한 안우성 지도를 갖고 있을 거라고 예상되는 짧은꼬리원숭이의 경우 줄무늬 모양이 나타난다. 이 줄무늬는 얼룩말 가죽의 띠무늬와 유사하다. 고양이나 족제비의 안우성 지도는 표범의 가죽과 같은 동그란 얼룩무늬 반점 모양으로 나타난다. 또한 나무두더지의 경우에는 안우성이 거의 발달하지 않아 안우성 지도는 잘 보이지 않으나 오히려 방향성 지도는 잘 나타난다. 두더지가 원숭이나 고양이에 비해 사물의 윤곽을 인식하는 뉴런들이 더 발달했다는 얘기다.

포유류의 시각지도가 왜 서로 다른 무늬를 나타내는가는 매우 흥미롭고도 중요한 연구주제다. 1차 시각피질의 뇌지도는 동물이 태어나서 시각경험을 하며 서서히 발달한다. 포유류의 뇌 시각지도 발달에 대해서는 다양한 모델이 제시돼왔다.

여기서 주목할 만한 사실은 1차 시각피질의 안우성과 방향성이 물리학의 자성체, 즉 자기적 성질을 띠는 물질과 비슷하다는 것이다. 가장 간단한 자성체 모델의 경우 자성체를 1차원 가상공간에서 ‘위’ 또는 ‘아래’ 자기상태를 가질 수 있는 아주 작은 자석들이 빽빽이 모여있는 격자로 표현한다. 조금 더 복잡한 자성체 모델에서는 이런 기본자석들이 2차원 가상평면에서 360° 중 어느 한 방향을 선택할 수 있는 것으로 표현한다.

신경세포가 선호하는 방향을 나타낸 시각지도에서는 특정 점을 중심으로 한 바퀴 돌면 모든 방향성 신경세포를 만난다. 이를 특이점이라고 하는데, 물리학 자성체 모델의 '소용돌이구조'와 비슷하다.

시각피질과 자성체는 닮은꼴

자성체와 1차 시각피질 구조는 각각 1차원(안우성) 또는 2차원(방향성) 가상공간에서 방향을 자유롭게 선택할 수 있는 작은 단위들이 촘촘하게 모여 전체 시스템을 이룬다는 점에서 비슷하다. 이를 ‘다체(多體) 시스템’이라고 한다. 즉 뉴런이 둘 중 한쪽 눈의 시각정보를 선호하는 성질은 자성체가 위나 아래 중 한 가지 자기상태를 갖는 1차원 자성체 모델에 비유할 수 있다. 또 뉴런마다 선호하는 시각 방향이 다른 성질은 여러 방향의 자기상태 중 하나를 선택할 수 있는 2차원 자성체 모델에 비유할 수 있다.

안우성 지도나 방향성 지도에서 발견되는 대부분의 특색은 자성체의 물성에서도 찾아볼 수 있다. 물리학의 자성체에 대한 기존 연구결과와 이론을 적용하면 1차 시각피질에서 어떤 안우성과 방향성 지도가 발달할 것인지 예측할 수 있는 것이다.

예를 들어 동물실험에서 얻은 방향성 지도에서 발견되는 특색 중 하나는 ‘풍차(pinwheel)구조’라 불리는 특이점이다. 이 점들을 중심으로 한 바퀴를 돌면 모든 방향성 뉴런을 만나게 된다. 또 특이점은 뉴런의 방향성이 사라지는 점이기도 하다. 방향성 지도의 특이점은 2차원 자성체 모델에서 ‘소용돌이(vortex)구조’라고 불리는 것과 동일하다. 소용돌이구조는 자성체의 초전도성이나 초유동성을 일으키는 주역으로 알려져 물리학에서는 일찍부터 활발히 연구되고 있다.

이외에도 안우성과 방향성 지도가 독립적이지 않고 서로 연관성을 갖고 발달한다는 점이 동물실험에서 확인된 바 있다. 예를 들어 방향성 지도의 특이점들은 안우성 지도의 줄무늬나 반점 가운데에서만 발견된다. 자성체의 경우에도 와류구조가 1차원 가상공간의 특정 부분에서 나타난다고 알려져 있다.

동물마다 다르게 나타나는 안우성과 방향성 지도는 안우성이나 방향성의 경쟁관계 때문에 생기는 것이다. 뉴런의 성질은 보통 그들이 시냅스 가지를 이용해 주위의 다른 뉴런들과 어떤 식으로 연결되느냐에 따라 결정된다. 보통 한 뉴런으로부터 뻗어나오는 시냅스 가지의 수는 한정돼 있다. 때문에 안우성과 방향성 중 어느 한쪽 성질을 위해 시냅스를 많이 사용하면 다른 쪽 성질은 결국 그만큼 덜 발달할 수밖에 없다.

뉴런 경쟁으로 시각체계 차이

자성체에서도 안우성과 방향성이 서로 경쟁관계인 모델이 있다. 이 모델의 연구결과를 바탕으로 두 가지 성질 중 어느 쪽이 더 강해지느냐에 따라 1차 시각피질 지도가 세 가지 유형이 존재한다는 것을 예측할 수 있다.

만약 안우성이 더 강하다면 원숭이와 같은 줄무늬 형태의 안우성 지도가 나타날 것이다. 방향성이 안우성보다 조금 더 강하다면 고양이에서와 같이 방향성 지도의 특이점들을 중심으로 한 얼룩무늬가 안우성 지도에서 발달하게 된다. 방향성이 안우성보다 아주 강한 경우에는 두더지에서와 같이 안우성 지도는 사라지고 매우 발달한 방향성 지도만 남을 것이다.
이 세 가지 발달 양식은 컴퓨터 시뮬레이션에서도 쉽게 확인할 수 있다. 이것은 마치 보통의 물질에 고체, 액체, 기체의 세 가지 상태가 있어 어떤 임계값을 기준으로 상태가 급격하게 바뀌는 것과 비슷하다. 물리학에서는 이를 ‘상전이’라고 부른다.

이 연구는 뇌 일부분의 현상에 대해 간단하면서도 정확한 예측과 설명을 해냈다는 것 외에 앞으로의 뇌 연구에 다른 많은 가능성을 제시해준다. 보통 단백질이나 세포 수준의 연구는 좀더 거시적인 수준에서 일어나는 뇌의 작동 원리를 설명하기에는 너무나 원천적이라는 문제가 있다. 뇌 연구 모형은 실제 뉴런의 기본적인 성질을 잃지 않으면서도 충분히 단순화한 수식 모형을 제시해야 한다는 어려움이 있다.

뇌는 단순한 사고를 하기 위해 셀 수 없을 정도로 많은 뉴런의 상호작용을 동반한다. 때문에 이런 현상을 설명하기 위해서는 결국 좀더 효과적인 모형과 이론이 필요하다. 따라서 물리학의 자성체 모델을 비롯한 ‘다체론’과 같은 근본적인 이론들이 주요한 대안이 될 수 있다. 이 같은 이론적 방법론은 자유롭게 움직이는 작은 개체들이 모여 이뤄진 거시적인 시스템에서 그 전체적인 행동을 결정하는 것이 무엇인지를 밝혀준다.

예를 들어 1차 시각피질의 발달 연구에서 보인 것과 같이 대뇌 피질이 비록 어마어마하게 복잡하게 연결된 내부 구조와 독특한 상호작용의 법칙에 따라 움직이고 있지만, 이들의 거시적인 행동이나 발달 양식은 결국 뉴런들이 가상공간에서 운동방향을 자유롭게 선택하는 성질과 대칭성이라는 좀더 단순한 법칙에 따라 결정되고 있다고 말할 수 있다.
물리학 이론을 이용한 방법은 뇌에서 일어나는 현상을 자세히 설명하고 학습이나 인지능력을 연구하는데 계속 확대될 수 있을 것이다.

다체론 (Many-body theory)

상호작용하는 수많은 입자들이 모인 시스템을 다루는 물리학 이론. 입자가 많으면 단일 입자와는 다른 새로운 현상이 나타난다는 것이다. 고체물리학 분야에서 처음 나온 이론이나, 최근에는 수많은 구성요소로 이뤄진 사회나 생명현상을 설명하는데도 응용되고 있다.