“배양 접시에 키운 뇌세포를 컴퓨터 시스템에 연결해 게임을 플레이하도록 학습시켰다.” 사이버펑크 SF소설의 도입부가 아니다. 2022년 12월, 국제학술지 ‘뉴런’에 실제로 발표된 연구다. 과학자들은 어떻게 뇌세포에게 게임을 학습시켰을까.

“저희가 한 일은 뇌세포가 ‘퐁(Pong)’이라는 게임 세계에서 동작하도록 시뮬레이션한 것입니다. 성공 여부를 보여주기에는 퐁 게임이 명쾌하고 좋았죠.” 호주의 생명공학 기업인 ‘코티컬 랩스’의 최고과학책임자(CSO) 브렛 케이건 박사는 5월 12일 과학동아와의 화상 인터뷰에서 뇌세포 실험에 게임을 쓴 이유를 이렇게 설명했다.

퐁은 1972년 처음 발매된 고전 아케이드 게임이다. 탁구처럼 화면 이리저리 튀어 다니는 공을 판으로 쳐서 반대편으로 날려 보내면 된다. 판으로 공을 되받아치지 못하면 게임 오버다. 케이건 박사팀은 작년 말 발표한 논문에서, 배양 접시에서 키운 뇌세포인 ‘접시뇌(DishBrain)’를 컴퓨터에 연결해 퐁을 플레이하도록 학습시켰다. 접시뇌는 5분 만에 퐁을 하는 방법을 익혔다. 비교를 위해 인공지능(AI)에게 퐁을 학습시켰을 때는 90분이 걸렸는데, 18배나 빨리 학습한 것이다. ^{doi: 10.1016/j.neuron.2022.09.001}

어떻게 뇌세포에게 컴퓨터 게임을 가르쳤단 것일까. 연구 내용을 이해하기 위해 우리가 퐁을 플레이한다고 상상해 보자. 인간이 게임 화면(자극)을 눈으로 보면(입력), 뇌에서 판을 어디로 움직일지 결정한다(처리). 그리고 손으로 방향키를 조작해(출력) 판을 움직인다(반응). 자극-입력-처리-출력-반응, 이것이 게임을 플레이하면서 일어나는 정보의 흐름이다.

케이건 연구팀은 이 흐름을 접시뇌에서 재현했다. 접시뇌는 배양 접시에 전기 신호를 주고받을 수 있는 미세전극판을 깔고, 그 위에 뇌세포를 키운 장치다. 전극판 위로 80~100만 개의 뇌세포를 배양했다. 뇌세포는 생쥐 배아에서 추출한 것과, 사람의 줄기세포를 분화시켜 얻은 뇌세포를 각기 사용했다. 이렇게 자란 뇌세포들은 아무렇게나 연결돼 있어, 서로 무작위한 전기 신호를 주고받는다.

연구팀은 이런 뇌세포들을 임의로 ‘입력 영역’과 ‘출력 영역’으로 나눠 컴퓨터와 연결했다. 그리고 퐁 게임의 판과 공 사이 거리를 전기 신호(자극)로 변환해 입력 영역의 뇌세포에 가했다(입력). 자극을 받은 뇌세포들은 연결된 주변 세포로 전기 신호를 흘려보냈다. 연구팀은 출력 영역의 뇌세포들에까지 흘러들어온 신호를 다시 퐁 게임에서 판을 움직이는 신호로 변환했다(출력). 그리고 이 신호를 이용해 게임을 플레이했다(반응). 자, 이제 ‘처리’ 단계를 제외한 자극-입력-출력-반응에 이르는 흐름이 만들어졌다.

뇌세포의 게임 학습 비결, 되먹임 회로

중요한 지점은 여기서부터다. 아무리 게임을 전기 신호로 변환해 입력했다고 해도, 입력 영역과 출력 영역 사이를 무작위적으로 연결한 뇌세포들은 무작위적인 출력 신호를 낼 것이다. 어떤 뇌세포의 연결은 날아온 공을 잘 되받아쳐 게임에서 이기도록 하는 신호를 만들 것이고, 다른 연결은 판을 움직이지 못해 게임에서 지도록 하는 신호를 보낼 것이다.

케이건 박사팀은 게임에서 이기는 신호를 출력한 뇌세포의 연결이 강화되도록 보상을 줬다. 반대로 지는 신호를 출력한 뇌세포의 연결은 약화되도록 했다. 뇌세포는 일정한 자극을 좋아하고 예측할 수 없는 무작위적인 전기 자극을 싫어하는데 이를 ‘자유 에너지 원리’라 부른다. 연구팀은 뇌세포에게 이길 때마다 일정한 자극을, 질 때마다 무작위한 자극을 가해 게임을 잘하는 뇌세포의 연결만 강해지도록 만들었다. 접시뇌에 게임을 학습시키는 되먹임(feedback) 회로를 만든 것이다.

이렇게 게임을 여러 번 플레이하며 접시뇌는 퐁 게임을 하는 법을 학습한다. 선웅 고려대 의대 교수는 “뇌세포는 전기 신호를 주고받으면서 목적에 필요한 뇌세포 간의 연결이 강화된다”며 “이를 이용해 점점 더 강한 연결을 만든 것이 이번 연구의 핵심”이라고 설명했다.

뇌 오가노이드, 간단한 수학 방적식도 풀어

뇌공학자인 조일주 고려대 의대 교수는 케이건 박사팀의 이번 논문을 “뇌세포의 연결을 컴퓨터의 회로처럼 활용했다는 점에서 뇌세포를 이용한 컴퓨팅이라 볼 수 있다”며, “‘바이오컴퓨터’의 가능성을 열어젖혔다”고 평했다.

이번 케이건 박사팀의 연구는 정보 처리를 위해 뇌세포를 사용했다는 점에서 지금까지의 바이오컴퓨터 연구와 맥락을 달리한다. ‘바이오컴퓨터’라는 표현은 1990년대부터 ‘생체 분자를 이용한 컴퓨터’라는 넓은 의미로 쓰였다. 양자의 결맞음 상태를 계산에 활용하는 ‘양자 컴퓨터’처럼, DNA나 단백질 같은 분자의 특성을 정보 저장이나 처리에 이용한다는 발상이었다.

뇌세포를 사용한 바이오컴퓨터를 제작하려는 계획은 또 있다. 미국 인디애나대 블루밍턴캠퍼스 펭 구오 교수팀은 뇌 오가노이드를 사용해 AI 기기 ‘브레이노웨어(Brainoware)’를 만들어 간단한 수학 방정식을 풀었다고 밝혔다. 이 논문은 3월 1일, 동료평가를 거치지 않은 상태로 논문 사전 공개 사이트인 ‘바이오 아카이브’에 올라왔다.^{doi: 10.1101/2023.02.28.530502}

오가노이드는 줄기세포를 배양해 만든 미니 장기로 폐나 간 등을 모방한다. 뇌 오가노이드는 줄기세포를 뇌세포로 분화시켜 만든 3차원 형태의 ‘미니 뇌’다. 2005년, 일본의 사사이 요시키 당시 일본 이화학연구소(RIKEN) 발생생물학센터 박사팀이 2차원 배양계에서 줄기세포로 대뇌피질의 뉴런을 키운 이래, 뇌 오가노이드 분야는 놀랍도록 빠른 속도로 연구가 진행됐다. 그 결과 현재는 인간 대뇌 발달의 특징이 살아있고, 인간 뇌처럼 주름이 잡히며, 신생아 수준의 복잡성을 가지고 신경신호를 발화하는 뇌 오가노이드까지 제작할 수 있게 됐다.

케이건 박사팀의 접시뇌는 평면에서 자란 뇌세포로, 뇌 오가노이드라고 부르기엔 무리가 있다. 만약 인간 뇌와 비슷한 3차원 뇌 오가노이드를 바이오컴퓨터에 사용한다면 계산 성능 향상은 물론, 기존에서는 상상도 못한 잠재력을 발휘할 수도 있을지 모른다.

2월 28일, 토머스 하퉁 미국 존스홉킨스 블룸버그 공중보건대 교수가 이끄는 국제 공동연구팀은 뇌 오가노이드로 만들 차세대 바이오컴퓨터를 ‘오가노이드지능(OIOrganoid Intelligence)’이라 부르자는 논문을 국제학술지 ‘프런티어즈 인 사이언스’에 발표했다.^{doi: 10.3389/fsci.2023.1017235} AI(인공지능)와 비교하는 의미에서 오가노이드지능(OI)이라는 표현을 도입한 것이다.

AI 이어 오가노이드지능(OI)이 온다

OI는 컴퓨터와 뇌 오가노이드 사이에 뇌세포와 신호를 주고 받을 수 있는 입출력 장치를 연결한 바이오컴퓨터다. OI의 장점은 무엇일까? 논문에 따르면 OI는 기존 슈퍼컴퓨터와 비슷한 연산 속도를 가지면서도, 부피와 전력 소모가 매우 적다. 예를 들어 현재 세계에서 가장 강력한 슈퍼컴퓨터인 ‘프론티어’와 인간의 뇌는 비슷한 연산 속도를 가지지만 전력 소모량은 프론티어가 21MW(메가와트는 100만 와트), 인간은 10~20W로 약 100만 배 정도 차이가 난다. 뇌세포의 연결이 기존 컴퓨터보다 훨씬 방대하기 때문에 학습에 필요한 데이터도 훨씬 적고, 부피 대비 저장 용량도 크다.

케이건 박사는 “뇌는 전체 뇌세포의 연결이 재조직되는 방식으로 학습한다”며, “예를 들어 이미지 학습과 같은 분야에서 (OI가 기존 컴퓨터보다) 훨씬 빠르고 효율적으로 작동할 수 있다”고 설명했다.

OI는 뇌 연구의 새로운 장을 열 것으로도 기대를 모은다. 하퉁 교수는 5월 9일 과학동아와의 e메일 인터뷰에서 “(컴퓨터 학계는) 뇌의 작동방식을 연구해 컴퓨터와 AI를 만드는 방법을 배워왔다”며, “OI는 더 나은 AI를 만드는 발판이 될 것”이라고 설명했다. 또한, OI로 알츠하이머나 자폐증 등 질병에 걸린 뇌를 시뮬레이션할 수 있다면 생물학 연구와 약물 개발에도 큰 도움이 될 수 있으리라고 강조했다.

“5년 내 신약 개발에 쓰일 것”

뇌세포 바이오컴퓨팅 연구는 이제 막 싹을 틔운 단계다. 점점 더 많은 과학자들이 연구에 참여하고 있다. 하퉁 교수는 “전 세계 80개 이상의 연구 그룹이 OI 관련 연구를 수행하고 있다”며, “최근 미국국립과학재단(NSF)에서도 관련 연구 프로그램(Engineering Organoid Intelligence)이 시작됐다”고 밝혔다.

물론 넘어야 할 산이 많다. 우선 뇌세포 바이오컴퓨팅이 일어나는 생물학적 원리의 대부분이 밝혀지지 않았다. 케이건 박사팀은 연구에서 사람의 뇌세포로 만든 접시뇌가 쥐의 뇌세포로 만든 접시뇌보다 더 빠르게 게임을 학습했다는 결과를 제시했지만, 추가 검증이 필요하다. 정말 인간의 뇌세포가 특별한지, 문제의 종류에 따라 다를지, 사람에 따라서 개인차가 있을지(즉, 아인슈타인의 뇌세포로 만든 컴퓨터가 이창욱 기자의 뇌세포 컴퓨터보다 더 잘 작동할지)도 아직 밝혀지지 않은 문제다.

OI가 실용적으로 쓰이기 위해서는 OI가 빠르게, 잘 풀 수 있는 적합한 문제를 만드는 것도 중요하다. 하퉁 교수는 “대부분의 작업에서 우리의 뇌는 기존 컴퓨터를 따라갈 수 없지만, 인간의 두뇌가 더 잘 작용하는 분야가 분명히 있다”고 말했다. 그러면서 “배양된 뇌세포가 학습을 할 수 있다는 여러 연구가 나왔지만, 그중 아직까지 장기 기억을 실현한 연구는 없었다”며, “뇌 오가노이드의 장기 기억이 가능해진다면 OI의 혁신이 일어날 것”이라 전망했다. 하퉁 교수는 논문에서 OI가 고도로 발달한다면 ‘바이오컴퓨터가 의식을 가지면 어떡할까’와 같은 윤리적 문제가 추후 나타날 수도 있다고 예측했다.

뇌세포 바이오컴퓨터가 일상에 들어오려면 얼마나 기다려야 할까. 코티컬 랩스의 변승훈 연구원은 “학습에 필요한 데이터의 양 측면에서는 이미 바이오컴퓨터가 기존 컴퓨터보다 데이터를 훨씬 적게 필요로 한다”고 밝혔다. 케이건 박사는 “5년 내로 신약의 성능을 예측하는 데 사용할 수 있을 것”이라 내다봤다. 과연 OI는 실현 가능한 꿈일까. OI가 만들어지려면 어떤 실제적 문제를 해결해야 할까. 다음 장에서는 생물학자가 바라본 바이오컴퓨터의 미래에 대해 알아본다.