d라이브러리









[Knowledge] 누가 이타성 문제를 처음 해결했는가

전중환의 협력의 공식 11



1955년 어느 날, 유니버시티 칼리지 런던(UCL)에서 가까운 선술집 ‘오렌지 트리’는 시끌벅적했다. UCL의 교수 J. B. S. 할데인에게 누군가 물었다. “교수님은 물에 빠진 사람을 건져내기 위해 목숨을 걸 수 있나요?” 할데인은 잠자코 서류 봉투를 하나 집어 들었다. 뒷면에 얼마간 수식을 끄적였다. “아니요. 하지만 형제 두 명이나 사촌 여덟 명을 건져낼 수 있다면 기꺼이 내 목숨을 걸겠소.”

일설에는 술에 잔뜩 취한 할데인이 이 말을 하자마자 탁자에 쓰러졌다고 한다. 1975년에 할데인의 제자 존 메이나드 스미스는 자신이 할데인 옆에서 직접 들었노라며 이 일화를 소개했다. 1955년에 할데인이 ‘신생물학(New Biology)’이라는 과학잡지에 발표한 글과 더불어, 이 일화는 이타적 행동이 어떻게 진화할 수 있었는지 최초로 밝혀낸 선구자는 할데인이었음을 보여주는 증거로 자주 인용된다. 해밀턴은 할데인의 해결책을 은근슬쩍 물려받아 이를 정교한 수식이론으로 발전시킨 후학으로 은근히 폄하되기도 한다. 이타성의 진화를 처음으로 해결한 장본인은 누구인가. 할데인인가, 해밀턴인가.


할데인의 ‘주점 토크’는 실제로 있었나

1976년 봄으로 시간을 빨리 넘겨보자. 해밀턴은 임페리얼 칼리지에서 전임강사로 있었다. 한 해 전, 하버드대의 곤충학자 에드워드 윌슨이 낸 대작 ‘사회생물학: 새로운 종합’은 미국 사회 전반에 엄청난 논쟁을 불러일으켰다. 해밀턴은 책상에 앉아서 그 당시 나온 대중과학잡지 ‘뉴 사이언티스트’를 뒤늦게 펼쳤다. 메이나드 스미스가 쓴 ‘사회생물학’ 서평이 실려 있었다. 십여 년 전, 해밀턴이 세운 이론에 멋대로 ‘혈연 선택’이라는 잘못된 이름을 붙인 바로 그 사람이었다. 서평에서 메이나드 스미스는 이타성의 문제가 오랫동안 수수께끼였다고 지적한 다음에 이렇게 썼다.

나는… 지금은 없어진 선술집 ‘오렌지 트리’에서 그 아이디어를 처음 들었다. 할데인은 봉투 뒷면에 수식을 몇 분간 계산한 다음, 형제 두 명이나 사촌 여덟 명을 구하기 위해서라면 목숨을 던질 수 있다고 공언했다. 이 말에는 나중에 (…) 윌리엄 해밀턴이 일반화한 아이디어의 핵심이 담겨 있다. 불운하게도, 할데인은 ‘신생물학’에 실은 글에서 그 아이디어를 언급하긴 했지만 더는 발전시키진 않았다. 아마도 그 중요성을 깨닫지 못했을 것이다. 결정적인 진전은 1963년에 해밀턴이 낸 논문을 통해 이뤄졌다. 여기서 해밀턴은 ‘포괄 적합도’라는 개념을 소개하고 이를 사회성 곤충의 진화에 적용했다(메이나드 스미스, 1975년, 496쪽).

악연은 되풀이된다. 해밀턴은 엄청난 충격을 받았다. 내가 이타성의 문제를 풀기 한참 전에 할데인이 주점에서 그 답을 먼저 얘기했다고? ‘혈연 선택’이라는 이름을 붙여서 마치 자기도 내 이론에 지분이 있는 척 굴더니, 이젠 자기 스승 할데인을 끌어다가 내 우선권을 송두리째 부정하려 해? 십여 년 전에 해밀턴은 혼자서 분노를 삭였다. 이번에는 가만 있지 않았다. ‘뉴 사이언티스트’에 반박문을 보냈다!

반박문에서 해밀턴은 할데인의 ‘주점 토크’가 과연 실제로 있었던 일인지 의문을 제기했다. 근거는 이러했다. 첫째, 할데인이 했다는 말은 해밀턴이 1964년에 낸 논문의 한 구절과 유사하다. (“모든 개체는 두 친형제, 혹은 네 이복형제, 혹은 여덟 사촌 이상을 구할 수 있다면 기꺼이 목숨을 바칠 것이다.”)

둘째, 해밀턴이 대학원생 시절 메이나드 스미스를 잠깐 만났을 때, 메이나드 스미스는 이타성의 진화라는 문제에 아무런 관심도 보이지 않았다. 메이나드 스미스뿐만 아니라, 그 누구도 해밀턴이 매달린 이타성이란 주제를 거들떠보지도 않았음은 앞서 얘기했다. 만약 메이나드 스미스의 말대로 이타성의 진화를 푸는 열쇠가 혈연임이 이미 진화생물학자들 사이에 널리 퍼져 있었다면, 도대체 왜 해밀턴이 대학원에서 그토록 심한 냉대와 무관심에 시달렸겠는가. 메이나드 스미스의 서평을 읽기 전까지는 해밀턴이 할데인의 ‘주점 토크’를 한 번도 못 들어봤다는 게 말이 되는가. 다음은 해밀턴이 보낸 반박문의 일부다.

내 논문에 대한 심사위원으로서 메이나드 스미스는 내 논문 원고를 최초로 읽은 사람 가운데 한 명이다. 그가 예전에는 할데인의 통찰에 대해 어떤 언급도 하지 않았음을 미루어 보면, 내 논문 속의 한 구절이 그가 할데인과 나눈 기억에 우연히 끼어들었으리라 추측할 수 있다 (해밀턴, 1976년, 40쪽).

요컨대, 해밀턴은 할데인의 ‘주점 토크’는 애초부터 없었다고 추정했다. 이타성이 어떻게 진화할 수 있는지 그 해답을 처음으로 찾은 사람은 해밀턴 자신이라는 것이다. 이제 메이나드 스미스의 반응을 볼 차례다. 잠깐, 그 전에 살펴봐야 할 것이 하나 있다.


할데인은 이타성 문제를 해결한 글을 발표했나

1955년에 할데인은 ‘신생물학’에 ‘개체군 유전학’이란 제목의 글을 게재했다. 메이나드 스미스의 서평이 지적하듯이, 이 글은 할데인이 최초로 이타성의 문제를 해결했다는 증거로 흔히 인용된다. 즉, 주점 토크의 실재 여부와 상관없이, 이 글만 꼼꼼히 읽어봐도 분란은 금세 정리될 것이다. 할데인은 뭐라고 썼을까.

더 흥미로운 사실은, 오직 작은 개체군에서만 자연 선택이 이타적 행동을 만드는 유전자를 선호하리라는 것이다. 당신으로 하여금 범람한 강물에 뛰어들게 해서 아이를 한 명 구하게 하는 희소한 유전자를 당신이 갖고 있다고 가정해보자. 물에 열 번 빠지면 한 번 꼴로 목숨을 잃는다고 가정한다. (…) 만약 그 아이가 당신의 자식이거나 형제자매라면, 아이도 그 유전자를 지닐 가능성은 반반이다. 따라서 어른이 한 명 죽을 때 아이를 통해 그 유전자 다섯 개가 후대에 전해진다. 만약 손주나 조카를 구한다면 어른이 한 명 죽을 때 유전자 2.5개가 전해진다. 당신이 사촌만 구한다면, 그 순이득은 더욱 미미하다. (…) 이런 행동을 하게 하는 유전자는 상당히 작은 개체군에서만 그나마 전파될 가능성이 있음은 분명하다. 그런 경우에는, 대다수 물에 빠진 아이들이 강물에 몸을 던지는 어른과 꽤 가까운 혈연으로 맺어졌을 터이기 때문이다. 작은 개체군을 제외한다면, 그런 유전자가 어떻게 정착할 수 있을지 가늠하기 어렵다(할데인, 1955년, 40쪽, 강조는 모두 필자).

왜 이리 ‘작은 개체군’이 자주 나온담? 할데인이 이 글을 쓴 목적은 이타적 행동이 어떻게 자연 선택됐었는지 밝히는 일반 이론을 제안하기 위함이 결코 아니었다. 할데인은 그저 작은 개체군이 이타성의 진화에 어떻게 작용하는지 설명하고자 했다.

사실, ‘개체군 유전학’이라는 제목에서 알 수 있듯이, 이 글은 개체군 유전학의 기본 원리와 중요한 개념들을 일반 대중에게 쉽게 소개하고자 쓰였다. 그리고 위의 인용문에서 할데인은 작은 개체군이 갖는 의미를 설명하고 있다. 작은 개체군은 이타적 행동을 일으키는 유전자가 전파될 가능성을 작게나마 열어주기 때문에 중요하다는 것이다. 인용문의 바로 앞 단락도 작은 개체군에서는 순전히 우연에 따라 유전적 조성이 크게 변동한다는 내용이다.

무엇보다도, 9월호 ‘협력자 끼리끼리’에서 봤듯이, 이타적 행동을 만드는 유전자가 반드시 개체군내에 ‘희소하게’ 존재해야만 그 유전자가 선택되는 것은 아니다. 이타적 행동을 만드는 유전자가 드물든지 흔하든지 간에, 해밀턴의 규칙만 충족된다면 그 유전자의 빈도는 증가한다. 실제로 해밀턴은 1964년 논문에서 할데인의 이 글을 인용하면서 이타성 유전자가 드물게 있을 때만 써먹을 수 있는 논증이라며 비판했다. 요컨대, 처음에 품었던 기대와 달리, 위의 인용문만 놓고서는 할데인이 이타성의 문제를 최초로 푼 장본인이라고 말하기 어렵다. 메이나드 스미스가 앞서 인용된 서평에서 “할데인은 ‘신생물학’에 실은 글에서 그 아이디어를 언급하긴 했지만 더 이상 발전시키진 않았다.”고 갑자기 꼬리를 내린 것도 이 때문이리라.


메이나드 스미스, 해밀턴의 손을 들다

한 달 뒤, ‘뉴 사이언티스트’에 메이나드 스미스의 반응이 실렸다. 그는 주점 토크가 실제로 있었다고 주장했다. 할데인 옆에서 분명 그 말을 들었지만, 당시에는 그 중요성을 미처 보지 못했노라고 고백했다. 이로써 그가 대학원생 해밀턴을 소개받았을 때 보인 무반응이 어느 정도 설명이 되는 셈이다. 잠깐, 드디어 해밀턴과 메이나드 스미스가 한 판 붙게 됐다고 성급히 기뻐하진(?) 마시라. 메이나드 스미스는 할데인 대신 해밀턴의 손을 흔쾌히 들어주었다!

할데인이 해밀턴보다 먼저 혈연 선택의 원리를 이해한 것은 분명하다. 그렇지만, 그 아이디어의 소유권은 마땅히 해밀턴에 돌아가야 함을 나는 전혀 의심치 않는다. 과학의 핵심은 어떤 아이디어에 대한 단순한 이해보다는, 그 아이디어가 지닌 함의를 읽어내 외부 세계를 일관되게 설명하는 작업에 있다. (…) 그 아이디어로 동물 사회의 진화를 어떻게 설명할 수 있는지 밝힌 사람은 해밀턴이었다. 할데인이 아니라, 해밀턴이 사회생물학의 지적인 아버지가 되었다. 그 점을 명확히 해 두고자, 나는 “결정적인 진전은 해밀턴이 낸 논문을 통해 이루어졌다.”고 내 서평에서 적었다(메이나드 스미스, 1976년, 247쪽).

메이나드 스미스 같은 거물이 이처럼 깍듯하게 고개를 숙인다는 것은 무척 이례적이다. 이만하면 해밀턴도 노여움을 풀고 메이나드 스미스와 화해하지 않았을까. 안타깝게도, 그렇지 않다. 해밀턴은 메이나드 스미스가 자신의 포괄 적합도 이론에 슬쩍 숟가락을 얹거나, 그 이론을 남이 벌써 다 한 이야기로 깎아 내리려 한다는 의구심을 평생 지우지 못했다. 공개적으로 항의하면 해밀턴의 권리를 100% 인정한다며 물러섰다가, 어느새 다시 심기를 건드린다고 분노했다. 다음 회에 살펴볼 오해도 마찬가지다.


이 기사의 내용이 궁금하신가요?

기사 전문을 보시려면500(500원)이 필요합니다.

2016년 11월 과학동아 정보

  • 전중환 교수
  • 에디터

    윤신영

🎓️ 진로 추천

  • 생명과학·생명공학
  • 사회학
  • 철학·윤리학
이 기사를 읽은 분이 본
다른 인기기사는?