진화생물학자 리처드 도킨스는 ‘이기적 유전자’에서 가상의 새를 들어 상호성의 원리를 설명했다. 이 새들은 아주 위험한 전염병을 옮기는 진드기에 시달린다. 그래서 허구한 날 부리로 온 몸의 털을 정성껏 다듬는 게 일이다. 물론 부리가 못 닿는 머리 부위는 빼고 말이다. 머리까지 깔끔하게 다듬는 방법이 없을까? 금세 떠오르는 해결책은 서로가 서로의 머리를 다듬어주는 것이다. 새들이 상부상조하며 대화합의 털고르기를 하는 장관이 연출된다.
그러나 남들에게 자기 머리를 들이밀기만 할 뿐, 자신은 결코 남의 머리를 다듬어주지 않는 돌연변이가 갑자기 나타난다면 어떻게 될까? 이렇게 ‘먹고 튀는’ 사기꾼은 진드기도 없고 남을 돕느라 고생할 필요도 없으므로 삽시간에 번성한다. 결국에는 모든 새들이 이웃에게 자기 머리를 무작정 내밀기만 할 뿐, 그 누구도 남의 머리를 선뜻 다듬어주지는 않는 아비규환이 벌어질 것이다. 안심하시라. 트리버스는 이러한 파국이 진화의 종착역이 아님을 입증했다. 어떻게?
비친족간의 협력을 이끄는 열쇠는 ‘상호성’
1969년 어느날, 하버드 생물학과 대학원생인 로버트 트리버스는 후에 ‘상호 이타성의 진화’라는 논문이 될 141원고를 쓰기 시작했다. 이 논문은 1971년 ‘계간 생물학 총설’에 게재됐다. 트리버스는 먼저 두 가지 조건을 가정했다. 첫째, 한 번의 도움에서 상대방이 받는 이득은 돕는 당사자가 치르는 비용보다 크다(이는 사회적 행동을 연구할 때 일반적으로 세우는 가정이다. 안 그렇다면, 예컨대 아이스크림을 사주고자 집을 팔아야 한다면, 어딘가 이상하다). 둘째, 두 사람이 자주 만나서 역할을 바꾸면서 상호작용한다. 이 두 조건이 충족된다면, 둘 다 협력하는 편이 둘 다 배신하는 편보다 각자에게 더 유리하므로 협력이 진화할 것이다.
문제는, 내가 상대방을 도와줬을 때 상대방으로선 은혜를 갚지 않고 내빼는 편이 가장 이득이라는 것이다. 트리버스는 이런 사기꾼이 영원히 호사를 누리지는 않는다고 주장했다. 다른 이들과의 과거 상호작용을 기억해, 예전에 나를 도와준 이만 도와주고 나를 배신한 이는 도와주지 않는 조건적인 협력 전략은 언제나 배신하는 사기꾼 전략을 누를 수 있다고 트리버스는 제안했다. 위에서 든 예로 돌아가보자.
사기꾼 새들로 가득 찬 개체군에 새로운 돌연변이가 나타났다고 하자. 이 ‘반사’ 돌연변이는 처음 본 새, 그리고 과거에 자기 머리를 다듬어준 새는 기꺼이 머리를 다듬어준다. 과거에 자기 머리를 다듬어주지 않은 새에게는 자신도 ‘반사’를 외치며 안 다듬어준다. 사기꾼들이 이미 대다수일 때 반사 새 한 마리가 홀로 출현했다면, 그 ‘반사’ 새는 처음 보는 사기꾼들에게 잔뜩 이용만 당하고 버려질 것이다. 그러나, 반사 새들끼리 작게나마 무리를 이뤘다고 하자. 반사 새들끼리는 서로 머리를 다듬어주는 상부상조를 통해 사기꾼 새들보다 더 많은 자식을 후대에 남기게 된다. 일단 반사 새들이 다수가 된 다음에는, 서로 배신만 일삼는 사기꾼 새들은 이 개체군에 침입하기 어렵다.
요컨대, 트리버스는 비친족간의 협력을 이끄는 열쇠가 상호성임을 찾아냈다. 날 도와준 이는 끝까지 도와주지만 내 도움을 돌려 주지 않는 사기꾼은 더 이상 돕지 않는 맞대응 전략이, 안면몰수 배신만 하는 사기꾼 전략보다 후대에 자손을 더 많이 남겨서 개체군에 널리 퍼질 수 있다는 것이다.
트리버스, 해밀턴을 만나다
은혜를 갚지 않은 사기꾼에게는 더 이상 온정을 베풀지 않는 조건적인 협력자가 사기꾼을 압도할 수 있음을 지적한 것은 트리버스다운 천재적인 통찰이었다. 다만, 복잡한 수식들로 빼곡히 채워졌던 해밀턴의 1964년 포괄 적합도 논문을 너무 의식한 나머지, 트리버스는 상호성에 대한 수리 유전학 모델을 굳이 세워서 자기 논문에 집어넣었다. 이 수식 모델은 “오류로 뒤덮였다”고 그는 나중에 자백(?)했다.
다음으로 트리버스는 비친족간에 도움을 주고 받는 상호성이 인간뿐만 아니라 인간이 아닌 동물에서 실제로 흔히 일어나는 현상임을 보이고 싶었다. 그는 두 가지 예를 찾았다. 큰 물고기와 청소물고기의 상리공생, 그리고 포식자를 발견한 새가 내는 경계신호였다. 여기에 인간의 상호적 협력을 덧붙여 상호성의 실례들을 논했다.
트리버스가 여전히 초고에 매달리던 1969년 가을, 윌리엄 해밀턴이 하버드대 생물학과를 방문했다. 박사 학위를 마치고 말벌을 연구하고 있던 해밀턴은 그 해워싱턴에서 열린 ‘인간과 야수 : 비교 사회적 행동’이라는 학술대회에 초청받아 미국 땅을 밟았다. 해밀턴이 수식 모델을 하버드에서 발표하기로 한 날, 강의실은 기대에 부푼 교수들과 대학원생들로 가득 찼다. 해밀턴은 떠오르는 젊은 연구자로 이미 명성을 떨치고 있었다. 트리버스는 그 날의 발표를 이렇게 회상했다.
해밀턴은 내가 들어본 강의들 중에 역대 최악의 강의를 시전했다. 우선 그는 장장 45분 동안 변죽만 울려대느라 핵심은 채 건드리지도 못했다(…) 그는 자주 청중을 향해 등을 돌린 채 칠판에 수식을 휘갈겼다. 그 바람에 중얼대는 목소리를 알아듣기 더 힘들었다(…) 끝내야 할 시간을 5분이나 넘겼지만, 그는 아직도 핵심에 도달하지 못한 상태였다(…) 결국 해밀턴은 슬라이드 프로젝터를 요청했다. 강의실이 어두워지자, 청중의 약 90%가 이 기회를 놓칠세라 썰물처럼 강의실을 와르르 빠져나갔다. 그 와중에 몇몇은 넘어지기도 했다(…) 해밀턴은 심오하고 탁월한 과학자임이 분명하지만, 어이쿠, 강의엔 젬병이잖아! (트리버스, ‘자연 선택과 사회 이론’, 10쪽)
발표가 끝난 후 열린 저녁 모임에서 트리버스는 해밀턴을 만났다. 트리버스는 상호성에 대한 미완성 초고를 해밀턴에게 건넸다. 해밀턴은 큰 흥미를 느꼈다. 비친족간의 협력 행동은 서로 도움을 주고받아 각자 이득을 얻기 위해서라고 설명하면 다 끝난다고 믿었던해밀턴의 부정적인 태도는 트리버스의 초고를 만나서 순식간에 사라졌다. 극과 극으로 다른 성격을 지닌 두 대학자가 수십 년에 걸쳐 쌓게 될 우정의 시작이었다.
인간이 아닌 동물에도 상호성이 있는가
얼마 후 트리버스는 해밀턴으로부터 편지를 받았다. 해밀턴은 트리버스의 연구를 칭찬하며 더 밀고 나가라고 격려했다. 수식 모델 부분은 차라리 빼는 게 나을 것같다는 조언도 잊지 않았다. 오류투성이라고 점잖게 알려준 것이다. 또, 해밀턴은 ‘상호 이타성의 진화’라는 제목이 잘못됐다고 지적했다. 왜냐하면, 비친족간의 상호성은 진정한 이타적 행동이 아니기 때문이다.
개체가 하는 행동이 그 개체에게 이로운지 혹은 해로운지를 결정하는 잣대는 개체가 ‘평생 동안’ 낳은 자식 수(다시 말해 적합도)다. 이렇게 놓고 보면 비친족간의 상호성은 이타적 행동이 아니다. 내가 남을 도울 때는 일시적으로 손실을 감수하지만, 장기적으로는 서로 도움을 주고 받음으로써 각자 더 많은 자식들을 얻기 때문이다. 즉, 비친족간의 상호성은 이타적 행동이 아니라 둘 다 이득을 얻는 상리적 행동이다.
그러나 트리버스는 고집을 꺾지 않았다. 그는 비친족끼리 서로 돕는 행동도 어쨌든 일시적으로는 이타적 행동이라고 강변하며 ‘상호성(reciprocity)’이 아니라 ‘상호 이타성(reciprocal altruism)’이라는 제목으로 1971년에 논문을 발표했다. 오늘날 대다수 학자들은 해밀턴에 동의하며 ‘상호성’이라는 이름을 주로 사용한다.
뿐만 아니라, 해밀턴은 트리버스가 인간이 아닌 동물에서 나타나는 상호성으로 제시한 두 가지 예가 사실은 상호성이 아니라고 지적했다. 큰 물고기와 청소 물고기의 상리공생을 살펴보자. 산호초의 특정 장소에 큰 물고기가 와서 입과 아가미를 벌리고 있으면 청소물고기가 안팎을 드나들며 기생충을 잡아먹는다. 청소물고기는 먹이를 얻는다. 큰 물고기는 기생충을 제거한다. 아름다운 장면이긴 하지만, 동시에 도움을 주고받으므로 시간차를 두고 돕고 도움 받는 상호성은 아니다. 물론 트리버스는 이를 알고 있었다. 트리버스가 상호성의 예로 든 행동은 따로 있었다. 청소가 마무리될 때쯤이면 큰 물고기 입장에서는 입 안에 들어 있는 청소물고기를 낼름 삼키는 게 더 나을 텐데, 오히려 청소물고기에게 이제 그만 청소하라고 신호해서 입 밖으로 내보내는 행동이 여러 종에서 관찰된다. 큰 물고기가 청소물고기를 살려준 선행은 다음 번에 만나서 기생충을 제거 받음으로써 보답을 받는다는 것이다.
하지만, 악행을 안 했으니 선행이라는 논리는 이상하다. 게다가 한 가지 종류의 도움을 두 개체가 시간차를 두고 주고받아야 한다는 전제도 만족시키지 못한다. 포식자를 처음 발견한 새가 다른 새들에게 포식자가 나타났음을 알려주는 경계신호를 내는 행동도 마찬가지다. “이번에는 내가 경계음을 내마, 다음에는 네가 내 다오” 식으로 새들이 한 종류의 도움을 주고받기는 어렵다는 점에서 기각된다.
요약하자. 트리버스는 비친족 사이의 상호작용에서 과거에 나를 도와준 이만 도와주고 나를 배신한 이는 도와주지 않는 조건적인 협력 전략이 결국 선택될 것임을 제안했다. 이를 뒷받침하는 수리 모델은 허술했고, 인간이 아닌 동물에서도 상호성이 작동함을 명쾌히 입증하지도 못했지만, 그는 비친족간의 관계도 혈연 관계 못지않게 중요함을 최초로 밝혔다.