d라이브러리

“저는 아마 세상에서 가장 늦게 답장하는 사람일 겁니다.” 1969년 7월, 윌리엄 해밀턴이 조지 프라이스로부터 1년 만에 받은 답신의 첫 문장이었다. 전 해 여름 브라질에서 말벌을 채집하던 중에, 프라이스로부터 이타성의 진화를 도출하는 새로운 방법을 찾았다는 편지를 받은 기억이 떠올랐다.


논문 초고가 완성되면 한 부 보내달라고 당시 해밀턴은 친절하게 응답했다. 그 후 프라이스는 감감무소식이었다. 어쨌거나 해밀턴은 1969년 1월에 런던으로 복귀해서 바쁜 나날을 보내고 있었다. 그런데 이 도깨비 같은 사람이 1년 뒤에 불쑥 답장을 보내온 것이다. ‘선택과 공분산’이라는 짧은 논문의 초고를 동봉해서 말이다.

프라이스가 공언한 바와 달리, 그것은 해밀턴의 혈연 선택 이론을 새로이 유도하거나 더 발전시키는 논문이 아니었다. “모든 종류의 자연 선택을 설명할 수 있는, 이상하고 새로운 수식”(해밀턴, 1995년, 172쪽)을 소개하는 논문이었다. 사십이 훌쩍 넘은 나이에 진화유전학에 갓 입문한 사람이 이 분야에 길이 남을 탁월한 업적을 거짓말처럼 세운 것이다. 그 이상한 수식을 들여다보자.


마술사의 모자에서 튀어나온 토끼
진정한 이타성은 불가능하다고 암시하는 해밀턴의 1964년 논문을 읽고 나서, 프라이스는 해밀턴의 결과를 직접 도출하기로 마음먹었다. 이타적인 성향은 개체군 내에서 세대를 통해 점차 증가할까, 감소할까. 잠깐, 왜 꼭 이타적 행동에만 초점을 맞춰야 하지? 진화는 개체군에서 어떤 형질의 평균값이 세대를 거치며 변화함을 말한다. 몸무게건, 꼬리 길이건, 이타적인 성향이건 간에, 어쨌든 형질이 진화하는 모습을 잘 포착하면 그만이다. 어떻게 해야 할까?

프라이스 방정식은 어떤 형질의 평균값이 부모 세대에서 자식 세대로 건너가면서 변화하는 모습에 주목한다. 부모 개체군이 다섯 사람으로 이뤄졌다고 하자(140쪽 그림). 이들의 평균 키는 170cm이다. 한 세대가 지난 뒤, 각자 낳은 자식들을 모두 데려와서 자식 개체군을 만든다(편의상 무성생식을 가정한다). 자식 개체군의 평균 키는 어떻게 될까?

부모 개체군은 5명, 자식 개체군은 10명이다. 즉, 부모들이 낳은 자식 수의 평균은 2이다. 개체군이 이렇게 두 배로 불어나는 데 키가 긍정적으로 작용했다면(곧, 키가 큰 사람은 자식을 더 많이 얻는 경향이 있다면), 자식 세대의 평균 키는 부모 세대의 평균 키보다 더 커졌을 것이다. 물론 안 그럴 수도 있다. 어떤사람의 키와 그가 낳는 자식 수 사이에 아무런 상관관계가 없다면, 자식 세대의 평균 키는 부모 세대의 평균 키와 여전히 같을 것이다.

요컨대, 자식 세대의 평균 키는 어떤 이의 키와 그가 얻는 자식 수 사이의 상관관계에 따라 결정된다. 이때, 개체군의 크기가 두 배로 늘었음을 보정해줄 필요가 있다. 상관관계를 부모 세대의 평균 자식 수인 2로 나눠주면 된다. 두 변수 사이의 통계적인 상관관계는 공분산(covariance)으로 나타낸다. 낯선 용어라고 겁먹지 마시라. “양의 상관관계가 있다” 혹은 “음의 상관관계가 있다”라고 흔히 말하는 바로 그것이다. 예를 들어, 중학생 민준이가 수학을 공부한 총 시간과 수학 시험 점수 사이에는 양의 상관 관계가 있다. 민준이가 PC방에서 게임한 총 시간과 수학 점수 사이에는 음의 상관 관계가 있다.

신난다! 이제 우리는 축약된 형태의 프라이스 방정식에 다다랐다. 개체가 지닌 형질과 그 개체의 적합도(즉, 평생 낳는 자식 수) 사이의 통계적인 상관관계를 개체군의 평균 적합도로 나누면, “마치 마술사의 모자에서 토끼가 튀어나오듯이”(해밀턴, 1995년, 172쪽), 그 형질의 평균값 변화를 얻을 수 있다.

위의 방정식은 유전 정보가 부모에서 자식으로 완전하게 전달된다는 가정 하에만 성립한다. 자식은 부모를 쏙 빼 닮는다고, 이를테면 키가 180cm인 사람이 낳은 자식들은 모두 키가 180cm가 된다고 가정하자는 것이다. 만약 자식들끼리도 조금씩 다르다면, 형질의 평균값 변화는 자연선택에 의한 변화뿐만 아니라 유전정보 전달에 의한 변화도 포함한다. 온전한 형태의 프라이스 방정식은 그래서 [형질의 평균값 변화] = [선택에 의한 변화] + [전달에 의한 변화]가 된다.

프라이스 방정식은 모든 종류의 자연 선택을 깔끔하게 설명한다. 단수체건 이배체건, 유성 생식이건 무성 생식이건, 짝짓기가 무작위적이건 비무작위적이건, 우성이건 열성이건 간에 가리지 않는다. 이 모든 상황에서 어떤 형질의 평균값이 세대를 거치면서 증가할지는 그 형질과 적합도 사이의 상관관계에 달려 있음을 분명히 밝혀주기 때문이다. 예를 들어, 키가 큰 사람이 키가 작은 사람보다 자식을 더 많이 낳는 경향이 있다면, 키와 적합도 사이의 공분산은 0보다 크다. 따라서 자연 선택은 개체군의 평균 키를 더 높이는 방향으로 작동하리라고 프라이스 방정식은 일러준다. 요약하자면, 개체의 번식에 도움이 되는 유전자가 자연 선택돼 점차 개체군에 흔해진다는 다윈주의의 정수를 프라이스는 우아한 수식으로 승화시켰다.

사실, 프라이스 방정식은 고작(?) 자연선택에 의한 생물 진화를 설명하는 데서 멈추지 않는다. 보고 싶은 TV 채널을 고르거나, 민생에 관심 없는 대통령 후보를 찍지 않거나, 연골보다는 단단한 뼈가 조상들의 유적지에서 주로 출토되는 것처럼, 그야말로 모든 선택 과정에 프라이스 방정식을 적용할 수 있다. 프라이스는 이런 일반 이론을 만들고자 노력했지만 끝내 완성하지는 못했다. 그의 분투를 담은 미발표 원고 ‘선택의 본성’이 사후 20년 만인 1995년에 출간됐다.


집단 선택을 믿는다는 말씀이죠?
초고를 읽으면서 해밀턴은 이 새로운 수식이 사회적 행동의 진화를 설명하는 데도 엄청난 역할을 할 것을 바로 직감했다. 이타성이나 이기성 같은 사회적 행동도 당연히 하나의 형질이니 말이다. 초고에는 사회적 행동에 대한 언급은 없었다. 그러나 동봉한 답신에서 프라이스는 자신이 혈연 선택 이론에서 찾아낸 “몇 가지 작은 흠결”을 해결할 방도를 해밀턴과 함께 논의하고 싶다고 썼다. “저는 진심으로 바라건대 - 그동안 제게 친절히 응대해주셨을 뿐만 아니라, 해밀턴 박사님의 연구를 존경하는 저로서는 어쨌든 누구나 이따금 실수는 하는 법이니 - 박사님을 공개적으로 망신 주지 않는 방향으로 제 논문을 발표하려 합니다.” 아마도 최선의 해법은 해밀턴이 자기 실수를 직접 바로잡는 것일 터이다. 프라이스는 시간 날 때 자신에게 한 번 전화해 달라면서 편지를 마무리했다.

다음 날 해밀턴은 프라이스에게 전화했다. 깩깩거리고, 살짝 잘난 척이 묻어나는 목소리로 프라이스가 말했다. “그 방정식은 저한테도 놀라웠습니다. 정말로 기적이었죠.” 당시에 해밀턴은 프라이스가 그냥 비유적인 표현으로 ‘기적’이라 했다고 생각했다. 나중에서야 해밀턴은 그가 자신에게 일어난 일이 문자 그대로 기적이라고 믿었음을 알았다.

여하튼 해밀턴은 프라이스가 보기에 혈연 선택 이론에서 어떤 점을 고쳐야 하는지 물었다. “음, 대체로 다 맞는 이론입니다만, 악의(spite) 같은 걸 좀 고치면 좋겠습니다.” “뭘 고치라고요?” “악의요. 손실을 감수하면서까지 남에게 피해를 주는 악의적인 행동 말입니다.” 해밀턴은 어리둥절했다. “아…, 하지만 저한테 보내주신 논문 초고는 악의는커녕 이기성도 다루지 않았던데요?” 그리고 해밀턴은 덧붙였다. “사실, 혈연 선택에 대해서는 아예 일언반구도 없더군요.” 프라이스가 답했다. “맞습니다. 나중에 다 하려고요. 스미스 교수님이 제게 연구할 공간을 주셨습니다….”

프라이스가 헛기침을 했다. 뭔가 긴히 할 말이 있는 듯했다. “혹시 제 방정식이 집단 선택에 어떻게 적용되는지 보셨나요?” 집단 선택? 이타적 행동은 종을 보존하기 위해 진화했다는 집단 선택론과 평생을 맞서 싸워 온 장본인인 해밀턴 앞에서 지금 집단 선택을 입에 올리는 건가? 집단 선택 같은 낡은 유물은 이제 잘 포장해서 박물관으로 보내버려야 하지 않나? 해밀턴은 즉시 대답했다. “물론 아니죠.” 

그리고 이렇게 말했다. “그러니까 당신은 집단 선택을 정말로 믿는다는 말씀이죠?” 프라이스가 들뜬 목소리로 의기양양하게 대꾸했다. “아, 그럼요!”

해밀턴과 프라이스의 첫 번째 통화는 이처럼 팽팽한 긴장감이 감돌았다. 그러나 해밀턴은 프라이스 방정식이 사회성의 진화도 놀랄 만큼 잘 설명해준다는 사실에 점차 빠져들었다. “나는 선생님의 논문 초고에서 유도된 수식에 매료되었습니다.” 1969년 12월, 해밀턴은 프라이스에게 보낸 편지에서 이렇게 썼다. “어떻게 그 수식이 집단 선택을 탐구하는 데 적용되는지 이제 알게 됐습니다.” 자, 이 이야기는 다음 달에 해보자.