어치는 포식자를 발견하면 시끄러운 소리를 내서 동족에게 위험 신호를 보냅니다. 그런데 그중에는 가짜로 소리를 지르는 새도 있습니다. 소리를 듣고 모두 도망가버리면, 혼자 주변에 벌레를 모조리 잡아먹으려는 수작이지요.

비록 거짓말하는 동물도 있지만 대부분 동물은 협동하며 살아갑니다. 예를 들어 원숭이는 무리에서 서로 해충을 잡아주며 협력하고 살아갑니다. 그런데 갑자기 사기꾼 원숭이가 등장했습니다. 사기꾼 원숭이는 동료 원숭이와 서로 해충을 잡아주기로 해놓고, 제 몸의 해충을 다잡아주자 도망가 버립니다.

사기꾼 원숭이는 마냥 신납니다. 힘을 들이지 않고, 해충을 없앴기 때문이지요. 얼마 지나지 않아 다시 몸에 해충이 생기기 시작합니다. 하지만 사기꾼 원숭이에게 속았던 원숭이는 도와주지 않습니다. 결국 사기꾼 원숭이는 해충을 없애지 못해 건강이 나빠지고, 자손도 많이 남기지 못한 채 사라지고 맙니다.

원숭이들은 서로 돕는 행동이 장기적으로 이득이기 때문에 무리를 지어 생활할 때 협력전략을 선택합니다. 이것은 게임이론의 변형 형태인 ‘진화 게임이론’으로 설명할 수 있습니다.

게임이론으로 본 진화

영국의 진화생물학자 존 메이너드 스미스와 미국의 이론 생물학자 조지 프라이스는 게임이론을 생물학에 적용해 ‘진화 게임이론’을 정립했습니다. 1973년 두 학자는 게임이론과 수학식을 이용한 컴퓨터 시뮬레이션 분석으로 ‘진화적으로 안정된 전략’을 제시했습니다. 진화 게임이론은 고전적인 게임이론과 무엇이 다를까요?

고전적 게임이론은 게임에 참여한 각 경기자가 합리적으로 생각한다고 가정합니다. 각자 자신의 이득을 최대로 늘리기 위해 노력한다고 가정하는 것이지요. 그리고 각 경기자는 상대방의 전략에 대항해 자신의 이득을 최대로 만들 수 있는 전략을 찾습니다. 그 지점이 내시 균형입니다. 즉 게임이론은 자신의 행동뿐 아니라 상대의 행동에 의해 이익이 결정됩니다.

동물을 대상으로 하는 진화 게임이론에서는 게임에 참여하는 경기자보다 전략에 초점을 맞춥니다. 가장 적절한 전략이 자연 선택된다고 가정하는 것입니다. 개인 참여자의 합리성은 필요없어진 가정입니다. 이런 가정에서 보상이 가장 큰 전략을 찾습니다.

진화 게임이론에서 한 집단이 다같이 어떤 전략을 쓰고 있을 때, 새로운 전략으로 기존 전략을 바꾸지 못한다면 원래 전략을 진화적으로 안정하다고 정의합니다. 따라서 앞서 말한 원숭이 무리에서 사기는 진화적으로 안정한 전략이 아니며, 협력은 진화적으로 안정한 전략이 돼서 무리에 협력전략이 퍼집니다.

순수한 협동은 없다?

최소한으로만 협동하는 동물들이 있습니다. 높은 곳에서 뒷다리로 꼿꼿이 서서 포식자의 움직임을 살피는 사막의 보초병 미어캣. 미어캣은 포식자가 다가오면 소리를 내서 알립니다. 보초를 서는 동안에 가장 높은 곳에 있기 때문에 포식자에게 발견될 확률이 매우 큽니다. 먹이를 먹을 기회도 적습니다. 이런 불이익을 감수하고서라도 미어캣이 보초를 서는 이유는 무엇일까요?

사실 미어캣이 마냥 이타적인 동물은 아닙니다. 미어캣은 대부분 배가 잔뜩 불러 먹이를 먹을 필요가 없을 때만 보초병으로 나섭니다. 또 땅굴이 가까운 곳에서만 보초를 서다가 포식자를 발견하면 가장 먼저 숨습니다.

코스타리카의 흡혈박쥐는 굶주린 동료 박쥐가 있으면 피를 토해 나눠주는데, 과거에 자신에게 이런 도움을 준 일이 있거나 적어도 같은 동굴에서 봤던 박쥐에게만 하는 행동입니다.

무리 생활을 하는 동물들에게 눈치싸움도 필수적입니다. 평화로운 양떼 사이에 포식자가 등장하면, 양들은 그 짧은 순간에 똘똘 뭉쳐 위기를 모면합니다. 양들은 그속에서 가장 안전한 위치를 찾겠지요.

무리는 짓되 나부터 살자!

영국의 진화학자 윌리엄 해밀턴은 1971년에 ‘이기적 무리의 기하학’ 논문을 발표합니다. 동물이 떼 지어 몰려다니는 이유는 천적에게 잡아먹히지 않기 위해서인데, 무리를 지으면 천적이 바깥쪽에 있는 동물을 목표물로 삼기 때문에 서로 무리 안쪽으로 파고들어 살아남으려고 한다는 것입니다. 각자 살아남기 위해 행동한 결과 빽빽한 무리가 만들어진다는 것이지요.

해밀턴은 개구리와 육식 동물인 뱀이 살고 있는 가상의 연못을 제시했습니다. 연못 바닥에서 살고 있는 뱀은 식사 시간이 되면 수면 위로 올라와 개구리를 잡아먹습니다. 개구리는 뱀이 나타나기 전에 연못 위로 도망갑니다. 그러나 뱀은 예측하지 못한 곳에서 불쑥 튀어나오지요. 이때 개구리는 살아남기 위해 다른 두 개구리 사이로 뛰어 들어갑니다. 뱀이 접근하기 쉬운 가장자리 개구리를 잡아먹을 확률이 높기 때문에 안전한 가운데로 도망가는 겁니다.

해밀턴의 이론은 2012년 앤드류 킹 영국 왕립 수의대 박사팀이 위치추적장치를 이용한 실험으로 증명했습니다. 연구팀은 수십 마리 양떼가 모여 있는 곳에 개를 풀어 양 떼와 개의 움직임을 기록했지요. 매 순간 양들의 위치를 기록했는데, 양떼는 무리의 중심으로 몰렸습니다. 천적이 등장하면 가장 안전한 중앙으로 몰린다는 해밀턴의 가설이 들어맞은 것입니다.

이런 행동은 밀집된 무리를 만들어 포식자가 쉽게 공격하지 못할게 만듭니다. 그러나 모든 동물이 이렇게 서로 안쪽으로 가려고 하다 보면, 포식자가 떨어져 나온 한 마리가 아닌 무리 전체를 뒤쫓을 수 있기 때문에 자칫하면 무리 전체가 위험해질 수도 있어요.

▼관련기사를 계속 보시려면?

Intro. 수학탐험 동물왕국의 능력자

Part 1. 기이한 술법 3가지

Part 2. 무리생활을 하는 동물의 게임이론

Part 3. 둔갑과 은신을 위한 변신