게임 이론과 붉은 여왕 효과

'석양의 무법자'(The Good, the Bad, and the Ugly) 하면 떠오르는 명장면이 있다. 공동묘지에서 벌어지는 세 총잡이의 결투 장면이다. 남북전쟁 중 사라진 거액의 금화가 어느 무덤에 묻혀 있다는 얘기를 듣고 착한 자(클린트 이스트우드)와 악한 자(리 밴 클리프), 추한 자(엘리 왈라치)가 모여든다. 황야의 고독한 총잡이 셋은 뜨거운 태양 아래서 서로를 노려보는데, 스크린에는 각자의 눈동자와 비지땀, 무심하게 날아다니는 파리가 클로즈업된다. 관객도 긴장한다.


이건 둘만의 대결이 아니라 셋이 벌이는 생존경쟁이기 때문이다. 여기서는 무조건 먼저 쏜다고 승자가 되는 게 아니다. 어느 한 명의 총잡이가 제일 먼저 피스톨을 당긴다 해도 다른 두 명의 총잡이를 모두 쏠 수는 없다. 이렇게 되면 상황이 꽤 복잡해지는데, 게임이론에도 이와 비슷한 3인 결투 문제가 나온다.

게임이론은 수학자 J 폰 노이만이 1944년에 창안한 것으로 체스와 포커게임부터 군사전술과 경제정책에 이르기까지 복잡한 구조를 가진 문제에 포괄적으로 적용할 수 있는 이론체계다. 3인 결투는 죄수의 딜레마 문제와 함께 게임이론을 응용한 대표적인 예로 꼽힌다.

어느날 A, B, C, 이렇게 세 사람이 권총을 들고 결투를 벌이기로 한다. 그런데 총 쏘는 실력이 차이가 나서 A는 명중률이 3분의1, B는 3분의2, C는 100%다. 결국 공정한 결투를 위해 명중률이 낮은 사람부터 총을 발사하기로 했다. A가 제일 먼저 한 발을 쏘고 난 뒤 B가 한 발을 쏘고 그 다음에 C가 쏘기로 한 것이다. 이렇게 해서 단 한 명의 생존자가 살아남을 때까지 결투를 계속한다고 했을 때 질문은 다음과 같다. "A는 첫 발을 누구에게 겨눠야 할까?"

게임이론이 독창적인 이유는 게임의 구조와 진행 과정에 인간의 성향을 개입시켰다는 점 때문이다. 이 세상은 나 혼자 살아가는 게 아니다. 끊임없이 변화하는 주변 환경뿐 아니라 나와 경쟁하는 상대방도 고려해야 한다. 시카고대학의 생물학자 리 반 베일런이 1973년에 발표한 '붉은 여왕 효과'(The Red Queen Effect)는 자연생태계에서 벌어지는 진화의 비밀을 알려준다.


제아무리 물리적 환경에 잘 적응한다 해도 생존을 위한 투쟁은 그것으로 끝나지 않는다. 경쟁자와 적들 역시 각자의 서식환경에 적응하고 있기 때문이다. 한 종(種)의 성공은 경쟁하는 다른 종에게 더 좋은 목표를 제공할 뿐이다. 베일런은 '거울 나라의 앨리스'에 나오는 붉은 여왕을 예로 든다.

붉은 여왕은 앨리스의 손을 잡고 바람처럼 달리지만 어디에도 도착하지 않는다. 앨리스가 숨을 헐떡이며 말한다. "우리 세상에서는 이렇게 오랫동안 이처럼 빨리 뛰었다면 어디엔가 도착하게 돼요." 그러자 붉은 여왕이 대답한다. "느려터진 세상이군. 하지만 이곳에서는 보다시피 같은 자리에 있으려면 최선을 다해서 뛰어야 해. 어딘가에 가고 싶다면 적어도 그 두 배 이상으로 빨리 뛰어야 한단다."

결국 이 세계는 필사적인 경쟁체제로 이뤄져 있다는 말인데, 계속 달리고 또 달려도 겨우 같은 지점에 머물러 있을 수밖에 없다는 데 숨은 진실이 있다. 세상은 끊임없이 변화하고 나 역시 쉬지 않고 달리지만 그렇다고 앞서가지는 못한다. 아무리 빨리 달려도 이 세상을 이기지는 못하는 것이다.

투자의 세계 역시 이와 다르지 않다. 누구도 시장을 이길 수 없는 것이다. 어느 종목 혹은 어떤 업종에서 한두 번 뛰어난 성과를 거둘 수는 있지만 계속해서 대박을 터뜨릴 수는 없다. 한두 해 시장 평균보다 높은 수익률을 기록할 수는 있지만 매년 그렇게 하지는 못한다. 그런데도 자기가 시장을 이기는 비법을 갖고 있다고 자랑한다면 그것은 오만이 아니라 무지한 탓이다.

참, 앞서 예로 든 3인 결투의 답을 찾아보자. A는 누구를 쏴야 할까? 정답은 아무도 겨누지 말고 허공을 향해 첫 발을 쏘는 것이다. 잠깐 생각해보면 왜 그런지 알 수 있을 것이다. 가끔은 이렇게 우선권을 상대방에게 넘겨주고 상황을 지켜보는 게 더 유리할 때가 있는 법이다.