게임 이론이란?, 죄수의 딜레마부터 경매 이론까지

‘상대가 어떻게 나올지를 안다면, 당신의 선택도 달라질 수 있을까?’ 게임 이론은 이 질문에서 출발한다. 협상, 경쟁, 갈등, 그리고 일상의 수많은 선택은 단독으로 이루어지지 않는다. 우리의 전략은 언제나 상대방의 전략과 맞물려 움직인다.

1. 게임이론이란?

게임 이론은 여러 명의 의사결정자가 상호작용할 때 각자의 전략과 선택이 결과에 어떤 영향을 미치는지를 분석하는 수학적 이론이다. 경제학, 정치학, 심리학, 생물학, 컴퓨터과학, 군사 전략 등 다양한 분야에 활용된다.

게임 이론은 의사결정자 간의 상호작용을 수학적으로 분석하는 이론이기 때문에, 단순한 정의만으로는 그 작동 방식을 충분히 이해하기 어렵다. 보다 깊이 있는 이해를 위해서는 구체적인 예시를 통해 게임 이론이 실제로 어떻게 작동하는지 살펴볼 필요가 있다.

2. 죄수의 딜레마 (Prisoner’s Dilemma)

죄수의 딜레마는 두 명의 피의자가 경찰에 잡혀 따로 심문을 받을 때의 상황을 통해 묘사된다. 경찰은 두 사람에게 각각 같은 제안을 한다. “당신이 자백하고 동료는 자백하지 않으면, 당신은 풀려나고 동료는 중형을 받는다. 그러나 둘 다 자백하면 둘 다 중형, 둘 다 자백하지 않으면 경범죄로만 처벌된다.” 이때 두 사람은 서로의 선택을 알 수 없다. 협력할 수도 있지만, 배신당할 위험도 존재한다.

이 상황을 전략 게임으로 구성하면 다음과 같다. 각 플레이어는 두 가지 전략 중 하나를 선택할 수 있다. ‘협력’은 자백하지 않는 것이고, ‘배신’은 자백하는 것이다. 각 전략의 결과는 각자의 형량이나 처벌 수준으로 수치화된다. 수치가 낮을수록 유리한 결과라고 가정하면, 다음과 같은 보수 행렬을 얻을 수 있다. 단, 여기서는 형량이 아니라 보상(점수) 기준으로 서술한다.

둘 다 협력하면 둘 다 3점. 한 명은 배신하고 다른 한 명은 협력하면, 배신자는 5점을 얻고 협력자는 0점을 받는다. 둘 다 배신하면 둘 다 1점을 받는다. 여기서 가장 높은 보상을 얻는 방법은 상대가 협력할 때 배신하는 것이지만, 만약 상대도 같은 생각을 한다면 결국 둘 다 배신해서 최악의 결과에 가까운 1점을 얻게 된다.

이 구조의 핵심은, 서로가 상대의 배신을 두려워한 나머지 결국 배신을 선택하게 되고, 그 결과 양측 모두에게 불리한 상황이 초래된다는 점이다. 어느 한쪽이 협력을 선택해도 상대가 배신하면 더 큰 손해를 보기 때문에, 누구도 먼저 협력을 시도할 이유가 없다. 하지만 역설적이게도, 이는 둘이 협력했을 때보다 훨씬 더 비효율적인 결과로 이어진다.

현실에서도 죄수의 딜레마는 매우 자주 등장한다. 회사 간 가격 경쟁, 국제 관계에서의 군비 경쟁, 환경 규제에서의 책임 전가, 나아가 인간관계에서의 신뢰 문제까지, 협력과 배신 사이에서 갈등하는 상황은 무수히 많다.

2.1. 내시 균형

1950년 존 내시가 제안한 내시 균형(Nash Equilibrium)은 게임 이론에 핵심이 되는 개념 중 하나다. 이 개념은 모든 플레이어가 자신의 전략을 바꿨을 때, 상대의 전략이 고정되어 있다면 자기 전략을 바꾸는 것이 더 이상 이익이 되지 않는 상태를 말한다.

각 죄수는 자백(배신)하거나 침묵(협력)할 수 있고, 둘의 선택에 따라 다음과 같은 결과가 발생한다:

이때 상대가 협력하든, 배신을 하든, 나는 배신하는 편이 항상 점수가 더 높다. 예를 들어 상대가 협력했을 때 내가 협력하면 3점을 얻지만, 내가 배신하면 5점을 얻는다. 반대로 상대가 배신했을 때 내가 협력하면 0점을 얻지만, 내가 배신하면 1점을 얻는다.

즉, 내 입장에선 배신이 더 좋은 전략이다. 다만 상대도 같은 계산을 하게 된다. 따라서 둘 다 배신을 선택하게 되고, 이 상태를 내시 균형이라고 부른다.

여기서 중요한 점은 이 상태가 최적의 결과가 아님에도 불구하고, 각자 입장에서 전략을 바꾸는 것이 불리하기 때문에 고착된다는 점이다. 이처럼 내시 균형은 ‘합리적이지만 비효율적’일 수 있다는 점에서, 현실 세계의 갈등, 무임승차 문제, 경쟁적 전략 등을 이해할 수 있게 해준다.

3. 치킨 게임 (Chicken Game)

치킨 게임은 두 명이 정면으로 마주 보며 자동차를 몰고 다가가는 상황에서 유래한 모델이다. 서로가 먼저 방향을 틀면 겁쟁이(치킨)로 낙인찍히지만, 아무도 피하지 않으면 두 사람은 충돌하게 된다. 이 게임은 단지 경쟁이 아니라, ‘누가 먼저 양보할 것인가?’라는 심리전의 형태를 띤다.

게임의 수학적 구조는 죄수의 딜레마와 유사하지만, 한 명은 직진하고 다른 한 명은 피하는 두 가지 내시 균형이 존재한다는 차이점이 있다. 만약 상대가 피할 것이라고 확신할 수 있다면 나는 직진하는 것이 유리하지만, 그 확신이 없다면 피하는 것이 더 안전하다.

현실에서는 이 게임이 대치 상황에서 자주 등장한다. 예를 들어 정치에서 협상이 결렬되어도 손해를 보는 구조라면, 협상 테이블에서 누가 먼저 양보하느냐가 중요한 치킨 게임이 된다. 국제 관계에서는 군사 도발을 두고 서로 강하게 맞서는 상황, 냉전 시기의 미국과 소련이 핵미사일을 놓고 벌인 심리전이 대표적인 예다. 기업 간 경쟁에서도 서로가 먼저 가격을 인하하지 않으려는 싸움, 즉 브랜드 이미지나 고급 전략을 유지하려는 경쟁 또한 치킨 게임적 성격을 가진다.

치킨 게임의 핵심은 위험 회피보다 체면이 더 중요할 수 있는 상황을 모델링하는 것이다. 이 게임의 균형은 파국을 피하기 위해 한쪽의 희생을 전제로 하며, 심리전과 신호 전략이 매우 중요해진다.

4. 공공재 게임과 공유지의 비극

공공재 게임은 다수의 사람이 참여하는 협력 게임이다. 참가자들은 각자 자원을 낼 수 있고, 그 자원은 모두에게 돌아오는 혜택으로 환산된다. 모든 사람이 자원을 내지 않으면 아무런 혜택도 발생하지 않는다. 반대로 내가 자원을 내지 않더라도 다른 사람이 충분히 내면 나는 무임승차할 수 있다. 이로 인해 각자가 ‘나는 내지 말자’고 생각하게 되면 전체 시스템이 무너지게 된다.

‘공유지의 비극’은 이 개념을 현실로 확장한 것이다. 예를 들어 마을의 목초지가 공유 자원이라고 할 때, 한 사람이 자신의 소를 더 많이 풀어놓으면 당장은 이익을 얻는다. 그러나 모든 사람이 그렇게 행동하면 목초지는 황폐화되고, 누구도 이익을 얻지 못한다.

이런 구조는 환경 문제, 복지 제도, 공공 의료 시스템, 국방 지출 등에서 광범위하게 적용된다. 각자가 이기적이면 전체가 손해를 보고, 모두가 협력하면 장기적으로 이익을 누릴 수 있지만, 개인은 무임승차의 유혹을 받게 되는 딜레마에 빠지게 된다.

이 게임에서 협력을 유도하기 위해서는 처벌 메커니즘, 명예 시스템, 반복 상호작용, 규제 등의 개입이 필요하다. 실제 사회 제도는 이 게임의 구조를 억제하기 위해 만들어진 것이라고 해도 과언이 아니다.

5. 신호 게임 (Signaling Game)

신호 게임은 두 참가자 사이에 정보 비대칭이 존재하는 상황을 다룬다. 한쪽은 자신에 대해 더 많은 정보를 갖고 있고, 다른 한쪽은 그 정보를 알지 못하기 때문에 상대의 행동을 보고 추론하거나 대응해야 한다. 즉, 어떤 참가자는 타입이라는 속성을 지니고 있고, 이 타입은 다른 사람에게 알려지지 않지만, 신호를 보내 이를 유추하게 만든다.

신호 게임의 전형적인 예시는 구직자와 고용주의 관계다. 구직자는 자신의 능력을 알고 있지만, 고용주는 이를 직접 확인할 수 없다. 따라서 고용주는 구직자의 이력서, 학력, 자격증 등을 보고 판단을 내린다. 능력 있는 구직자는 좋은 대학 졸업장이라는 신호를 보내지만, 능력 없는 사람은 같은 신호를 보내기 어렵다. 이것이 분리 균형(separating equilibrium)이다. 반대로 모두가 같은 신호를 보낸다면 고용주는 구별하지 못하게 되며, 혼합 균형(pooling equilibrium)이 형성된다.

수학적으로 보면, 신호 게임은 일반적으로 다음과 같은 흐름으로 구성된다. 먼저 ‘정보를 가진 측’이 자신의 타입(예시: 유능/무능)을 알고 있고, 하나의 신호(예시: 학위, 가격, 행동 등)를 선택한다. 그러면 ‘정보를 받는 측’은 그 신호를 바탕으로 어떤 행동(예시: 채용 여부, 구매 여부, 투자 여부)을 선택한다.

신호 게임은 노동시장뿐 아니라, 투자 시장, 소비자 행동, 기업 경영, 정치 등 매우 다양한 분야에 적용된다. 예를 들어 기업이 일정 배당을 꾸준히 지급하는 것도, 시장에 ‘우리는 안정적인 현금 흐름이 있다’는 신호를 보내는 것이며, 가격을 일부러 높게 설정해 프리미엄 브랜드 이미지를 유지하는 것도 고급 제품이라는 신호를 전달하기 위한 전략이다.

신호 게임의 핵심은, 어떤 행동이 단순한 결과를 위한 것이 아니라 상대방에게 신호를 보내기 위한 수단이라는 점이다. 따라서 신호가 ‘믿을 만한가’, 즉 모방하기 어려운가가 중요하며, 그것이 곧 게임의 전략을 바꾸는 핵심 요소로 작동한다.

5.1 분리 균형과 혼합 균형

분리 균형(Separating Equilibrium)은 정보를 가진 주체들이 서로 다른 행동을 함으로써 자신의 ‘타입’을 드러내는 상황이다. 다시 말해, 행동만 보면 상대가 어떤 유형의 사람인지(또는 어떤 상태인지)를 알 수 있게 되는 구조다.

예를 들어보자. 어떤 회사가 구직자를 채용하려고 할 때, 구직자 A는 유능한 타입, 구직자 B는 무능한 타입이라고 가정하자. 이때 유능한 A는 고학력, 자격증, 포트폴리오 등 ‘신호’를 보내는 데, 무능한 B는 그런 신호를 흉내 내기도 어렵다. 이에 따라 회사는 자격증 유무만 보고도 누가 유능한지 구분할 수 있게 된다. 이렇게 각 타입이 서로 다른 신호를 보냄으로써 분리되었다면, 그 상태가 분리 균형이다.

혼합 균형(Pooling Equilibrium)은 그 반대다. 모든 타입이 같은 행동을 하기 때문에, 외부에서는 누가 어떤 타입인지 구별할 수 없는 상황이다.

같은 구직자 예시로 들어보자. 이번에는 유능한 사람이나 무능한 사람이나 똑같이 학위를 따는 데 드는 비용이 비슷하고, 자격증 난이도는 너무 낮아서 모두가 취득할 수 있다고 하자. 이 경우 두 타입 모두 같은 ‘신호’를 보내게 되고, 회사는 이를 바탕으로 타입을 구별할 수 없다. 이럴 때 회사는 ‘자격증 유무는 의미 없다’고 판단하고, 어떤 구직자든 동일한 조건으로 평가하게 된다. 즉, 정보가 행동에 의해 드러나지 않는 상태다. 이 상태가 혼합 균형이다.

6. 스크리닝 게임 (Screening Game)

신호 게임이 정보의 주체가 먼저 행동해서 신호를 보내는 구조라면, 스크리닝 게임은 정보의 수신자가 먼저 움직이는 구조다. 즉, 정보를 알지 못하는 쪽이 상대방의 특성을 알아내기 위해 조건이나 선택지를 조정하는 방식이다.

가장 흔한 예는 보험이다. 보험사는 고객의 건강 상태나 사고 위험도를 직접 알 수 없다. 그래서 다양한 보험 상품(높은 보험료 vs 낮은 보장, 낮은 보험료 vs 높은 자기부담)을 설계해 놓고 고객이 어떤 상품을 선택하는지를 관찰한다. 건강한 사람은 보장이 적고 저렴한 상품을 선택할 가능성이 높고, 위험한 사람은 고비용이더라도 보장이 큰 상품을 선택할 가능성이 높다. 이렇게 해서 보험사는 간접적으로 고객의 리스크 수준을 ‘스크리닝’하게 된다.

스크리닝 게임의 성공은 결국 ‘조건 설계가 잘 되어 있는가?’, ’고위험군과 저위험군을 자연스럽게 분리해 낼 수 있는가?’에 달려 있다.

스크리닝 게임은 노동시장에서도 등장한다. 기업이 신입사원에게 다양한 수준의 급여와 인센티브, 혹은 시용 기간을 제시해 보고, 지원자의 선택을 통해 그들의 능력과 자신감을 가늠하는 식이다.

7. 순차 게임 (Sequential Game)

지금까지 본 게임들이 대부분 동시에 전략을 선택하는 ‘동시 게임’이었다면, 이제는 순차적 게임 구조로 확장해 보자. 이 게임에서는 플레이어가 차례로 행동하고, 후행자는 선행자의 행동을 보고 전략을 정할 수 있다. 이 게임의 대표 도구는 게임 트리(Game Tree)이며, 각 노드는 선택지이고, 가지는 선택 결과다.

가장 전형적인 사례는 전쟁에서의 선제공격 또는 협상 전략이다. A국이 먼저 미사일을 배치했을 때, B국은 이를 보고 강경 대응을 할 수도 있고 외교로 문제를 풀려 할 수도 있다. A국은 이러한 반응을 예상하고 자신의 첫 행동을 조정할 수 있다. 이처럼 게임은 단순히 전략의 조합이 아니라, 상호 간의 반응과 계산이 이어지는 동적인 구조를 가진다.

수학적으로는 후행자가 선택할 때 가장 유리한 전략부터 거슬러 올라가서 선행자의 최적 전략을 결정하는 방식, 즉 역산법(Backward Induction)을 사용한다. 이는 체스나 바둑처럼 순차적으로 움직이는 전략 게임에서도 동일하게 적용된다.

또한 순차 게임에서는 ‘신뢰’와 ‘협박’이 중요한 전략이 된다. 예를 들어 협상이 결렬되었을 때 실제로 전쟁을 일으킬 능력이 없더라도, 그런 능력이 있는 척 ‘협박’하는 전략이 사용될 수 있다. 이것이 실효성 없는 협박(Credible Threat) 개념이며, 순차 게임에서 중요한 도구가 된다.

7.1 게임트리

게임 트리는 말 그대로 결정이 분기점을 따라 나뉘어가는 나무 형태의 구조다. 게임의 시작점은 나무의 뿌리고, 각 분기점은 하나의 선택지다. 어떤 사람이 어떤 선택을 했는지, 그리고 그 선택이 어떤 결과를 불러왔는지를 시각적으로 표현해준다.

가장 단순한 예로, A라는 사람이 먼저 어떤 선택을 하고, 그걸 본 B가 다시 자신의 선택을 하는 구조를 생각해 보자.

A는 ‘왼쪽으로 가기’와 ‘오른쪽으로 가기’라는 두 가지 선택지를 가지고 있다. 만약 A가 왼쪽으로 가면 게임은 거기서 끝나고, 보상은 A에게 3점, B에게 2점이 주어진다. 하지만 A가 오른쪽으로 가면, 이제 B의 차례가 된다. B 역시 ‘위로 가기’와 ‘아래로 가기’라는 두 가지 선택지가 있다. 위로 가면 보상은 A에게 1점, B에게 4점. 아래로 가면 둘 다 0점이다.

이 과정을 게임 트리로 그리면, 맨 처음 A의 결정 노드가 있고, A의 선택에 따라 가지가 두 갈래로 나뉜다. 그리고 그중 하나는 B에게 이어지는 또 다른 결정 노드로 연결된다. 가지의 끝에 있는 점들, 즉 트리의 ‘잎사귀’는 각 선택의 최종 결과를 의미한다.

게임 트리의 핵심적인 해석 방식은 ‘뒤에서부터 앞으로’ 생각하는 방식, 즉 역산법(Backward Induction)이다.

예를 들어, A가 ‘오른쪽’을 선택하면 B는 ‘위’ 또는 ‘아래’를 선택하게 된다. 이때 B의 입장에서 어떤 선택이 더 나은지 먼저 생각해보는 것이다. 보상이 (1,4)와 (0,0)이라면, 당연히 B는 4점을 얻는 ‘위’를 선택하게 된다.

이제 A의 입장에서 다시 생각해보면, A가 ‘왼쪽’을 택하면 3점을 받고, ‘오른쪽’을 택하면 B가 ‘위’를 선택할 테니 1점을 받게 된다. 즉, A는 상대가 무엇을 선택할지까지 고려해서 ‘지금 내 선택이 어디로 이어지는가’를 역으로 계산하게 된다. 이 과정을 거쳐 A는 결국 ‘왼쪽으로 가기’를 선택하고, 게임은 (3,2)의 보상으로 끝난다. 이러한 게임의 해법을 ‘부분게임 완전균형(Subgame Perfect Nash Equilibrium, SPNE)’이라고 부른다.

게임 트리는 단순한 두 사람의 상호작용뿐 아니라, 다단계 협상, 투자 의사결정, 정치적 신호 게임 등에서도 폭넓게 활용된다. 예를 들어 한 기업이 신제품 출시 여부를 고민한다고 해보자. 출시하면 경쟁사가 가격을 인하할 수도 있고, 무시할 수도 있다. 이때 게임 트리를 그려보면 각 단계에서 어떤 선택이 유리한지, 경쟁사의 예상 행동을 고려했을 때 지금 어떤 전략이 최선인지 판단할 수 있다.

또한 국제 외교에서도 게임 트리는 매우 유용하다. 한 국가가 군사적 행동을 암시했을 때, 상대국은 어떻게 반응할까? 그 반응은 처음 신호를 보낸 국가에 어떤 영향을 줄까? 이처럼 게임 트리는 ‘서로의 머릿속을 읽는 구조’를 시각적으로 드러내는 강력한 도구다.

8. 반복 게임 (Repeated Game)

죄수의 딜레마는 단발성 게임이라면 협력이 어려운 구조지만, 게임이 반복되면 이야기가 달라진다. 반복 게임은 같은 게임 구조가 여러 번 또는 무한히 반복되는 상황을 의미하며, 과거의 행동이 미래 행동에 영향을 줄 수 있는 구조다.

가장 중요한 개념은 ‘처벌’과 ‘보상’의 메커니즘이다. 초반에 누군가 협력하지 않고 배신하면, 상대는 그에 대한 보복으로 이후 라운드에서 배신을 선택할 수 있다. 반대로 상대가 협력적이라면 나 역시 계속 협력함으로써 상호 신뢰가 형성된다. 이때 자주 등장하는 전략이 ‘보복 전략(Tit-for-Tat)’이다. 상대가 협력하면 나도 협력하고, 배신하면 다음 판에 나도 배신하는 식이다.

반복 게임에서는 게임이 무한히 지속되거나 종료 시점을 알 수 없을 때, 협력이 가능한 내시 균형이 존재할 수 있다. 경제학자 프리드먼은 이 구조 속에서 ‘충분히 반복된다면 협력은 스스로 생겨날 수 있다’는 점을 이론적으로 증명했다. 이는 협력이 강제에 의해서만 나오는 것이 아니라, 장기적 기대 속에서도 자연스럽게 나타날 수 있다는 점에서 사회 질서에 대한 깊은 통찰을 제공한다.

현실에서도 반복 게임은 매우 흔하다. 국가 간 무역 협상, 회사 간의 거래 관계, 노동자와 고용주의 장기 계약, 친구나 연인 사이의 신뢰 관계 등 모두가 반복 게임이다. ‘이번 한 번만 속이고 이득을 보자’는 유혹은 항상 존재하지만, 미래에도 관계가 계속될 것이라는 기대가 있다면 협력을 택하게 된다. 이처럼 반복 게임은 사회적 규범, 문화, 도덕이 어떻게 형성되고 유지되는지를 설명하는 데 유용한 틀이 된다.

9. 진화 게임 이론 (Evolution Game Theory)

진화 게임 이론은 전통적인 게임 이론과는 접근 방식이 조금 다르다. 인간이 전략을 의식적으로 선택한다고 가정하지 않고, 성공한 전략이 다음 세대에 더 많이 전해지는 방식으로 전략의 진화 과정을 설명한다. 생물학에서 유래한 이 이론은 동물의 짝짓기 전략, 협력 행동, 인간 사회의 문화 패턴까지도 설명하는 데 활용된다.

이 이론의 핵심 개념은 진화적 안정 전략(ESS)이다. 어떤 전략이 현재 군집에서 우세를 점하고 있을 때, 다른 전략이 침투해도 더 이상 성공하지 못하는 전략을 말한다. ‘비둘기-매 게임’이 대표적이다. 온순한 비둘기와 공격적인 매가 일정 비율로 공존할 때, 각 전략이 서로 침범하지 못하는 균형 상태가 존재한다.

진화 게임은 ‘이득’을 수학적 보상으로 표현하는 대신, 번식률, 생존 가능성, 세대 간 확산율 같은 요소를 고려한다. 전략이 ‘더 똑똑해서’ 확산되는 게 아니라, 환경에 더 잘 적응해 생존과 번식 확률이 높아졌기 때문에 확산되는 것이다.

이 구조는 생물학을 넘어 사회적 행동에도 응용된다. 사람들은 왜 이타적인 행동을 할까? 왜 희생적인 부모가 다음 세대에 유전적 성공을 남기는 걸까? 이런 질문에 진화 게임 이론은 ‘협력이 때때로 생존 전략으로 유리하다’는 해석을 제시한다.

10. 혼합 전략 균형 (Mixed Strategy Equilibrium)

지금까지는 참가자들이 하나의 전략을 명확히 선택하는 순수 전략 게임을 살펴봤다. 하지만 어떤 상황에서는 여러 전략을 무작위로 섞어 선택하는 것이 오히려 최적일 수 있다. 이때 등장하는 개념이 혼합 전략 균형이다.

혼합 전략은 보통 순수 전략이 내시 균형을 갖지 않는 게임에서 등장한다. 예를 들어 가위바위보 게임에서는 어떤 선택도 항상 이기게 해주는 전략이 없다. 어떤 것을 내더라도 상대가 그것을 예측하고 대응하면 패할 수 있기 때문이다. 따라서 가장 좋은 전략은 세 가지 선택지를 각각 1/3의 확률로 무작위 선택하는 것이다. 이는 전략적 무작위성이라 불리는 고도의 심리전이며, 스포츠에서도 자주 활용된다. 예를 들어 축구에서 페널티킥을 찰 때, 선수는 어느 방향으로 찰지 미리 정하지 않고, 일정한 확률로 방향을 정해서 차야 상대 골키퍼의 예측을 무력화할 수 있다.

혼합 전략 균형에서는 확률적 선택이 더 유리하다는 점이 수학적으로 증명된다. 각 전략 조합에서 기대되는 보상이 같아지는 지점을 찾아내야 하며, 이 과정을 통해 게임의 균형이 결정된다. 이 균형 개념은 경쟁 상황, 경마, 주식 트레이딩 등에서 유용한 통찰을 제공한다.

11. 제로섬과 비제로섬 게임

게임 이론은 ‘누군가의 이득이 반드시 누군가의 손해일까?’라는 질문에서 출발해, 제로섬 게임과 비제로섬 게임으로 구분된다.

제로섬 게임은 가장 단순한 형태의 경쟁이다. 한 사람의 이득이 다른 사람의 손해와 정확히 일치하는 구조다. 포커, 체스, 군사 전략 게임 등이 대표적이다. 이 게임의 핵심은 승자와 패자의 균형이다. 즉, 내가 10을 벌면 너는 10을 잃는 구조다. 협상은 의미 없고, 항상 이겨야만 한다.

반면, 비제로섬 게임에서는 총이익이 고정되어 있지 않다. 협력을 통해 모두가 이익을 얻을 수도 있고, 모두가 손해를 볼 수도 있다. 죄수의 딜레마, 치킨 게임, 공공재 게임 모두 비제로섬 게임이다. 이 구조에서는 경쟁과 협력이 동시에 존재하며, 참가자의 전략에 따라 전체 파이가 커질 수도, 작아질 수도 있다. 즉, ‘함께 이길 수도 있고, 함께 질 수도 있다’는 구조다.

현실은 대부분 비제로섬 게임이다. 특히 시장 경제, 외교 협상, 사회 제도 같은 영역은 협력을 통해 모두가 이익을 얻을 수 있는 구조다. 그렇기 때문에 게임의 ‘설계’가 매우 중요하다.

12. 경매 이론과 정보 설계 게임 (Auction Theory & Mechanism Design)

마지막으로 실제 적용 사례 중 가장 흥미로운 분야인 경매 이론을 살펴보자. 경매 이론은 참가자들이 서로 다르게 가치를 평가하는 자산을 놓고 경쟁 입찰할 때, 어떤 방식이 가장 효율적이고 공정한지를 분석한다. 여기에는 정보 비대칭, 신호, 전략적 허위 보고, 승자의 저주(winner’s curse) 같은 복잡한 요소들이 얽혀 있다.

예를 들어 비공개 경매(봉인입찰)는 참가자들이 자신이 생각하는 진짜 가치를 숨기고 전략적으로 입찰가를 낮게 써낼 수 있다. 반면 공개 경매는 다른 사람의 입찰을 보면서 전략을 조정할 수 있지만, 과열되면 실제 가치보다 높은 가격에 낙찰될 위험도 있다.

경매 이론은 단순히 ‘가장 많이 부른 사람이 이긴다’는 논리를 넘어서, 시스템을 어떻게 설계하면 사람들이 자신의 진짜 의도를 정직하게 드러내도록 유도할 수 있는지, 즉 메커니즘 디자인의 영역으로 확장된다. 이는 게임 이론이 ‘룰을 분석하는 도구’에서 ‘룰을 설계하는 도구’로 진화하는 지점이다. 실제로 미국 연방정부는 전파 주파수 경매에 이 이론을 도입해 수십억 달러의 수익을 올렸고, 구글의 광고 경매 시스템도 이 원리에 기반해 설계되었다.

같이 보면 좋은 글
–게임 이론의 다학문적 탐험, 전략의 언어로 읽는 세상
–체스의 중앙 장악, 그리고 세상의 게임
–공유지의 비극, 공유 자원이 망가지는 이유
–보상 편향이란?, 좋은 결과가 곧 좋은 판단일까?
–팃 포 탯(Tit for Tat), 가장 단순한 협력 전략의 진화