게임 이론은 숫자의 언어로 심리, 전략, 문명을 설명하는 도구다. 경제적 거래에서부터 핵전략, 이타적 행동, 문화적 갈등까지, 우리는 모두 어떤 형태로든 게임의 일부가 되어 살아가고 있다.
1. 경제학 관점에서의 게임 이론
경제학에서 게임 이론은 시장 참가자들이 각자의 이해관계를 따라 행동할 때 어떤 결과가 나오는지를 수학적으로 모델링하는 도구다. 단순히 수요와 공급이 만나는 균형을 그리는 차원을 넘어서, 경쟁자들이 서로의 선택을 어떻게 예상하고, 그에 따라 자신의 전략을 조정하는지를 분석한다.
예를 들어, 두 개의 경쟁 기업이 있다고 가정해 보자. 이들은 같은 제품을 팔고 있으며, 가격을 얼마로 책정할지를 고민하고 있다. 이때 한 기업이 가격을 내리면 수요를 더 확보할 수 있지만, 이익률이 줄어들게 된다. 반면 가격을 높게 유지하면 단가당 이익은 커지지만, 경쟁사에 고객을 뺏길 수 있다. 이런 상황은 단순히 ‘가격을 얼마로 하면 가장 좋을까?’라는 문제가 아니라, ‘상대가 어떤 가격을 책정할지 예상하고, 그에 맞춰 나의 전략을 조정하는’ 문제로 바뀐다. 이때 사용하는 것이 바로 게임 이론이다.
이러한 맥락에서 ‘내시 균형(Nash Equilibrium)’이라는 개념이 중요해진다. 내시 균형이란, 각 참가자가 자신의 전략을 바꿔봤자 더 나은 결과를 얻을 수 없을 때의 상태를 말한다. 즉, 모두가 서로의 전략을 고려한 끝에 각자의 최선의 선택을 한 상태다. 경쟁 상황에서는 가격을 얼마나 낮추든, 또 협력 상황에서는 얼마나 양보하든, 결국 각자의 전략이 서로 영향을 주고받으며 어떤 균형점에 도달하는지를 분석하는 것이다.
게임 이론은 단순히 시장 가격 결정만이 아니라, 기업 간의 담합, 입찰 전략, 공급망 협상 등 실제 경제 현상 전반에 활용된다. 특히 시장이 과점일 때, 즉 소수의 기업이 서로 경쟁할 때 그 효과가 두드러진다.
2. 정치와 국제관계에서의 게임 이론
국제 정치에서는 국가들이 각자의 이익과 안보를 지키기 위해 수많은 전략적 결정을 내린다. 군비 경쟁, 외교 협상, 제재와 보복 등 다양한 상황에서, 단순한 힘의 우열이 아니라 전략적 사고와 상대방의 행동 예측이 중요해진다. 이 모든 과정에서 게임 이론은 매우 강력한 분석 도구로 작용한다.
냉전 시대의 미·소 간 핵무기 경쟁을 예로 들어보자. 당시 두 나라는 핵무기를 보유함으로써 상대방의 공격을 억제하는, 이른바 ‘상호확증파괴(Mutual Assured Destruction, MAD)’ 상태에 있었다. 양측 모두 핵무기를 포기하면 평화롭겠지만, 상대는 그대로 무장하고 자신만 무장을 해제하면 일방적으로 취약해지게 된다. 그러나 둘 다 계속 무장을 유지한다면 핵전쟁 가능성이 상존하게 된다. 이런 상황은 치킨 게임(Chicken Game)으로 묘사된다. 양쪽 모두 직진하면 충돌하지만, 한쪽이 방향을 틀면 피해를 최소화할 수 있다. 그러나 먼저 피하는 쪽은 약자로 보이기 때문에 정치적 손실을 입게 된다. 결국 이 게임에서는 누가 먼저 물러나느냐가 관건이 된다.
게임 이론은 이런 위기 상황에서 단순히 ‘힘의 균형’을 넘어, 외교적 신호와 의지의 표명, 반복된 상호작용, 비대칭 정보가 어떻게 갈등을 조정하거나 악화시키는지를 이해하는 데 중요한 도구가 된다. 협상에서 선제적으로 정보를 흘리거나, 무력시위를 하거나, 군사 훈련을 확대하는 것 역시 게임의 일부로 해석된다.
3. 심리학과 행동경제학에서의 게임 이론
전통적인 게임 이론은 참가자들이 모두 ‘합리적’이라고 가정한다. 하지만 인간은 언제나 이성적으로 행동하지 않는다. 감정, 도덕, 사회적 규범, 인지 편향이 개입되면 게임의 결과는 전혀 다른 양상을 보이게 된다. 이 지점에서 행동경제학과 실험심리학이 게임 이론을 풍부하게 만든다.
대표적인 사례는 ‘얼티메이텀 게임’이다. A가 전체 금액 중 일부를 B에게 제안하고, B가 이를 수락하면 둘 다 돈을 갖지만, B가 거절하면 둘 다 아무것도 갖지 못한다. 순수한 경제적 합리성만 따지면, B는 얼마를 받든 수락하는 게 이익이다. 하지만 실제 실험에서는 B가 ‘불공정한 분배’라고 느끼면 제안을 거절하는 경우가 많다. 감정이 개입되는 순간, 사람들은 금전적 이익보다 ‘정의’나 ‘자존감’을 더 중요하게 여긴다.
또한 신뢰, 협력, 보복 같은 감정도 반복 게임에서 중요한 변수로 작용한다. 상대방이 이전에 협력했던 기억이 있다면, 이번에도 협력할 가능성이 높아진다. 반대로 이전에 배신한 경험이 있다면, 보복을 위한 전략이 선택될 수도 있다. 이런 감정의 흐름은 경제학적 합리성을 넘어서는 영역이며, 게임 이론이 인간 행동을 설명하는 데 더욱 입체적인 시각을 제공해 준다.
4. 경영 전략에서의 게임 이론
기업들은 시장 내에서 경쟁하거나 협력하며 살아간다. 새로운 제품을 언제 출시할지, 가격을 어떻게 설정할지, 경쟁사를 인수하거나 제휴할지 등은 모두 전략적인 결정이다. 게임 이론은 이러한 의사결정을 수학적 모델로 설계하고, 가능성 있는 시나리오를 예측하는 데 유용하게 쓰인다.
예를 들어 어떤 기업이 기술적으로 완성된 제품을 가지고 있지만, 출시를 망설이고 있다고 해보자. 출시하면 수익을 올릴 수 있지만, 경쟁사가 그 기술을 모방해 유사 제품을 더 낮은 가격으로 내놓을 수도 있다. 그렇다고 가만히 있자니 시장을 놓치는 셈이다. 이때 기업은 ‘신호 보내기(Signaling)’ 전략을 쓴다. 예를 들어 ‘우리는 이 기술을 이미 글로벌 특허로 보호 중이다’라는 발표를 하거나, 일부만 출시해 시장의 반응을 테스트하는 식이다. 이런 행동은 단순히 정보 전달이 아니라, 경쟁사를 견제하고 의사결정을 유도하는 전략이다.
게임 이론은 또한 협상 테이블에서도 유용하다. 예를 들어 대기업이 중소기업과 유통 계약을 협상할 때, 가격만이 아니라 ‘정보 비대칭’, ‘옵션 조건’, ‘기한 연장’ 등 다양한 요소가 상호작용한다. 각 참여자가 어떤 순서로 협상에 임하는가, 어떤 대안을 갖고 있는가에 따라 결과는 달라질 수 있다.
5. 금융과 투자에서의 게임 이론
금융 시장은 수많은 투자자가 정보에 기반해 행동하지만, 그 정보가 항상 완전하지는 않다. 더군다나 투자자들은 다른 투자자들이 어떤 판단을 내릴지 예측하면서, 그에 대응해 자신의 전략을 짠다. 이처럼 게임 이론은 정보가 제한된 환경에서의 행동 분석에 매우 적합하다.
대표적인 예로 1992년의 영국 파운드화 공격 사건이 있다. 조지 소로스는 영국 중앙은행이 환율을 방어할 수 없다고 판단하고 대규모 공매도를 단행했다. 영란은행은 금리를 올리고 외환 보유고를 투입하며 방어했지만, 결국 고정환율 체제를 포기했고, 파운드화 가치는 폭락했다. 소로스는 이 과정에서 막대한 수익을 얻었다. 이 사례는 단순히 경제지표가 나빠서가 아니라, ‘중앙은행과 투기자 사이의 게임’이었고, 누가 더 오래 버틸 수 있느냐, 누가 먼저 신호를 포기하느냐의 싸움이었다.
투자자들은 이런 전략적 사고를 늘 활용한다. 어떤 종목에 먼저 진입하느냐, 특정 이슈가 발생했을 때 시장이 어떻게 반응할지를 예측하는 것이 투자 결정의 핵심이다. 단순히 분석 수치를 보는 것이 아니라, 다른 사람들의 심리를 읽고, 그에 따라 행동하는 것—이 역시 게임의 일종이다.
6. 생물학과 진화 이론에서의 게임 이론
게임 이론은 인간의 행동을 설명할 뿐 아니라, 자연 속 생물의 행동을 이해하는 데도 매우 유용하게 사용된다. 여기서 등장하는 개념이 진화적 안정 전략(Evolutionarily Stable Strategy, ESS)이다. 이는 단순히 순간적으로 유리한 전략이 아니라, 오랜 세월 경쟁자와의 상호작용 속에서 살아남을 수 있는 전략을 의미한다.
고전적인 예로 ‘비둘기와 매’의 게임이 있다. 이 게임에서 개체들은 비둘기형(온순한 성격)과 매형(공격적 성격) 전략을 가지고 있다. 두 비둘기가 만나면 평화롭게 자원을 나눈다. 비둘기와 매가 만나면 매가 자원을 모두 차지한다. 그러나 매끼리 만나면 둘 다 다치면서 손해를 보게 된다. 이 게임을 반복적으로 시뮬레이션하면, 단순히 공격적인 매가 우위를 점하는 것이 아니라, 일정 비율로 두 전략이 공존하는 지점, 즉 진화적으로 안정적인 비율이 형성된다.
이러한 분석은 생물들이 왜 항상 이기기 위한 전략만 택하지 않는지를 설명해 준다. 진화의 과정에서 특정 전략은 단기적으로 유리해 보일 수 있지만, 같은 전략이 너무 많아지면 오히려 생존에 불리해지기도 한다. 이런 메커니즘은 동물들의 짝짓기 전략, 영역 확보 방식, 포식자 회피 행동 등에도 그대로 적용된다. 즉, 자연은 ‘하나의 완벽한 전략’이 지배하는 것이 아니라, 상호작용 속에서 다양한 전략이 공존하는 역동적인 균형 상태를 만들어낸다.
이처럼 생물학에서의 게임 이론은 자연 선택의 메커니즘을 정량적으로 설명해 주는 강력한 도구이며, 다윈의 진화론을 수학적으로 모델링하는 데 기여하고 있다.
7. 컴퓨터 과학과 인공지능에서의 게임 이론
게임 이론은 인공지능과 알고리즘 설계에서도 매우 중요한 역할을 한다. 특히 ‘자율적 판단’이 필요한 시스템에서는, 각 인공지능이 다른 인공지능의 행동을 예측하거나, 다수의 사용자가 상호작용하는 환경에서 균형 있는 전략을 도출하는 것이 중요하다.
자율주행차의 충돌 방지 알고리즘을 예로 들어보자. 두 대의 차량이 교차로에서 마주할 때, 각 차량은 상대방이 멈출지, 계속 진행할지를 예측해야 한다. 이때 단순한 규칙 기반이 아니라, 게임 이론적 전략이 적용되어야 한다. 서로가 동시에 ‘양보하지 않겠다’는 전략을 택하면 충돌이 발생할 수 있다. 따라서 AI는 상대의 행동을 예측하고, 자신의 의도를 신호로 보내며, 주어진 보상(충돌 회피, 시간 절약)을 고려해 판단을 내리게 된다.
또한 다수의 에이전트가 존재하는 멀티 에이전트 시스템(Multi-agent systems)에서도 게임 이론은 핵심적인 도구다. 온라인 광고 경매, 경로 탐색, 로봇 군집 행동, 네트워크 자원 분배, 심지어 딥러닝의 일부 협력·경쟁 구조에서도 게임 이론이 적용된다. GAN(Generative Adversarial Network)도 일종의 게임 구조로 볼 수 있다. 생성자와 판별자가 서로를 이기려는 게임을 반복하면서, 전체 시스템의 성능이 개선되는 구조다.
이처럼 기계가 인간과 유사한 전략을 짜고 상호작용하기 시작한 오늘날, 게임 이론은 컴퓨터 과학에서 ‘행동하는 인공지능’을 설계하는 기초 이론으로 자리 잡고 있다.
8. 사회 철학과 윤리에서의 게임 이론
게임 이론은 사회 질서, 윤리적 딜레마, 공공선 문제를 다루는 철학적 사유에도 깊이 관여하고 있다. 특히 ‘모두가 이익을 추구할 때, 어떻게 공동선을 유지할 수 있을까?’라는 고전적 문제에 대해 명쾌한 도구를 제공한다.
대표적인 사례는 ‘공공재 게임’ 혹은 ‘공유지의 비극(Tragedy of the Commons)’이다. 다수가 함께 사용하는 자원이 있을 때, 모든 사람이 자신의 이익만을 극대화하면 결국 자원은 고갈되며 모두가 손해를 보게 된다. 마치 마을의 초지를 모두가 자기 소를 풀어놓는 데 쓰다가, 풀밭이 황폐화되는 상황과 비슷하다. 이는 죄수의 딜레마를 다자 구조로 확장한 모델이기도 하다.
이러한 상황에서 사회는 어떤 장치를 마련해야 할까? 법률, 도덕, 규범, 신뢰, 감시 제도 등이 전략적 행동을 유도하는 게임의 룰로 작용하게 된다. 다시 말해, 윤리나 법은 ‘마음이 착해서 지키는 것’이라기보다, ‘협력을 유도하기 위한 구조 설계’의 산물일 수 있다. 즉, 선한 행동이 장기적으로 보상을 받는 구조를 만들면, 이기적인 행동이 줄어들 수 있다는 것이 게임 이론의 함의다.
정치철학자 존 롤스(John Rawls)도 ‘정의론’에서 가상의 ‘무지의 베일(veil of ignorance)’을 통해 정의로운 사회 제도를 설계하려 했다. 이 역시 게임 이론적 사고다. 내가 어떤 사회적 위치를 갖게 될지 모른다면, 어떤 룰을 택하는 것이 모두에게 공정한지를 스스로 판단하게 만드는 방식이다.
9. 예술과 문화에서의 게임 이론
흥미롭게도 게임 이론은 문학, 영화, 게임 디자인 같은 문화 영역에서도 깊게 활용된다. 갈등 구조가 뚜렷하고, 인물 간의 심리전이 주축이 되는 서사는 거의 언제나 게임 구조를 내포하고 있다.
영화 ‘다크 나이트’에서 조커는 배 위의 두 집단에게 서로의 폭탄 스위치를 건넨다. ‘상대를 먼저 폭파시키지 않으면, 너희가 죽는다’는 조건은 치킨 게임과 죄수의 딜레마의 요소를 동시에 품고 있다. 이때 관객은 ‘어느 쪽이 먼저 버튼을 누를까?’, ‘정의는 살아남을 수 있을까?’ 같은 질문을 던지며 몰입하게 된다. 갈등과 선택, 상호작용이라는 서사적 장치는 게임 이론의 핵심 구성 요소와 정확히 일치한다.
또한 실제 전략 게임이나 보드게임 설계에서도 게임 이론은 중요한 역할을 한다. 플레이어 간의 정보 대칭·비대칭, 협력과 배신, 보상의 구조를 어떻게 설계하느냐에 따라 게임의 재미와 전략이 완전히 달라진다.
10. 마무리
경제학에서는 시장의 구조를, 정치학에서는 국가 간의 갈등을, 심리학에서는 인간의 감정을, 생물학에서는 생존 전략을, 컴퓨터 과학에서는 인공지능의 행동을, 철학에서는 윤리와 규범의 형성을, 문화에서는 갈등과 선택의 구조를 설명할 수 있었다.
게임 이론은 단순히 수학적 도구가 아니라, 상호작용이라는 삶의 본질을 이해하려는 틀이라고 볼 수 있다. 우리가 누구와 협력하고, 언제 배신하며, 어떤 룰을 만들고, 어떻게 예측하고 신뢰하는가—이 모든 것이 게임이며, 우리는 매일 이 거대한 보이지 않는 게임판 위에서 살아가고 있다.
같이 보면 좋은 글
–게임 이론이란?, 죄수의 딜레마부터 경매 이론까지
–팃 포 탯(Tit for Tat), 가장 단순한 협력 전략의 진화