▣ 게임이론(Game Theory)이란?
게임 이론은 제2 차 세계대전 이후 응용 수학에 일부러 등장했는데, 경제학에서 밀접한 상호 의존 관계에 있는 과점기업간의 경쟁을 설명하는 이론으로 활용되기 시작했다
게임이론은 각자의 행위가 자기 이해관계뿐만 아니라 상대방의 이해관계에도 영향을 끼치는 상황에서 서로 어떤 전략을 세워 행동하는가를 연구하는 이론이다.
게임이론은 전략적 상황에서 경제주체들이 어떤 형태를 보일 것인지를 분석하는데 주안점을 두고 있다. 합리적인 경제주체는 자신에게 가장 유리한 결과를 가져오는 전략을 선택하려 할 것인데, 상대방 역시 똑같은 관점에서 새로운 전략을 선택하려 할 것이기 때문에 게임의 결과를 쉽사리 예측하기 힘들어진다. 그러나 게임의 성격에 따라서는 가장 그럴듯한 결과라고 할 수 있는 것을 찾아낼 수 있는 경우도 있다. 이것을 게임의 균형이라고 부르는데, 경제학자들은 이것이 어떤 성격을 가졌는지 알아내는 데 많은 노력을 기울이고 있다. 게임은 경기자의 수, 경기자들이 사용할 수 있는 전략의 종류와 수, 게임이 진행되는 방법 등에서의 차이에 따라 여러가지 유형으로 구분할 수 있다. 게임의 유형에 따라 경기자가 선택하는 전략이 달라질 수 있고, 이에 따라 게임의 결과도 달라진다. 그러므로 어떤 게임에 대해 구체적으로 논의하게 될 경우에는, 우선 그 게임의 성격이 무엇인지를 정확히 이해한 다음 본격적인 분석을 시작해야 한다.
서로 영향을 주고 받는다는 것을 알기 때문에 각자가 어떻게 행동할까 결정할 때 다른 사람들이 어떻게 대응할까를 고려해야 한다. 이처럼 다른 경제주체들에 대응을 고려하면서 행동하는 것을 전략적인 행동이라고 한다. 여러 경제 주체(economic agent)가 모여 의사 결정(decision making)을 하는 상황을 경제학에서는 게임 상황(game situation)이라고 한다. 게임 상황의 대표적인 본질은 상호 의존성(interdependence)으로, 이는 각 경제 주체의 의사 결정이 자신뿐만 아니라 다른 경제 주체의 편익에도 영향을 주는 성질을 일컫는다. 이 상호 의존성을 고려하는 것을 전략적 고려(strategic consideration)라고 하며, 게임 이론은 합리적인 경제 주체들이 상호 의존성 아래에서 전략적 고려를 할 때 어떤 의사 결정을 내리는지를 탐구하는 경제학의 한 분야이다.
비록 기본적으로는 경제학의 한 분야라고는 하지만, 게임 상황은 수없이 많은 상황에서 발생하므로 그 응용의 여지는 실로 무궁무진하다. 게임 이론은 엄연히 응용 수학의 한 분야로 자리 잡아, 탄생과 함께 정치학, 경제학, 사회학, 심리학, 생물학, 군사학, 컴퓨터과학 등 여러 종류의 학문에 매우 큰 영향을 미쳤다. 현재는 학제간 연구의 가장 대표적인 주제로 꼽히고 있다.
▣ 내쉬균형(Nash Equilibrium)
현실적으로 흥미있는 게임은 각 경기자가 전략을 독자적으로 세우는 비협조적계임인데, 비협조적게임의 균형 개념으로 가장 많이 쓰이는 것이 내쉬균형이다. 내쉬균형은 미국의 수학자 내쉬(John Nash)가 비협조적 게임의 균형으로 제시한 개념이다.
내쉬균형이란 각 경기자가 다른 경기자들의 전략을 주어진 것으로 보고 자신에게 최적의 전략을 선택할 때 이 최적 전략의 조합을 말한다
게임을 구성하는 주요한 요소는 경기자, 전략, 게임의 보수 등이며 어떤 게임의 특성은 이와 같은 요소들이 어떤 조합으로 주어져 있느냐에 의해 결정된다. 게임의 결과로 나타날 가능성이 매우 높은 것을 균형으로 간주하는 데 우월전략균형은 그 좋은 예가 된다. 게임이론에서 가장 자주 논의되고 있는 내쉬균형은 우월전략균형보다 한 단계 더 약화된 균형의 개념이라고 볼 수 있다.
상대방이 어떤 전략을 선택하는지에 관계없이 자신의 보수를 더 크게 만드는 전략을 우월전략(dominant strategy)이라고 하며, 이 우월전략의 짝을 우월전략균형이라고 한다. 경우에 따라서는 경기자가 내쉬균형전략을 사용하지 않고 보수적인 최소극대화전략을 사용하는 경우도 있다. 경기자들이 받는 보수의 합이 일정하게 유지되는 정합게임에서 두 경기자가 모두 최소극대화전략을 사용할 때 안장점이 얻어지기도 하는데, 이것은 내쉬균형의 성격도 갖고 있다.
우월전략에 상반되는 전략이 열등전략(dominated strategy)이다. 게임 참가자가 다른 게임 참가자가 무엇을 하든지 간에 자신에게 더 높은 이득을 주는 다른 전략을 갖고 있는 경우 처음의 전략을 열등전략이라고 한다.
▣ 게임이론의 종류
게임이론은 크게 협조적 게임이론(cooperative game theory)과 비협조적 게임이론(non-cooperative game theory)으로 나뉜다. 둘을 나누는 기준은 구속력 있는 계약(binding agreement)이다. 구속력 있는 계약이란, 어떤 경제 주체가 그 계약을 위반하면 법처럼 권위 있는 게임 외부 요소에 기대어 그 경제 주체를 처벌(punish)할 수 있는 것을 말한다.
비협조적 게임 이론에서는 게임 안의 규칙이 허용하는 구속력 있는 계약은 가능하지만 그렇지 않은 모든 계약은 아무 효력이 없는 경우를 분석한다. 효력이 없는 계약은 위반하더라도 처벌이 불가능하다. 비협조적 게임 이론에서는 모든 경제 주체의 자기 구속적 행동(self-enforcing behavior)을 상정하는데, 이는 어떤 행동이 자신의 이익에 합당하여 굳이 타인이 강제하지 않더라도 스스로가 자신의 그 행동에 구속력을 부여한다는 의미에서 만들어진 표현이다. 즉 자기 구속적 행동이란 다름 아닌 자신의 이익에 합당한 행동이다. 비협조적 게임 이론의 목적은 어떤 전략이 균형 전략인지를 찾고 따라서 게임의 결과가 어떻게 될 지를 예측한다. 더 나아가선, 게임을 어떻게 설계해야 게임의 결과가 더 좋아질지 역으로 생각하는 메커니즘 디자인이라는 심화과목도 존재한다.
협조적 게임 이론에서는 게임의 경제 주체 전체 또는 일부가 연합(coalition)을 통해 자발적인 구속력 있는 계약을 맺을 수 있는 경우를 분석한다. 게임 이론의 분야지만, 무조건적으로 협력한다고 가정할 때 얻을 수 있는 이상적인 결과를 계산하기에 일반적으로 게임이론 하면 생각나는 전략적 의사결정과 큰 관계는 없다. 협조적 게임 이론의 목적은 연합 형성의 전제조건을 정했을 때[10] 어떤 연합이 형성되는가를 정하고, 연합이 벌어들인 이익을 어떻게 분배할 것인가를 분석하기 위해 코어(Core), 섀플리 값(Shapley Value) 등으로 게임을 모델링한 뒤 게임의 해를 구하는 것이다.
▣ 게임의 종류
게임의 종류는 개념적으로 크게 전략형 게임(strategic form game)과 전개형 게임(extensive form game)으로 나뉜다. 과거에는 전략형 게임을 표준형 게임(normal form game)이라고도 했으나 요즈음에는 '전략형 게임'이라는 명칭이 자주 쓰이는 추세이다.
전략형 게임은 보수 행렬(payoff matrix)로, 전개형 게임은 게임 트리(game tree)로 표현된다. 모든 비협조적 게임은 전략형 게임과 전개형 게임 어느 쪽으로도 표현될 수 있으며, 두 게임은 아주 다른 것이 아니라 다만 게임을 분석하는 시각이 다를 뿐이다.
▣ 죄수의 딜레마
게임이론에서 가장 많이 인용되는 용의자(죄수)의 딜레마(Prisoner's Dilemma)에 관해서 설명한다.
두 사람이 작당하여 물건을 훔친 채로 투옥되었다. 검찰에서는 이 두 사람을 중요한 미제 사건의 공동범인으로 지목하고 있다. 검사가 두 용의자를 따로 따로 불러 다음과 같이 제의한다고 하자. 이 미제 사건의 범인이라고 둘 다 순순히 자백하면 비교적 가벼운 형벌인 징역 2년을 구형하겠다. 만약 한 사람은 순순히 자백하는데 다른 사람은 범행을 부인하면 자백한 사람은 미제사건을 푸는 데 협조한 수사상황에 공로를 인정하여 방면해주겠지만, 부인한 사람에게는 징역 10년을 구형하겠다. 둘 다 범행을 부인하면 둘 다 절도제만 걸어 징역 6개월을 구형하겠다. 각자가 이런 제안을 똑같이 검사한테서 받았고 이 제의대로 이루어질 것이라는 것을 알 뿐이다, 이 경우 두 용의자는 어떻게 알 것인가? 이 문제는 각 용의자의 후생(보수함수)이 자기의 자백여야에 의존하는 것은 물론 공범의 자백 여부에도 의존하기 때문에 전형적인 게임의 상황이다. 각자의 전략은 예전의 죄를 자백하느냐 아니면 부인하느냐의 두 가지이다. 두 용의자가 모두 범행을 부인하면 둘 다 이익을 본다. 그러나 자기만 부인하고 공범이 자백하면 자기만 중형을 받는 딜레마에 빠지게 된다. 두 용의자가 취한 전략에 따라서 각자가 받게 되는 보상을 행렬 형으로 나타낸 것이 다음 표이다.
이 게임에서 내쉬균형은 두 용의자가 자백하는 전략이다. 둘 다 자백하는 전략이 내쉬균형인 것은 자백한다는 상대방의 전략이 주어져 있을 때 나로서도 자백하는 것이 최선이기 때문이다. 공범자의 딜레마는 구성원 각자에게 이익인 행동이 공동체에게는 손해인 경우를 보여준다. 3명 이상의 비슷한 게임은 공유지의 비극이라고 부른다. 농부 1명 이 공동 목초지에 자기 가축을 더 방목하면 그에게 이익이 된다. 그러나 모든 농부가 가축을 더 방목하면 공동 목초지가 황폐해져서 모두에게 손해가 된다. 이를 공유지의 비극이라 한다. 어떤 나라에도 속하지 않는 공해(公海)의 물고기를 남획하여 물고기의 씨를 말리는 것도 공유지의 비극의 예이다.
▣ 조정게임
한 산업에 두 기업이 있다고 하자. 불경기를 맞아 두 기업이 가격을 인하할 것인가 말 것인가를 고려하고 있다. 상대 기업이 어떻게 나올 것인가에 따라 각 기업의 보수함수가 다음 표와 같이 설정되었다고 하자.
두 기업 다 현행 가격을 유지하면, 각각 매기당 10만 원씩의 이윤을 얻는다. 상대 기업이 현행 가격을 유지하는데 자기 기업만 가격을 내리면, 불경기 극복에 도움이 안 되고 가격인하 만큼 매출이 늘어나지 않아 이윤이 5억 원으로 줄어든다. 두 기업 모두 가격을 내리면 산업의 불경기를 극복하여 두 기업의 이윤이 모두 20억 원으로 늘어난다. 이런 상황에서 기업 2가 현행 가격을 유지하는 전략을 쓸 것이라고 상정된다고 하자. 기업 1은 가격을 내리거나 기업 2처럼 현행 가격을 유지할 수 있다. 기업 1이 가격을 내릴 때에는 5억 원의 이윤을 얻지만, 가격을 유지할 때는 10억 원의 이윤을 얻는다. 따라서 기업 2가 가격을 유지한다면, 기업 1도 현행 가격을 유지하는 것이 낫다. 마찬가지 논리로 기업 1이 현행 가격을 유지한다면 기업 2도 가격을 유지하는 것이 낫다. 따라서, 기업 1과 2가 현행 가격을 유지하는 전략이 내쉬균형이다.
그리고 또 다른 내쉬균형이 있다. 다른 기업이 가격을 인하할 것이라고 각 기업이 기대하면 가격을 내리는 것이 단연 유리하다 .따라서 기업 1과 2가 둘 다 가격을 인하하는 전략도 내쉬균형이다. 두 기업 모두 가격을 인하하면 양쪽 다 이득을 본다. 그러나 일단 다른 기업이 가격을 내리지 않을 것이라고 서로 예상하면 이 예상이 맞아 떨어지면서 두 기업 모두 손해인 상태에 고착될 수 있다.
▣ 게임이론의 의의
내쉬균형은 애덤 스미스의 보이지 않는 손과 다른 메시지를 준다. 시장 참가자들이 각자의 이익을 자유롭게 추구하면 시장 메카니즘에 의해 공공의 이익도 극대화되는 균형에 이른다는 것이 보이지 않는 손의 이론이다. 그런데 죄수의 딜레마와 조정 게임에서는 각자가 자기의 이익을 자유롭게 추구하면, 관련 당사자 전체로는 아주 불미스러운 균형에 이를 수도 있다.
스미스의 보이지 않는 손은 시장 참가자들이 가격 수용자로 행동하는 완전경쟁시장에 적용된다. 시장 참가자들이 가격 수용자가 아니고 전략적으로 행동하는 과정시장에서는 개별적 합리성이 공동의 선으로 이어진다는 보장이 없다. 따라서 정부가 대외개방을 통해 과점시장을 완전경쟁시장으로 전환시키거나 제도를 잘 정비하여 합리적 조정자의 역할을 해야 한다.