달러 경매와 승자의 저주 Part 1: 1달러 지폐를 3달러에 파는 법 — 쉬빅의 달러 경매

이 글은 Claude Opus 5.5 를 이용해 초안이 작성되었으며, 이후 퇴고를 거쳤습니다.

들어가며#

이 블로그에서 죄수의 딜레마와 트롤리 딜레마를 차례로 다뤘습니다. 서바이벌이 참가자에게 “협력할 것인가” 와 “누구를 희생시킬 것인가” 를 묻는 장면의 뿌리였습니다. 이번에는 서바이벌의 단골 종목, 경매 의 뿌리입니다. 경매 게임이 무서운 이유는 대부분 두 가지 함정으로 설명됩니다. 하나는 달러 경매(dollar auction), 다른 하나는 승자의 저주(winner’s curse) 입니다.

두 함정은 모두 “경매에서 이긴 사람이 진다” 는 결말을 갖지만, 이유가 다릅니다.

이 시리즈는 여섯 편입니다.

1. 규칙 — 1달러 지폐 한 장#

달러 경매는 게임 이론가 마틴 쉬빅(Martin Shubik) 이 1971년 학술지 Journal of Conflict Resolution 에 실은 세 쪽짜리 글, 「달러 경매 게임: 비협조적 행동과 확전의 역설」로 알려졌습니다. 당시 쉬빅은 예일 대학 소속이었습니다. 글은 이렇게 시작합니다. 아주 단순하고 무척 재미있으며 배울 것이 많은 실내 게임¹ 이 있는데, 어느 파티에서든 1달러를 경매에 부치면 할 수 있다는 것입니다.

원문의 규칙은 다음이 전부입니다.

• 경매인이 1달러 지폐를 가장 높게 부른 사람에게 판다.
• 단, 가장 높게 부른 사람과 두 번째로 높게 부른 사람이 모두 자기가 부른 값을 낸다. 예를 들어 A 가 10센트, B 가 15센트를 부르고 끝나면, 경매인은 25센트를 받고 B 에게 1달러를 준다. A 는 10센트를 잃는다.
• 입찰은 5센트 단위로 한다.
• 정해진 시간 동안 아무도 부르지 않으면 끝난다.
• 같은 값이면 경매인에게 더 가까이 있는 사람이 이긴다.
• 상한이 없다. 쉬빅의 표현대로라면 입찰은 “이론상 영원히 끝나지 않을 수도” 있다.

쉬빅은 진행 요령도 적었습니다. 사람이 많을수록 좋고, 가장 좋은 때는 파티의 흥이 올라 계산하려는 마음이 적어도 두 번째 입찰이 나오기 전까지는 고개를 들지 않을 때 라고 합니다. 이 한 문장에 함정의 절반이 들어 있습니다. 처음 두 사람이 부르기만 하면 나머지는 저절로 굴러갑니다.

2. 한 걸음씩은 모두 합리적이다#

쉬빅은 입찰자를 둘로 줄여 설명합니다. 뒤진 사람이 매번 마주하는 선택을 표로 늘어놓으면 이렇습니다.

어느 줄에서든 뒤진 사람에게는 올리는 쪽이 낫습니다. 그만두면 지금까지 부른 값을 전부 잃지만, 올려서 이기면 손해가 훨씬 작거나 오히려 이익입니다. 문제는 상대도 똑같은 계산을 한다는 점입니다. 매번의 선택은 합리적인데, 그 선택이 쌓인 결과는 둘 모두에게 재앙입니다.

쉬빅은 이 과정에 두 개의 임계 구간 이 있다고 봤습니다.

flowchart LR
    S["출발<br/>5센트, 10센트…<br/>둘 다 이익을 노린다"]
    Z1["첫 번째 임계 구간<br/>50센트 대 55센트<br/>두 입찰의 합이 1달러를 넘는다<br/>→ 경매인의 이익 확정"]
    Z2["두 번째 임계 구간<br/>1달러 대 1.05달러<br/>이긴 쪽도 손해<br/>→ 둘 다 손해를 줄이려 싸운다"]
    E["끝<br/>지친 쪽이 멈춘다<br/>총액 3~5달러"]
    S --> Z1 --> Z2 --> E
    style S fill:#90EE90,color:#000000
    style Z1 fill:#FFD700,color:#000000
    style Z2 fill:#FF9999,color:#000000
    style E fill:#D3D3D3,color:#000000

첫 번째 구간을 지나면 두 입찰의 합이 1달러를 넘으므로, 이후 무슨 일이 일어나든 경매인은 돈을 법니다. 두 번째 구간은 쉬빅이 “가장 극적인 형태” 라고 부른 1달러 장벽입니다. 이 선을 넘으면 이긴 사람조차 손해를 보지만, 두 사람은 손해를 줄이기 위해 계속 올릴 수 있습니다. 이때부터 경쟁의 목표는 이익이 아니라 덜 잃는 것입니다.

표의 계산에서 눈여겨볼 것이 하나 있습니다. 뒤진 사람이 “그만두면 잃는다” 고 말하는 돈은 이미 부른 값, 다시 말해 그만두든 올리든 돌아오지 않는 돈입니다. 이것을 매몰 비용² 이라고 합니다. 달러 경매는 매몰 비용이 판단을 끌고 가는 장치이고, 이 이야기는 Part 3에서 이어집니다.

3. 실제로 해 보면#

쉬빅은 경험상 1달러 지폐를 1달러보다 훨씬 비싸게 “팔” 수 있다 고 썼습니다. 두 입찰의 합이 3~5달러 에 이르는 일이 드물지 않다는 것입니다. 글의 끝에는 전형적인 판의 모습이 묘사돼 있습니다.

1. 왜 처음에 부르는가. 개인적인 계산 때문이 아니라 대개 재미, 그리고 놀이에 끼고 싶은 마음 때문이다.
2. 두 입찰의 합이 1달러를 넘을 때까지는 입찰이 꽤 빠르게 오간다. 그 순간 여러 참가자의 얼굴에 깨달음이 스친다.
3. 입찰가가 1달러 장벽을 지날 때 무리 전체에 잠깐의 멈춤과 머뭇거림 이 생긴다.
4. 그다음은 결투 다. 속도가 붙었다가, 긴장이 쌓이면서 느려지고, 끝내 사그라든다.

이 게임은 이후 사회심리학과 경영학 강의실의 단골이 됐습니다. 사회심리학자 앨런 테거(Allan I. Teger) 는 달러 경매를 실험실에서 되풀이한 연구를 1980년 『그만두기엔 너무 많이 투자했다(Too Much Invested to Quit)』라는 책으로 묶었습니다. 이 제목은 이후 수렁에 빠진 투자를 설명하는 연구에서 관용구처럼 인용됩니다.

협상학자 맥스 바저만(Max Bazerman) 은 MBA 강의에서 20달러 지폐로 이 경매를 진행한 것으로 유명합니다. 국내의 한 소개 글은 그 진행을 이렇게 요약합니다. 입찰가는 12~16달러까지 빠르게 오르고, 이 무렵 대부분이 빠집니다. 남은 두 사람은 덫에 걸려 20달러를 넘겨서도 계속 부릅니다. 쉬빅이 묘사한 “1달러 장벽 앞의 머뭇거림” 이 지폐의 액수만 바뀐 채 되풀이되는 셈입니다.

4. 게임 이론의 답#

쉬빅이 이 게임을 내놓은 목적은 놀이를 소개하는 것이 아니었습니다. 부제가 말하듯 비협조적 행동과 확전의 역설, 다시 말해 게임 이론의 표준 도구가 이 단순한 게임 앞에서 얼마나 무력한지를 보이는 것이었습니다.

4.1 협조 게임으로 보면 — 경매인이 불리하다#

입찰자들이 미리 짤 수 있다면³ 이야기는 정반대가 됩니다. 한 사람이 5센트를 부르고 다른 사람은 가만히 있으면, 둘은 95센트를 벌고 경매인은 95센트를 잃습니다. 쉬빅의 계산에서 양의 가치를 갖는 연합은 입찰자 전원의 연합 하나뿐입니다. 경매인과 일부 입찰자가 손잡아도 얻을 것이 없습니다.

협조 게임으로 보면 불리한 쪽은 경매인입니다. 비협조 게임으로 바꾸는 순간 불리함이 입찰자 쪽으로 옮겨 갑니다. 죄수의 딜레마의 다섯 열쇠 가운데 첫째, 약속을 강제할 수단 이 여기서도 결정적입니다.

4.2 비협조 게임으로 보면 — 1달러짜리 균형#

쉬빅은 비협조 게임의 균형점⁴ 하나를 “자명하지만 전혀 만족스럽지 않은” 것이라고 불렀습니다. 첫 입찰자가 처음부터 1달러 를 부르고 아무도 따라오지 않는 것입니다. 모두의 보수가 0 이 됩니다.

그런데 이 균형도 단단하지 않습니다. 입찰자가 절대 손익이 아니라 상대와의 차이 를 따지기 시작하면, B 는 5센트만 더 들여 1.05달러를 불러 A 에게 1달러의 피해를 줄 수 있습니다. 쉬빅은 이것을 피해 교환 비율 20 대 1 이라고 표현했습니다. 상한이 없는 한 이 비율의 확전에도 한계가 없습니다. 서바이벌에서 “내가 이기는 것보다 저 사람이 떨어지는 것이 중요한” 순간이 오면, 경매는 바로 이 모양이 됩니다.

4.3 말 한마디로 막을 수 있을까#

쉬빅은 함정을 막는 방법도 하나 적었습니다. 첫 입찰자가 5센트를 부르면서 이렇게 선언하는 것입니다. “누구든 따라 부르면, 1달러 미만이면 나는 즉시 1달러를 부르고, 1달러 이상이면 그보다 5센트를 더 부르겠다.” 다른 사람들이 이 말을 믿으면 아무도 따라오지 않고, 첫 입찰자는 95센트를 법니다. 죄수의 딜레마 시리즈의 치킨 게임에서 본 공약(commitment) 과 같은 수입니다.

하지만 실제 경매장에서 입찰자들은 길게 대화하지 않고, 합의서에 서명하지도 않습니다. 오가는 것은 입찰가뿐입니다. 쉬빅은 이 상황을 “물릴 말 자체가 없으니 말을 물릴 수도 없다” 고 요약했습니다. 말이 아니라 돈으로만 의사를 밝히는 판에서는 위협도 약속도 성립하지 않습니다.

4.4 혼합 전략 — 매번 5%#

입찰자 둘이 번갈아 부르는 판에서, 게임 이론은 혼합 전략⁵ 균형도 찾아냅니다. 뒤진 사람이 올리든 그만두든 똑같이 좋으려면, 상대가 매번 5% 의 확률로 그만둬야 합니다. 5센트를 더 내고 1달러를 얻을 확률이 5% 면 기대 이익이 0 이 되기 때문입니다.

흥미로운 점은 이 5% 가 지금 입찰가가 얼마인지와 무관하다 는 것입니다. 30센트에서든 3달러에서든 같습니다. 이미 부른 값은 매몰 비용이라 계산에 들어가지 않기 때문입니다. 이론상의 합리적인 입찰자는 판이 커져도 동요하지 않습니다. 실제 사람은 판이 커질수록 동요합니다. 그 차이가 Part 3 의 주제입니다.

4.5 예산이 있으면 — 첫 입찰 60센트#

1986년 정치학자 배리 오닐(Barry O’Neill) 은 같은 학술지에 「국제적 확전과 달러 경매」를 실었습니다. 쉬빅의 게임에 현실적인 조건 하나를 더했습니다. 입찰자마다 쓸 수 있는 돈의 한도 가 있다는 것입니다. 담합과 위협은 없고, 입찰은 5센트 단위이며, 올리든 말든 보수가 같으면 올리지 않는다고 가정합니다.

이렇게 끝이 정해지면 역진 귀납⁶ 이 가능해지고, 합리적인 전략이 공식으로 나옵니다. 예를 들어 두 사람이 각자 2.5달러를 갖고 있다면, 첫 입찰자는 60센트 를 부르고 상대는 가만히 있어야 합니다. 합리적인 두 사람은 서로 맞서 부르지 않습니다.

오닐의 결론은 이렇습니다. 죄수의 딜레마와 달리 달러 경매는 본질적인 함정이 아니다. 합리적인 사람에게는 덫이 아니고, 입찰자의 비합리성을 이용하는 장치라는 것입니다. 죄수의 딜레마에서는 모두가 완벽하게 합리적이어도 나쁜 결과가 나옵니다. 달러 경매에서 나쁜 결과가 나오는 것은 누군가 계산을 멈췄기 때문입니다. 쉬빅이 “흥이 오른 파티” 를 권한 것도 그래서입니다.

5. 달러 경매의 다섯 부품#

이 시리즈의 사례 편에서는 서바이벌과 게임, 영화의 경매를 이 다섯 부품으로 분해해 봅니다.

①과 ⑤는 같은 뿌리입니다. 진 사람도 내기 때문에, 이미 부른 값이 “그만두면 날아가는 돈” 이 됩니다. 이 두 부품만 있어도 사람들은 쉽게 멈추지 못합니다. ③과 ④가 함정을 깊게 만들고, ②가 바닥을 없앱니다.

6. 쉬빅의 단서 — 국가는 파티의 손님이 아니다#

학술지 이름이 Journal of Conflict Resolution 인 데서 짐작하듯, 이 게임은 처음부터 국가 간 확전 의 비유로 읽혔습니다. 냉전의 군비 경쟁, 그리고 글이 실린 1971년 한창이던 베트남 전쟁이 배경입니다. 하지만 쉬빅 자신은 이 비유를 아꼈습니다. 국가 사이의 협상은 대리인이 하고, 시간 지연이 크며, 앞으로의 행동을 밝히는 성명과 반쯤의 공약 이 흔하다는 것입니다. 그래서 달러 경매는 국가 간 확전을 이해하는 데 “제한적으로만” 쓸모가 있다고 썼습니다.

그럼에도 이 게임이 오래 살아남은 이유는 단순함입니다. 쉬빅의 말대로 이 게임은 실제 경매보다도, 심지어 2×2 보수 행렬을 가르쳐야 하는 죄수의 딜레마보다도 단순합니다. 규칙 한 줄을 바꿨을 뿐인데, 사람들은 1달러 지폐 한 장에 몇 달러를 냅니다.

마치며#

달러 경매를 한 문장으로 줄이면 “진 사람도 값을 내는 경매에서는, 매번의 합리적인 선택이 모두를 손해로 몰고 간다” 입니다. 쉬빅은 이 게임으로 표준 게임 이론의 한계를 보였고, 오닐은 예산이라는 끝을 주면 합리적인 사람은 덫에 걸리지 않는다는 것을 보였습니다. 두 결론을 합치면, 이 덫이 붙잡는 것은 계산이 아니라 멈추지 못하는 마음 입니다.

다음 편은 경매의 또 다른 함정, 진 사람은 아무것도 내지 않는데도 이긴 사람이 지는 승자의 저주입니다. 1971년, 달러 경매가 발표된 바로 그해에 석유 회사의 엔지니어 세 명이 멕시코만의 광구 입찰에서 이 현상을 찾아냈습니다.

References#

• Martin Shubik, “The Dollar Auction Game: A Paradox in Noncooperative Behavior and Escalation”, Journal of Conflict Resolution 15(1): 109–111 (1971) — PDF(스캔). 규칙, 임계 구간, 3~5달러, 협조 게임 분석, 1달러 균형, 피해 교환 비율, 공약, 전형적인 판의 묘사, 국가 간 확전과의 차이
• Barry O’Neill, “International Escalation and the Dollar Auction”, Journal of Conflict Resolution 30(1): 33–50 (1986), doi:10.1177/0022002786030001003 — 예산이 있을 때의 합리적 전략, 첫 입찰 60센트
• Dollar auction — Wikipedia — 혼합 전략 균형(매번 5%)
• Allan I. Teger, Too Much Invested to Quit, Pergamon Press (1980)
• 이일준, 「콩코드의 오류 — SKY 캐슬, 우리 예서 좀 구해주세요」, 정신의학신문 (2019-02-01) — 바저만의 20달러 경매 소개
• William Poundstone, Prisoner’s Dilemma, Doubleday (1992), “The Dollar Auction” 장