이 글은 Claude Opus 5.5 를 이용해 초안이 작성되었으며, 이후 퇴고를 거쳤습니다.

들어가며#

이 블로그는 서바이벌과 게임에 숨은 딜레마를 차례로 다뤄 왔습니다. 죄수의 딜레마는 협력을, 트롤리 딜레마는 희생을, 달러 경매는 멈춤을, 투표의 역설은 모으기를 물었습니다. 이번에는 조금 가벼운 쪽으로 쉬어 가려 합니다. 상대도, 동맹도, 투표도 없습니다. 문 세 개와 진행자 한 명, 그리고 질문 하나가 전부입니다.

“바꾸시겠습니까?”

이 질문 하나가 1990년 미국에서 만 통 가까운 편지를 불렀고, 그중 1,000통 가까이에 박사 학위 서명이 붙어 있었습니다. 대부분은 틀린 쪽이었습니다. 이 문제가 몬티 홀 문제(Monty Hall problem) 입니다.

이 시리즈는 네 편입니다.

편주제
Part 1 (이 글)세 개의 문과 만 통의 편지 — 바꾸면 왜 3분의 2 인가
Part 2진행자의 규칙이 답을 정한다 — 몬티 폴, 몬티 크롤, 사촌 문제들, 그리고 분류 흐름도
Part 3왜 우리는 틀리는가 — 비둘기가 사람보다 잘 바꾸는 이유
Part 4게임쇼·서바이벌·영화·드라마 속 몬티 홀, 그리고 유형 분류표

1. 문제#

1990년 9월 9일, 미국 주간지 『퍼레이드(Parade)』의 고민 상담 칼럼 「매릴린에게 물어보세요」에 메릴랜드주 컬럼비아의 독자 크레이그 휘태커가 이런 질문을 보냈습니다. 칼럼니스트 매릴린 보스 사반트(Marilyn vos Savant) 의 웹사이트에 남아 있는 문장을 옮기면 이렇습니다.

당신이 게임쇼에 나가 문 세 개 가운데 하나를 고르게 되었다고 합시다. 한 문 뒤에는 자동차가, 나머지 문 뒤에는 염소가 있습니다. 당신이 한 문, 예를 들어 1번을 고릅니다. 그러자 문 뒤에 무엇이 있는지 아는 진행자가 다른 문, 예를 들어 3번을 열어 염소를 보여 줍니다. 그리고 당신에게 묻습니다. “2번 문으로 바꾸시겠습니까?” 바꾸는 것이 유리할까요?

대부분의 사람은 이렇게 생각합니다. 이제 닫힌 문은 둘이고, 자동차는 둘 중 하나에 있으니 반반 이다. 바꾸든 안 바꾸든 같다. 처음 고른 문을 버리면 아까우니 그대로 두자.

보스 사반트의 답은 달랐습니다. “네, 바꾸세요. 처음 문이 이길 확률은 3분의 1 이고, 두 번째 문은 3분의 2 입니다.”

2. 왜 3분의 2 인가 — 세 가지 설명#

2.1 경우를 모두 세어 보기#

당신이 1번 문을 골랐다고 합시다. 자동차가 있을 수 있는 자리는 셋이고, 처음에는 모두 같은 확률(3분의 1)입니다. 진행자는 자동차가 어디 있는지 알고, 당신이 고르지 않은 문 가운데 염소가 있는 문만 엽니다.

자동차 위치진행자가 여는 문그대로 두면바꾸면
1번 (당신이 고른 문)2번이나 3번 (둘 다 염소)자동차염소
2번3번 (2번은 열 수 없다)염소자동차
3번2번 (3번은 열 수 없다)염소자동차

세 경우 가운데 그대로 두어 이기는 경우는 하나, 바꾸어 이기는 경우는 둘입니다. 핵심은 둘째와 셋째 줄입니다. 당신이 처음에 틀린 문을 골랐다면, 진행자는 남은 염소 문을 열 수밖에 없고, 그러면 닫힌 채 남은 문이 반드시 자동차입니다. 처음에 틀릴 확률이 3분의 2 이니, 바꾸어 이길 확률도 3분의 2 입니다.

2.2 문 하나 대 문 둘#

같은 내용을 이렇게 말할 수도 있습니다. 1990년 11월 2일, 신문 칼럼 「스트레이트 도프」의 세실 애덤스는 진행자의 제안을 이렇게 바꿔 말했습니다. “당신이 고른 문 하나를 계속 가질 수도 있고, 나머지 문 둘을 통째로 가질 수도 있다.”

진행자가 둘 가운데 염소 문 하나를 열어 보여 주는 것은 아무것도 바꾸지 않습니다. 문 둘 가운데 적어도 하나는 염소라는 것을 우리는 이미 알고 있었기 때문입니다. 진행자는 그 염소가 어느 쪽인지 알려 줬을 뿐이고, 문 둘이 함께 가진 3분의 2 는 그대로 남은 한 문으로 모입니다.

2.3 문이 백만 개라면#

보스 사반트가 첫 칼럼에서 쓴 설명은 문의 수를 크게 늘리는 것이었습니다. 문이 백만 개 있고, 당신이 1번을 골랐습니다. 자동차가 어디 있는지 아는 진행자가 77만 7,777번 하나만 빼고 나머지 문을 모두 엽니다. 전부 염소입니다. 그대로 1번을 지키겠습니까, 77만 7,777번으로 바꾸겠습니까?

이제 답이 보입니다. 1번이 맞을 확률은 백만분의 1 입니다. 진행자가 그 많은 문 가운데 굳이 77만 7,777번을 남긴 것은, 자동차가 거기 있기 때문일 가능성이 압도적으로 큽니다. 문이 셋일 때도 원리는 같습니다. 숫자가 작아서 덜 극적일 뿐입니다.

2.4 직접 돌려 보기 — Go 로 100만 번#

말로 설득되지 않는다면 컴퓨터에 시켜 보면 됩니다. 아래는 표준 규칙 그대로 100만 번을 돌리는 Go 프로그램입니다.

package main

import (
	"fmt"
	"math/rand/v2"
)

const trials = 1_000_000

// play runs one standard game and reports whether staying and switching win.
func play(r *rand.Rand) (stayWins, switchWins bool) {
	car := r.IntN(3)
	pick := r.IntN(3)
	// The host knows where the car is and opens a goat door the player did not pick.
	var open int
	for {
		open = r.IntN(3)
		if open != pick && open != car {
			break
		}
	}
	other := 3 - pick - open // the remaining closed door
	return pick == car, other == car
}

func main() {
	r := rand.New(rand.NewPCG(1990, 9)) // fixed seed: September 1990
	stay, sw := 0, 0
	for i := 0; i < trials; i++ {
		s, w := play(r)
		if s {
			stay++
		}
		if w {
			sw++
		}
	}
	fmt.Printf("stay:   %.4f\n", float64(stay)/trials)
	fmt.Printf("switch: %.4f\n", float64(sw)/trials)
}

Go 1.24 에서 실행한 결과입니다. 시드를 고정했으므로 같은 버전이면 같은 숫자가 나옵니다.

stay:   0.3328
switch: 0.6672

문 번호가 0, 1, 2 이므로 세 번호의 합은 3 이고, 그래서 고른 문과 열린 문을 빼면 남은 문은 3 - pick - open 입니다. 코드에서 가장 중요한 줄은 진행자가 문을 고르는 반복문의 조건, open != car 입니다. 진행자가 자동차의 위치를 알고 피한다 는 이 한 줄이 3분의 2 를 만듭니다. 이 조건을 바꾸면 무슨 일이 생기는지가 Part 2의 주제입니다.

3. 1975년 — 상자 셋, 링컨 컨티넨털, 그리고 진짜 몬티 홀#

이 문제는 보스 사반트가 처음 낸 것이 아닙니다. 15년 전인 1975년, 캘리포니아 대학교 버클리의 생물통계학 조교수 스티브 셀빈(Steve Selvin) 이 학술지 The American Statistician 에 편지 두 통을 보냈습니다.

2월호의 첫 편지 「확률의 한 문제」는 짧은 대본 형식이었습니다. 무대는 미국의 인기 게임쇼 『렛츠 메이크 어 딜(Let’s Make a Deal)』이고, 문이 아니라 A·B·C 세 상자 가운데 하나에 새 1975년형 링컨 컨티넨털의 열쇠 가 들어 있습니다. 참가자가 B 를 고르자 진행자가 A 를 열어 비어 있음을 보여 주고, 참가자는 B 를 C 와 바꾸겠다고 합니다. 편지는 “힌트: 참가자는 자기가 무엇을 하는지 안다!” 로 끝납니다. 진행자 이름은 원문에 “Monte Hall” 로 적혀 있었습니다.

몇몇 독자가 답이 틀렸다고 반박하자, 셀빈은 8월호에 두 번째 편지를 보냈습니다. 제목이 「몬티 홀 문제에 관하여(On the Monty Hall Problem)」 였고, 이것이 이 이름이 처음 쓰인 기록으로 보입니다. 이 편지에서 셀빈은 핵심 가정을 분명히 적었습니다. 진행자는 열쇠가 어느 상자에 있는지 알고, 열쇠를 드러내지 않고 열 수 있는 상자가 둘이면 그중 하나를 무작위로 고른다. 그리고 베이즈 정리로 바꾸면 3분의 2 라는 것을 계산했습니다.

이 편지에는 진짜 몬티 홀의 답장이 실려 있었습니다. 『렛츠 메이크 어 딜』은 1963년 12월 30일 NBC 에서 시작해 몬티 홀이 1990년까지 약 4,500회를 진행한 프로그램입니다. 캐나다 위니펙 태생의 몬티 홀(1921~2017)은 1975년 5월 12일 셀빈에게 이렇게 썼습니다.

첫 상자가 비었다는 것이 보이고 나면 참가자의 확률은 반반이 아니라 처음 그대로 3분의 1 입니다. …언제나 2 대 1 로 그에게 불리했죠. 그리고 혹시라도 제 쇼에 나오신다면, 규칙은 당신에게도 예외 없습니다. 고른 뒤에 상자를 바꾸는 일은 없어요.

진행자 본인이 확률은 셀빈이 맞다고 인정하면서, 동시에 실제 쇼에서는 바꿀 기회 자체를 주지 않는다 고 말한 것입니다. 이 두 번째 말은 Part 2 에서 다시 중요해집니다. 셀빈은 이 편지를 인용하고 “저도 이보다 더 잘 말할 수는 없었을 것” 이라고 답했습니다.

4. 1990년 — 만 통의 편지#

셀빈의 편지는 통계학자들 사이의 이야기로 끝났습니다. 이 문제를 대중의 논쟁으로 만든 것은 1990년의 보스 사반트 칼럼이었습니다. 보스 사반트는 1985~1989년 기네스북에 세계 최고 IQ(어린 시절 스탠퍼드–비네 검사로 228)로 올랐던 사람이고, 1986년부터 『퍼레이드』에 칼럼을 써 왔습니다. 이 이력이 논쟁에 기름을 부었습니다.

『퍼레이드』는 이 문제로 모두 네 번 칼럼을 실었고, 보스 사반트는 자기 웹사이트에 받은 편지들을 옮겨 두었습니다. 그 가운데 몇 통은 이렇습니다.

보낸 사람편지
로버트 색스 박사 (조지 메이슨 대학)“당신은 틀렸습니다(You blew it!). …전문 수학자로서 일반 대중의 수학 실력 부족이 매우 걱정됩니다. 잘못을 인정하고 앞으로는 더 조심해 주십시오.”
스콧 스미스 박사 (플로리다 대학)“당신은 틀렸습니다, 그것도 크게 틀렸습니다! …이 나라에는 이미 수학 문맹이 충분합니다. 세계 최고 IQ 까지 그것을 퍼뜨릴 필요는 없습니다. 부끄러운 줄 아십시오!”
E. 레이 보보 박사 (조지타운 대학)“얼마나 많은 성난 수학자가 있어야 당신이 생각을 바꾸겠습니까?”

보스 사반트가 집계한 바로는 일반 독자 편지의 92%, 대학에서 온 편지의 65% 가 그의 답에 반대했고, 전체로는 열 명 가운데 아홉 이 반대했습니다. 1991년 『뉴욕 타임스』의 보도에 따르면 그는 약 1만 통의 편지를 받았다고 추산했고, 반대 편지 가운데 1,000통 가까이에 박사 학위 서명이 있었습니다.

보스 사반트는 말싸움 대신 실험을 제안했습니다. 전국의 수학 수업에서 종이컵 세 개와 동전 하나, 주사위로 직접 해 보라는 것이었습니다. 학교들이 응했고, 로스앨러모스의 한 독자는 컴퓨터로 100만 번 돌려 바꾸었을 때 66.7% 이겼다고 보고했습니다. 1991년 7월의 마지막 칼럼에서 그는 결과를 정리했습니다. 직접 해 본 독자들은 거의 만장일치로 바꾸면 두 배 자주 이긴다고 답했고, 바꾸는 쪽이 낫다고 믿는 일반 독자는 8% 에서 56% 로, 학계 독자는 35% 에서 71% 로 늘었습니다. 앞선 칼럼에 편지가 실렸던 사람들 가운데 절반이 생각을 바꿨다고 다시 편지를 보냈습니다. 색스는 『뉴욕 타임스』에 이렇게 말했습니다. “발을 입에서 빼고 나서 지금은 굴욕을 맛보고 있습니다. 전문가로서 대단히 부끄러운 일이었습니다.”

5. 1991년 — 진행자의 거실에서#

1991년 7월 21일, 『뉴욕 타임스』는 1면에 존 티어니의 기사 「몬티 홀의 문 뒤에서: 퍼즐, 논쟁, 그리고 답?」을 실었습니다. 티어니는 베벌리힐스의 몬티 홀 집을 찾아가 진행자 본인과 직접 게임을 했습니다. 문 세 개는 작은 판지로 만들었고, 자동차는 자동차 열쇠가, 염소는 건포도 한 봉지와 사탕 한 통이 맡았습니다.

티어니가 처음 고른 문을 열 번 내리 지켰을 때 결과는 자동차 넷, 염소 여섯 이었습니다. 열 번 내리 바꿨을 때는 자동차 여덟, 염소 둘 이었습니다. 몬티 홀은 말했습니다. “그러니 그 사람 답이 맞아요. 바꿔야 합니다.”

그런데 이 기사는 거기서 끝나지 않습니다. 몬티 홀은 이어서 다른 방식으로 게임을 하자고 했고, 다음 여덟 판을 내리 이겼습니다. 그리고 이 문제에서 가장 중요한 말을 남겼습니다. 그 이야기는 Part 2의 첫머리에 둡니다.

6. 에르되시도 믿지 않았다#

수학자들이 틀린 것이 부끄러운 일이었을까요. 꼭 그렇지는 않습니다. 20세기의 가장 많은 논문을 쓴 수학자 가운데 한 사람인 팔 에르되시(Paul Erdős) 도 이 문제를 처음 듣고 믿지 않았습니다.

동료 수학자 앤드루 바존이(Andrew Vázsonyi)의 회고에 따르면, 1995년 에르되시가 그의 집에 왔을 때 이 문제를 냈더니 에르되시는 “아니, 그건 불가능해. 아무 차이가 없어야 해” 라고 답했습니다. 결정 나무와 베이즈 정리로 설명해도 소용이 없었습니다. 바존이는 몬테카를로 시뮬레이션을 짜서 10만 번 을 돌렸고, 에르되시는 이유는 여전히 모르겠지만 마지못해 바존이가 맞다는 것을 받아들였습니다. 며칠 뒤 에르되시는 전화를 걸어 왔습니다. 동료 론 그레이엄의 설명을 듣고 이제야 이해했다는 것이었습니다.

마치며#

몬티 홀 문제를 한 문장으로 줄이면 “아는 사람이 일부러 보여 준 정보는, 우연히 보인 정보와 다르다” 입니다. 진행자는 자동차를 피해서 문을 엽니다. 그래서 그가 남긴 문에는 정보가 실립니다. 처음 고른 문은 진행자가 건드릴 수 없었으니 아무 정보도 얻지 못합니다. 3분의 1 은 그대로이고, 나머지 3분의 2 가 남은 문으로 옮겨 갑니다.

그런데 이 설명은 진행자가 반드시 염소 문을 열고 반드시 바꿀 기회를 준다는 가정 위에 서 있습니다. 1975년 몬티 홀은 “제 쇼에서는 바꾸는 일이 없다” 고 썼고, 1991년에는 거실에서 여덟 판을 내리 이겼습니다. 다음 편은 이 가정이 깨질 때 답이 어떻게 바뀌는지를 봅니다. 진행자가 실수로 문을 열면 반반이 되고, 진행자가 심술궂으면 바꾸는 것이 언제나 집니다.

편주제
Part 1 (이 글)세 개의 문과 만 통의 편지
Part 2진행자의 규칙이 답을 정한다
Part 3왜 우리는 틀리는가
Part 4게임쇼·서바이벌·영화·드라마 속 몬티 홀

References#

1차 문헌은 1975~1999년의 편지·칼럼·회고이고, 원문 또는 원문을 그대로 옮긴 사본으로 확인했습니다.