이 글은 Claude Opus 5.5 를 이용해 초안이 작성되었으며, 이후 퇴고를 거쳤습니다.

들어가며#

Part 1과 Part 2로 수학은 끝났습니다. 진행자가 규칙대로 움직이면 바꾸는 쪽이 3분의 2 로 이기고, 어떤 경우에도 손해는 아닙니다. 그런데 이 결론을 듣고도 사람들은 잘 바꾸지 않습니다. 박사들은 항의 편지를 썼고, 에르되시는 시뮬레이션을 보고도 이유를 몰랐습니다. 이번 편은 그 이유를 심리학 실험으로 봅니다.

편주제
Part 1세 개의 문과 만 통의 편지 — 바꾸면 왜 3분의 2 인가
Part 2진행자의 규칙이 답을 정한다 — 몬티 폴, 몬티 크롤, 사촌 문제들, 그리고 분류 흐름도
Part 3 (이 글)왜 우리는 틀리는가 — 비둘기가 사람보다 잘 바꾸는 이유
Part 4게임쇼·서바이벌·영화·드라마 속 몬티 홀, 그리고 유형 분류표

1. 처음 만나면 열에 하나만 바꾼다#

1995년 사회심리학자 도널드 그랜버그와 동료 브라운은 『성격·사회심리학 회보』에 몬티 홀 문제를 실험한 결과를 실었습니다. 논문 초록의 숫자는 짧고 분명합니다.

  • 문제를 처음 만난 사람 가운데 바꾼 사람은 12% 였습니다.
  • 같은 게임을 되풀이하자 바꾸는 비율은 55% 까지 올랐습니다. 최적인 100% 에는 한참 못 미칩니다.
  • 보상 구조를 바꾸면 바꾸는 비율도 달라졌습니다.

연구진은 거울상 같은 대조 실험도 했습니다. 이번에는 지키는 것이 정답 인 「룰렛 딜레마」입니다. 여기서는 바꾸는 비율이 처음부터 낮았고, 반복해도 내려가지 않았습니다. 두 실험을 합치면 그림이 보입니다. 사람들은 정답이 어느 쪽이든 처음 고른 것을 지키려 하고, 그 성향은 경험으로 잘 고쳐지지 않습니다. 초록은 원인을 이렇게 요약합니다. 사람들은 진행자가 답을 아는 사람이라는 단서를 무시 하고, 그리고 바꿨다가 지면 더 좌절하고 화가 날 것 이라고 느낍니다.

이 두 원인, 곧 계산의 착각 과 감정의 비용 을 차례로 보겠습니다.

2. 계산의 착각 — “남은 둘은 반반”#

2.1 모르면 똑같다는 직관#

닫힌 문이 둘 남으면 대부분의 사람은 반반이라고 느낍니다. 이 직관에는 이유가 있습니다. 어떤 선택지 사이에 차이를 만들 정보가 없으면 똑같이 보는 것이 합리적이고, 일상에서는 그 규칙이 대체로 잘 맞습니다. 확률 교육 연구자 루마 포크는 이 “같은 확률” 가정이 깊이 뿌리박혀 있다고 했습니다.

함정은 몬티 홀 문제에 차이를 만드는 정보가 실제로 있다 는 점입니다. 진행자는 자동차의 위치를 알고, 그 지식에 따라 문을 엽니다. Part 2의 베이즈 표에서 본 대로, 진행자가 알고 열었느냐 모르고 열었느냐가 확률을 2/3 와 1/2 로 가릅니다. 그런데 열린 문 뒤의 염소는 두 경우에 똑같이 생겼습니다. 눈에 보이는 결과가 같으니, 보이지 않는 과정의 차이 를 놓치는 것입니다.

2.2 원인이 둘인 결과#

2004년 심리학자 번스와 위스는 이 착각을 인과 구조 로 설명했습니다. 진행자가 어느 문을 여느냐는 두 가지 원인 의 결과입니다. 하나는 자동차의 위치이고, 다른 하나는 참가자가 고른 문입니다. 둘은 서로 독립인데, 진행자의 선택이라는 하나의 결과로 모입니다. 통계학에서는 이런 모양을 충돌자(collider) 구조라고 부릅니다. 이런 구조에서는 결과를 알게 되는 순간, 서로 상관없던 두 원인 사이에 정보가 생깁니다. 진행자가 3번을 열었다는 결과를 보면, “참가자가 1번을 골랐다” 는 사실과 함께 자동차 위치에 대한 정보가 생기는 것입니다.

번스와 위스는 이 구조를 잘 보이게 만들면 사람들이 더 잘 푼다는 것을 네 차례의 실험으로 보였습니다. 진행자를 참가자와 경쟁하는 상대 로 묘사하자 인과가 더 잘 보였고, 정답이 늘었습니다. 충돌자 원리를 훈련받은 사람은 그것을 표준 몬티 홀 문제에도 옮겨 썼습니다. 논문은 이 문제가 결국 “어떤 것을 아는 것이 다른 것에 대해 언제 정보를 주는가” 라는 더 깊은 질문을 건드린다고 맺습니다.

1991년 『뉴욕 타임스』에서 통계학자 퍼시 디아코니스는 더 짧게 말했습니다. “우리 뇌는 확률 문제를 잘 풀도록 만들어져 있지 않습니다. 그래서 실수가 있었다는 게 놀랍지 않아요.” 인지과학자 마시모 피아텔리팔마리니는 이보다 더 사람들을 줄곧 속이는 통계 퍼즐은 없고, 노벨상을 받은 물리학자들도 체계적으로 틀린 답을 낸다고 썼습니다.

3. 감정의 비용 — 바꿨다가 지면 더 아프다#

계산을 바로잡아도 남는 것이 있습니다. 바꾸기 싫은 마음 입니다.

3.1 행동의 후회, 행동하지 않은 후회#

같은 손해라도 무언가를 해서 생긴 손해가 아무것도 하지 않아서 생긴 손해보다 더 아프게 느껴진다는 연구가 많습니다. 몬티 홀 문제에서 바꿨다가 지면 “가만있었으면 이겼을 텐데” 가 되고, 지켰다가 지면 “원래 운이 없었다” 가 됩니다. 앞의 것이 더 아픕니다. 그래서 확률이 2 대 1 로 유리해도, 지는 경우의 후회가 더 크게 보이면 지키게 됩니다. 그랜버그와 브라운의 초록이 말한 “바꿨다가 지면 더 좌절하고 화가 난다” 가 바로 이것입니다.

1995년 길로비치·메드벡·첸의 실험은 이 감정이 어디로 가는지를 보여 줬습니다. 연구진은 실험실에서 상자 셋으로 몬티 홀 게임을 만들었습니다. 상자 하나에만 큰 상품이 있고, 실험자가 고르지 않은 상자 하나를 열어 작은 상품을 보여 준 뒤 지킬지 바꿀지 묻습니다. 그런데 사실은 무엇을 고르든 모두 같은 작은 상품 을 받았습니다. 결과는, 상자를 바꾼 사람들이 똑같은 작은 상품에 더 높은 값 을 매겼다는 것입니다. 행동해서 실망스러운 결과를 얻은 사람은, 그 결과를 더 좋게 보는 쪽으로 마음을 다스렸습니다. 연구진은 이것을 행동의 실수에 대한 부조화 감소 로 해석했습니다.

3.2 처음 고른 것은 내 것#

이 밖에 흔히 거론되는 설명은 행동경제학의 두 개념입니다. 하나는 내 것이 된 물건을 더 높게 평가하는 소유 효과, 다른 하나는 바꾸지 않고 지금 상태를 유지하려는 현상 유지 편향 입니다. 처음 고른 문은 고르는 순간 “내 문” 이 됩니다.

Part 2에서 본 몬티 홀의 “헨리 제임스 요법” 은 정확히 이 마음을 겨눈 것이었습니다. 문 하나를 열어 보여 주면 참가자들은 자기 문이 반반이 되었다고 믿고, 그 문을 더 꽉 쥐었습니다. 진행자는 그 마음을 이용해 돈을 덜 내고 거래를 끝낼 수 있었습니다. 수학자들이 1990년에야 논쟁한 것을, 진행자는 1960년대부터 방송에서 쓰고 있었던 셈입니다.

4. 설명을 바꾸면 답이 바뀐다#

좋은 소식도 있습니다. 같은 문제라도 어떻게 보여 주느냐 에 따라 정답률이 크게 오릅니다.

2003년 크라우스와 왕은 『실험심리학 저널: 일반』에 실은 논문에서 문제를 네 가지 방향으로 고쳐 냈습니다.

고친 방향뜻
자연 빈도“확률 1/3” 대신 “세 번 하면 한 번” 처럼 횟수로 말한다
정신 모형가능한 경우를 모두 늘어놓아 보게 한다 (Part 1 의 표)
관점 바꾸기참가자가 아니라 진행자의 입장 에서 생각하게 한다
적은 것이 더 많다필요 없는 정보를 덜어 낸다

이 조작을 함께 쓰자 처음 푸는 사람들의 정답률이 유의하게 올랐고, 그 효과는 주로 빈도 표현과 관점 바꾸기의 시너지 에서 나왔습니다. 훈련 실험에서는 빈도로 생각하기와 경우 늘어놓기는 비슷한 다른 문제로 옮겨 갔지만, 베이즈 공식을 가르친 훈련은 옮겨 가지 않았습니다. 공식보다 그림이 더 오래 남는다는 뜻입니다.

2018년 제임스·프리드먼 등은 『이코노믹 인콰이어리』에 실은 실험에서 77명에게 30번씩 비슷한 선택을 시켰습니다. 확률을 합치는 과정을 화면이 자동으로 보여 주자, 합리적인 선택의 비율이 약 40% 에서 80% 넘게 뛰었습니다. 다른 조작들은 효과가 훨씬 작았습니다. 연구진은 핵심이 베이즈식 갱신의 실패, 곧 새 정보로 확률을 고치는 계산을 사람이 잘 못 한다는 데 있다고 결론지었습니다.

Part 1 의 이야기들이 이 결과와 맞아떨어집니다. 보스 사반트는 공식 대신 백만 개의 문 과 종이컵 실험 을 권했고, 에르되시를 설득한 것도 증명이 아니라 10만 번의 시뮬레이션 이었습니다. 둘 다 확률을 빈도로 바꿔 보여 주는 방법입니다.

5. 비둘기는 바꾼다#

이 시리즈에서 가장 유쾌한 실험은 2010년 『비교심리학 저널』에 실린 휘트먼 칼리지의 허브랜슨과 슈뢰더의 연구입니다. 제목부터 도발적입니다. 「새가 수학자보다 똑똑한가? 비둘기는 몬티 홀 딜레마에서 최적으로 행동한다」.

연구진은 비둘기 여섯 마리에게 몬티 홀 게임을 가르쳤습니다. 불이 켜진 버튼 세 개 가운데 하나를 쪼면, 나머지 둘 가운데 꽝인 하나가 꺼지고, 비둘기는 처음 버튼을 다시 쪼거나 남은 버튼으로 바꿔 쫍니다. 맞히면 먹이가 나옵니다.

첫날마지막
바꾸는 게 정답인 조건 (실험 1)바꾼 비율 36.33%30일째 96.33%
지키는 게 정답인 조건 (실험 2)바꾼 비율 30.17%15일째 4.33%

비둘기는 정답이 바꾸기면 거의 언제나 바꾸게 되었고, 정답이 지키기면 거의 언제나 지키게 되었습니다. 같은 논문에서 대학생 12명에게 비슷한 게임을 200판씩 시켰더니, 바꾸는 게 정답인 조건에서 바꾼 비율은 첫 50판 56.67%, 마지막 50판 65.67% 로, 우연 수준과 통계적으로 구별되지 않았습니다.

왜 비둘기가 더 잘했을까요. 이 글의 해석으로는 4절의 결과와 같은 이야기입니다. 비둘기는 “남은 둘은 반반” 이라는 직관도, 바꿨다가 지면 억울하다는 후회도 갖고 있지 않습니다. 오직 어느 쪽을 쪼았을 때 먹이가 더 자주 나왔는지 라는 빈도만으로 배웁니다. 사람은 확률을 생각 하려다 직관에 걸리고, 비둘기는 확률을 겪어서 배웁니다. 에르되시가 시뮬레이션 앞에서 마지못해 고개를 끄덕인 것도, 비둘기의 방식으로 배운 셈입니다.

6. 정리 — 사람이 틀리는 세 겹#

겹무엇이 문제인가처방
직관남은 것이 둘이면 반반이라고 느낀다진행자가 알고 열었다는 과정에 주목한다 (Part 2 의 베이즈 표)
계산새 정보로 확률을 고치는 데 서툴다확률 대신 횟수 로, 참가자 대신 진행자 의 입장에서 본다
감정바꿨다가 지면 더 아프고, 처음 고른 것은 내 것 같다결과가 아니라 전략 을 평가한다. 한 판이 아니라 백 판을 생각한다

마치며#

이번 편을 한 문장으로 줄이면 “몬티 홀 문제가 어려운 것은 계산이 어려워서가 아니라, 직관과 감정이 계산보다 먼저 답하기 때문” 입니다. 계산은 Part 1 의 표 세 줄이면 끝납니다. 그런데 그 표를 보기 전에 직관은 반반이라고 말하고, 감정은 처음 고른 문을 놓지 말라고 말합니다. 비둘기는 둘 다 없어서 이겼습니다.

다음 편은 시리즈의 마지막, 사례 편입니다. 실제 『렛츠 메이크 어 딜』은 몬티 홀 문제와 어떻게 달랐는지, 『딜 오어 노 딜』의 마지막 가방 교환은 왜 몬티 홀이 아닌지, 『호기심 해결사』의 자원자 20명은 무엇을 골랐는지, 그리고 영화 『21』과 드라마, 소설, 카드 게임에 나온 몬티 홀을 Part 2 의 분류 흐름도로 가려 봅니다.

편주제
Part 1세 개의 문과 만 통의 편지
Part 2진행자의 규칙이 답을 정한다
Part 3 (이 글)왜 우리는 틀리는가
Part 4게임쇼·서바이벌·영화·드라마 속 몬티 홀

References#

실험 결과의 수치는 각 논문의 초록 또는 공개된 본문에서 확인했습니다.