이 글은 Claude Opus 5.5 을 이용해 초안이 작성되었으며, 이후 퇴고를 거쳤습니다.


몬테카를로 2부작을 마치고 대부호 봇을 더 영리하게 만들 다음 이론을 고르던 참이었습니다. 후보를 설명하는 글에 같은 낱말이 자꾸 나왔습니다. 우도로 표본을 고른다, 우도가 가장 큰 배치를 쓴다. 그래서 물었습니다. 우도가 뭐야?

돌아온 답은 짧았습니다. “이 가설이 맞다면, 지금 본 일이 일어날 확률.” 베이즈 추론의 절반이 이 한 줄에 들어 있습니다. 나머지 절반은 사전 확률이고, 둘을 곱해서 합으로 나누면 계산은 끝납니다. 이 글은 그 질문에서 출발해, 베이즈 정리가 어디서 왔고 사람들이 어디서 틀렸는지를 따라갑니다.

같은 식을 반대로 읽기#

확률과 우도는 같은 값 P(본 것 | 가설) 입니다. 다른 것은 무엇을 붙들고 무엇을 움직이느냐입니다.

고정하는 것바꿔 보는 것묻는 것
확률가설결과이 손패라면 무엇이 나올까
우도이미 본 결과가설이것을 봤으니, 어느 손패가 이 결과를 잘 설명할까

대부호 한 장면으로 보겠습니다. 상대 손패는 10장이고, 제가 아직 보지 못한 카드가 40장 있습니다. 그 가운데 K 싱글을 이길 수 있는 카드(A·2·조커)는 6장이라고 하겠습니다. 제가 K 를 냈고 상대가 패스했습니다. 상대에게 이길 카드가 있겠습니까?

먼저 패스를 보기 전의 믿음, 사전 확률입니다. 40장에서 10장을 무작위로 받았을 때 이길 카드 6장이 하나도 안 들어올 확률은 C(34, 10) / C(40, 10) ≈ 0.155 이므로, 한 장이라도 있을 확률은 0.845 입니다. 다음은 우도입니다. 이길 카드가 있어도 아끼려고 네 번에 한 번은 패스하는 상대라면, “있다” 는 가설 아래에서 패스가 나올 확률은 0.25 입니다. “없다” 는 가설 아래에서는 낼 카드가 없으니 반드시 패스하고, 우도는 1 입니다.

가설사전 확률우도 (그 가설에서 패스가 나올 확률)사전 × 우도사후 확률
이길 카드가 있다0.8450.250.2110.211 / 0.366 = 0.577
없다0.15510.1550.155 / 0.366 = 0.423
합11.250.3661

우도 열의 합은 1.25 입니다. 우도는 가설들 위에 나눠 놓은 확률이 아니어서 더해도 1 이 되지 않습니다. 사전 확률을 곱하고, 곱한 값의 합으로 나눠야 비로소 확률이 됩니다. 이것이 베이즈 정리의 전부입니다.

P(가설 | 본 것) = P(본 것 | 가설) × P(가설) / P(본 것)

패스 한 번으로 0.845 가 0.577 로 내려갔습니다. 0 이 되지 않은 것은 우도가 0.25 이기 때문입니다. 이 상대가 받을 수 있으면 반드시 받는 사람이었다면 우도는 0 이고, 패스는 “이길 카드가 없다” 는 증명이 됩니다.

베이즈가 남긴 원고#

베이즈의 이름이 붙은 글은 그가 세상을 떠난 뒤에 나왔습니다. 친구 리처드 프라이스가 원고를 정리해 존 캔턴에게 보낸 편지(1763년 11월 10일)와 함께 왕립학회에 냈고, 그해 12월 23일 낭독되어 Philosophical Transactions 53권에 “An Essay towards solving a Problem in the Doctrine of Chances” 라는 제목으로 실렸습니다. 첫 쪽은 저자를 “the late Rev. Mr. Bayes” 라고 소개합니다.

에세이가 푸는 문제는 결과에서 원인으로 거슬러 올라가는 방향입니다. 어떤 사건이 몇 번 일어났고 몇 번 일어나지 않았는지만 알 때, 그 사건이 한 번 일어날 확률이 주어진 두 값 사이에 있을 확률을 구하라는 것입니다. 베이즈는 탁자 위에 공을 하나 던져 멈춘 자리로 그 미지의 확률을 정하는 사고실험으로 사전 확률을 세웠습니다. 흔히 “베이즈가 탁자에 등을 돌리고 앉아” 같은 장면으로 각색되는데, 그런 묘사는 원문에 없습니다.

열한 해 뒤인 1774년, 피에르시몽 라플라스가 「사건으로 원인의 확률을 구하는 법에 관한 논문(Mémoire sur la probabilité des causes par les événements)」을 냈습니다. 관찰된 사건에서 그것을 낳았을 원인들의 확률을 구하는 원리를 일반적인 형태로 세운 글인데, 베이즈의 이름은 한 번도 나오지 않습니다.

이름을 붙인 사람은 반대편이었습니다#

“우도” 를 기술 용어로 만든 사람은 로널드 피셔입니다. likelihood 는 원래 흔한 영어 낱말이고, 피셔는 1921년 Metron 에 실은 상관계수 논문에서 그 낱말에 정확한 뜻을 매겼습니다. 정의가 나오는 대목의 제목부터 성격을 드러냅니다. 「베이즈 규칙과, 최적값을 구하는 내 방법의 혼동에 관한 주석」입니다. 피셔는 표본에서 알아낼 수 있는 것이 모수의 확률이 아니라 우도라고 썼고, 우도를 “모수가 그 값인 모집단에서 지금 관찰한 표본이 나올 확률에 비례하는 양” 으로 정의했습니다. 확률과 우도는 “quantities of an entirely different nature” 라고 못박았고, 다음 쪽에서는 가설의 확률에 대해서는 아무것도 알 수 없다고까지 적었습니다(24~25쪽).

피셔에게 우도는 베이즈와 선을 긋기 위한 개념이었습니다. 지금 교과서는 베이즈 정리를 “사후 ∝ 사전 × 우도” 로 가르치니, 피셔가 세운 울타리 안의 재료를 베이즈 쪽이 가져다 쓰는 모양새가 됐습니다.

번역어도 하나가 아닙니다. 한국통계학회 용어집은 likelihood 를 “가능도, 우도” 로, 대한수학회 수학용어는 “공산, 우도” 로 싣습니다. 우도는 일본어 尤度 의 한자음입니다. 尤 는 일본어 尤もらしい(그럴듯하다)에 쓰는 글자라, 尤度 는 그럴듯한 정도로 읽힙니다.

피셔 이후 베이즈주의와 빈도주의의 다툼은 오래 이어졌습니다. 쟁점은 사전 확률이 주관적이라는 비판입니다. 같은 증거를 보고도 사전 확률을 다르게 잡은 두 사람은 다른 결론을 냅니다. 이 논쟁에서 저는 쓸모로 고르는 쪽입니다. 뒤에 나올 AF447 수색 논문의 저자들도 비슷한 이유를 댔습니다. 추락은 한 번뿐인 사건이라 1,000번 되풀이해 빈도를 셀 수 없으니, 상대 빈도로 정의한 확률은 쓸 수가 없다는 것입니다. 카드 게임은 사정이 더 편합니다. 덱의 구성과 규칙이 사전 확률을 거의 다 정해 주기 때문입니다.

튜링의 데시반#

2차 대전 중 앨런 튜링이 암호 해독 작업을 위해 쓴 타자 원고 「암호학에 대한 확률의 응용(The Applications of Probability to Cryptography)」은 기밀이 풀려 지금 영국 국립기록보관소(HW 25/37)에 있습니다. 원고는 베이즈 정리를 “인자 원리(factor principle)” 라고 부릅니다. 증거 하나는 가설의 승산(odds)에 어떤 인자를 곱한다는 뜻입니다.

곱셈은 사람이 머리로 이어 가기 어렵습니다. 튜링은 인자에 로그를 씌워 덧셈으로 바꿨습니다. 1941년 튜링의 통계 조수였던 I. J. 굿의 1979년 회고에 따르면, 튜링은 승산을 10배로 만드는 증거의 무게를 1 ban 이라고 불렀고, 그 10분의 1을 데시벨에서 따와 deciban 이라고 불렀습니다. 이름은 이 값을 적어 넣은 용지 수만 장을 찍은 소도시 밴버리(Banbury)에서 왔고, 그 작업의 이름도 밴버리스무스(Banburismus)였습니다. 굿은 데시반 하나나 그 절반이 사람의 직관이 곧바로 알아챌 수 있는 증거의 무게 변화로는 가장 작은 정도라고 덧붙였습니다.

앞의 대부호 장면을 데시반으로 다시 적으면 이렇습니다. 사전 승산은 0.845 : 0.155 ≈ 5.5 : 1 이고 10 log₁₀ 5.5 ≈ +7.4 데시반입니다. 패스 한 번의 우도비는 0.25 : 1 이라 10 log₁₀ 0.25 ≈ −6.0 데시반입니다. 더하면 +1.4 데시반, 승산 1.37 : 1, 확률 0.577 입니다. 패스가 하나 더 오면 6을 한 번 더 빼면 됩니다. 증거를 독립이라고 볼 수 있을 때의 이야기입니다.

의사 160명이 고른 답#

게르트 기거렌처는 2006~2007년 보수교육에서 산부인과 의사 약 1,000명에게 위험을 설명하는 법을 가르쳤습니다. 2007년 한 강의의 첫머리에서 의사 160명에게 다음 문제를 냈습니다. 이 지역 여성이 유방암일 확률은 1%, 유방암이면 유방촬영에서 양성이 나올 확률은 90%, 유방암이 아닌데 양성이 나올 확률은 9% 입니다. 양성이 나온 여성이 유방암일 확률은? 선택지는 넷이었습니다. 약 81%, 양성 10명 가운데 약 9명, 양성 10명 가운데 약 1명, 약 1%.

정답 “10명 가운데 1명” 을 고른 의사는 21% 였습니다. 아무렇게나 골라도 25% 는 맞히니 그보다 조금 낮은 숫자입니다. 대부분은 90% 나 81% 를 골랐고, 답은 1% 에서 90% 까지 흩어졌습니다.

90% 라는 답은 우도를 사후 확률로 읽은 것입니다. P(양성 | 암) = 0.9 는 “암이라는 가설이 맞다면 양성이 나올 확률” 이고, 물은 것은 P(암 | 양성) 이었습니다. 데시반으로 세면 빠진 것이 보입니다. 사전 승산 1 : 99 는 약 −20 데시반이고, 양성의 우도비 0.9 : 0.09 = 10 은 +10 데시반입니다. 더하면 −10 데시반, 승산 1 : 10, 확률 약 9% 입니다. 검사가 꽤 좋은 증거인데도 출발점이 워낙 낮았던 것입니다.

연구진은 같은 의사들에게 확률 대신 사람 수로 세는 법을 가르쳤습니다. 여성 1,000명 가운데 10명이 유방암이고 그중 9명이 양성입니다. 나머지 990명 가운데서도 약 89명이 양성입니다. 양성 98명 가운데 유방암은 9명, 대략 10명 중 1명입니다. 연수 뒤에는 87% 가 정답을 골랐습니다.

판을 굴려서 세기#

몬테카를로 Part 1 에서는 확률을 셈 대신 무작위 시행으로 쟀습니다. 사후 확률도 그렇게 잴 수 있고, 방법은 둘입니다. 하나는 이야기를 처음부터 그대로 굴리는 것입니다. 손패를 나눠 주고, 상대의 선택까지 주사위로 정한 뒤, 상대가 패스한 세계만 남겨 셉니다. 다른 하나는 손패만 나눠 주고, 그 손패에서 패스가 나올 확률(우도)을 그 세계의 무게로 주는 것입니다.

package main

import (
	"fmt"
	"math"
	"math/rand/v2"
)

const (
	unseen  = 40   // 내가 보지 못한 카드
	beaters = 6    // 그중 K 싱글을 이길 수 있는 카드(A·2·조커)
	hand    = 10   // 상대 손패 장수
	theta   = 0.25 // 이길 카드가 있어도 아끼려고 패스할 확률
)

// hasBeater 는 못 본 카드 40장에서 상대 손패 10장을 무작위로 나눠 주고, 이길 카드가 있는지 본다.
// 0~5번을 이길 카드로 둔다.
func hasBeater(r *rand.Rand) bool {
	for _, card := range r.Perm(unseen)[:hand] {
		if card < beaters {
			return true
		}
	}
	return false
}

// choose 는 이항계수 C(n, k) 다.
func choose(n, k int) float64 {
	result := 1.0
	for i := 0; i < k; i++ {
		result = result * float64(n-i) / float64(i+1)
	}
	return result
}

func main() {
	prior := 1 - choose(unseen-beaters, hand)/choose(unseen, hand)
	exact := theta * prior / (theta*prior + 1*(1-prior))
	fmt.Printf("사전확률 %.4f  정확한 사후확률 %.4f\n\n", prior, exact)

	r := rand.New(rand.NewPCG(2026, 1117))
	fmt.Println("         n   이야기를 그대로 굴리기   우도로 가중하기")
	for _, n := range []int{1_000, 10_000, 100_000, 1_000_000} {
		// 1) 판을 그대로 굴려 보고, 상대가 패스한 세계만 센다.
		passes, hits := 0, 0
		// 2) 손패만 나눠 주고, 패스가 나올 확률(우도)을 무게로 준다.
		weight, weightHas := 0.0, 0.0
		for i := 0; i < n; i++ {
			has := hasBeater(r)
			if !has || r.Float64() < theta {
				passes++
				if has {
					hits++
				}
			}
			w := 1.0
			if has {
				w = theta
			}
			weight += w
			if has {
				weightHas += w
			}
		}
		fmt.Printf("%10d   %.4f (패스 %7d번)    %.4f\n", n, float64(hits)/float64(passes), passes, weightHas/weight)
	}

	fmt.Println("\n상대가 실제로는 θ = 0.25 로 둘 때, 내가 가정한 θ 로 낸 사후확률")
	for _, assumed := range []float64{0, 0.1, 0.25, 0.5, 1} {
		posterior := assumed * prior / (assumed*prior + (1 - prior))
		fmt.Printf("  θ = %.2f  →  %.4f\n", assumed, posterior)
	}

	db := func(odds float64) float64 { return 10 * math.Log10(odds) }
	fmt.Printf("\n데시반: 사전 %+.1f, 패스 한 번 %+.1f, 사후 %+.1f\n", db(prior/(1-prior)), db(theta), db(exact/(1-exact)))
}
사전확률 0.8453  정확한 사후확률 0.5774

         n   이야기를 그대로 굴리기   우도로 가중하기
      1000   0.5859 (패스     384번)    0.5694
     10000   0.5619 (패스    3618번)    0.5703
    100000   0.5777 (패스   36757번)    0.5763
   1000000   0.5789 (패스  366459번)    0.5781

상대가 실제로는 θ = 0.25 로 둘 때, 내가 가정한 θ 로 낸 사후확률
  θ = 0.00  →  0.0000
  θ = 0.10  →  0.3534
  θ = 0.25  →  0.5774
  θ = 0.50  →  0.7321
  θ = 1.00  →  0.8453

데시반: 사전 +7.4, 패스 한 번 -6.0, 사후 +1.4

두 방법 모두 0.5774 로 다가갑니다. 첫 번째 방법은 상대가 패스하지 않은 세계 63% 를 버립니다. 남은 37% 만으로 평균을 내니 같은 n 에서 흔들림이 큽니다. 두 번째 방법은 세계를 하나도 버리지 않고 무게만 다르게 줍니다. 버리는 쪽은 거절 표본추출(rejection sampling), 무게를 주는 쪽은 중요도 표본추출(importance sampling)의 가장 단순한 형태입니다. 버리는 쪽이 하는 일도 사실은 우도를 0 아니면 1 로 준 것입니다.

출력의 뒷부분이 더 중요합니다. 상대는 실제로 네 번에 한 번 아끼는데, 제가 “패스했으면 이길 카드가 없는 것” 이라고 믿으면(θ = 0) 사후 확률은 0 이 됩니다. 실제로는 열 번 가운데 여섯 번 가까이 이길 카드가 있는데도 그렇습니다. 반대로 패스를 아예 무시하면(θ = 1) 사전 확률 0.845 에 머뭅니다. 계산은 매번 정확합니다. 틀린 것은 우도입니다.

신호기가 울리지 않은 바다#

2009년 6월 1일, 228명을 태운 에어프랑스 447편이 리우데자네이루에서 파리로 가던 중 대서양에 추락했습니다. 프랑스 사고조사위원회(BEA)는 이듬해까지 세 번 수색했습니다. 6월 10일부터 31일 동안 블랙박스 수중 신호기의 소리를 듣는 수동 음향 탐색, 8월의 측면 주사 소나 탐색, 이듬해 4~5월의 소나 탐색. 셋 다 실패했습니다.

2010년 7월, BEA 는 메트론(Metron) 사의 수석 과학자 로런스 스톤 연구진에게 모든 자료를 다시 보고 잔해 위치의 확률 지도를 만들어 달라고 맡겼습니다. 연구진은 마지막으로 알려진 위치, 비행 중 조종을 잃은 과거 사고들의 자료, 수습한 시신의 역표류 분석을 섞어 사전 분포를 만들고, 75,000개의 점(입자)으로 나타낸 뒤, 실패한 수색마다 베이즈 규칙으로 입자의 무게를 고쳤습니다. 소나가 훑은 곳에 잔해가 있었다면 0.9 의 확률로 찾았을 것이므로, 그곳 입자의 무게에는 “못 찾았다” 의 우도 0.1 을 곱했습니다.

수동 음향 탐색의 우도는 신호기에 달려 있었습니다. 과거 사고 자료로 신호기 하나가 추락에서 살아남을 확률을 0.8 로 보고, 둘 가운데 하나라도 들릴 확률을 0.77 로 잡았습니다. 배가 지나간 곳의 입자에는 0.23 을 곱한 것입니다. 그런데 신호기를 두고 의심이 가시지 않아, 연구진은 신호기가 둘 다 작동하지 않았다고 가정한 사후 분포도 따로 그렸습니다.

2011년 탐색은 분포의 중심에서 시작했고, BEA 국장의 말로 일주일 만에 잔해를 찾았습니다. 4월 2일 소나 자료에서 잡혔고 4월 3일 사진으로 확인했습니다. 잔해는 2009년 수동 음향 탐색이 꼼꼼히 훑고 지나간 곳에 있었습니다. 회수한 신호기 하나는 충전된 배터리를 연결해도 신호를 내지 않았습니다. 신호기가 작동하지 않았다고 가정한 지도에서 그 자리는 확률이 높은 곳이었습니다. 연구진은 2014년 논문에서, 2010년 수색 계획에 베이즈 방법을 쓰지 않은 탓에 발견이 길게는 1년 늦어졌다고 썼습니다.

들리지 않았다는 사실의 우도를 0.23 으로 보느냐 1 로 보느냐에 따라, 잔해가 있던 구역은 지도에서 옅어지기도 하고 진해지기도 했습니다. 베이즈 정리 자체는 곱하고 나누는 것이 전부입니다. 어려운 것은 곱할 숫자, “이 가설이 맞다면 지금 본 일이 일어날 확률” 을 정직하게 정하는 일입니다.

자료에 대해#

역사 대목은 원문으로 확인하고 썼습니다. 의사 문제에 앞서 1982년 데이비드 에디의 유방촬영 연구가 자주 인용되지만 원문을 확인하지 못해 쓰지 않았습니다. 베이즈의 사망 연도, 라플라스가 베이즈를 모르고 같은 결론에 이르렀다는 평가, 튜링 원고의 공개 연도도 1차 자료로 확인하지 못해 적지 않았습니다. 대부호 예제의 못 본 카드 40장과 이길 카드 6장은 설명을 위해 정한 값이고, θ = 0.25 는 Part 2 에서 잰 hard 봇의 값을 반올림한 것입니다.


편제목
Part 1우도가 뭐냐는 질문 (지금 글)
Part 2패스 한 번의 무게

References#

1차 자료 (고전)#

  • Thomas Bayes, “An Essay towards solving a Problem in the Doctrine of Chances”, Philosophical Transactions 53: 370–418 (1763), pp. 370·375·376·385: https://doi.org/10.1098/rstl.1763.0053
  • Pierre-Simon Laplace, “Mémoire sur la probabilité des causes par les événements” (1774), Œuvres complètes t. 8 (1891), pp. 27–65: https://archive.org/details/oeuvrescomplte08lapluoft
  • R. A. Fisher, “On the ‘probable error’ of a coefficient of correlation deduced from a small sample”, Metron 1: 3–32 (1921), pp. 24–25: https://hdl.handle.net/2440/15169
  • Alan M. Turing, “The Applications of Probability to Cryptography”, 영국 국립기록보관소 HW 25/37, 옮겨 적은 판 arXiv:1505.04714 (2015), 1.5·1.6절: https://arxiv.org/abs/1505.04714
  • I. J. Good, “Studies in the History of Probability and Statistics. XXXVII. A. M. Turing’s statistical work in World War II”, Biometrika 66(2): 393–396 (1979), p. 394: https://doi.org/10.1093/biomet/66.2.393

사례 연구#

용어#

이 블로그의 관련 글#