이 글은 Claude Opus 5.5 를 이용해 초안이 작성되었으며, 이후 퇴고를 거쳤습니다.

들어가며#

Part 1에서 뉴컴의 역설은 두 직관으로 갈렸습니다. “상자는 이미 정해졌다” 는 원인의 직관과, “한 상자를 고르는 사람이 부자가 된다” 는 증거의 직관입니다. 이번 편은 이 두 직관이 어떻게 두 개의 이론이 되었고, 각 이론이 어떤 문제에서 곤란해지는지를 봅니다. 그리고 예측자가 정말로 내 결정 절차를 실행 해 볼 수 있다면 무엇이 달라지는지, 프로그램으로 확인합니다.

1. 두 결정 이론#

1.1 증거적 결정 이론 — “이 선택은 무엇의 소식인가”#

1965년 철학자 리처드 제프리는 『결정의 논리』에서 기댓값을 계산할 때 내 선택을 조건으로 한 확률 을 쓰자고 제안했습니다. 이 방식을 오늘날 증거적 결정 이론(EDT) 이라고 부릅니다. 묻는 것은 이렇습니다. “내가 이 선택을 했다는 소식을 들으면, 내 앞날이 얼마나 좋아 보이는가?”

뉴컴의 문제에서 “그는 상자 2 만 가져갔다” 는 소식은 그가 백만장자라는 강한 증거입니다. “그는 둘 다 가져갔다” 는 소식은 그가 1,000 달러를 받았다는 강한 증거입니다. 그러니 EDT 는 한 상자 를 권합니다. Part 1 의 0.5005 계산이 바로 이 방식입니다.

1.2 인과적 결정 이론 — “이 선택은 무엇을 일으키는가”#

1978년 앨런 기버드와 윌리엄 하퍼, 1981년 데이비드 루이스, 그리고 브라이언 스컴스와 제임스 조이스 등은 다른 질문을 던졌습니다. “내가 이 선택을 하면, 그것이 세상에 무엇을 일으키는가?” 이것이 인과적 결정 이론(CDT) 입니다.

뉴컴의 문제에서 내 선택은 상자 2 의 내용을 바꾸지 못합니다. 예측은 이미 끝났습니다. 그러니 상자 2 에 무엇이 있든, 둘 다 가져가는 것이 1,000 달러를 더 일으킵니다. CDT 는 두 상자 를 권합니다.

두 이론은 거의 모든 일상의 결정에서 같은 답을 냅니다. 내 선택과 세상의 상태가 원인으로만 엮여 있을 때는, 선택이 주는 “소식” 과 선택이 “일으키는 것” 이 같기 때문입니다. 뉴컴의 문제는 둘이 어긋나도록 정교하게 만든 문제입니다. 예측자가 만든 상관관계는 있지만, 인과는 없습니다.

2. “그렇게 똑똑하면 왜 부자가 아니야?”#

한 상자 쪽은 두 상자 쪽을 이렇게 놀립니다. 루이스는 1981년 이 놀림을 제목으로 단 두 쪽짜리 논문을 썼습니다. 그의 답은 이렇습니다.

한 상자 쪽은 가끔 우리를 놀린다. 그렇게 똑똑하다면서 왜 부자가 아니야? … 우리는 이렇게 답한다. 우리에게는 100만 달러를 가질지 말지에 대한 선택이 애초에 주어지지 않았다. 우리가 선택할 때, 가질 수 있는 100만 달러는 거기 없었다. 우리가 부자가 아닌 이유는, 그 부가 비합리적인 사람들을 위해 예약되어 있었기 때문 이다.

루이스는 이 상황을 비합리성이 “미리 보상받는” 구조라고 불렀습니다. 기버드와 하퍼가 내린 교훈을 그는 이렇게 인용했습니다. “누군가 행동을 아주 잘 예측하고, 예측된 비합리성에 후하게 보상한다면, 비합리성은 후하게 보상받을 것이다.”

그러나 루이스는 이 논문에서 이겼다고 선언하지 않았습니다. 그는 한 상자 쪽의 논리를 뒤집어 반박하려다 그것이 통하지 않는다는 것을 확인하고, 이렇게 끝맺습니다. “그러니 이것은 교착 상태다.” 스탠퍼드 철학 백과사전의 인과적 결정 이론 항목도 지금까지 CDT 에 대한 가장 흔한 반론이 뉴컴의 문제에서 틀린 답을 낸다는 것이고, CDT 쪽의 대답은 “뉴컴의 문제는 비합리성에 보상하는 특이한 사례” 라는 것이라고 정리합니다.

3. EDT 를 곤란하게 만드는 문제 — 흡연 병변#

증거적 결정 이론에도 약점이 있습니다. 가장 유명한 것은 흡연 병변(smoking lesion) 이라는 사고 실험입니다. 철학자 앤디 이건은 이렇게 정리합니다.

수전은 담배를 피울지 고민한다. 그녀는 흡연이 폐암과 강하게 상관되어 있다고 믿는다. 다만 그것은 공통 원인, 곧 흡연 욕구와 암을 함께 일으키는 몸의 상태 가 있기 때문일 뿐이다. 흡연 자체는 암을 일으키지 않는다. 수전은 담배를 피워야 할까? 분명히 피워도 된다.

그런데 초기 형태의 EDT 는 “수전이 담배를 피웠다” 는 소식이 그녀가 그 몸의 상태를 가졌다는 나쁜 소식이라는 이유로 흡연을 말립니다. 담배를 참는다고 병변이 사라지지는 않는데도 그렇습니다. 이건은 이 문제를 “표준적인 의학적 뉴컴 문제” 라고 불렀습니다. 노직의 1969년 논문에도 이미 비슷한 사례가 있었습니다. 학자의 삶을 고르는 성향과 끔찍한 유전병이 같은 유전자에서 온다면, 학자의 길을 포기해야 하느냐는 것입니다.

EDT 쪽의 대표적인 답은 “간지럼 방어(tickle defense)” 입니다. 수전이 자기 안의 욕구와 믿음을 알고 나면, 그 “간지러운” 욕구 자체가 이미 병변의 증거이고, 실제로 담배를 피우느냐는 추가 정보를 주지 않는다는 것입니다. 그러면 EDT 도 흡연을 허락합니다. 문제는 같은 논리를 뉴컴에 적용하면 EDT 도 두 상자 를 고르게 된다는 것입니다. 흡연 병변에서 EDT 를 구하면 뉴컴에서 EDT 의 매력이 사라집니다.

4. CDT 를 곤란하게 만드는 문제#

4.1 다마스쿠스의 죽음#

기버드와 하퍼는 1978년 논문에서 CDT 에 불리한 이야기도 함께 내놓았습니다.

다마스쿠스에서 죽음을 만난 남자의 이야기를 생각해 보자. 죽음은 놀란 표정을 지었다가 이내 끔찍한 평정을 되찾고 말했다. “내일 너를 데리러 오겠다.” 겁에 질린 남자는 그날 밤 낙타를 사서 알레포로 달아났다. 다음 날 죽음은 그가 숨은 방의 문을 두드리며 말했다. “너를 데리러 왔다.” “다마스쿠스에서 나를 찾을 줄 알았는데요.” 남자가 말하자 죽음이 답했다. “천만에. 그래서 어제 너를 보고 놀랐던 것이다. 오늘 알레포에서 너를 만나기로 되어 있었으니까.”

죽음은 그가 어디에 있을지 잘 맞히는 예측자입니다. 그가 다마스쿠스에 머물기로 마음먹는 순간, 그것은 죽음이 다마스쿠스로 올 증거가 되고, 알레포로 가는 편이 나아 보입니다. 알레포로 가기로 마음먹으면 반대가 됩니다. 스탠퍼드 철학 백과사전은 이것을 이렇게 요약합니다. “어떤 결정도 안정적이지 않다.” 같은 구조의 옛이야기, 서머싯 몸의 「사마라에서의 약속」은 Part 4에서 다룹니다.

4.2 사이코패스 버튼#

이건은 2007년 논문에서 CDT 에 대한 반례를 더 날카롭게 만들었습니다. 각주에 따르면 이 사례는 철학자 데이비드 브래던미첼이 제안한 것입니다.

폴은 “모든 사이코패스를 죽이는” 버튼을 누를지 고민한다. 사이코패스가 없는 세상이 훨씬 낫다고 생각한다. 그런데 폴은 그런 버튼을 누를 사람은 사이코패스뿐 이라고 꽤 확신한다. 그리고 폴은 사이코패스가 있는 세상에서 사는 것을 죽는 것보다 훨씬 선호한다. 폴은 버튼을 눌러야 할까?

CDT 로 계산하면, 누르는 행동은 폴이 사이코패스인지 아닌지를 바꾸지 않습니다. 폴은 자기가 사이코패스일 확률이 낮다고 믿으므로, 누르면 사이코패스 없는 세상을 얻을 가능성이 높아 보입니다. 그래서 CDT 는 누르라고 합니다. 그러나 이건의 말대로 “거의 모든 사람이” 누르면 안 된다고 느낍니다. 누르기로 결심하는 것 자체가 내가 사이코패스라는 강한 증거이기 때문입니다. 여기서는 EDT 의 답이 더 그럴듯해 보입니다.

5. 미리 약속해야 이기는 문제들#

뉴컴의 친척 가운데에는 어떤 사람이 되느냐 와 그 순간 무엇을 하느냐 가 갈라지는 문제들이 있습니다.

카브카의 독약 퍼즐(1983). 철학자 그레고리 카브카의 설정은 이렇습니다. 괴짜 억만장자가 당신 앞에 독약 한 병을 놓습니다. 마시면 하루 동안 지독하게 아프지만 목숨에는 지장이 없습니다. 억만장자는 오늘 자정에 당신이 내일 오후 그 독약을 마실 의도를 갖고 있으면 내일 아침 100만 달러를 주겠다고 합니다. 실제로 마실 필요는 없습니다. 돈은 마실 시간보다 몇 시간 앞서 이미 계좌에 들어옵니다. 문제는 이것입니다. 내일 오후에는 마실 이유가 전혀 없다는 것을 오늘 밤 알면서, 진심으로 마실 의도를 가질 수 있을까요.

파핏의 히치하이커(1984). 철학자 데릭 파핏이 『이유와 인격』에서 든 사례를 줄이면 이렇습니다. 사막 한가운데서 차가 고장 난 당신 앞에 운전자가 멈춥니다. 그는 거짓말을 꿰뚫어 보는 사람이고, 마을에 도착하면 사례하겠다고 진심으로 약속하는 사람만 태워 줍니다. 그런데 마을에 도착한 뒤에는 약속을 지킬 이유가 없습니다. 이미 살아 돌아왔으니까요. 그 순간 약속을 깰 사람이라면, 처음부터 태워 주지 않았을 것입니다.

투명한 뉴컴. 두 상자가 모두 투명하다면 어떨까요. 상자 2 에 100만 달러가 보입니다. 이제 둘 다 가져가도 100만 달러는 사라지지 않습니다. EDT 도 CDT 도 둘 다 가져가라고 합니다. 그런데 예측자가 “상자 2 가 가득 찬 것을 보고도 한 상자만 가져갈 사람” 에게만 돈을 넣었다면, 둘 다 가져갈 사람 앞에는 애초에 빈 상자만 놓였을 것입니다.

반사실적 강도(2009). 블로그 레스롱의 블라디미르 네소프는 이런 문제를 냈습니다. 완벽한 예측자가 방금 동전을 던졌고 뒷면이 나왔다며 100 달러를 달라고 합니다. 앞면이 나왔다면 1만 달러를 주었을 텐데, 뒷면일 때 100 달러를 낼 사람에게만 그랬을 것이라고 합니다. 동전을 던지기 전에 따지면 기댓값은 (-100 + 10,000) / 2 = 4,950 달러로 내는 쪽이 이득입니다. 그런데 뒷면을 이미 본 지금, 100 달러를 낼 이유가 있을까요.

네 문제 모두 같은 모양입니다. 그런 선택을 할 사람이 되는 것 은 이득이지만, 그 순간 그 선택을 하는 것 은 손해로 보입니다.

6. 새로운 이론들, 그리고 그 비판#

이 틈을 메우려는 시도가 이어졌습니다.

기능적 결정 이론(FDT). 2017년 엘리저 유드코프스키와 네이트 소어스는 결정을 “이 함수가 어떤 출력을 내면 가장 좋은 결과가 나오는가” 로 다루자고 제안했습니다. 내 결정 절차는 하나의 수학적 함수이고, 예측자가 그 함수를 흉내 내고 있다면, 내가 고르는 것은 행동 하나가 아니라 그 함수의 출력 전체 라는 것입니다. 앞서 2009년 웨이 다이가 같은 방향의 생각을 블로그에 썼습니다. 저자들은 FDT 가 뉴컴에서는 CDT 보다, 흡연 병변에서는 EDT 보다, 파핏의 히치하이커에서는 둘 다보다 더 많이 얻는다고 주장했습니다.

문제EDTCDTFDT
뉴컴한 상자두 상자한 상자
투명한 뉴컴두 상자두 상자한 상자
흡연 병변피우지 않는다 (초기 형태)피운다피운다
파핏의 히치하이커내지 않는다내지 않는다낸다
쌍둥이 죄수의 딜레마 (7절)협력배신협력

다만 FDT 는 학계에서 받아들여진 이론이 아닙니다. 논문은 지금도 아카이브(arXiv)의 프리프린트입니다. 철학자 볼프강 슈바르츠는 2018년 블로그에서 자신이 이 논문을 한 철학 학술지에서 심사했고, “대폭 수정 후 재심사” 를 권했지만 편집자가 게재를 거절했다고 밝혔습니다. 그는 1 달러를 요구하는 협박범에게도 돈을 주지 말라는 FDT 의 결론에 “당연히 줘야 한다!” 고 반박하는 등, 무엇을 “성공” 으로 볼지에 따라 결론이 달라진다고 지적했습니다.

한편 철학자 아리프 아메드는 2014년 『증거, 결정, 인과』에서 EDT 와 한 상자를 정면으로 옹호했습니다. 노직은 1993년 세 가지 효용을 가중해 합치는 절충안을 냈습니다. 스탠퍼드 철학 백과사전의 인과적 결정 이론 항목은 2024년 10월에도 새 연구를 반영해 크게 개정되었습니다. 논쟁은 반세기가 지난 지금도 진행 중입니다.

7. 쌍둥이 죄수 — 뉴컴은 죄수의 딜레마다#

Part 1 에서 뉴컴이 죄수의 딜레마를 생각하다가 이 문제를 만들었다고 했습니다. 두 문제의 관계는 생각보다 가깝습니다.

노직은 1969년 논문에서 이미 일란성 쌍둥이 가 하는 죄수의 딜레마를 언급했습니다. 1979년 루이스는 한 걸음 더 나아가 논문 제목으로 선언했습니다. 「죄수의 딜레마는 뉴컴 문제다」.

합리성에 관한 퍼즐로 본다면, 둘은 하나이자 같은 문제다. 죄수의 딜레마는 뉴컴 문제다. 더 정확히는, 죄수마다 하나씩 나란히 놓인 두 개의 뉴컴 문제 다.

루이스의 비유는 이렇습니다. 배신한다는 것은 투명한 상자에 든 1,000 달러를 집는 것 입니다. 그리고 내가 100만 달러를 받는 것은 상대가 자기 1,000 달러를 집지 않을 때 입니다. 상대가 나와 아주 비슷하게 생각하는 사람이라면, 상대는 나를 예측하는 장치 와 같습니다. 루이스는 “예측” 이 꼭 미리 하는 것일 필요는 없고, 가장 확실한 예측 방법은 나의 복제본으로 시뮬레이션하는 것 이라고 썼습니다. 다만 루이스 자신은 두 사람이 아무리 닮았어도 배신하는 것이 합리적이라고 보았습니다. 뉴컴에서 두 상자를 고른 사람다운 결론입니다.

반대쪽 끝에는 인지과학자 더글러스 호프스태터의 초합리성 이 있습니다. 모두가 똑같이 합리적이라면 모두가 같은 답에 이를 것이므로, 협력이 답이라는 주장입니다. 죄수의 딜레마 Part 6에서 소개했으니 여기서는 그가 1983년 『사이언티픽 아메리칸』에서 벌인 실험 하나만 보겠습니다. 「유혹의 복권」 입니다. 누구나 엽서에 숫자 N 을 적어 보내면 N 장을 응모한 것으로 치고, 상금 100만 달러를 전체 응모 수로 나눈 금액을 무작위로 뽑힌 한 명에게 준다는 규칙이었습니다. 모두가 초합리적이라면 아주 적게 응모해 상금을 지켜야 합니다. 같은 해 9월 마틴 가드너의 칼럼에 실린 결과는, 상상하기도 어려운 큰 수를 적어 보낸 사람들 때문에 상금이 1 센트보다도 훨씬 작은 조각이 되었다는 것이었습니다.

8. 예측자가 내 코드를 실행한다면#

루이스의 말처럼 가장 확실한 예측은 시뮬레이션입니다. 그렇다면 예측자가 내 결정 절차를 그대로 한 번 실행해 보고 상자를 채운다면 어떨까요. 개발자에게는 이쪽이 오히려 덜 신비롭습니다. 내 결정 절차는 함수이고, 예측자는 그 함수를 호출할 수 있습니다.

8.1 뉴컴#

아래 코드의 예측자는 상자를 채우기 전에 참가자의 결정 함수를 자기 난수로 한 번 실행해 봅니다. 그 결과로 상자 2 를 채운 뒤, 참가자가 같은 함수를 자기 난수로 실행해 실제로 고릅니다. 결정 절차는 셋입니다. 늘 한 상자, 늘 두 상자, 그리고 동전 던지기입니다.

8.2 서로의 코드를 읽는 죄수의 딜레마#

같은 생각을 죄수의 딜레마에 적용한 것이 게임 이론의 프로그램 균형(program equilibrium) 입니다. 경기자가 행동 대신 프로그램 을 내고, 각 프로그램은 상대의 소스 코드를 읽을 수 있습니다. 모셰 테넨홀츠가 2004년에 이 틀을 정식화했고, “상대의 코드가 나와 똑같으면 협력, 아니면 배신” 이라는 프로그램은 그보다 앞서 1980년대에 하워드와 맥아피가 제시했습니다. 아래 코드는 네 개의 프로그램을 리그전으로 붙여 봅니다.

  • 늘협력, 늘배신: 상대를 보지 않습니다.
  • 복제본만: 상대의 소스가 자기와 글자 하나까지 같을 때만 협력합니다.
  • 따라하기: 상대가 자기를 만나면 무엇을 낼지 상대의 코드를 실행해 보고, 그대로 따라 냅니다. 서로가 서로를 끝없이 시뮬레이션하지 않도록, 깊이가 바닥나면 협력합니다.
package main

import (
	"fmt"
	"math/rand/v2"
	"strings"
)

// ---- 1. 예측자가 내 코드를 실행할 수 있다면 ----

// 결정 절차. true 면 한 상자, false 면 두 상자.
type Agent struct {
	Name   string
	Decide func(r *rand.Rand) bool
}

// 예측자는 상자를 채우기 전에 같은 함수를 자기 난수로 한 번 실행해 본다.
func newcomb(a Agent, games int) (avg float64, hit int) {
	me := rand.New(rand.NewPCG(1, 1))        // 참가자의 난수
	predictor := rand.New(rand.NewPCG(2, 2)) // 예측자의 난수
	total := 0
	for range games {
		predictOne := a.Decide(predictor) // 시뮬레이션
		b := 0
		if predictOne {
			b = 1_000_000
		}
		oneBox := a.Decide(me) // 실제 선택
		if oneBox == predictOne {
			hit++
		}
		if oneBox {
			total += b
		} else {
			total += 1_000 + b
		}
	}
	return float64(total) / float64(games), hit
}

// ---- 2. 서로의 코드를 읽는 죄수의 딜레마 ----

type Move bool

const (
	C Move = true  // 협력
	D Move = false // 배신
)

func (m Move) String() string {
	if m {
		return "C"
	}
	return "D"
}

type Program struct {
	Name   string
	Source string // 상대에게 공개되는 소스 코드
	Play   func(self, opp Program, depth int) Move
}

var programs = []Program{
	{"늘협력", "return C", func(_, _ Program, _ int) Move { return C }},
	{"늘배신", "return D", func(_, _ Program, _ int) Move { return D }},
	{"복제본만", "if opp.Source == self.Source { return C }; return D",
		func(self, opp Program, _ int) Move {
			if opp.Source == self.Source {
				return C
			}
			return D
		}},
	{"따라하기", "if depth == 0 { return C }; return opp.Play(opp, self, depth-1)",
		func(self, opp Program, depth int) Move {
			if depth == 0 {
				return C // 시뮬레이션이 끝없이 이어지지 않도록 바닥에서는 협력
			}
			return opp.Play(opp, self, depth-1) // 상대가 나를 만나면 무엇을 낼지 실행해 보고 따라 낸다
		}},
}

func main() {
	agents := []Agent{
		{"한 상자", func(*rand.Rand) bool { return true }},
		{"두 상자", func(*rand.Rand) bool { return false }},
		{"동전 던지기", func(r *rand.Rand) bool { return r.IntN(2) == 0 }},
	}
	const games = 10_000
	fmt.Println("결정 절차      평균 상금  예측 적중")
	for _, a := range agents {
		avg, hit := newcomb(a, games)
		fmt.Printf("%-10s %11.0f  %6.1f%%\n", a.Name, avg, 100*float64(hit)/games)
	}

	fmt.Println("\n행 vs 열     늘협력  늘배신  복제본만  따라하기")
	for _, p := range programs {
		line := fmt.Sprintf("%-8s", p.Name)
		for _, q := range programs {
			line += fmt.Sprintf("   %v/%v ", p.Play(p, q, 3), q.Play(q, p, 3))
		}
		fmt.Println(strings.TrimRight(line, " "))
	}
}

실행 결과입니다. 아래 표의 각 칸은 “행 프로그램의 수 / 열 프로그램의 수” 입니다.

결정 절차      평균 상금  예측 적중
한 상자           1000000   100.0%
두 상자              1000   100.0%
동전 던지기          495793    50.5%

행 vs 열     늘협력  늘배신  복제본만  따라하기
늘협력        C/C    C/D    C/D    C/C
늘배신        D/C    D/D    D/D    D/D
복제본만       D/C    D/D    C/C    D/D
따라하기       C/C    D/D    D/D    C/C

8.3 읽기#

뉴컴 쪽. 예측자가 내 함수를 실행해 볼 수 있으면, “상자는 이미 정해졌으니 둘 다 가져가자” 는 논증은 힘을 잃습니다. 두 상자를 고르는 함수는 시뮬레이션에서도 두 상자를 고르고, 그래서 늘 빈 상자를 만납니다. 예측 적중률은 100% 입니다. 상자를 채운 것은 내 “행동” 이 아니라 내 함수 였고, 나는 그 함수를 고르는 것입니다. FDT 가 말하려던 것이 이것입니다.

동전 던지기 는 예측자를 속이는 유일한 길처럼 보입니다. 실제로 적중률이 50% 로 떨어집니다. 그러나 평균 상금은 약 50만 달러로, 늘 한 상자를 고르는 쪽의 절반입니다. 스콧 애런슨이 블로그에서 계산한 대로, 한 상자를 고를 확률 p 로 무작위로 고를 때 기댓값은 1,000,000p + 1,000(1-p) 로 p 에 대해 직선이라, 섞는 것이 순수하게 한 상자를 고르는 것을 이길 수 없습니다. 노직의 원래 규칙(무작위로 고를 것이 예측되면 상자 2 를 비운다)이었다면 동전 던지기는 더 손해였을 것입니다.

죄수의 딜레마 쪽. “복제본만” 은 자기 복제본과는 협력하고 늘배신에게는 착취당하지 않습니다. 그런데 같은 생각을 하지만 코드가 다른 따라하기와는 서로 배신합니다. 글자 하나만 달라도 협력이 깨지는 셈입니다. “따라하기” 는 상대의 코드를 실제로 실행해 보기 때문에, 자기 복제본뿐 아니라 늘협력과도 협력하고 늘배신에게는 배신합니다. 이 프로그램은 카스파르 외스터헬트가 2019년 「강건한 프로그램 균형」에서 제안한 GroundedFairBot 을 단순화한 것입니다. 원래 판은 작은 확률 ε 로 그냥 협력하고 나머지 경우에 상대가 자기를 만나면 낼 수를 따라 내는데, 여기서는 확률 대신 시뮬레이션 깊이로 바닥을 정했습니다. 이 계열에는 “상대가 협력한다는 것을 증명할 수 있으면 협력” 하는 FairBot 도 있습니다. 2014년 연구진은 FairBot 끼리 만나면 수리 논리의 뢰브 정리 덕분에 협력에 이른다는 것을 보였습니다.

호프스태터의 초합리성이 “모두가 똑같이 생각한다면” 이라는 가정에 기댔다면, 프로그램 균형은 그 가정을 소스 코드 공개 로 바꿔 놓은 것입니다. 실제로 서로의 코드를 볼 수 있는 AI 에이전트들이 어떻게 행동하는지는 Part 3에서 최근 연구로 봅니다.

9. 문제 자체가 둘이라는 해석#

마지막으로 하나의 해석을 덧붙입니다. 물리학자 데이비드 월퍼트와 SF 작가로도 알려진 물리학자 그레고리 벤퍼드는 2013년 「뉴컴의 역설의 교훈」에서, 두 논증이 서로 다른 인과 구조 를 전제하고 있다고 주장했습니다. 기댓값 논증은 내 선택과 예측이 강하게 연결된 구조를, 지배 논증은 예측이 내 선택과 무관하게 이미 정해진 구조를 가정한다는 것입니다. 그리고 두 구조는 동시에 성립할 수 없다고 보였습니다. 이 해석에 따르면 역설은 문제의 진술 안에 들어 있습니다. 뉴컴의 문제는 사실 두 개의 다른 문제 를 한 문장에 담은 것이라는 뜻입니다.

8절의 시뮬레이션이 그 한쪽을 분명히 만든 셈입니다. 예측자가 내 함수를 실행한다고 못 박는 순간, 예측과 선택은 같은 함수의 두 번의 호출이 되고, 한 상자 쪽의 구조가 됩니다.

마치며#

두 결정 이론을 한 문장으로 줄이면 “증거적 결정 이론은 좋은 소식을 고르고, 인과적 결정 이론은 좋은 결과를 일으킨다” 입니다. 뉴컴에서는 좋은 소식을 고른 쪽이 부자가 되고, 흡연 병변에서는 좋은 결과를 일으킨 쪽이 담배를 즐깁니다. 사이코패스 버튼과 다마스쿠스의 죽음은 인과 쪽을 괴롭히고, 독약과 히치하이커는 둘 다를 괴롭힙니다. 그리고 예측자가 내 코드를 실행할 수 있다고 하면, “이미 정해진 상자” 는 내가 지금 고르는 함수의 결과가 됩니다.

남은 질문은 하나입니다. 그런 예측자는 정말 있을 수 있는가. 다음 편은 결정을 몇 초 먼저 읽는다는 뇌 실험, 키보드를 무작위로 누르지 못하는 사람들, 행동이 구원의 증거였던 칼뱅주의자, 그리고 사람의 선택을 예측한다는 AI 를 차례로 봅니다.

편주제
Part 1두 상자
Part 2 (이 글)두 결정 이론
Part 3예측자는 가능한가
Part 4영화·문학·게임 속 예측자

References#

루이스(1979, 1981)와 이건의 논문은 원문으로, 기버드·하퍼의 다마스쿠스 이야기는 그것을 그대로 인용한 유드코프스키·소어스의 논문으로, 카브카의 설정은 원문 첫 단락을 인용한 2차 문헌으로 확인했습니다. 파핏의 히치하이커는 원문을 열람하지 못해 줄거리만 옮겼습니다.

두 결정 이론

  • Richard C. Jeffrey, The Logic of Decision (McGraw-Hill, 1965)
  • Allan Gibbard & William L. Harper, “Counterfactuals and Two Kinds of Expected Utility”, in C. A. Hooker 외 (eds.), Foundations and Applications of Decision Theory, Vol. 1 (Reidel, 1978), pp. 125–162
  • David Lewis, “Causal Decision Theory”, Australasian Journal of Philosophy 59(1): 5–30 (1981)
  • David Lewis, "‘Why Ain’cha Rich?’", Noûs 15(3): 377–380 (1981)
  • James M. Joyce, The Foundations of Causal Decision Theory (Cambridge University Press, 1999)
  • Ellery Eells, Rational Decision and Causality (Cambridge University Press, 1982) — 간지럼 방어
  • Arif Ahmed, Evidence, Decision and Causality (Cambridge University Press, 2014)
  • Paul Weirich, “Causal Decision Theory”, Stanford Encyclopedia of Philosophy (2024년 10월 개정)

반례와 변형

쌍둥이 죄수와 프로그램 균형