투표의 역설 Part 2: 완벽한 투표 제도는 없다 — 애로의 불가능성 정리

이 글은 Claude Opus 5.5 를 이용해 초안이 작성되었으며, 이후 퇴고를 거쳤습니다.

들어가며#

Part 1에서 세 가지 개표 방식이 각자 약점을 드러냈습니다. 단순 다수제는 과반수가 꼴찌로 꼽은 후보를 뽑을 수 있고, 보르다 계산법은 콩도르세 승자를 떨어뜨릴 수 있으며, 콩도르세의 일대일 다수결은 순환 앞에서 답을 내지 못합니다. 자연스러운 다음 질문은 이것입니다. 약점이 하나도 없는 방식을 새로 설계할 수는 없을까?

1951년, 29세의 젊은 경제학자 케네스 애로(Kenneth Arrow, 1921~2017) 가 이 질문에 답했습니다. 답은 “없다” 였습니다. 그것도 지금까지 아무도 찾지 못했다는 뜻이 아니라, 누가 어떤 방식을 만들어도 반드시 어딘가 무너진다 는 수학적 증명이었습니다.

편	주제
Part 1	콩도르세의 역설 — 다수결이 가위바위보가 될 때
Part 2 (이 글)	애로의 불가능성 정리 — 완벽한 투표 제도는 없다
Part 3	전략 투표 — 사표, 단일화, 결선의 함정, 그리고 분류 흐름도
Part 4	서바이벌·예능의 투표
Part 5	게임 속 투표
Part 6	영화·드라마·만화·애니메이션 속 투표, 전체 유형 분류표

1. 커피 타임의 질문 (1948)#

애로의 회고에 따르면 시작은 1948년 여름, 미국 산타모니카의 싱크탱크 RAND 연구소 였습니다. 당시 RAND 는 냉전 전략을 게임 이론으로 분석하고 있었습니다. 게임 이론에서는 미국과 소련을 각각 하나의 “참가자” 로 놓고, 참가자마다 무엇을 얼마나 원하는지를 나타내는 효용함수를 둡니다. 커피를 마시던 철학자 올라프 헬머가 물었습니다. 국가는 수많은 사람의 집합인데, 국가의 효용함수란 도대체 무엇인가?

개인의 선호를 모아 하나의 집단 선호를 만드는 일, 그것은 투표가 하는 일입니다. 애로는 며칠 만에 결론의 윤곽을 보았다고 회고했습니다. 어떻게 하든 투표의 역설이 다시 나타난다 는 것이었습니다. 이 결과는 1950년 Journal of Political Economy 의 논문 「사회 후생 개념의 한 가지 어려움」으로, 이듬해 컬럼비아 대학 박사 논문이자 책인 『사회적 선택과 개인의 가치』로 나왔습니다. 경제사학자 디먼드(2023)는 애로가 시기를 정확히 기억하지 못했을 수 있다고 지적하지만, RAND 의 질문이 출발점이었다는 이야기는 애로 자신이 여러 번 되풀이했습니다.

2. 공정한 제도의 조건#

애로가 한 일은 “좋은 투표 제도” 라는 막연한 말을 몇 개의 조건으로 쪼갠 것입니다. 오늘날 교과서의 표준형(1963년 개정판 기준)은 이렇습니다. 투표자는 후보 전체에 순위를 매겨 내고, 제도는 그것을 모아 사회 전체의 순위 를 내놓습니다.

조건	내용	한 줄로
순서	사회의 순위도 앞뒤가 맞아야 한다 (A > B, B > C 면 A > C)	가위바위보 금지
U. 무제한 정의역	투표자들이 어떤 순위를 내든 답을 내야 한다	골라 받지 않는다
P. 파레토 원칙	모두가 A 를 B 보다 좋아하면 사회도 A 를 B 보다 위에 둔다	만장일치는 존중한다
I. 무관한 대안으로부터의 독립	A 와 B 의 사회적 순서는 각자가 A 와 B 를 어떻게 비교하는지에만 달려야 한다	상관없는 후보가 판을 흔들지 않는다
D. 비독재	한 사람의 순위가 언제나 사회의 순위가 되어서는 안 된다	독재자 금지

하나하나는 너무 당연해서 조건이라 부르기도 민망해 보입니다. 애로의 정리는 이렇습니다.

후보가 셋 이상이면, 순서·U·P·I 를 모두 만족하는 규칙은 독재뿐 이다.

다시 말해 네 가지 당연한 조건을 지키려면 다섯 번째인 비독재를 포기해야 합니다. 모든 조건을 동시에 만족하는 규칙은 없습니다.

2.1 조건 I 가 왜 중요한가#

다섯 조건 가운데 가장 낯선 것이 I 입니다. Part 1 에서 이 글이 만든 다섯 명의 예로 보겠습니다. 셋은 A > B > C, 둘은 B > C > A 이고, 보르다 계산법으로는 B 가 1위 였습니다(A 11점, B 12점).

이제 뒤의 두 사람이 마음을 바꿔 C 를 맨 아래로 내린다고 해 봅시다. 둘의 순위가 B > A > C 가 됩니다. 이 두 사람은 여전히 B 를 A 보다 좋아합니다. A 와 B 에 대한 다섯 명의 비교는 하나도 바뀌지 않았습니다(셋은 A 를, 둘은 B 를 더 좋아합니다). 그런데 보르다 점수는 A 13점, B 12점으로 A 가 1위 가 됩니다. A 와 B 의 운명이 C 의 자리 때문에 뒤집혔습니다. 이것이 조건 I 가 금지하는 일입니다.

현실에서 이 현상은 스포일러 라는 이름으로 나타납니다. 두 유력 후보의 승부가, 당선 가능성이 없는 세 번째 후보가 출마했느냐에 따라 뒤집히는 것입니다. 단순 다수제가 바로 조건 I 를 어깁니다. Part 3에서 실제 선거로 봅니다.

2.2 익숙한 방식들은 어디서 무너지나#

방식	무너지는 조건	어떻게
단순 다수제	I	비슷한 후보가 하나 더 나오면 표가 갈려 승부가 뒤집힌다
보르다 계산법	I	위의 예처럼 C 의 자리가 A 와 B 의 순서를 바꾼다
일대일 다수결(콩도르세)	순서	순환이 생기면 앞뒤가 맞는 순위가 나오지 않는다
한 사람이 정한다	D	독재
후보의 순서를 미리 정해 둔다	U 또는 P	투표자의 뜻과 무관하게 결과가 정해진다

애로의 정리는 이 표에 빈 줄이 영원히 없다 는 것을 말합니다. 어떤 새로운 방식을 만들어도 이 표의 어느 칸에 들어갑니다.

3. 왜 독재자가 나오는가 — 증명의 감각#

증명은 생략하지만, 왜 하필 “독재” 라는 결론이 나오는지는 감을 잡을 수 있습니다. 경제학자 지나코플로스(Geanakoplos)가 2005년에 정리한 짧은 증명의 줄기는 이렇습니다.

후보 B 를 모든 사람이 꼴찌 에 놓았다고 합시다. 조건 P 에 따라 사회도 B 를 꼴찌에 둡니다.
이제 투표자를 한 명씩 차례로, B 를 꼴찌에서 1위 로 옮기게 합니다. 모두가 옮기고 나면 조건 P 에 따라 사회는 B 를 1위에 둡니다.
그러면 중간 어딘가에서 사회의 B 가 꼴찌에서 1위로 한 번에 뛰어오르는 순간이 있습니다(조건 I 와 순서 조건이 중간에 머무는 것을 막습니다). 그 순간 B 를 옮긴 사람이 결정적인 한 사람 입니다.
마지막으로, 이 한 사람이 B 에 대해서만이 아니라 모든 후보 쌍 에 대해 사회의 순서를 혼자 정한다는 것을 보입니다. 그 사람이 독재자입니다.

직관적으로 말하면, 조건 I 는 사회가 각 쌍을 따로따로 판단하게 만들고, 조건 P 와 순서 조건은 그 판단들이 서로 맞물리게 만듭니다. 그 맞물림을 따라가 보면 어딘가에서 한 사람의 마음이 전체를 뒤집는 지점 이 나오고, 그 사람의 힘이 모든 쌍으로 번집니다. 서바이벌에서 마지막 한 표를 쥔 사람이 “킹메이커” 가 되는 장면을 떠올리면, 이 정리가 그 장면의 수학적 극한이라는 것을 알 수 있습니다.

4. 증명의 구멍, 그리고 노벨상#

이 유명한 정리의 첫 증명에는 구멍이 있었습니다. 1951년판의 조건은 오늘날의 것과 조금 달랐습니다(파레토 원칙 대신 “양의 연관성” 과 “시민 주권” 이라는 두 조건을 썼습니다). 1957년 줄리언 블라우는 Econometrica 에 실은 논문에서 반례를 들어 1951년판의 정리가 그 조건 그대로는 일반적으로 성립하지 않는다는 것을 보였습니다. 애로는 1963년 개정판에서 조건을 손보았고, 오늘날 교과서의 U·P·I·D 는 이 개정판을 따릅니다. 개정판에서 정확히 무엇을 어떻게 고쳤는지는 이 글이 원문으로 확인하지 못했습니다.

애로는 1972년 노벨 경제학상을 존 힉스와 함께 받았습니다. 수상 사유는 일반 균형 이론과 후생 이론 에 대한 선구적 기여였고, 불가능성 정리는 그 후생 이론의 중심에 있습니다. 당시 51세로 경제학상 최연소 수상자였고, 이 기록은 2019년 에스테르 뒤플로(46세)가 받을 때까지 이어졌습니다. 애로는 2017년 95세로 세상을 떠났습니다.

5. 탈출구 하나: 선택지가 둘이면 문제없다#

애로의 정리에는 “후보가 셋 이상이면” 이라는 단서가 붙어 있습니다. 후보가 둘이면 이야기가 완전히 다릅니다.

1952년 수학자 케네스 메이(Kenneth May) 는 선택지가 둘일 때 다음 네 조건을 모두 만족하는 규칙은 단순 다수결 하나뿐 이라는 것을 증명했습니다.

조건	뜻
결정성	어떤 경우에도 하나의 결과를 낸다
익명성	누가 어느 표를 던졌는지는 상관없다 (모든 표가 같은 무게)
중립성	두 선택지를 똑같이 대한다 (현상 유지에 유리한 문턱이 없다)
양의 반응성	누군가 한쪽으로 표를 옮기면, 그쪽이 불리해지지는 않는다

둘 중 하나를 고를 때는 다수결이 유일하게 공정한 방법입니다. 문제는 언제나 셋 이상 에서 시작됩니다. 서바이벌의 투표가 대개 “이 사람을 떨어뜨릴까 말까” 가 아니라 “누구를 떨어뜨릴까” 를 묻는다는 점을 기억해 두십시오. 후보가 참가자 수만큼 있는 투표입니다.

6. 탈출구 둘: 선호가 한 줄로 늘어설 때#

애로의 조건 U 는 “투표자들이 어떤 순위를 내든” 답을 내라고 요구합니다. 이 요구를 조금만 줄이면 길이 생깁니다.

1948년 경제학자 덩컨 블랙 은 후보를 한 줄 위에 늘어놓을 수 있고, 모든 투표자가 그 줄 위의 한 지점을 가장 좋아하며 거기서 멀어질수록 덜 좋아한다면, 순환이 생기지 않는다는 것을 보였습니다. 이런 선호를 단봉형(single-peaked) 이라고 합니다. 이때 다수결의 승자는 정확히 중위 투표자, 곧 줄의 한가운데에 선 사람이 가장 좋아하는 후보입니다. 이것이 중위 투표자 정리 입니다.

예를 들어 세율을 낮음, 중간, 높음 가운데 정한다고 합시다. 낮은 세율을 가장 좋아하는 사람은 중간을 높음보다 좋아하고, 높은 세율을 가장 좋아하는 사람은 중간을 낮음보다 좋아하는 것이 자연스럽습니다. 이런 선호에서는 “중간” 이 다른 둘을 모두 이깁니다.

Part 1 의 치킨·피자·족발이 순환한 이유도 여기서 보입니다. 세 메뉴를 어떤 순서로 한 줄에 놓아도, 세 사람 가운데 누군가는 양 끝의 둘을 가운데보다 좋아하는 모양이 됩니다. 메뉴 취향에는 세율 같은 하나의 축이 없기 때문입니다.

이 생각은 선거 경쟁 이론으로 이어집니다. 1929년 해럴드 호텔링은 직선 위에서 손님을 다투는 두 가게가 결국 한가운데에 나란히 선다는 모형(흔히 해변의 두 아이스크림 장수로 비유됩니다)을 냈고, 1957년 앤서니 다운스는 『민주주의의 경제 이론』에서 양당이 중위 투표자 쪽으로 정책을 모은다고 보았습니다. 다만 Part 1에서 본 매켈비의 결과처럼, 축이 둘만 되어도 중위 투표자의 안정은 사라지고 의제를 쥔 사람의 힘이 커집니다.

7. 탈출구 셋: 순위 대신 점수#

애로의 정리는 투표자가 순위 를 낸다고 가정합니다. A 가 B 보다 좋다는 정보만 있고, 얼마나 좋은지는 없습니다. 그렇다면 순위 대신 각 후보에게 점수나 등급 을 매기게 하면 어떨까요. 이런 방식은 애로 정리의 전제 밖에 있습니다.

승인 투표(approval voting): 괜찮다고 생각하는 후보에게 몇 명이든 표시하고, 표시를 가장 많이 받은 후보가 이깁니다. 스티븐 브람스와 피터 피시번이 1978년 American Political Science Review 의 논문으로 체계화했습니다.
다수 판단(majority judgment): 후보마다 “매우 좋음” 부터 “거부” 까지의 등급을 매기고, 각 후보 등급의 중앙값 으로 순위를 정합니다. 미셸 발린스키와 리다 라라키가 2007년 PNAS 논문과 이후의 책으로 제안했습니다.

실제 채택 사례도 있습니다. 미국 노스다코타주 파고시는 2018년 주민투표(찬성 63.5%)로 미국에서 처음 시 선거에 승인 투표를 도입했고, 미주리주 세인트루이스는 2020년(찬성 약 68%) 시 예비선거에 도입했습니다. 그러나 노스다코타 주의회가 2025년 4월 승인 투표를 주 전체에서 금지하면서 파고의 승인 투표는 끝났습니다. 미주리주도 2024년 11월 주 헌법 개정으로 같은 방식을 금지했지만, 그때 이미 시행 중이던 세인트루이스의 방식은 예외로 남았습니다. 국제 무대에는 비슷한 장치가 오래 있었습니다. 유엔 안보리는 사무총장 후보마다 “권장 / 비권장 / 의견 없음” 을 비밀 투표로 표시하는 예비 투표를 여러 차례 거칩니다.

점수 방식도 만능은 아닙니다. 첫째, 점수의 뜻이 사람마다 같다고 가정해야 합니다. 어떤 사람의 “괜찮음” 은 다른 사람의 “훌륭함” 일 수 있습니다. 둘째, 승인 투표에서 어디까지 표시할지 정하는 기준선이 사실상 새로운 선택입니다. 셋째, 가장 중요하게, Part 3 의 기바드 정리는 점수 방식에도 적용 됩니다. 애로의 벽은 피해도, 정직하게 찍는 것이 손해인 상황은 피하지 못합니다.

8. 자유와 만장일치가 부딪칠 때 — 센의 역설 (1970)#

애로의 조건을 훨씬 더 줄여도 불가능성이 나온다는 것을 보인 사람이 인도 출신 경제학자 아마르티아 센(Amartya Sen) 입니다. 1970년 논문 「파레토 자유주의자의 불가능성」의 예는 책 한 권, 『채털리 부인의 연인』입니다. 이 소설은 영국에서 오랫동안 외설 논란에 휩싸였던 작품입니다.

등장인물은 둘입니다. 이런 책을 싫어하는 점잖은 사람 과, 이런 책을 좋아하는 음탕한 사람 입니다. 선택지는 셋입니다.

a: 점잖은 사람이 읽는다
b: 음탕한 사람이 읽는다
c: 아무도 읽지 않는다

	1순위	2순위	3순위	이유
점잖은 사람	c	a	b	아무도 안 읽는 것이 최선. 누군가 읽어야 한다면, 쉽게 물드는 저 사람보다 차라리 내가 읽겠다
음탕한 사람	a	b	c	저 점잖은 사람이 이 책을 읽게 되는 것이 가장 즐겁다

센은 두 원칙을 세웁니다. 하나는 최소한의 자유 입니다. 내가 그 책을 읽을지는 나만의 일이니, 각자 자기 독서에 관해서는 자기 선호대로 정해야 합니다. 점잖은 사람은 자기가 읽는 것(a)보다 아무도 안 읽는 것(c)을 원하므로 사회도 c > a. 음탕한 사람은 아무도 안 읽는 것(c)보다 자기가 읽는 것(b)을 원하므로 사회도 b > c. 다른 하나는 파레토 원칙 입니다. 두 사람 모두 a 를 b 보다 좋아하므로 사회도 a > b.

이 셋을 이어 붙이면 a > b > c > a, 순환입니다. 최선의 사회적 선택이 없습니다. 애로처럼 다섯 조건을 다 쓰지 않아도, 각자의 일은 각자가 정한다 는 자유와 모두가 원하면 따른다 는 만장일치 원칙만으로 충돌이 생긴다는 것입니다. 센은 1998년 노벨 경제학상을 받았습니다.

마치며#

애로의 정리를 두고 흔히 “애로는 민주주의가 불가능하다는 것을 증명했다” 고 말합니다. 정확하지 않습니다. 애로가 증명한 것은 더 좁고 더 단단한 명제입니다. 후보가 셋 이상일 때, 사람들의 순위를 모아 사회의 순위를 만드는 규칙 가운데 몇 가지 당연한 조건을 모두 지키는 것은 없다. 선택지가 둘이면 다수결이 완벽하고(메이), 사람들의 선호가 한 줄로 늘어서면 중위 투표자가 답이며(블랙), 실제 선거에서 순환은 드뭅니다(Part 1).

이 정리가 주는 교훈은 “투표는 무의미하다” 가 아니라 “모든 투표 제도는 무언가를 포기한 선택이다” 입니다. 단순 다수제는 조건 I 를, 콩도르세 방식은 결정성을, 점수 방식은 순위라는 전제를 포기합니다. 그래서 어떤 제도를 고를지는 수학이 아니라 무엇을 포기할지에 대한 합의 의 문제가 됩니다.

다음 편은 이 포기가 사람들의 행동을 어떻게 바꾸는지 봅니다. 제도에 빈틈이 있다면, 영리한 투표자는 그 빈틈을 씁니다. 자기 진짜 1순위 대신 이길 만한 후보를 찍고, 경쟁자를 일부러 꼴찌로 내리고, 두 후보를 하나로 합칩니다. 정직한 투표가 손해인 순간 이 언제나 존재한다는 기바드–새터스웨이트 정리, 그리고 1987년 한국 대선과 2002년 프랑스 대선, 2022년 알래스카 보궐선거의 숫자가 기다립니다.

편	주제
Part 1	콩도르세의 역설
Part 2 (이 글)	애로의 불가능성 정리
Part 3	전략 투표와 분류 흐름도
Part 4	서바이벌·예능의 투표
Part 5	게임 속 투표
Part 6	영화·드라마·만화·애니메이션 속 투표

References#

이론의 원전은 고전 문헌이고, 제도의 현황(승인 투표 금지, 유엔 예비 투표)은 2024~2026년 자료로 확인했습니다.

고전 문헌

Kenneth J. Arrow, “A Difficulty in the Concept of Social Welfare”, Journal of Political Economy 58(4): 328–346 (1950)
Kenneth J. Arrow, Social Choice and Individual Values, Wiley (1951), 2판 Yale University Press (1963) — Cowles 소개 페이지
Julian H. Blau, “The Existence of Social Welfare Functions”, Econometrica 25: 302–313 (1957)
Kenneth O. May, “A Set of Independent Necessary and Sufficient Conditions for Simple Majority Decision”, Econometrica 20(4): 680–684 (1952)
Duncan Black, “On the Rationale of Group Decision-making”, Journal of Political Economy 56(1): 23–34 (1948)
Harold Hotelling, “Stability in Competition”, Economic Journal 39(153): 41–57 (1929)
Anthony Downs, An Economic Theory of Democracy, Harper (1957)
Amartya Sen, “The Impossibility of a Paretian Liberal”, Journal of Political Economy 78(1): 152–157 (1970)
Steven J. Brams & Peter C. Fishburn, “Approval Voting”, American Political Science Review 72(3): 831–847 (1978)

해설·연구

Robert W. Dimand, European Journal of the History of Economic Thought 30(5): 791–811 (2023) — 1948년 RAND, 헬머의 질문, 애로 회고의 시기 문제
John Geanakoplos, “Three Brief Proofs of Arrow’s Impossibility Theorem”, Economic Theory 26: 211–215 (2005)
Michel Balinski & Rida Laraki, “A theory of measuring, electing, and ranking”, PNAS 104(21): 8720–8725 (2007)
The Sveriges Riksbank Prize in Economic Sciences 1972 — 보도자료, nobelprize.org
“Lady Chatterley’s Lover or the Poverty of Social Choice”, Econlib 칼럼 (2015) — 센의 예시

제도 현황 (최신 자료)

파고 승인 투표 도입(2018)과 노스다코타 HB 1297 금지(2025년 4월): approval.vote 보고서, Inforum·Bismarck Tribune·AP 보도
세인트루이스 Proposition D(2020)와 미주리 Amendment 7(2024)의 예외 조항: Ballotpedia, KCUR 보도
유엔 사무총장 예비 투표 방식: PassBlue (2016-07-21), 2026년 선출 과정 보도