투표의 역설 Part 1: 다수결이 가위바위보가 될 때 — 콩도르세의 역설

이 글은 Claude Opus 5.5 를 이용해 초안이 작성되었으며, 이후 퇴고를 거쳤습니다.

들어가며#

이 블로그는 서바이벌과 게임의 장면을 게임 이론으로 읽는 시리즈를 이어 왔습니다. 죄수의 딜레마는 “협력할 것인가” 를, 트롤리 딜레마는 “누구를 희생시킬 것인가” 를, 달러 경매는 “언제 그만둘 것인가” 를 물었습니다. 이번에는 서바이벌에서 가장 자주 나오는 장면, 투표 입니다. 리더를 뽑고, 탈락자를 정하고, 상금을 어떻게 나눌지 손을 듭니다.

투표는 공정해 보입니다. 한 사람이 한 표를 갖고, 많이 받은 쪽이 이깁니다. 그런데 선택지가 셋 이상 이 되는 순간 이상한 일이 생깁니다. 모두가 정직하게 투표해도 다수의 뜻이 하나로 모이지 않거나, 표를 세는 방법만 바꿨는데 당선자가 바뀝니다. 이런 현상을 묶어 투표의 역설(voting paradox) 이라고 부릅니다. 이 시리즈가 다룰 함정은 크게 셋입니다.

이 시리즈는 여섯 편입니다.

1. 세 사람, 세 메뉴#

가장 작은 예부터 보겠습니다. 친구 셋이 저녁 메뉴를 다수결로 정합니다. 후보는 치킨, 피자, 족발이고, 각자의 선호 순위는 이렇습니다.

1순위 표는 하나씩 갈려 승부가 나지 않습니다. 그래서 둘씩 붙여 다수결을 해 봅니다.

• 치킨 대 피자: 민지와 서연이 치킨을 더 좋아합니다. 치킨이 2 대 1 로 이깁니다.
• 피자 대 족발: 민지와 준호가 피자를 더 좋아합니다. 피자가 2 대 1 로 이깁니다.
• 족발 대 치킨: 준호와 서연이 족발을 더 좋아합니다. 족발이 2 대 1 로 이깁니다.

치킨은 피자를 이기고, 피자는 족발을 이기고, 족발은 치킨을 이깁니다. 가위바위보입니다. 세 사람 모두 자기 순위는 앞뒤가 맞습니다(치킨을 피자보다, 피자를 족발보다 좋아하면 치킨을 족발보다 좋아합니다). 그런데 세 사람의 순위를 다수결로 모으자 앞뒤가 맞지 않는 순위가 나왔습니다. 어느 메뉴를 고르든, 나머지 둘 중 하나를 “다수가 더 좋아한다” 고 말할 수 있습니다.

이것이 투표의 역설의 가장 기본형, 콩도르세의 역설(Condorcet paradox) 입니다. 수학 용어로 말하면 개인의 선호는 이행적(transitive) 인데, 다수결로 모은 집단의 선호는 이행적이지 않습니다.

2. 콩도르세의 60명 (1785)#

이 현상에 이름을 남긴 사람은 프랑스의 수학자이자 철학자 콩도르세 후작(Marquis de Condorcet, 1743~1794) 입니다. 그는 1785년 『다수결로 내린 결정의 확률에 대한 해석학의 응용 시론』¹에서 다수결을 확률로 분석했고, 그 과정에서 이 순환을 보였습니다. 연구자들이 그의 예로 소개하는 것은 투표자 60명, 후보 셋(A, B, C)의 다음 경우입니다.

둘씩 붙이면 결과는 이렇습니다(직접 세어 보면 같은 값이 나옵니다).

flowchart LR
    A["A"] -- "33 대 27 로 이긴다" --> B["B"]
    B -- "42 대 18 로 이긴다" --> C["C"]
    C -- "35 대 25 로 이긴다" --> A
    style A fill:#FFD700,color:#000000
    style B fill:#87CEEB,color:#000000
    style C fill:#90EE90,color:#000000

A 는 B 를, B 는 C 를, C 는 A 를 이깁니다. 세 메뉴 예와 같은 순환이 60명 규모에서도 생깁니다.

콩도르세가 바란 것은 단순했습니다. 다른 모든 후보를 일대일 다수결로 이기는 후보 가 있다면 그 후보가 당선되어야 한다는 것입니다. 오늘날 이런 후보를 콩도르세 승자(Condorcet winner) 라고 부릅니다. 순환은 바로 이 콩도르세 승자가 존재하지 않는 상황입니다. 다수결로 가장 공정한 답을 찾으려는 사람에게, 답이 없는 경우가 있다는 뜻입니다.

한 가지 덧붙이면, 콩도르세가 이 현상을 직접 “역설” 이라고 불렀다는 기록은 확인하지 못했습니다. 이름은 후대에 붙은 것으로 보입니다.

3. 보르다의 21명 — 최다 득표자가 과반수의 꼴찌#

콩도르세와 같은 시기, 같은 프랑스 왕립 과학 아카데미에는 또 한 사람의 투표 연구자가 있었습니다. 해군 기술자이자 수학자인 장샤를 드 보르다(Jean-Charles de Borda, 1733~1799) 입니다. 그의 논문 「투표에 의한 선거에 관한 논고」는 아카데미의 1781년 권에 실렸습니다. 다만 그 권이 실제로 인쇄된 것은 1784년이고, 보르다 자신은 각주에서 1770년에 아카데미에서 발표했다고 적었습니다. 이 1770년 발표는 보르다의 각주 말고는 기록이 확인되지 않습니다.

보르다가 문제 삼은 것은 우리에게 가장 익숙한 방식, 1위 표만 세어 가장 많이 받은 후보를 뽑는 방식(단순 다수제)입니다. 그의 예는 21명입니다.

1위 표는 A 8표, B 7표, C 6표입니다. 단순 다수제라면 A 가 당선 됩니다. 그런데 A 를 꼴찌로 꼽은 사람은 7 + 6 = 13명, 21명 가운데 과반수입니다. 일대일로 붙이면 A 는 B 에게도, C 에게도 8 대 13 으로 집니다. 반대로 C 는 A 를 13 대 8, B 를 13 대 8 로 이기는 콩도르세 승자입니다. 1위 표가 가장 적은 후보가 사실은 다수가 가장 선호하는 후보였습니다.

보르다의 처방은 1위 표만 세지 말고 순위 전체를 점수로 바꿔 더하는 것 입니다. 후보가 셋이면 1위에 3점, 2위에 2점, 3위에 1점을 줍니다(점수를 하나씩 낮춰 0~2점으로 줘도 순서는 같습니다). 이 방식을 오늘날 보르다 계산법(Borda count) 이라고 부릅니다. 위 21명에 적용하면 A 37점, B 42점, C 47점 으로 C 가 당선됩니다.

같은 문제를 보고 두 사람이 내놓은 답은 달랐습니다.

보르다 계산법의 약점은 작은 예로도 보입니다. 이 글이 만든 예로, 다섯 명 가운데 셋이 A > B > C, 둘이 B > C > A 라고 해 봅시다. A 는 B 와 C 를 모두 3 대 2 로 이기는 콩도르세 승자입니다. 그런데 보르다 점수는 A 11점, B 12점, C 7점으로 B 가 이깁니다. B 를 2위로 꼽은 세 사람의 점수가 쌓였기 때문입니다.

보르다의 논문에 붙은 아카데미의 해설은 당시 종신서기였던 콩도르세가 썼을 가능성이 크다고 합니다. 두 사람은 같은 기관 안에서 서로의 방식을 비판한 셈입니다. 프랑스 학사원은 1795년부터 회원 선출에 보르다 계산법을 썼다가, 1800년 나폴레옹이 투표 방식의 재검토를 요청한 뒤 쓰지 않게 되었습니다. 보르다 계산법의 또 다른 약점, 거짓 순위에 약하다 는 문제는 Part 3에서 다룹니다.

4. 순서를 정하는 사람이 결과를 정한다#

순환이 있으면 가장 이득을 보는 사람은 투표하는 사람이 아니라 투표 순서를 정하는 사람 입니다. 회의에서는 흔히 안건을 둘씩 차례로 붙입니다. 먼저 둘을 붙이고, 이긴 쪽을 남은 안과 다시 붙입니다. 2절의 60명에게 이 방식을 쓰면 결과는 순서에 따라 이렇게 갈립니다.

마지막에 들어간 후보가 이깁니다. 투표자 60명의 마음은 하나도 바뀌지 않았는데, 의장이 순서를 고르는 것만으로 셋 중 누구든 당선시킬 수 있습니다. 이것을 의제 조작(agenda manipulation) 이라고 합니다.

정치학자 윌리엄 라이커(William Riker) 는 1982년 『자유주의 대 포퓰리즘』에서 이런 조작이 실제 의회에서 일어난다고 주장했습니다. 대표 사례가 1956년 미국 하원의 학교 건설 지원 법안입니다. 흑인 하원의원 애덤 클레이턴 파월이 인종 분리 학교를 운영하는 주에는 지원금을 주지 않는다 는 수정안을 냈고, 수정안은 225 대 192 로 통과했습니다. 그러자 남부 민주당 의원들과 원래 법안에 반대하던 공화당 의원들이 함께 반대해, 수정된 법안은 194 대 224 로 부결되었습니다. 라이커는 원안·수정안·현상 유지 사이에 순환이 있었고, 수정안이 법안을 죽이는 장치로 쓰였다고 해석했습니다.

이 해석에는 강한 반론이 있습니다. 정치학자 제리 매키(Gerry Mackie) 는 2003년 『민주주의를 변호함』에서 라이커의 실증 사례를 하나씩 다시 검토했고, 파월 수정안도 당시의 표결과 토론으로 보면 수정안이 없었어도 법안은 통과하지 못했을 것이며 순환은 없었다 고 반박했습니다. 의제 조작은 이론적으로 분명히 가능하지만, 실제 사례로 확정하기는 어렵다는 것이 이 논쟁의 교훈입니다.

이론은 한 걸음 더 나아갑니다. 경제학자 리처드 매켈비(Richard McKelvey) 는 1976년, 정책이 한 줄이 아니라 두 개 이상의 축(예를 들어 세금과 복지)으로 이루어지면 일반적으로 콩도르세 승자가 없고, 의제를 쥔 사람이 다수결 표결을 이어 가며 공간의 거의 어느 점에든 도달할 수 있다 는 것을 보였습니다. 순서를 정하는 권력이 생각보다 훨씬 크다는 뜻입니다. 서바이벌에서 “누구 이름부터 부를까” 를 정하는 리더가 왜 강한지가 여기서 설명됩니다.

5. 순환은 얼마나 자주 생기나#

5.1 이론: 후보 셋이면 약 8.8%#

순환이 드문 사고인지 흔한 일인지는 가정에 따라 다릅니다. 가장 많이 쓰는 기준은 모든 투표자가 가능한 순위 가운데 하나를 똑같은 확률로 무작위로 고른다 는 가정입니다. 이 가정에서 투표자가 아주 많을 때 후보 셋 사이에 순환이 생길 확률은 프랑스 경제학자 길보(Guilbaud)가 1952년에 구한 값으로 약 8.77% 입니다.

후보가 늘면 콩도르세 승자가 없을 확률은 빠르게 커집니다.

후보가 많아질수록 이 값은 100% 에 가까워집니다. 그러나 이 숫자는 최악의 경우 로 읽어야 합니다. 2003년 체틀린·레겐베터·그로프먼의 연구는 바로 이 무작위 가정이 순환 확률을 가장 크게 만드는 가정이라는 것을 보였습니다. 현실의 유권자는 무작위로 순위를 매기지 않습니다. 진보와 보수처럼 비슷한 축 위에서 생각하는 경향이 있고, 그러면 순환이 크게 줄어듭니다. 이 이야기는 Part 2의 “단봉형 선호” 에서 다시 나옵니다.

5.2 현실: 실제 선거에서는 거의 보이지 않는다#

실제 자료는 이론보다 훨씬 조용합니다. 2006년 레겐베터 등은 『행동 사회 선택』에서 순환에 대한 걱정이 크게 과장되었다 고 정리했고, 진짜 위험은 순환보다 접전에서 다수의 뜻을 잘못 읽는 것이라고 보았습니다. 2025년 바르바로와 쿠렐라는 59개국 253개 선거의 설문 자료로 유권자의 순위를 재구성했는데, 어느 선거에서도 견고한 순환의 증거를 찾지 못했습니다. 지금까지 순환이 기록된 사례는 덴마크 유권자의 총리 선호 여론조사(2001년 보고) 같은 여론조사 수준에 머뭅니다.

그렇다면 콩도르세의 역설은 책 속의 장난감일까요. 그렇지 않습니다. 실제 선거에서 자주 문제가 되는 것은 순환 자체가 아니라 콩도르세 승자를 떨어뜨리는 개표 방식 입니다. 보르다의 21명처럼, 다수가 가장 선호하는 후보가 있는데도 제도가 그 후보를 놓치는 일입니다. 2009년 미국 벌링턴 시장 선거와 2022년 알래스카 하원 보궐선거에서 실제로 일어났고, Part 3에서 숫자와 함께 봅니다. 그리고 서바이벌처럼 투표자가 적고 후보가 많은 자리는 무작위 가정에 가까운 쪽이라, 순환과 의제 조작이 훨씬 쉽게 생깁니다.

6. 콩도르세 이전과 이후#

콩도르세와 보르다가 처음은 아니었습니다.

• 라몬 룰(Ramon Llull, 1232년경~1316): 마요르카의 철학자로, 수녀원장·수도원장·주교 같은 교회 직책을 뽑는 방법으로 후보를 둘씩 모두 붙여 가장 많이 이긴 후보를 뽑는 방식을 제안했습니다. 그의 글은 20세기에 재발견되었고, 2001년 헤겔레와 푸켈스하임의 연구로 널리 알려졌습니다.
• 니콜라우스 쿠자누스(Nicolaus Cusanus, 1401~1464): 1433~1434년의 『가톨릭 화합론』에서 황제 선출에 순위를 점수로 더하는 방식, 곧 보르다와 같은 방식을 제안했습니다.
• 루이스 캐럴(Lewis Carroll): 『이상한 나라의 앨리스』의 작가로 알려진 옥스퍼드의 수학자 찰스 도지슨은 1873~1876년 사이 대학 안의 선거를 계기로 투표 방법에 관한 팸플릿 세 편을 썼습니다. 콩도르세 승자가 없을 때 순위를 가장 적게 바꿔 콩도르세 승자가 될 수 있는 후보 를 뽑자는 그의 방식은 오늘날 도지슨 방식 으로 불립니다. 그런데 이 방식의 당선자를 계산하는 문제는 1989년 계산 복잡도 이론에서 NP-난해 로 밝혀졌습니다. 공정한 답을 정의할 수는 있어도 후보가 많으면 계산이 사실상 불가능할 수 있다는 것입니다.

같은 고민이 13세기, 15세기, 18세기, 19세기에 따로따로 나왔다가 잊혔습니다. 이 흩어진 문헌을 모아 현대 사회 선택 이론의 출발점으로 만든 사람이 스코틀랜드의 경제학자 덩컨 블랙(Duncan Black) 이고, 같은 문제를 한 장짜리 정리로 끝내 버린 사람이 Part 2 의 케네스 애로 입니다.

마치며#

콩도르세의 역설을 한 문장으로 줄이면 “각자는 앞뒤가 맞는데, 다수결로 모으면 앞뒤가 맞지 않을 수 있다” 입니다. 그 틈에서 두 가지가 생깁니다. 하나는 순서를 정하는 사람의 권력 입니다. 순환이 있으면 마지막에 올린 후보가 이깁니다. 다른 하나는 세는 방법의 권력 입니다. 같은 21명이 단순 다수제로는 A 를, 보르다 계산법으로는 C 를 뽑습니다.

다음 편은 질문을 하나 더 밀어붙입니다. 단순 다수제도, 보르다 계산법도, 콩도르세의 방식도 약점이 있다면, 약점이 없는 방식을 새로 만들 수는 없을까요. 1951년 케네스 애로는 그런 방식이 처음부터 존재할 수 없다 는 것을 증명했습니다.

References#

이 글의 사료는 18~20세기의 고전 문헌이 중심이고, 실증 연구는 2025년 자료까지 반영했습니다.

고전 문헌

• Condorcet, Essai sur l’application de l’analyse à la probabilité des décisions rendues à la pluralité des voix, Imprimerie royale (1785)
• Jean-Charles de Borda, “Mémoire sur les élections au scrutin”, Histoire de l’Académie Royale des Sciences 1781년 권(1784년 인쇄) — 영역: Pulskamp 번역 PDF
• Duncan Black, The Theory of Committees and Elections, Cambridge University Press (1958)
• William H. Riker, Liberalism against Populism, W. H. Freeman (1982)
• Richard D. McKelvey, “Intransitivities in multidimensional voting models and some implications for agenda control”, Journal of Economic Theory 12(3): 472–482 (1976)

해설·연구

• Janet Heine Barnett, “The French Connection: Borda, Condorcet and the Mathematics of Voting Theory”, MAA Convergence — 보르다의 21명 예시와 점수, 논문의 인쇄 연도, 학사원의 채택과 중단
• William V. Gehrlein, Condorcet’s paradox and the likelihood of its occurrence, LSE 워크숍 발표문 (2010) — 콩도르세의 60명 순환 예시
• Bernard Monjardet, Guilbaud 번역 서문, JEHPS (2008) — 순환 확률 8.77%
• Ilia Tsetlin, Michel Regenwetter, Bernard Grofman, “The impartial culture maximizes the probability of majority cycles”, Social Choice and Welfare (2003)
• Michel Regenwetter 외, Behavioral Social Choice, Cambridge University Press (2006)
• Gerry Mackie, Democracy Defended, Cambridge University Press (2003)
• Peter Kurrild-Klitgaard, “An empirical example of the Condorcet paradox of voting in a large electorate”, Public Choice 107 (2001)
• Barbaro & Kurella, Public Choice (2025) — 59개국 253개 선거, 견고한 순환 없음
• Voteview, 84th Congress House roll calls — 1956년 파월 수정안과 법안 표결
• Hägele & Pukelsheim, Llull’s writings on electoral systems (2001) — 룰과 쿠자누스
• Dodgson’s method — Wikipedia — 캐럴의 팸플릿 세 편, NP-난해