선거가 민의를 반영하지 못하는 이유, <대통령을 위한 수학>

대통령을 위한 수학

조지 슈피로 지음·차백만 옮김/살림/384쪽/1만5000원

이 글이 지면에 게재되고 4일 뒤면 제18대 대통령 선거가 치러진다. 4000여만명의 유권자들은 오전 6시부터 오후 6시까지 다음 5년간 한국의 대통령을 뽑을 권리를 갖는다. 

최고 지도자나 국회의원을 뽑는 방법은 나라마다 조금씩 다르다. 한국에선 한 차례의 직접 선거에서 가장 많은 득표수를 기록한 후보가 대통령아 된다. 국회의원은 지역구 의원과 비례대표 의원으로 구분된다. 비례대표 의원은 정당 득표율에 비례대표 의석수(54석)를 곱해 나온 수에 따라 배정된다. 이때 소수점 이하는 일단 배제한 뒤, 잔여의석은 소수점 이하가 큰 정당 순으로 54석을 다 채울 때까지 한 석씩 나눠 갖는다. 지난 4월 치러진 제19대 국회의원 선거에선 새누리당이 152석(지역구 127석, 비례대표 25석), 민주통합당이 127석(지역구 106석, 비례대표 21석), 통합진보당이 13석(지역구 7석, 비례대표 6석)을 가져갔다. 

이 방법은 옳은걸까. 다시 말해 민의를 정확하게 반영하는 걸까. 정당, 후보자, 유권자대로 조금씩 불만이 있다. 특히 올해는 기존 정당에 소속되지 않은 중도 성향의 안철수 후보가 유력하게 부상해 대선 판도를 흔드는 바람에 현재의 대통령 선거 방식에 대해 말들이 많았다. 안 후보는 문재인 민주통합당 대선 후보와 함께 아슬아슬한 후보 단일화 협상을 벌였는데, 그 과정에서 두 후보와 지지자들의 감정이 격해지기도 했다. 여권 혹은 야권 후보 단일화와 관련한 이슈는 매 대선 때마다 튀어나왔다. 이럴 바에는 별도의 단일화 협상 없이 모두가 출마한 뒤 1, 2위 후보들디 따로 결선 투표를 치르는 프랑스 방식을 도입하자는 여론도 있었다. 국회의원 선출 제도에 대해서도 개선 움직임이 있다. 어떤 이들은 정당 지지율과 실제 의석수가 일치하지 않는 현 제도의 문제점을 들어 ‘독일식 정당명부제’를 대안으로 제시한다.

<대통령을 위한 수학>은 민주주의의 제도적 실현 과정에서 나타나는 여러가지 수학적 난제들을 다룬다. 고대 그리스의 민주주의부터 프랑스 혁명기를 거쳐 현대의 대통령 선거제도에 이르기까지 민의를 정확하게 반영하기 위해 제시된 온갖 방안들을 살펴본다. 결론부터 살피면 조금 허무할지도 모른다. 수학자이자 저널리스트인 저자는 이렇게 말한다. “민주주의에 대한 복잡한 수학적 문제는 결코 해결되지 않을 거라는 안타까운 결론에 다다르게 된다.”

잘 알려져있다시피 플라톤은 민주주의를 싫어했다. 제대로 교육받지 않아 올바르게 생각하지 못하는 대중에게 권력이 간다면 나라가 잘못될 것이라 생각했기 때문이다. 스승 소크라테스가 ‘적법’한 절차에 의해 사형을 당한 것도 이런 플라톤의 생각을 굳혔을 것이다. 그래서 플라톤은 크레테 섬에 건설될 새로운 도시국가 마그네시아에 적용하기 위해 쓴 <법률론>에서 잘 교육받은 사람들, 즉 부유한 귀족이 국가 지도층에 뽑히는 교묘한 방안을 제시했다. 후보자들은 여러 차레의 투표에 걸쳐 걸러지는데, 최종투표를 앞둔 유권자들은 “신에게 바칠 동물을 이끌고 걸어가야 한다”고 적었다. 명목은 유권자들이 투표의 중대성을 인식하고 옳은 결정을 내려달라고 신에게 도움을 청한다는 것이었지만, 실제로는 제물로 바칠 동물을 살 돈이 있고 하루를 몽땅 선거에 소비할 수 있는 사람, 즉 부유한 귀족에게 유리한 선거 국면을 조성하기 위해서였다. 

이번 대선에서도 치러질뻔했던 삼자대결의 문제점을 생각한 이도 있었다. 2세기 로마 제국의 관리 플리니우스였다. 한 전직 집정관의 살해 사건에 대해 그의 노예들이 용의선상에 올랐다. 원로회는 세 가지 형량 중에서 하나를 결정할 수 있었다. 유죄일 경우엔 유배 혹은 사형이었고, 아니면 무죄였다. 재판이 시작되자 40%의 의원이 무죄를 지지했고, 유배와 사형은 각각 30%였다. 형량이 다수결로 결정된다면 용의자들이 무죄로 풀려날 가능성이 높았기에, 유배와 사형을 지지하는 의원들은 힘을 합치기로 했다. 사형 지지 의원들이 입장을 바꿔 유배 쪽에 선 것이다. 플리니우스는 이를 ‘투표 조작’이라고 주장했지만, 소용이 없었다. 

13세기 스페인의 신학자 라몬 유이는 이 딜레마를 풀어보려했다. 유이는 2라는 숫자에 사로잡혀 있었다. 그는 종교소설 <블랑케르나>에서 수녀원장 선출 방법을 제안한다. 9명의 후보가 있다고 할 경우, 모든 수녀는 다른 수녀와 빠짐없이 양자대결을 펼친다. 승리한 수녀는 1점을 얻는데, 가장 많은 점수를 얻은 수녀가 원장이 된다. 동점을 얻은 후보자가 있다면 재투표를 하고, 그래도 동점이라면 추첨을 한다. 유이는 신학자답게 절대진리, 즉 신이 제시하는 해답을 믿었고, 그래서 신이 추첨애 개입해 결국은 올바른 사람이 선출되리라고 생각했다. 

그러나 이 방법은 시간이 너무 많이 걸린다. 그래서 유이는 다른 방식의 양자 대결도 구상했다. 후보자들이 한 줄로 선다. 첫번째 후보자는 두번째 후보자와 대결하고, 거기서 이긴 후보자가 세번째 후보자와 대결한다. 승자는 다시 네번째 후보자와 붙는다. 이런 방식은 투표 시간을 단축 시킬 수 있지만 치명적인 약점도 있었다. 후보의 자질에는 이행성(transitivity)이 없기 때문이다. 코끼리는 말보다 크고, 말은 개보다 크다. 그렇다면 코끼리는 개보다 크다고 할 수 있다. 반면 베어스 야구팀이 자이언츠를 이기고, 자이언츠가 라이온스를 이겼다고 해서 베어스가 라이온스를 이긴다고 할 수는 없다. 전자의 경우 이행성이 있고, 후자에는 없다. 

선거 제도에 대한 더욱 본격적인 논의는 프랑스 혁명 이후 폭발했다. 새로운 정치제도를 개발해야했던 혁명기의 프랑스 지식인들은 전래로 공정하다고 여겨진 다수결에 의문을 제기했다. 다수결은 신의 뜻을 드러내지 않으며, 오직 사회의 편의 때문에 채택됐을 뿐이기에 모순을 내재하고 있다는 것이다. 18세기 프랑스 과학자 장 샤를 드 보르다도 그 중 하나다. 보르다는 다수결은 2명이 출마했을 때만 옳을 뿐, 3명 이상의 후보가 있으면 왜곡된 결과를 낳을 수 있다고 주장했다. 예를 들어 21명의 학생이 반장 선거를 한다고 하자. 8명은 다인, 7명은 지웅, 6명은 윤우에게 투표했다. 다수결이라면 다인이 반장이 된다. 그러나 21명 유권자의 선호도를 살피면 결과가 달라진다. 8명의 유권자는 다인>윤우>지웅 순으로, 7명의 유권자는 지웅>윤우>다인 순으로, 6명의 유권자는 윤우>지웅>다인 순으로 지지했다. 만약 다수결이 아니라 라몬 유이가 제안한 양자대결 방식이었다면 지웅 혹은 윤우가 다인을 이겼을 것이다. 3명의 후보 중 다인을 가장 싫어하는 유권자가 13명으로 그를 지지하는 유권자 8명보다 많기 때문이다. 좋아하는 사람이 많은 후보와 싫어하는 사람이 적은 후보 중 어느 쪽을 택해야 할까. 

비슷한 시기 활약한 피에르시몽 드 라플라스는 전략적 투표에 대한 우려를 제기했다. 후보별 선호도를 조사할 경우, 특정 후보의 강력한 팬인 유권자는 그의 라이벌 후보를 최하위 순위에 배치해 결과에 영향을 끼칠 수 있다는 것이다. 그러므로 선호도 조사는 그다지 뛰어나지 않은 어중간한 후보가 어부지리로 선출될 가능성을 남긴다. 라플라스는 다시 다수결로 돌아가면서 이에 과반수라는 조건을 덧붙였다. 그런데 여러 명의 후보자를 둔 여러 차례의 투표에서도 과반수가 나오지 않는다면? 라플라스는 엄밀한 수학자답지 않게 어정쩡한 대안을 내놓았다. 유권자들은 선거를 빠른 시간에 끝내길 원하기 때문에, 투표를 거치면서 과반수 후보가 자연스럽게 나온다는 것이다.

최고 지도자 선출 뿐 아니라 국회의원 수 배정에 대해서도 복잡한 논의들이 오갔다. 미국 헌법은 의원 숫자가 국민 3만명 당 1명을 넘을 수 없으며, 각 주는 최소 한 명의 의원을 갖도록 규정한다. 그러나 각 주별 인구수에 따라 의원수를 배정할 때 소수를 내리느냐 올리느냐, 인구가 작은 주를 어떻게 처리해야 하느냐에 따라 각 주별 의원수와 전체 의원수가 오락가락했다. 각 주들은 의원수를 조금이라도 더 많이 갖기 위해 치열한 논리 대결을 펼쳤지만 그 누구도 모두를 설득시키는데는 실패했다. 200년이 지나도록 미국의 의원수는 미봉책에 미봉책을 거듭하며 오늘에 이르렀다. 

급기야 1972년 노벨경제학상 수상자인 케네스 애로는 개인의 선호도를 종합해 사회의 선호도를 도출하려는 시도는 완벽한 성공을 거둘 수 없다는 점을 수학적으로 증명했다. 즉 완벽한 민주적 선택절차는 없다는 이야기다. 애로에 따르면 유권자의 사표나 후보를 등록한 정당의 꼼수를 완전히 막을 방법은 존재하지 않는다. 

민주주의를 완벽하게 구현할 방법을 찾아달라고 수학자들에게 부탁했더니, 한참을 연구한 수학자들은 그런 방법은 없다고 답한 셈이다. 사실 대통령, 국회의원 선거만 민의를 대변하는 방식과 관계되는 것은 아니다. <나는 가수다>나 <슈퍼스타K> 같은 오디션 프로그램의 우승자 선발, 네티즌이 참여하는 포털 사이트의 영화 평점 매기기, 회식 메뉴를 정하기 위한 직장인들의 논의도 민의 대변 방식과 관련 있다. 이런 일들에는 항상 공정성 시비가 따른다. 다수결인가, 과반수인가, 선호도 조사인가. 무엇이 개인의 마음 속 선호도를 집단의 선호도로 연결시키는 제도인가. 

수학을 무시할 수는 없다. 그러나 다시 문제는 정치다. 민주주의를 하려면 지루할 정도로 오랜 소통과 타협과 양보와 이해의 시간을 거쳐야 할 지도 모른다. 그것을 견딜 수 없다면? 정치 제도에 대해서는 플라톤주의자가 되는 수밖에.