“AI가 민주주의를 대신할 수 있는가”…역사가 질 레포어가 경고한 ‘인공국가’

인공지능(AI)이 인간의 판단을 보조하는 단계를 넘어 정치와 행정의 의사결정까지 맡게 된다면 민주주의는 어떻게 달라질까. 미국의 역사학자 질 레포어(Jill Lepore)가 기술과 데이터가 국가와 민주주의의 기능을 변화시키는 과정을 역사적 관점에서 분석한 신간을 내놓으며 AI 시대의 권력 문제를 제기했다.

국제학술지 ‘사이언스(Science)’는 28일 공식 X 계정을 통해 레포어의 신간 ‘인공국가의 흥망(The Rise and Fall of the Artificial State)’에 대한 서평을 소개했다. 사이언스는 레포어가 책에서 ‘인공국가(Artificial State)’라는 개념을 통해 기계와 알고리즘에 의존하는 통치가 민주주의에 어떤 영향을 미칠 수 있는지를 살펴본다고 전했다.

책은 지난 25일 미국에서 출간됐다. 레포어는 하버드대학교 미국사 교수이자 하버드 로스쿨 교수이며, 미국 시사잡지 뉴요커(The New Yorker)의 필진으로 활동하고 있다. 그는 2024년 뉴요커에 발표한 ‘The Artificial State’에서 제기했던 문제의식을 이번 책에서 보다 폭넓은 역사적 맥락으로 확장했다.

레포어가 말하는 ‘인공국가’는 단순히 AI가 대통령이나 정부를 대신하는 미래 국가를 뜻하지 않는다. 국가가 담당해온 정보와 공론장, 정치적 판단 등의 기능이 데이터와 알고리즘, 거대 기술기업의 시스템으로 점차 이동하는 현상을 포괄하는 개념에 가깝다. 그는 자유주의적 국민국가와 헌법적 민주주의의 일부 기능이 민간 다국적 기업에 넘어가고 있다는 점에 주목한다.

대표적인 사례가 온라인 공론장이다. 과거 시민들이 언론이나 공공장소를 통해 정치적 의견을 나눴다면 오늘날 상당 부분의 정치적 소통은 민간 기업이 운영하는 디지털 플랫폼에서 이뤄진다. 이 과정에서 어떤 정보가 노출되고 확산될지는 알고리즘의 영향을 크게 받는다.

레포어는 데이터에 기반한 정치 역시 오랜 역사적 흐름 속에서 바라본다. 인구조사와 통계에서 시작해 20세기 컴퓨터 기술, 여론조사와 선거 예측, 인터넷과 소셜미디어, 머신러닝과 생성형 AI에 이르기까지 인간과 사회를 수치화하고 예측하려는 기술이 정치에 지속적으로 도입돼 왔다는 것이다. 출판사와 관련 서평들도 이 책이 전후 컴퓨터 기술이 상업과 언론, 정치와 통치 영역으로 확대돼 온 과정을 추적한다고 설명한다.

특히 최근 AI는 선거와 정치 커뮤니케이션에도 빠르게 들어오고 있다. 선거운동 메시지 작성과 유권자 분석, 맞춤형 광고뿐 아니라 챗봇을 통한 정치 정보 탐색 등 활용 범위가 넓어지고 있다. 레포어는 이러한 변화가 효율성을 높일 가능성과 별개로 시민의 토론과 판단이 데이터 분석과 자동화된 예측으로 대체될 가능성을 경계한다.

다만 레포어의 주장은 AI 기술 자체를 부정하는 데 초점이 맞춰져 있지는 않다. 핵심은 기술을 누가 소유하고 어떤 원칙에 따라 사용하는지, 그리고 그 과정에 시민과 민주적 제도가 얼마나 관여할 수 있는지에 있다. 최근 영국 가디언의 서평 역시 레포어가 AI 자체보다 기술을 개발하고 사용하는 과정에 일관된 민주적·윤리적 틀이 부족하다는 점을 문제로 제기한다고 평가했다.

레포어는 역사학자 한나 아렌트의 1951년 저서 ‘전체주의의 기원(The Origins of Totalitarianism)’에서도 문제의식을 가져왔다. 아렌트가 현대사회의 거대한 시스템과 전체주의가 인간의 존재와 정치적 자유에 미치는 영향을 추적했다면, 레포어는 이를 데이터와 자동화, AI가 빠르게 확산되는 21세기의 상황과 연결한다.

사이언스가 X를 통해 강조한 또 하나의 대목은 ‘인공국가’가 피할 수 없는 미래는 아니라는 점이다. 레포어는 오늘날의 기술·정치 구조 역시 사람들이 만들어낸 제도와 선택의 결과인 만큼 그 형성과정을 이해한다면 다른 방향으로 변화시키는 것도 가능하다고 주장한다.

AI가 과학과 의료, 교육, 산업 등에서 새로운 가능성을 열고 있는 것과 별개로 정치와 행정에 AI를 어디까지 활용할 것인가는 또 다른 문제다. 효율적인 기술 활용과 인간의 판단, 시민의 참여와 민주적 책임 사이에서 어떤 원칙을 세울 것인지가 AI 시대의 새로운 과제로 떠오르고 있다.