AI를 둘러싼 과학기술의 혁신적 발달과
민주주의의 정치 관계를 제대로 들여다보다!

우리는 AI 시대에 살고 있다. 지난날 세 차례의 산업혁명보다 빛의 속도로 진화하고 있는 4차 혁명의 핵심인 AI는 우리 생활 곳곳에 스며 있다. 자율자동차는 물론, 로봇 청소기, 냉장고, 에어컨, 세탁기 등 가전제품에도 AI 기술을 접목하여 인간의 수고로움이 한결 줄어들었다. 어디 그뿐이랴. SBS-TV의 한 예능프로그램에 심심치 않게 등장하는 ‘쪼꼬미’라는 AI 로봇은 얼굴 인식과 음성 인식을 탑재하여 인간과 맞춤 대화가 가능하다. 또한 의료계와 법조계, 군사 분야 등 다양하게 활용되고 있다.
이렇듯 첨단 과학기술의 산물인 AI가 우리의 생활에 획기적인 혜택을 가져다준 반면, AI를 이용해 특정 인물을 특정 영상에 합성한 딥페이크(deepfake) 동영상으로 사실을 왜곡하거나 허위 정보와 가짜뉴스로 극심한 정치 양극화를 불러일으켜 정치사회적으로 큰 문제가 되고 있으며 민주주의에 위협을 가하고 있다.
현재 미국 워싱턴 DC에 거주하면서 한국과 미국의 정부 기관 정책 분석 프로젝트를 수행하고 자유 기고가로 활동하는 정치학 박사 박재형은 2022년 《AI는 중립적인가? _과학기술과 정치》에 이어, AI가 현대 민주주의 정치에 미치는 광범위한 영향과 그 대응에 관한 문제의식과 함께 AI 등 과학기술의 혁신적 발달과 민주주의의 관계를 이해하려는 목적에서 《AI는 민주주의 도구일까?》를 펴냈다. 그는 이 책을 쓰게 된 배경을 이렇게 밝힌다.

이 책은 정치사회 현상에 대한 이해력을 높이려는 목적으로 집필했다. 과학기술의 급속한 발달과 함께 모든 것이 진보하고 있지만, 미국과 한국 등 세계 각국의 정치는 갈수록 퇴보 중이라는 비판이 이어진다. 이러한 정치적 퇴보의 핵심은 갈수록 깊어지는 정치적 양극화이며, AI 등 첨단 과학기술이 그 주요 배경이라는 설명이 힘을 얻고 있다. 특히 정보기술(IT) 활용이 세계 어느 나라보다 활발한 한국에서 AI가 정치에 미치는 영향은 생각보다 매우 크다. 이에 따라 AI와 민주주의 정치의 관계를 이해하는 것은 정치사회 현상에 대한 올바른 이해의 기본이라고 할 수 있다.

저자는 이 책에서 다양한 사례와 정치사회적 배경 등은 거의 미국 상황을 중심으로 다루었다. 그 이유는 정치적 혼란과 양극화가 깊어지는 한국의 정치 상황을 주요 배경으로 한다면 저자의 의도와 상관없이 자칫 정치적 논쟁으로 이어질 우려가 있어 되도록 한국의 정치 상황 관련 내용은 다루지 않았으며, 더 나아가 우리의 청소년을 비롯해, 일반인까지 아우르는 폭넓은 독자층을 위한 배려이기도 하다.

이 책은 AI를 민주주의 도구로써 어떻게 활용해야 하는지가 핵심이다. 결론적으로 말한다면, AI 모델은 투명해야 하고, 그 결정은 설명 가능해야 한다. AI 시스템의 영향을 받는 사람은 왜 특정 결정을 내렸는지 이해할 수 있어야 하며, AI는 모든 개인을 공정하게 대해야 하고, 차별적 결과를 초래할 수 있는 편견을 피해야 한다. 아울러 AI 도구는 사용자의 개인정보와 개인 데이터를 존중해야 한다. 여기에는 데이터를 보호하는 것뿐만 아니라 데이터 사용 방식을 통제할 수 있는 사용자의 권리 존중도 포함된다.
이처럼 AI가 민주정치에 미치는 영향은 단순한 기술 문제가 아니라 인간 사고의 본질과 정치적 권한의 정당성에 대한 철학적 질문으로 이어진다. 인간 이성의 한계를 보완할 도구가 될 것인지, 아니면 민주주의의 기초를 흔드는 존재가 될 것인지는 앞으로의 사회적 선택에 달려 있으며, 독자들이 이 점에 유념해서 이 책을 읽어 내려가면 AI와 민주주의의 상생을 충분히 이해할 수 있는 기회가 될 것이다.


AI가 인간 사회에 어떻게 긍정적으로 기여할지,
AI 시대에 걸맞은 담론을 펼치다!

전 세계적인 AI의 기술 확산으로 지금 우리는 민주주의 체계에 관해 기술적 설계뿐만 아니라 철학적·윤리적 기준을 함께 고민해야 하는 시대에 접어들었다. 또 데이터를 기반으로 텍스트, 이미지, 오디오, 비디오 등 새로운 콘텐츠를 생성하는 데 초점을 맞춘 대규모 AI 모델을 기반으로 한 챗GPT 등 생성형 AI는 드러나지 않는 상태에서 엄청난 양의 콘텐츠를 만들어냄으로써 미디어 환경, 인터넷, 정치 대화 등에 의미 없는 말들을 넘쳐나게 할 수 있다. 게다가 AI 기업 빅테크의 개인정보 보호 위반은 물론, 지적 재산권 갈등 등 AI 규제와 혁신 등의 과제도 만만치 않은 문제로 부상하고 있다. 따라서 앞으로 AI가 인간 이성의 한계를 보완할 도구가 될 것인지, 아니면 민주주의의 기초를 흔드는 존재가 될지는 사회적 선택에 달려 있다.
이러한 한계를 극복하려면 민주적 감시체계가 필요하다. 이에 따라 독립된 규제 기관을 설립하고, 시민사회와 정부 감시단이 기술 정보를 실제 감시와 대응으로 전환할 수 있도록 디지털 리터러시 교육을 강화해야 하고, 또한 책임 구조도 강화되어야 한다. AI를 이용한 편향 콘텐츠 확산, 선거 결과 조작 등에는 명확한 법적 책임이 수반되어야 한다. 이는 민주주의의 윤리적 기준을 지키기 위한 최소한의 장치다. 궁극적으로는, 기술의 이점을 살리되 시민의 공정한 참여와 알 권리를 침해하지 않는 포괄적 규제 체계가 필요하다. AI의 진보가 민주주의의 근간을 흔들 수 없도록, 민주적 통제력은 기술 발전만큼이나 빠르게 진화해야 한다.
결국 이 책의 핵심 내용은 민주주의의 근간을 유지하는 일은 단지 기술의 진보를 따라잡는 것이 아니라, 그 진보를 민주적 가치와 조화시키는 집단적 노력에 달려 있다는 것이다. AI가 인간 사회에 긍정적으로 기여할지의 여부는 기술 그 자체보다 인간이 어떤 철학과 윤리를 가지고 그것을 운용하느냐에 따라 민주주의 도구로써 그 역할을 다할 수 있을 것이다.

모두 5장으로 이루어진 이 책은 1. ‘AI 민주주의’로 시작한다. AI가 과연 민주주의를 위협할지에 대한 의문에서 출발하여 정치에 대한 AI의 영향, 민주주의를 위한 도구로써 AI, 그리고 AI와 사법의 통합을 다룬다. 2. AI는 민주적인가’에서는 AI와 민주주의 문제, 디지털 플랫폼과 민주주의, AI와 선거, 알고리즘 정치, 빅테크를 둘러싼 AI 거버넌스를 살펴본다. 3. ‘AI의 정치적 문제’에서는 가짜뉴스, 이를 지지층 결집 수단으로 삼는 정치인, AI 딥페이크, 인플루언서와 결합한 음모론이 펼쳐진다. 4. ‘AI, 어떻게 규제할 것인가’에서는 AI와 디지털 플랫폼 규제, AI와 국제 정치, AI 규제와 혁신을 밀도 있게 다룬다. 5. ‘AI의 사법적 가능성’에서는 견제와 균형을 무시하는 정치의 사법화에서 AI를 활용한 해결 가능성, AI와 법원, 법률 서비스 혁신의 핵심으로 부상한 AI 변호사를 살펴본다.

AI는 민주주의를 효율적으로 보완할 수 있지만 동시에 알고리즘 편향, 잘못된 정보 확산, 여론 조작 등의 위험으로 인해 민주주의를 위협할 수 있다. 이처럼 AI는 민주주의를 위한 도구이자 동시에 위험 요소로 작용할 수 있어 사회적 선택과 규제의 중요성이 커지고 있다는 점에서, 이 책은 앞으로 AI 시대를 살아갈 우리 모두에게 많은 생각과 고민 그리고 그 해결 방안을 세우는 데 많은 도움이 되리라 기대한다.