어떤 독자를 위한 책인가?
-. AI가 인류에게 좋은 동반자가 될 것인지, 두려움의 존재로 돌변할 것인지가 궁금한 독자
-. 인문학을 좋아하는, 그러면서 AI의 미래에 대해 궁금한 독자
-. 〈사피엔스〉, 〈넥서스〉를 흥미롭게 접한 독자, 끝까지 읽지 못한 독자
인공지능 자체가 권력이 된 시대, 우리에게 기회는 남아 있는가?
* 우리는 지금, 인공지능(AI)이라는 문명사적 전환점 앞에 서 있다. 이는 단순한 기술 혁신이 아니라, 권력의 본질을 다시 쓰는 사건이다. AI 시대의 권력은 이전 어느 시대보다도 더 미묘하고, 더 깊숙이 인간 내면에 침투한다. 그것은 인식과 행동을 설계하는 알고리즘의 힘이며, 때로는 인간의 인지 능력을 넘어서는 결정 능력이다. 특히 주목할 점은, 권력의 작동 방식이 점점 더 예측적(Predictive) 성격을 띠고 있다는 사실이다. 과거 권력이 사후적 통제와 처벌을 통해 작동했다면, 이제는 빅데이터와 예측 알고리즘이 선제적으로 우리의 행동을 조형한다. 넷플릭스는 우리의 취향을 예측하고, 아마존은 우리의 소비를 유도하며, 소셜 미디어는 우리의 관심사를 선제적으로 형성한다. 이러한 방식은 AI 시대 권력의 새로운 메커니즘을 단적으로 보여준다.
* 더욱 근본적인 변화는 권력의 비인격화(Depersonalization)이다. 알고리즘은 점점 더 시스템화되고, 그 결정은 종종 “시스템이 그렇게 정했다”는 말로 요약된다. 이는 근대 이전 시대에서 “신이 명령했다”는 말과 유사한 위상으로 작동한다. 그 결과, 권력의 주체를 특정하기 어려워지고, 저항하거나 질문하기도 더욱 까다로워진다. AI의 판단은 종종 인간의 인지를 초월한다. 2023년 말, 한 AI 신용 평가 시스템이 특정 고객의 대출을 거절했을 때, 그 이유를 시스템 개발자조차 명확히 설명하지 못했다. 이 사례는 예측적 권력이 어떤 방식으로 작동하며, 우리가 얼마나 그것을 이해하지 못할 수 있는지를 단적으로 보여준다.
* 역사는 반복되지는 않지만, 유사한 구조로 운율을 가진다. 권력의 외관은 달라져 왔지만, 정보의 비대칭성, 자원의 불균형, 의사결정의 불투명성은 과거나 지금이나 권력과 부, 소득의 지형에서 여전히 핵심적인 쟁점이다. 이 책은 그런 점에서, 기술과 권력이 어떻게 얽혀왔는지를 역사적으로 고찰하고, 그 위에 본격적으로 펼쳐질 AI 시대의 미래에 대한 통찰을 구축하고자 한다.
감수의 글
“인공지능, 그리고 인간의 자리”
지은이와 나는 지난 몇 년간 데이터 기반의 배터리 진단 솔루션이라는 주제로 함께 고민하며 일해왔다. 스타트업이라는 시대적 고충을 함께 감내하면서도, 우리는 사업과 기술만이 아닌, 사람에 대해, 그리고 인간의 행복이란 무엇인가에 대해 숱한 대화를 나눴다. 그 대화는 과학과 철학, 심리학까지 동원된 깊은 사유의 시간이기도 했다. 이 과정은 서로를 설득하려는 시도이자, 우리 스스로의 사고 지평을 넓혀가는 여정이었다. 지은이는 전기공학을 전공한 공학자이지만, 동시에 탁월한 소프트웨어 개발자이기도 하다. 물질과 에너지에 대한 물리적 이해 위에 논리적 사고를 펼치면서도, 직관의 중요성을 놓치지 않는다. 그는 인간이 때때로 비합리적으로 사고하고 행동한다는 사실을 있는 그대로 받아들이며, 그것이 역사를 통해 형성된 인간의 존재 방식임을 잘 이해하고 있다. 그런 점에서 그는 인간을 ‘공간적 존재’이자 ‘역사적 존재’로
바라보는 드문 기술자다.
이 책은 그런 그의 시선이 고스란히 담긴 결과물이다. 인공지능이라는 기술적 대상에 대한 단순한 찬탄이나 비판이 아니라, 인간이 인공지능의 소비자로 전락하며 권력 구조에서 소외될 수 있다는 본질적 문제를 제기한다. AI의 ‘제안하는 권력’은 우리의 인식과 행동 구조를 예측하고 조정함으로써, 인간의 자율성과 판단력을 점차 흐리게 만든다. 그 위험을 저자는 냉철하게 짚어내며, 독자들이 기존의 고정된 시선
을 벗어나 새로운 지평을 마주하길 바란다. 또한, 인공지능이 만들어내는 ‘몰지각’과 ‘몰윤리’가 우리가 익숙하던 불법이나 갈등보다 더 큰 위협이 될 수 있다는 사실을, 역사라는 귀납의 언어로 설득력 있게 풀어낸다.
이 책을 읽는 독자들은 선사시대 우리의 조상들이 처음 마주했던 ‘데이터’의 세계와, 지금 우리가 맞닥뜨리고 있는 ‘인공지능’의 세계를 비교하며, 새로운 통찰의 균형을 찾아갈 수 있을 것이다. 무엇보다 이 책을 읽는다는 것은 ‘다른 시각을 가진 사람과 만나는 경험’을 하는 일이다. 그것이야말로 오늘날 우리가 일상 속에서 익혀야 할 가장 인간적인 훈련이며, 동시에 AI 시대를 살아가는 데 필요한 가장 근본적인 지향이 될 것이다. 이 책이 그러한 따뜻한 시선의 회복으로 이어지기를 바란다.
_홍승표
