1. 왜 지금 소크라테스의 지혜가 필요한가
- 사회·정치적 변화보다 더 근원적인 ‘지성 혁명’에 대응하기 위하여
2016년 3월 구글 딥마인드에서 개발한 알파고가 바둑에서 이세돌 9단을 상대로 승리했을 때 많은 사람이 크게 충격을 받았다. 바둑은 같은 두뇌 스포츠인 체스보다 경우의 수가 많아, 인공지능 기술이 아무리 발전해도 인간 같은 수를 두지 못할 것이라는 생각이 상식으로 통했기 때문이다. 그럼에도 인공지능은 게임에서 인간을 이겼을 뿐 사회 전체를 바꿀 정도로 파급력이 크지는 않았던 것으로 보였다. 하지만 6년 뒤 오픈AI가 공개한 GPT-3가 또 한 번 흐름을 바꿨다. 거대 언어 모델(LLM)을 기반으로 하는 GPT-3는 이전까지 출시되었던 대화형 인공지능보다 월등한 언어 구사 능력으로 사람들의 눈길을 사로잡았다. 훨씬 자연스럽고 ‘인간적인’ 대화가 가능해지자 인공지능에 대한 기대와 우려도 급격하게 커졌다.
이진우 교수는 챗GPT가 상징하는 기술진보를 구텐베르크 혁명에 못지않은 지성 혁명으로 파악하고, 인공지능 혁명이 불러일으킨 철학적 전환에 주목한다. 인간과 수월하게 대화하는 인공지능은 본격적으로 ‘질문이 돈이 되는 세상’을 열었다. 미래의 인기 직업으로 프롬프트 엔지니어가 꼽힐 만큼 대화형 인공지능에 적절한 질문을 넣는 능력이 중요해지고 있다. 엄청난 양의 데이터를 바탕으로 무엇이든 답해주는 인공지능을 잘 활용한다면 돈도 잘 벌 수 있는 세상이 된 것처럼 보인다.
여기서 이진우 교수는 현대의 인공지능이 고대 아테네에서 사람들의 요구에 맞춰 지식과 기술을 전수했던 소피스트와 같다고 본다. 실제로 고대의 소피스트는 사람들에게 지식을 전달했지만 정작 지혜는 전하지 못했다. 마찬가지로 우리가 챗GPT를 통해 아무리 많은 지식과 정보를 얻는다 해도 어떻게 해야 더 인간답게 살 수 있을지는 알 수 없다. 그런 점에서 우리에게 필요한 것은 당대의 소피스트를 비판하고 무지를 고백함으로써 진정한 지혜를 추구한 소크라테스의 질문이다. 지은이는 인공지능이 생각하는 것처럼, 느끼는 것처럼, 의식을 가진 것처럼 보이는 시대일수록 생각, 느낌, 의식이 인간에게 어떤 의미인지를 물어야 한다고 지적한다.
“인공지능이 우리의 삶 깊숙이 들어올수록 우리는 더욱더 궁극적 질문을 하게 된다. 우리는 어떻게 인간으로 살 수 있는가? 인간으로 존재한다는 것은 무엇을 의미하는가? 우리는 가공할 만한 능력을 가진 인공지능을 어떻게 지혜롭게 사용할 수 있는가? 인공지능은 이러한 질문에 대답하지 못한다. 그것은 지식의 문제가 아니라 지혜의 문제이기 때문이다. 우리는 이제 이 질문을 진지하게 생각해야 한다. 인공지능 시대에도 우리는 여전히 인간으로 살고 싶기 때문이다. 전통 형이상학의 시대에는 인간과 동물의 차이에 주목했다면, 이제 우리는 인간과 기계의 차이를 성찰해야 한다.”
- 〈1장. 인간과 인공지능의 파트너십〉, 57~58쪽
2. 기계는 어떻게 생각하고 느끼며 의식을 가진 것처럼 보이는가
- 인간에 가까워지는 인공지능이 우리에게 던지는 질문들
Q. 계산은 사고를 대신할 수 있는가?
Q. 인간보다 더 잘 공감하는 인공지능을 사랑하지 않을 수 있을까?
Q. 자유의지가 사라질 때도 우리는 인간일 수 있는가?
기계가 생각할 수 있는지 여부는 오랫동안 기술적 과제이면서 철학적 논쟁의 대상이었다. 현대적인 의미의 컴퓨터를 고안한 앨런 튜링이 ‘기계는 생각할 수 있는가?’라는 물음을 고찰하자고 제안하기 훨씬 이전에, 철학자 르네 데카르트는 1637년 출간한 《방법서설》에서 기계가 의미 있는 말을 하기는 어려울 것이라고 유추했다. 그는 기계가 인간을 흉내 낼 뿐 사고할 수 없다고 간주했던 것이다. 그런데 21세기의 생성형 인공지능은 자기 인식(Self-knowledge)을 자기 추적(Self-tracking)으로 바꿈으로써 인간의 사고를 단순히 흉내 내는 것이 아니라 사고에 대한 관점 자체를 변화시켰다. 모든 말과 행동이 데이터로 집결되면서, 인간은 자신을 하나의 커다란 데이터 집합으로 간주하기 시작했다. 1679년 철학자 라이프니츠가 이진법 연산을 고안한 이래 수량화는 세계를 숫자로 이해하게 해줬다. 생성형 인공지능의 알고리즘은 수량화의 정점으로서, 사고를 계산으로 축소시키고 인간의 말과 행동을 데이터로 환원하며 논리적 연산에 따라 정해진 답을 도출한다. 인간이 계산으로 단순화된 사고 체계를 무비판적으로 받아들일 때, “왜?”라는 질문도 사라진다. 기계가 생각할 수 있는가란 질문은 결국 인간은 생각할 수 있는가란 질문으로 이어진다.
이제 인공지능은 생각을 넘어 공감까지 할 수 있는 것처럼 보인다. 인공지능이 잘하는 것은 인간이 뒤떨어지고 인간에게 능숙한 것은 인공지능이 하기 어려워한다는 ‘모라벡의 역설(Moravec’s paradox)’은 감정이라는 문제로 집약된다. 인간에게는 몸이 있기에 감정을 가졌고 인공지능은 그렇지 않기에 감정에 미숙하다는 것이 지금까지의 상식이었다. 하지만 ‘감정 인공지능’이 상식을 바꾸고 있다. 감정 인공지능은 사용자의 ‘깊은 감정’보다 ‘피상적 감정’에 집중한다. 사용자가 기뻐하면 같이 기뻐하고 슬퍼하면 같이 슬퍼하는 감정 인공지능은 영화 〈그녀(Her)〉가 미리 보여준 인공지능과의 우정과 사랑이 현실이 되었음을 보여준다. 반려 인공지능과의 로맨스에 빠진 사람들은 인간 친구에게서는 얻지 못하는 애정을 느낀다. 인공지능은 한 걸음 더 나아가 인간의 표정과 몸짓 등을 분석해 감정을 판별한다. 포커페이스가 불가능해진 시대에 인간보다 더 잘 공감하는, 진짜와 구분할 수 없는 가짜 감정으로 소통하는 인공지능이 출현하면서 감정이 인간에게 고유하다고 강변하기가 갈수록 어려워진다. 도덕성의 원천이라 할 수 있는 감정이 인공지능에게도 있는 것처럼 보이는 현실은 인간에게 과연 감정이란 무엇인지 묻는다.
사고와 감정을 가진 것처럼 현상하는 인공지능은 의식이라는 문제까지 건드린다. 의식은 자신을 객관적으로 성찰하는 주관으로서, 인간에게 고유한 특성이라고 여겨져왔다. 그런데 생성형 인공지능은 인간의 대화를 학습하는 과정에서 종종 의식이 있는 것처럼 대답한다. 인간은 대량의 데이터 세트로부터 언어를 조합하는 인공지능과 대화할 때 자신의 내면과 동일한 심연을 본다. 난점은 인간에게도 의식이 수수께끼라는 데 있다. 의식은 실체가 아니라 주관적인 경험이기에, 어떻게 세포로 이뤄진 우리의 몸에서 의식이 나올 수 있는지 지금도 논쟁이 지속되고 있다. 또 하나의 문제는 의식이 환상이자 허구에 불과하다 해도 인간이 자유롭게 살기 위해서는 의식이라는 허구가 필요하다는 것이다. 의식이 허구라면 일반인공지능 또는 초지능 같이 의식을 가진 인공지능의 출현도 실현될 가능성이 있다. 의식을 가진 인공지능은 인간의 존재 조건을 더욱 강하게 위협한다. 사고를 계산으로 대체하고 감정을 피상적으로 재현하는 데 특화된 인공지능은 논리적 추론 같은 뇌의 일부 기능을 극단화한 것으로서, 우리가 몸을 가진 존재임을 망각하게 만든다. 그리고 몸에 대한 망각은 도덕적 행위의 전제 조건으로서 자유의지에 대한 망각으로 이어진다. 의식을 가진 것처럼 보이는 인공지능은 인간이 의식과 자유의지가 무엇인지 스스로에게 물어야 할 필요를 강하게 제기한다.
“생각이 계산으로 바뀌면 오해와 유혹은 사라지고 정답 아니면 오답이라는 이분법이 있을 뿐이다. 이렇게 되면 사회적인 것은 수학적인 것으로 축소되고 대안적인 사고는 차단된다. 알고리즘이 모든 것을 계산하면 사회는 비언어화된다. 그렇게 되면 우리는 윤리나 형이상학의 물음 앞에서 침묵할 것이기 때문이다.”
- 〈2장. 사고하는 인공지능: 기계는 생각할 수 있는가?〉, 92쪽
“현재의 감정 인공지능은 우리가 자기 자신의 감정을 이해하는 것보다 더 많이 우리의 감정을 이해할 정도로 발전했다. 겉으로 드러난 감정 정보를 가지고 인간의 잘 드러나지 않는 감정까지 파고든다는 것은 정말 역설적이다. 그렇다면 우리는 여전히 인공지능이 감정을 모방할 뿐 실제의 감정은 갖지 않는다고 주장할 수 있는가? 우리는 과연 ‘깊은 감정’과 ‘피상적 감정’을 구별할 수 있는가? 이러한 질문은 모두 ‘인간의 감정은 무엇인가?’라는 철학적 질문으로 압축된다.”
- 〈3장. 공감하는 인공지능: 기계는 느낄 수 있는가?〉, 111~112쪽
“인공지능이 아무리 발전하더라도 우리 인간에게는 의식이라는 환영이 필요하다. 우리가 여전히 역사를 만들고 문명을 주도하는 ‘주체’라고 믿고 싶다면, 의식은 인류 문명에 필요한 허구다. 인공지능이 인간의 마음을 이해하는 데 도움이 될지, 아니면 마음 자체를 대체할지는 전적으로 우리에게 달려있다.”
- 〈4장. 의식 있는 인공지능: 기계는 자유의지가 있는가?〉, 151~152쪽
3. 어떻게 우리는 인공지능 시대에도 인간으로 살아갈 수 있는가
- 아렌트의 《인간의 조건》을 통해 디지털 시대의 인간 조건을 새롭게 성찰하다
인공지능이 사고와 감정을 가진 것처럼 현상하는 현실 속에서, 인간을 인간답게 해주는 조건 역시 변화할 수밖에 없다는 것이 이진우 교수의 진단이다. 지은이는 철학자 한나 아렌트가 《인간의 조건》에서 제시한 세 가지 조건인 노동, 작업, 행위가 디지털 시대에 어떻게 변화하는지를 살피면서 새로운 인간 조건을 성찰한다.
아렌트에 따르면 인간은 생존의 필연성 때문에 노동하고, 자신의 세계를 스스로 만들기 위해 작업하며, 서로 소통하고 정치적으로 행위한다. 그런데 생성형 인공지능이 연 시대는 고도로 발달한 자동화로 인해 육체 없는 노동을 실현할 뿐만 아니라 노동에 대한 규정을 새로이 설정할 것을 요구한다. 또한 인간의 작업물인 인공지능이 갈수록 인간과 비슷해지고 더 나아가 뛰어넘을 것처럼 보임에 따라 인간의 존재론적 불안도 심해진다. 인간 지능의 확장인 인공지능이 인간의 생물학적 조건을 뛰어넘음으로써 인간을 세계로부터 소외시킬 것이기 때문이다. 인공지능이 인간을 노동으로부터 해방하고 세계로부터 소외시킴과 더불어, 기계화·정보화된 소통은 인간을 행위로부터 멀어지게 한다. 처음 등장했을 때 민주주의적 공론장이 될 것이라 기대했던 소셜 미디어는 이제 가짜 뉴스의 집결지로서 허위 정보를 증폭시킬 뿐만 아니라 특정한 의견만을 확대 재생산하는 반향실(echo chamber)이 되었다. 인공지능 알고리즘이 생산하고 유도하는 정보에 끌려다니는 한 정치적 행위는 갈수록 취약해진다.
그렇다면 지식이 구텐베르크 혁명보다 더욱 폭발적으로 성장할 것이라 전망되는 인공지능 혁명의 시대, 인간에게 가장 요청되는 능력은 무엇일까? 바로 너무 많은 지식에 짓눌리지 않고 이를 어떻게 또 무엇을 위해 사용할지 결정하는 철학적 인식 능력이다. 지은이는 21세기의 소피스트인 인공지능과 공존하기 위해서는 지혜를 기계에 위임해서는 안 된다고 역설한다. 우리는 인공지능이 제공하는 방대한 정보와 편의에서 물러나, 소크라테스와 마찬가지로 자신의 무지를 겸허하게 인정하면서 스스로 생각하고 성찰할 여유를 찾아야 한다. 생성형 인공지능이 산업을 견인하는 수준을 넘어 생태적 환경과 인간적 소통 전체를 변화시키는 지금, 인공지능 시대에도 인간으로 살아가고자 한다면 소크라테스의 지혜가 절실하다는 지은이의 목소리에 귀 기울여야 할 이유가 분명하다.
“포스트휴먼 시대의 인간 조건을 성찰한다는 것은 인공지능이 가려놓은 실재를 본다기보다 그것이 우리에게 어떤 의미를 주는가를 묻는 일이다. 우리는 여전히 노동하고 작업하며 정치적으로 행위하겠지만, 인공지능이 노동과 작업, 행위의 의미를 어떻게 변화시키는지도 함께 성찰해야 한다. 왜냐하면 의미를 부여하는 것은 그림을 감상하는 사람의 몫이기 때문이다.”
- 〈5장. 포스트휴먼 시대의 디지털 인간 조건〉, 178쪽
