본인이 저자를 알게 된 것은 저자 한희원 교수님이 회장을 맡고 있던 국가정보학회에서 로봇 등에 대한 특강을 하게 된 것이 계기가 되어서였습니다. 한교수님은 학교에 부임하기 전에는 사법고시에 합격하고 검사 등을 역임한 법조인으로만 알았는데, 내 상식으로는 법률가들의 관심 영역일 것 같지 않은 국가안보와 국가정보, 인권, 정의, 국제기구 등 다양한 분야에 관한 연구를 하시는 분임을 알게 되었습니다.

더욱이 이번에 인류의 화두가 되어가는 제4차 산업혁명에 대한 인문학적 성찰의 일환으로 인공지능(AI) 법과 공존윤리에 대한 전문서적 출간을 준비 중임을 알고 또 한 번 그 관심의 지평과 학문 연구의 영역에 대해 놀라지 않을 수 없었습니다.

추천서 의뢰를 받고 원고를 읽어 내려가면서 왜, 법률가인 저자가 미래 인공지능(AI) 시대의 법규범과 윤리에 대해 누구보다 앞선 고민을 하면서 연구에 몰두했는지를 충분히 이해하게 되었습니다.

사실 본인도 그동안 현장과 연구소 그리고 대학에서 창의와 혁신과 관련된 다양한 일을 하고 겪으면서 느낀 일이지만, 빼어나고 열정적인 과학기술자에 의해 하루가 다르게 기술진보가 이루어지고 있음을 잘 알고 있습니다. 단적으로 우리가 현재 땅이라 믿으며 밟고 살아가는 지표면이 어떻게 달라질 것인지 예측할 수 있는 사람은 아무도 없습니다.

모든 것이 불확정적이며 예측 불가능한 가운데 변화가 가속된다는 사실만이 확실합니다. 그러나 과학기술진보의 저변을 채워야 할 인문학적 성찰에 대해서는 그 필요성을 절감하면서도 어떻게 어떤 방향으로 이루어져야 하는지에 대해서는 그림이 잘 그려지지 않았던 것이 사실입니다.

그런데 평소 인권과 정의론에 대해서도 단독의 전문 저술을 여럿 가지고 있는 저자는, 미래 불가피하게 도래할 인공지능(AI) 로봇의 윤리성과 도덕성 쟁점을 적확하게 지적해 주신 것은 나의 궁금증의 일면을 해결해 준 것이기도 하였습니다. 저는 원고 초고만을 보지 않았고 직접 저자와 의견 교환도 해보았습니다.

인공적 도덕행위자(Artificial Moral Agent: AMA)!

과연 기계(로봇)가 윤리적인 존재일 수가 있을까? 얼핏 들으며 우스꽝스러운 애기 같지만 이미 현실이고 심각하게 논의되고 있는 것이 세계의 현실입니다. 기계학습을 넘어 자체적인 딥러닝(Deep Learning)을 하는 중인, 로봇이 어떤 기준으로 선악과 옳고 그름을 판단할 것인지는 호모 사피엔스에게 직접적인 영향을 끼칠 일입니다.

감정이 없는 개인을 상상할 수 없듯이 윤리나 도덕이 없는 공동체는 지속가능하지 않을 것입니다. 상충하는 이해를 조종할 판단의 근거가 없기 때문입니다. 그러므로 인공지능(AI) 로봇 혁명의 궁극적인 성공 여부는 효율성의 증대나 경제적 부흥을 넘어서 공동체의 새로운 윤리와 법규범을 어떻게 세우느냐에 달려있다고 할 수 있을 것입니다.

오늘날 빼어난 인공지능 미래학자들이나 우주학자들은 호모 사피엔스를 지구의 최종적인 주인으로 간주하지 않고 있습니다. 특히 인공지능 과학자 레이 커즈와일은 로봇이 인간의 두뇌를 추월하는 시점인 기술적 특이점(Technological Singularity)을 2045년경으로 보고 그때 등장하는 강인공지능(Strong AI)은 재귀적 자기발전을 이루면서 급속하게 초지능(Super AI)으로 전이할 것으로 예측합니다.

현재까지는 지구의 주인인 호모 사피엔스가 미래 인류의 삶에 직접적으로 영향을 미칠 인공지능(AI)에게 할 수 있는 그리고 마땅히 해야 할 마지막 일은 최초 강인공지능의 전자적 알고리즘에 어떤 윤리의식과 법규범 기준을 주입시킬 것인가의 문제로, 사실 그것이 호모 사피엔스가 초지능(AI)에게 영향력을 행사할 수 있는 유일한 길일 것입니다!

본서에도 나오지만, 컴퓨터 공학에서는 “Garbage in, garbage out”이라는 원리가 있습니다. “쓰레기가 들어가면 쓰레기가 나온다.”라는 뜻으로, 컴퓨터가 논리 프로세스에 의해 운영되기 때문에 결함이 있는 터무니없는 데이터(쓰레기)가 입력되더라도, 컴퓨터는 아무런 의심 없이 그대로 받아들여 처리하고, 그 결과 터무니없는 출력(쓰레기가 나옴)을 만들어내는 현상을 가리킵니다.

그러므로 인공지능(AI) 알고리즘에 잘못된 윤리나 법규범 기준이 입력되면 그 인공지능(AI)의 행동 결과는 인류공동체 기준과 어울릴 수 없을 것이고 자칫 악당 로봇이 될 위험성도 있을 것입니다. 따라서 인공지능(AI)에게 가장 중요하고 절실한 문제가 법과 윤리의식이라고 하는 저자의 의견에 전적으로 공감하지 않을 수 없고 추천서를 마다하지 않은 이유이기도 했습니다.

아무쪼록 한희원 교수님의 본 저술이 대한민국에 널리 퍼져 과학기술 진보의 시대에도 그 중심에 자리 잡아야 할 법과 윤리의 기틀이 반듯하게 형성되어 대한민국의 인공지능(AI) 윤리문화의 중심에 자리 잡기를 기원합니다. 또한, 제가 운영하는 타작마당과 아트센터 나비가 지향하는 바와 같이 미래의 주역들이 학문의 새로운 추세를 따라잡아 인류 운명을 개척하는 창의적이고 혁신적인 인재들이 줄을 잇기를 기원합니다.

마지막으로 저자에게 당부를 드리고 싶습니다. 아트센터 나비와 타작마당이 앞으로도 계속할 일로, 쉽지는 않겠지만 한교수님도 본서의 출간에 그치지 말고 교육과 강연을 통해서 많은 사람이 공감할 수 있고 그럼으로써 대한민국의 미래 젊은이들이 창의력과 혁신성을 쉽게 배양할 수 있도록 다방면의 노력을 계속해 주기를 소망합니다.

2018년 8월

미래 눈부신 창의와 혁신을 꿈꾸며

아트센터 나비 관장 노소영

희원

 제1편 법과 정의론

제1장 법이란 무엇인가? 3

제1절 법의 의의와 기능 3

제1항 법의 사회규범성 3

Ⅰ. 법의 의의와 개념 3

Ⅱ. 법의 역사 6

Ⅲ. 법의 기능 7

제2항 법의 강제성과 도덕성 9

Ⅰ. 법의 강제성 9

Ⅱ. 법의 도덕성 10

1. 도덕적 법의 필요성과 가능성 10

2. 법의 도덕성 평가의 8가지 기준 11

제2절 법의 이념 12

제1항 서언 12

제2항 법의 3대 이념 13

Ⅰ. 정의(正義, Justice) 13

Ⅱ. 합목적성(合目的性, purposiveness) 13

Ⅲ. 법적 안정성(法的 安定性) 14

제3항 법(法) 이념의 상충과 조화 15

제4항 법의 변화와 소멸 16

Ⅰ. 법의 변화 16

Ⅱ. 법의 한계 17

제2장 정의론 19

제1절 정의를 이해하는 3가지 기준 19

제1항 행복 극대화의 관점 19

제2항 정의를 자유와 연관짓는 관점 20

제3항 정의를 좋은 삶, 즉 미덕과 연관짓는 관점 20

제4항 소결어 20

제2절 정치 철학적 3대 정의론 21

제1항 공리주의(功利主義, Utilitarianism)적 정의론 21

Ⅰ. 서언 21

Ⅱ. 제레미 벤담의 양적 공리주의 22

Ⅲ. 존 스튜어트 밀의 질적 공리주의 24

Ⅳ. 공리주의적 정의론에 대한 비판론 26

1. 공리주의적 정의론에 대한 비판론 일반 26

2. 공리주의적 정의론 비판에 대한 반박론 27

Ⅴ. 공리주의적 정의론 평가 28

제2항 자유주의적 정의론 29

Ⅰ. 존 롤스의 공정 정의론-자유주의적 평등주의 정의론 29

1. 정의는 공정(公正)한 절차의 산물이다! 29

2. 원초상태(Original Position) 30

3. 무지의 장막(veil of ignorance) 31

4. 공정한 절차에서 도출된 두 가지 정의의 원칙 32

5. 존 롤스 공정 정의론에 대한 비판론 35

6. 존 롤스 공정 정의론 결어 39

Ⅱ. 절대 자유주의적 정의론 42

1. 서언 42

2. 로버트 노직의 사상과 절대 자유주의적 정의론 45

3. 절대 자유주의적 정의론에 대한 비판과 결어 48

4. 로버트 노직의 정의론 결어 50

제3항 공동체적 정의론 52

Ⅰ. 공동체적 정의론의 출발점 52

Ⅱ. 공동체적 정의론의 인간형 52

1. 이성적 자유주의적 인간형 52

2. 인간은 서사적(敍事的) 존재 53

3. 공리주의적 정의론과 자유주의적 정의론 비판 54

Ⅲ. 아리스토텔레스의 텔로스(Telos)적 정의론 55

1. 각자에게 각자의 몫을! 55

2. 정의는 실천이다-실천적 지혜(practical wisdom) 56

Ⅳ. 마이클 샌델의 정의론 57

1. 정의는 공공철학이다! 57

2. 정의란 서로가 양보하는 좋은 삶이다! 58

3. 정의를 위해 도덕에 개입하는 정치 59

4. 공화정신(共和情神) 함양을 위한 단체생활의 소중함 60

제4항 정의의 한계 62

Ⅰ. 서언 62

Ⅱ. 정의의 한계 논쟁 62

1. 정의의 한계(1)-정의의 근원성에 대한 도전 62

2. 정의의 한계(2)-옳음(rightness)과 좋음(goodness) 사이의 갈등 63

3. 정의의 한계(3)-정의는 흥정의 산물인가? 64

Ⅲ. 정의의 갈구와 정의의 한계 65

제2편 호모 사피엔스론-인간론(人間論)

제1장 이성론(理性論) 69

제1절 지구의 주인, 호모 사피엔스의 등장 69

제1항 인지혁명과 추상적 실재 69

제2항 이성이란 무엇인가? 72

Ⅰ. 서언 72

Ⅱ. 이성(理性)과 오성(悟性) 그리고 감성(感性) 74

1. 오성(Understanding) 74

2. 감성(Sensibility) 75

3. 이성(理性, reason) 76

Ⅲ. 인간존재 본질적 속성으로서의 이성과 감성의 조화 77

제2절 이성의 전개 79

제1항 인류 역사와 이성(理性) 79

Ⅰ. 이성의 시작-고대 그리스 철학(Classical philosophy) 79

Ⅱ. 호모 사피엔스론(On Homo sapiens)의 전개 80

1. 아낙사고라스 80

2. 소크라테스 81

3. 플라톤 82

4. 아리스토텔레스 82

Ⅲ. 근대 이성 83

1. 프랜시스 베이컨 83

2. 르네 데카르트 84

Ⅳ. 인간 이성론의 만개-계몽주의(啓蒙主義) 85

1. 서언 85

2. 토머스 홉스 86

3. 존 로크 87

4. 쟝 자크 루소 87

5. 이마누엘 칸트 88

6. 게오르크 빌헬름 프리드리히 헤겔 90

7. 위르겐 하버마스 90

제2항 반(反) 이성론 91

Ⅰ. 서언 91

Ⅱ. 이성에의 반란 사조 92

1. 생철학(生哲學) 92

2. 실존주의(實存主義, existentialism) 93

3. 해체주의(Deconstruction) 95

Ⅲ. 대표적 이성 비판론자들 96

1. 블레즈 파스칼 96

2. 스피노자 96

3. 데이비드 흄 97

4. 프리드리히 빌헬름 니체 98

5. 지그문트 프로이트 99

6. 막스 셸러 100

7. 미셸 푸코 101

제3항 문명발전의 원동력으로서의 이성론 102

Ⅰ. 이성의 전개 그리고 계몽주의(啓蒙主義)와 인류 번영 102

Ⅱ. 인본주의(humanism) 103

Ⅲ. 근대성의 붕괴와 포스트모던 105

1. 이성 한계 영역의 등장 106

2. 탈근대-포스트모더니즘(postmodernism) 107

Ⅳ. 인간 존엄성에 대한 본질적인 이해 109

Ⅴ. 이성의 역할과 중요성 111

1. 자율적 공동체 생활 터전의 구축 111

2. 정의(正義) 판단의 척도로서의 이성 112

제4항 신(新)계몽주의-신(新)인본주의 114

Ⅰ. 서언 114

Ⅱ. 정통인본주의 115

Ⅲ. 정통인본주의의 분화 115

1. 사회주의적 인본주의 115

2. 진화론적 인본주의 116

제2장 자유론(自由論) 119

제1절 자유 개념과 분류 119

제1항 자유의 원리와 개념 119

Ⅰ. 자유의 작동원리 119

Ⅱ. 자유 개념 120

제2항 자유의 분류 122

Ⅰ. 철학적 원리에 따른 자유 개념 122

1. 필연적 자유 결정론 122

2. 자율적 자유론=칸트의 자유론 122

3. 변증법적 자유론 122

Ⅱ. 정치․사회․윤리적 원리에 따른 자유 개념 123

1. 정치적 자유 123

2. 경제적․사회적 자유 123

Ⅲ. 소극적 자유와 적극적 자유 124

1. 소극적 자유(Negative liberty) 124

2. 적극적 자유(Positive liberty) 124

Ⅳ. 자연적 자유, 시민적․법적 자유 그리고 도덕적 자유 125

1. 자연적 자유 125

2. 시민적․법적 자유 126

3. 도덕적 자유 128

Ⅴ. 자유의 평등론-사회(평등)적 자유 개념 129

제2절 자유의 속성과 자유주의 사조 130

제1항 자유의 속성론 130

Ⅰ. 자유는 법안에서의 자유 130

Ⅱ. 자연에서 유래한 내재적 한계를 갖는 자유-자연법적 자유 개념 132

Ⅲ. 이성적 명령으로서의 자율적 자유 133

제2항 자유강제-자유의 한계론 136

Ⅰ. 존 스튜어트 밀의 자유 한계론-위해의 원칙(Harm Principle) 136

Ⅱ. 쟝 쟈크 루소의 자유강제 138

Ⅲ. 이마누엘 칸트의 도덕적 자유 강제 141

Ⅳ. 헤겔의 자유강제-인격의 완성(윤리 국가론) 143

Ⅴ. 세계인권선언(UDHR)의 자유 제한 147

Ⅵ. 자유에의 핑계와 두려움 148

제3항 자유의 가치론 149

Ⅰ. 꿈과 희망의 실천가치 149

Ⅱ. 자유는 인간 실존의 근원 149

1. 자유는 앙가주망(Engagement) 149

2. 자유는 ‘초월성’과 ‘주체성’의 결합 150

제3절 자유의지와 자유주의 사조론 153

제1항 자유의지론(On free will) 153

제2항 자유주의 사조론 154

Ⅰ. 자유주의(自由主義, Liberalism) 154

Ⅱ. 신자유주의(新自由主義, Neo­liberalism) 156

Ⅲ. 자본주의(capitalism) 157

∙ 자본주의 1.0 157

∙ 자본주의 2.0 158

∙ 자본주의 3.0 158

∙ 자본주의 4.0 158

Ⅳ. 자유사회주의 또는 사회자유주의(Social Liberalism) 159

Ⅴ. 자유주의와 민주주의의 관계 160

제3항 맺음말 161

제3장 천부인권론(天賦人權論) 165

제1절 천부인권의 개념과 의의 165

제1항 서언 165

제2항 존 로크의 천부인권론의 구체적인 내용 167

Ⅰ. 서언 167

Ⅱ. 천부인권의 천부적인 속성 168

1. 천부인권의 자연적 제약 168

2. 불가침성(不可侵性)과 불가양성(不可讓性) 169

3. 불가양성(不可讓性)의 진정한 의미 170

Ⅲ. 사회계약으로 탄생한 국가에의 천부인권 이양의 한계 172

제2절 재산권도 천부인권이다 173

제1항 재산권의 성격 173

Ⅰ. 재산권의 천부성-근면한 노동가치설(Labor theory of property) 173

Ⅱ. 재산권은 선(先) 정부성 174

제2항 재산권의 이중성과 합의의 한계 175

Ⅰ. 재산권의 이중성-천부성과 실정성 175

Ⅱ. 합의의 한계 175

Ⅲ. 강제과세의 역효과-국적변경의 정의론 176

제4장 윤리론(倫理論) 179

제1절 윤리와 윤리학 179

제1항 서언 179

제2항 윤리와 윤리학(倫理學) 180

Ⅰ. 서언 180

Ⅱ. 동양 윤리학 182

1. 개관 182

2. 공자(公子)의 윤리 182

3. 맹자(孟子)의 윤리 184

4. 공자와 맹자의 윤리 도덕사상-삼강오륜(三鋼五倫) 184

5. 도가사상(道家思想)의 윤리 185

6. 불교의 자비 사상과 윤리 185

제2절 윤리적인 행동이란 과연 무엇인가? 186

제1항 어떤 선택을 할 것인가?-행위의 윤리성 실험 186

∙ 사례 1. 트롤리카 운전사의 딜레마 186

∙ 사례 2. 또 다른 트롤리카 사례 186

∙ 사례 3. 어느 의사의 딜레마 187

제2항 행위의 도덕성 판단 기준에 대한 학설 188

Ⅰ. 결과주의(Consequentialism) 188

Ⅱ. 행위주의 188

Ⅲ. 덕윤리(Virtue Ethics) 189

제3절 이마누엘 칸트의 인간 윤리(도덕철학) 190

제1항 서언 190

제2항 인간존재의 본령-이성(理性)과 자유(自由) 191

제3항 칸트의 도덕법칙 193

Ⅰ. 자연법칙과 도덕법칙 193

Ⅱ. 정언명령으로서의 도덕법칙 193

1. 개관 193

2. 제1의 정언명령: 보편화의 원리(Formula of Universal Law) 194

3. 제2의 정연명령: 인간성 목적 대우의 원리(Formula of Humanity as End) 194

4. 도덕법칙은 자율적 자기 입법으로서의 보편규범 195

Ⅲ. 도덕법칙에 대한 세 가지 의문 196

1. 자율과 의무의 조화 문제 196

2. 지구상에 도덕법칙은 몇 개나 되는가? 197

3. 칸트 도덕철학의 인간 존중과 개별적 감정과의 차이 197

Ⅳ. 소결어 198

제5장 평등론(平等論) 201

제1절 평등과 평등권(平等權) 201

제2절 평등(平等)의 내용과 판단 기준 204

제1항 평등의 내용 204

Ⅰ. 인격의 평등 204

Ⅱ. 법 앞의 평등(equality before the law) 205

Ⅲ. 기회의 균등(機會均等, Equal Opportunity) 206

제2항 평등 판단 기준 206

Ⅰ. 개관 206

Ⅱ. 절대 평등설 207

Ⅲ. 상대 평등설 208

제3항 차별과 차별 심사기준 208

Ⅰ. 직접차별과 간접차별 208

1. 직접차별 208

2. 간접차별 208

Ⅱ. 적극적 우대조치(Affirmative Action) 209

Ⅲ. 차별심사 기준 210

1. 고전적 심사기준 210

2. 적극적 심사기준 210

제3편 인공지능(AI)시대 법과 윤리

【현실이 된 미래세상】 215

제1장 사이버 세계의 전개 225

제1절 사이버스페이스(cyberspace) 225

제1항 서언 225

제2항 사이버스페이스의 특성 227

Ⅰ. 사이버스페이스 그 자체의 3대 속성 227

1. 익명성(anonymity) 227

2. 개방성(openness) 227

3. 자율성(autonomy) 227

Ⅱ. 사이버스페이스의 현실적 특징 228

1. 정보의 근원으로서의 사이버스페이스 228

2. 쌍방향 매체로서의 사이버스페이스 228

3. 네트워크로서의 사이버스페이스 228

4. 삶의 터전으로서의 사이버스페이스 229

제3항 사이버스페이스의 응용 229

Ⅰ. 오락 분야 229

Ⅱ. 건축 분야 229

Ⅲ. 교육 분야 229

Ⅳ. 의학 분야 230

Ⅴ. 군사훈련 분야 230

Ⅵ. 스포츠 분야 230

Ⅶ. 영상산업 분야 231

Ⅷ. 원격존재 분야 231

제4항 사이버스페이스와 호모 사피엔스 232

Ⅰ. 사이버공간(Cyberspace)과 인간 정체성의 형성과 변화 232

1. 자아 정체성 형성의 새롭고 위험한 장(場) 232

2. 인간 발달 환경으로서의 사이버공간 232

3. 사이버중독(cyber addiction) 233

Ⅱ. 사이버공간의 윤리(倫理) 쟁점 233

제2절 인류 새로운 전쟁-제5의 전장(戰場) 234

제1항 서언 234

제2항 사이버 간첩(Cyber Espionage) 236

제3항 사이버 전쟁(cyber warfare)의 정의론 238

Ⅰ. 개념 238

Ⅱ. 테러와의 전쟁과 사이버전 239

Ⅲ. 탈린 매뉴얼(Tallinn Manual) 240

1. 의의 240

2. 사이버전(Cyber War) 교전규칙 241

제2장 현대과학기술 243

제1절 현대과학기술 진보의 내용 243

제1항 인본주의와 현대과학 243

제2항 극한 행복과 영생(永生)을 향한 인류의 질주 244

Ⅰ. 현대 생명공학 244

Ⅱ. 인공 창의성(artificial creativity)? 246

Ⅲ. 전자적 알고리즘과 인공지능 로봇(Cognitive robotics) 248

Ⅳ. 스마트 시티와 스마트 모빌리티-시공간 융합과 이동의 지능화 249

Ⅴ. 미래학자 커즈와일(Ray Kurzweil)의 8대 미래 예측 250

1. 기술적 특이점(技術的 特異點) 250

2. 레이 커즈와일의 미래세상 250

Ⅵ. 소결어 252

제2절 현대과학기술의 본질 252

제1항 과학과 기술의 의의와 어원(語源) 252

제2항 기술의 본질-닦달과 몰아세움 254

Ⅰ. 존재에 대한 탈은폐 요구 254

Ⅱ. 현대 과학기술과 인간성의 변형 위험성 255

제3항 존재(存在)의 역운(歷運)과 기술의 위험성에서의 구원의 길 256

Ⅰ. 존재의 역사적 운명(Geschick) 256

Ⅱ. 기술의 위험에서의 구원의 길 258

Ⅲ. 과학기술의 본질과 윤리의 관계 259

제3장 인공지능(AI) 법과 윤리 담론 261

제1절 미래사회 새로운 윤리적․법적 쟁점의 대두 261

제1항 트랜스휴머니즘 261

Ⅰ. 트랜스휴머니즘(transhumanism)의 개념과 전개 261

Ⅱ. 포스트휴먼(post­human)과 사회규범의 전개 263

1. 포스트휴먼화(化) 263

2. Riley v. California 사례 264

제2항 인공지능의 핵심요소로서의 전자적 알고리즘 266

Ⅰ. 알고리즘(algorithm)의 개념 266

Ⅱ. 알고리즘의 작동 기제 267

Ⅲ. 알고리즘의 특성 268

1. 권력성 268

2. 정치성 268

3. 비밀성 268

4. 상업성 269

5. 생활 침투성 269

Ⅳ. 알고리즘의 반중립성과 남용 위험성 270

1. 내용 270

2. 구체적인 사례 270

3. 검색 알고리즘의 불가피한 한계 271

제3항 알고리즘의 책임성과 투명성 쟁점 271

Ⅰ. 알고리즘의 책임성 271

1. 문제의 제기 271

2. 책임 귀속성의 구조와 근거 272

3. 책무(責務)와 책임(責任)의 구분론 273

4. 주체별 책임 귀속의 수준 274

Ⅱ. 유럽연합(EU)의 알고리즘 책임성 강화 사례 275

1. 문제의 제기 275

2. 데이터보호지침(DPD) 체제에서 일반데이터보호규정(GDPR) 체제로의 전환 276

3. 설명을 요구할 권리(right to explanation) 276

4. 평가 277

Ⅲ. 알고리즘의 투명성 제고를 위한 대안의 모색 278

제4항 전자적 알고리즘의 의식 테스트 279

Ⅰ. 인공지능의 자의식 부인론: 존 설의 중국어 방(房) 논변(論辨) 279

1. 논변의 전개 279

2. 중국어 방(房) 논변의 추론과 결론 280

Ⅱ. 인공지능의 자의식 가능성론: 튜링 테스트(Turing Test) 281

Ⅲ. 인공지능의 자의식 긍정론-중국어 방(房) 논증 반박론 282

제2절 신(新) 도덕행위자 쟁점 283

제1항 호모 사피엔스 대(大) 해부 283

Ⅰ. 서언 283

Ⅱ. ‘정신’ 없는 물리주의 세계 284

Ⅲ. 영혼과 의식 288

1. 호모 사피엔스에게 영혼(靈魂)은 있는가? 288

2. 호모 사피엔스는 다른 동물과는 별개의 의식(意識)이 있는가? 289

3. 소결어 292

Ⅳ. 과연 인간에게 자유의지(自由意志)는 존재하는가? 293

1. 개관 293

2. 경험한 자아(저장된 자아)와 이야기하는 자아! 294

3. 유전자, 호르몬, 뉴런-인간은 생물학적 알고리즘(algorithm) 합성체? 295

4. 리벳 실험-커피잔을 잡을 때 무엇이 손가락을 움직이게 하는가? 296

제2항 신(新)과학 종교-데이터교의 탄생? 298

Ⅰ. 새로운 전자적 알고리즘 데이터교의 태동 298

Ⅱ. 진화하는 전자적 알고리즘-데이터교(신(神))의 출현 300

Ⅲ. 인간존재는 데이터교의 대상이 될 것인가? 신으로 남을 것인가? 302

제3항 초지능으로의 길 303

Ⅰ. 인공지능(Artificial Intelligence: AI)의 개념과 분류 303

1. 인공지능의 개념 303

2. 기능적 수준에 의한 인공지능의 분류 303

3. 인류의 현재 위치-약인공지능으로 둘러싸인 세상 305

Ⅱ. 인공지능의 발전 306

1. 레이 커즈와일의 수확 가속의 법칙(Law of Accelerating Returns) 306

2. 인공지능의 발전 가능성에 대한 전망 307

Ⅲ. 약인공지능에서 강인공지능 그리고 초인공지능으로의 길 310

1. 쉬운 일과 어려운 일 310

2. 강인공지능으로의 3가지 방법론 311

Ⅳ. 초지능으로의 길 316

1. 초지능으로의 초기진입 316

2. 지능폭발(intelligence explosion)과 재귀적 자체개량 317

제3절 전자적 알고리즘의 법률문제 319

제1항 인공지능 창작물과 지적재산권(intellectual property right) 319

Ⅰ. 서언과 현행법 개관 319

Ⅱ. 인공지능 창작물(?) 관련 법적 쟁점 321

1. 개관 321

2. 인공지능(AI) 산출물 등 관련 법적 쟁점 322

Ⅲ. 각국의 정책 및 입법 동향 325

1. 개관 325

2. 일본 326

3. 영미법 327

4. 유럽연합(EU)의 정책 방향 327

Ⅳ. 맺음말 328

제2항 자율주행자동차의 법률문제 330

Ⅰ. 문제의 제기 330

Ⅱ. 현행법에 입각한 자율주행자동차의 법적 책임 333

1. 현행법상 자율주행자동차 및 운전자 개념 333

2. 현행법상 자율주행자동차 사고시 법적 책임 335

Ⅲ. 제도적 개선과 맺는말 341

제3항 (인공지능) 검색 알고리즘의 법률문제 344

Ⅰ. 용어의 개념 344

Ⅱ. 검색 알고리즘 결과물도 표현의 자유 대상인가? 345

1. 원칙-표현의 자유의 광범위한 인정 345

2. 예외-표현의 자유 부인 사례 348

3. 맺는말 350

Ⅲ. 검색 알고리즘과 인격권 침해 352

Ⅳ. 인터넷 서비스사업자(ISP)의 법적 책임에 대한 해외 법리(판결과 제도) 353

1. 검색엔진의 검색결과로 인한 명예훼손 353

2. 검색 알고리즘과 사생활권 침해 358

Ⅴ. 인터넷 서비스사업자(ISP)의 책임에 대한 국내법원 판결 사례 367

1. 개관 367

2. 명예훼손적 게시물 게재와 방치에 대한 인터넷 서비스사업자(ISP)의 책임 368

3. 대법원 2009년 판결 이후의 동향 374

Ⅵ. 맺는말 381

제4항 인공지능(AI) 치명적 자율무기(LAWs)의 법적 쟁점 384

Ⅰ. 개념과 의의 384

Ⅱ. 치명적 자율무기에 대한 논의와 전쟁 무기에 대한 국제규범 체계 385

1. 치명적 자율무기 찬반론 385

2. 전쟁 무기에 대한 국제규범 체계 386

Ⅲ. 치명적 자율무기(LAWs)의 윤리적 쟁점 388

1. 윤리적․도덕적 해이의 문제 388

2. 생명권 경시의 문제 388

3. 인간의 존엄과 가치 389

4. 인간성의 피폐화와 인간의 수단화 문제 389

5. 독일 연방헌법재판소의 인간 존엄성 추론 390

Ⅳ. 치명적 자율무기(LAWs)의 적법성 테스트 392

1. 현행 국제인도법(IHL)과 국제인권법(IHRL) 392

2. 국제법상 무력충돌에서의 원칙 393

3. 무력충돌 원칙 위배책임 396

Ⅴ. 맺는말 397

제4절 인공지능(AI) 윤리론 398

제1항 인공적 도덕행위자(Artificial Moral Agent: AMA)는 가능한가? 398

Ⅰ. 인공적 도덕행위자(AMA)의 윤리 담론(談論) 398

1. 개관 398

2. 인공적 도덕행위자 400

Ⅱ. 도덕성을 기준으로 한 제임스 무어(James H. Moor)의 인공지능 4분류 401

1. 윤리적 영향자(ethical impact agent) 401

2. 암묵적 윤리 행위자(implicit ethical agent) 401

3. 명시적 윤리행위자(explicit ethical agent) 402

4. 완전 윤리행위자(full ethical agents) 402

5. 평가 402

Ⅲ. 인공지능의 윤리적 행동의 토대-무엇을 입력할 것인가? 403

1. 문제의 제기 403

2. 윤리주체와 윤리대상의 구별과 윤리주체 확장 쟁점 404

3. 전자적 알고리즘의 윤리 테스트 406

4. 행위의 윤리성 판단에 대한 3가지 이론 409

5. 인공지능 3주체의 윤리적․법적 책임의 발현 412

Ⅳ. 인공지능의 도덕 추론-어떻게 추론하도록 할 것인가? 413

1. 이성적 도덕 추론 413

2. 도덕 추론에서의 감성의 중요성과 필요성 414

3. 도덕적 추론모형의 구현 415

4. 소결어 416

제2항 인공지능(AI) 윤리 프로그래밍 417

Ⅰ. 개관 417

Ⅱ. 기계윤리 프로그래밍 이론(理論) 420

1. 하향식 접근법 420

2. 상향식 접근법 421

3. 혼합형 접근법 422

Ⅲ. 기계윤리 프로그래밍 방법론(方法論) 423

1. 논리기반 접근법: 큰 것을 알려주고 판단하게 한다 423

2. 사례기반 접근법(case­based reasoning): 인간이 내린 윤리판단에서 배운다 423

3. 다중행위자 접근법-다양한 경우의 수를 계산한다 424

Ⅳ. 기계윤리 프로그래밍의 구체적 사례 425

1. 부르스 맥라렌(Bruce M. McLaren) 박사의 기계 윤리 구현 모델 425

2. 벤자민 키퍼스(Benjamin Kuipers)의 윤리추론 모델 433

3. 키오테(Quixote) 시스템-이야기를 이용한 윤리 가치 학습 436

4. 소결어-기계 윤리프로그램 종합평가 442

제3항 로봇 윤리와 로봇공학 윤리론 442

Ⅰ. 아시모프의 로봇 3법칙(Asimov’s three laws) 442

1. 내용 442

2. 비판론 443

Ⅱ. 머피(Murphy)와 우즈(Woods)의 책임 있는 로봇 3법칙 444

1. 새로운 로봇 윤리 규범 제안 이유 444

2. 책임 있는 로봇 3법칙 445

3. 평가 445

Ⅲ. 스튜어드 러셀(Stuart Russell)의 로봇 3법칙 446

1. 서언 446

2. 인간과 양립 가능한 인공지능 로봇 3법칙 447

Ⅳ. 유럽연합 로봇법(RoboLaw)의 로봇 윤리론 449

1. 유럽 공학계의 전개 449

2. 유럽연합(EU) 로봇 윤리 9대 원칙 451

Ⅴ. 로봇 법칙의 현재적(現在的) 해석 457

제4항 네오 호모 사피엔스론 459

Ⅰ. 욕망하는 테크놀로지와 인공지능(AI) 로봇의 주체적 인격체로의 길 459

Ⅱ. 호모 사피엔스 이외의 제3의 종(種)은 가능한가? 461

1. 제3의 종 논의 461

2. 인간(Human Being)과 사람(Person) 462

Ⅲ. 매개(媒介) 인격체론(mediated person) 466

Ⅳ. 인정투쟁에 의한 도덕적 주체성의 확보 467

1. 인정투쟁론(認定鬪爭論) 467

2. 인정투쟁(認定鬪爭)을 통한 도덕 주체성의 확보 468

Ⅴ. 독립된 인격체론-인공지능의 자가발전 470

Ⅵ. 라이프(Life) 3.0론 472

제5항 공존윤리론-결국 인간과 로봇은 상생의 길을 찾아야! 474

Ⅰ. 라이프 3.0에 대한 인식론 474

Ⅱ. 인공지능 로봇 시대를 살아가는 인간의 두 가지 길 476

Ⅲ. 아실로마 인공지능 원칙(Asilomar AI Principles) 479

1. 서언 479

2. 아실로마 인공지능 원칙(Asilomar AI Principles) 482

제5절 인공지능(AI) 법규범론 486

제1항 미래 법률 환경 486

Ⅰ. 개관 486

Ⅱ. 로보 법률가(Robot Jurists) 489

Ⅲ. 미래 법률 환경의 법담론(法談論) 493

1. 서언 493

2. 인간의 존엄과 가치의 수호 493

3. 법률판단 상황의 변모 494

4. 주제별 법담론 495

5. 글로벌 법담론 496

제2항 인공지능(AI) 법규범 사례 498

Ⅰ. 유럽연합(EU) 로봇법(RoboLaw) 프로젝트 498

Ⅱ. 로봇 시민법 500

Ⅲ. 로봇규제 가이드라인(The Guidelines on Regulating Robotics) 503

Ⅳ. 로봇 민사법(Civil law rules on robotics) 503

Ⅴ. 유럽연합 로봇법에 대한 비판론과 전망 505

제3항 미래법학 508

제4항 미래교육 512

Ⅰ. 서언 512

Ⅱ. 미래교육의 방향성 515

1. 서언 515

2. 창조력 향상 교육 517

3. 인성교육 518

4. 분석 종합능력 함양교육 519

5. 평생교육(life­long education) 520

Ⅲ. 미래사회의 인간의 삶과 새로운 불평등 위험성 521

1. 과학기술의 발전과 경제성장-인공지능(AI) 시대의 경제는 성장하여 파이는 커질 것이다! 521

2. 인공지능 미래 시대 일자리 522

3. 기술 진보와 부의 불평등 문제 525

4. 디지털 아테네와 잉여 인간-새로운 기본소득(基本所得)제도? 527

Ⅳ. 맺는말 530

참고문헌 535

찾아보기

법학박사 한희원(韓禧源)

(3333lucas@naver.com)

▪주요 학력 및 경력

고려대학교 법과대학 졸업(1983년)

제24회 사법시험 합격(1983년)

사법연수원 제14기 수료(1986년)

Duke University PASS Visiting Scholar(2006년)

Indiana University School of Law, LL. M(2007년)

호서대학교 대학원 국가안보법(2013년)

Harvard Kennedy School Senior Executives in National and International Security(2015년)

(현) 동국대학교 법과대학 학장/법무대학원장(교수)

(현) 한국법학회 부회장

(현) 국무총리실 대테러센터 정책자문위원

(현) 제4차산업위원회(군사 영역) 자문위원

(전) 한국국가정보학회 회장

(전) 대통령 소속 개인정보보호위원회 위원

(전) 개인정보분쟁조정위원회 위원

(전) 경찰청 경찰위원

(전) 춘천지방검찰청 속초지청장

(전) 서울지방검찰청, 광주고등검찰청, 대검찰청 검사, 부장검사

(전) 육군 제28사단 검찰부장

▪주요 저술

1. 국가정보-법의 지배와 국가정보(법률출판사, 2018, 3판 3쇄, 우수학술도서)

2. 국가정보체계 혁신론(법률출판사, 2009)

3. 국제기구법 총론(법률출판사, 2017, 2판)

4. 국가정보학원론(법률출판사, 2009, 3판)

5. 정의로의 산책(삼영사, 2011, 2판, 우수학술도서)

6. 국제인권법 원론(삼영사, 2012)

7. 신법학입문(삼영사, 2013, 2판)

8. 국가정보학 요해(법률출판사, 2014, 3판 3쇄)

9. 대한민국 국가정보원(백년동안, 2014)

10. 법과 정의(법률출판사, 2018)

 ▪주요 영문논문

1.Newly arising issues on the limitation of intervention law and refugees under the north Korean Human Rights Act of 2004 (Atoms for Peace: An International Journal (AFP), Vol. 1. No. 4, 2007)

2.How hot? “Real hot”; Can we control North Korean nuclear weapons through the applicable international law? Hints from the I.C.J. advisory opinion (by Heewon Han & Jongho Kim, Atoms for Peace: an International Journal (AFP), Vol. 2, No. 3, 2009)

3.The Impact of Terrorism on the Development of International Human Rights-hints from the Legal Cases and the Terrorist Surveillance Program of the United States of America (2008, 중앙법학)

동국대학교 법과대학의 학부와 대학원에서 강의하면서 항상 느꼈던 문제가 인류가 창안한 추상적 실재에 대한 후손 호모 사피엔스들의 지칠 줄 모르는 의견 대립에 대한 의문이었다. 사실 인류는 현재도 정의, 인권, 구체적으로는 자유와 평등이 무엇인지 또는 무엇이어야 하는지에 대해 공통된 답을 가지고 있지 못하다. 2018년 현재에도 대한민국은 자유주의적 국가와 평등주의적 국가 사이에 정치적․이념적 논쟁을 거듭하고 있다.

웬델 월러치와 콜린 알렌 공저, 『왜 로봇의 도덕인가?』라는 책과 유발 하라리 교수의 사피엔스와 호모데우스라는 책을 읽고 많은 관련 자료를 찾아가다가 인공지능(AI)의 마지막 쟁점이 될 인공지능(AI) 윤리와 법규범에 매진했다. 자료를 수집하며 연구를 하다가 만약 인류가 미래 인공지능(AI)에 대해서도 우왕좌왕하면 어떻게 될 것인가를 생각하니 온몸에 전율을 느끼지 않을 수 없었다. 조금이라도 초지능(Super AI)에 대한 인식이 있는 사람이라면 필자와 동일한 느낌이 들 것으로 확신한다.

눈부신 과학기술의 발전과 전 세계 빼어나고 진취적인 인공지능(AI) 과학자들의 밤낮 없는 노력으로 이 시간에도 인공지능(AI)은 논리적 플랫폼에서 진화를 거듭하고 있다. 호모 사피엔스가 생물학적 플랫폼에서 약 700-600만 년이라는 장구한 세월 동안에 적자생존의 치열한 경쟁을 거치면서 그 DNA에 윤리성과 사회성 인자를 각인시키며 의식을 사후적으로 가다듬어 간 것에 비교해서, 이 순간에도 인공지능(AI)은 매우 빠른 속도로 인위적 진화에 진화를 거듭하는 것이다.
 

이것이 무서운 것은 최초의 초지능 로봇이라도 인간 두뇌보다 10억 배 이상 똑똑할 것으로 예측되는 인공지능(AI)의 알고리즘에 윤리와 도덕이 빠져 있고, 그를 규율하는 법규범마저 없다면 세상은 네오(Neo) 중세시대를 맞게 될는지도 알 수 없는 일이다. 이에 기왕의 연구 분야인 인권과 정의에 대한 지식을 바탕으로 미래 인공지능(AI)의 법과 윤리에 대한 개론서라도 집필하기로 마음을 먹었다. 그리고 많은 자료를 찾아가며 이해하는 과정에서 상상을 뛰어넘는 희망과 공포를 동시에 느낄 수 있었다.

따라서 이 책은 인공지능(AI)의 과학 기술적인 측면에 대한 서적은 전혀 아니다. 필자는 인공지능(AI)을 인간 이외의 윤리적 주체자로 인정해야 한다고 믿는다. 그리고 인공지능(AI)을 인간이 창조했다고 믿고 싶겠지만, 인공지능(AI)은 존재의 철학자 하이데거가 설파한 것처럼 광대한 우주의 섭리 속에 이미 파묻혀 있던 존재가 탈은폐된 것으로 이해한다. 호모 사피엔스가 우주의 유일한 주인일 수는 없을 것이라는 예감인 것이다.

이 경우에 인류가 인공지능(AI)에 대해 할 수 있는 가장 중요한 영역이, 사물 존재의 탈은폐의 수단인 과학기술의 접목을 빼고는 윤리와 법규범이라고 확신한다. 그러므로 이 책은 미래 인공지능(AI)의 능력에 대해 인류가 할 수 있는 어쩌면 최초이자 최후의 통제장치로서의 윤리의식과 법의식에 관계하는 분들과 관심 있는 분들의 이해와 판단에 도움을 주고자 하는 기초 밑거름일 뿐이다.

지구의 지배자가 된 호모 사피엔스는 다른 동물들과 달리 기업, 사회, 국가와 같은 추상적 실재를 만들어 인류를 집단적 협동세력으로 만드는 데 성공했다. 또한, 권리, 의무, 민주주의, 국민주권, 인권, 윤리 그리고 정의와 같은 보편적 가치 기준을 만들어서 인류의 자기 주체화를 이끌었다. 인류가 자기 주체성을 인공지능(AI) 미래 시대에도 놓치지 않으려면 지금까지의 무분별에서 벗어나 미래에 대해 진지하게 고민할 시점이라고 생각된다. 이런 관점에서 일반인들이 본서를 통해서 그에 대한 의심과 궁금증을 가지는 것만으로도 필자의 목표는 달성했다고 생각한다.

분명하고 명백한 것은 인류의 미래는 지금과는 차원이 다른 인공지능(AI)이라는 새로운 일상적 존재자와 필연적으로 맞닥뜨리게 될 것이다. 그리고 새로 맞게 될 인류의 역사는 지금까지 그래왔던 것처럼 인류가 원하는 방향으로만 흘러가지 않을 것이다. 역사의 진행이 인위적인 대책으로 물길의 흐름이 바뀌지는 않겠지만, 그러나 아무런 대책이 없는 것은 결코 호모 사피엔스의 DNA와 어울리는 일이 아니다. 그런데 어떤 경과에 대한 대책은 먼저 대상에 대한 정확한 지식과 이해가 전제되지 않으면 불가능하고 엉터리 술책이 나올 수밖에 없음을 우리는 이미 많은 경우에 목도했다.

과학기술의 진보는 전 세계에서 초를 달리하며 진행되고 있다. 기술진보는 빼어난 과학자들의 아이디어와 열정으로 진행되고 있다. 그러나 그 결과물을 어떻게 활용할 것인지의 끝에는, 잠시가 될는지도 알 수는 없지만, 법규범이 존재한다. 인간의 손끝에서 껍질을 벗는 최초의 초지능(Super Intelligence)이 인류의 정서와 도덕심을 이어가도록 하는 것은 더욱 중요할 것이다. 그리고 초지능의 학습 DNA 또한 인류의 도덕윤리에 비견되는 선악의 구분 위에서 예(禮)와 선(善)을 익혀나갈 수 있도록 각인된다면 인류는 상상할 수 없는 기술 문명의 축복을 자기 과실로 만든 신 아담과 이브가 될 것이다.

이 책의 집필은 한 곳에서 이루어지지 않았다. 새벽 시간과 수업 이외의 비는 시간에 집필이 이루어지는 관계로 주로 많은 시간을 연구소와 집에서 했다. 그러나 방학과 연휴를 이용하여 울릉도, 제주도 그리고 고향인 설악산에서 사색하면서 집필을 했다. 마지막 탈고는 일본 센다이 야부키에 있는 조용한 휴식처에서 할 수 있었다. 인류와의 새로운 공존 문명이 될 것인지 아니면 인류가 자존심만을 내세우며 친인척 관계를 부인하며 고릴라를 대했던 것처럼, 인공지능(AI)이 호모 사피엔스를 능가하는 새로운 지구의 주인이 되어 인류는 이제 지구의 주인의 자리에서 물러날 것인지를 고민하는 과정은 상상하기도 쉽지 않았던 연유로 이리저리 옮겨 다니며 생각을 이어가게 한 듯하다.

매번 느끼는 일이지만 집필과정은 지난(至難)한 일로 스스로 깨닫고 느끼게 해준 지적 고문의 과정이었다. 특히 새로운 연구 영역에서는 그 방대한 자료를 방향성은 확실하다고 하여도, 어떤 체계 속에 위치시키면서 전체적으로 일관성을 유지하면서 학문적 가치를 유지하는가의 문제이다. 집필의 표준모델도 없는 상황에서 많은 자료를 이해하면서 법과 윤리의 기준에서 인공지능(AI)의 기틀을 잡아가기는 쉽지 않은 일이었다.

이런 과정에서 가장 큰 위안은 무엇보다도 사랑하는 집사람과 아들딸들이었다. 특히 수없이 들은 집사람의 “그만 불 끄고 제발 잠 좀 자자!”라는 말은 또 다른 동력이 되었다. 그리고 나와 집사람을 이 세상에 있게 한 양가 어머님과 오래 전에 고인이 되시어 하늘에 계신 두 분 아버님은 존재 그 자체로 커다란 은총이었다. 또한, 어려운 여건 속에서도 흔쾌히 받아주신 박영사에 대해서도 진심으로 감사드린다.

저자는 본서에 만족하지 않고 부족한 것은 계속 채우며 인공지능(AI) 정의의 쟁점을 천착해가려고 한다. 대한민국이 이러한 미래에 대해 숙고하여, 전 국가적 그리고 전 국민적으로 인공지능(AI)에 대한 선구자의 길에 들어서기를 진심으로 고대한다.

2018년 8월

동국 법학관에서

우담 한