기계는 도구인가 위협인가 (독서감상문)

어떻게 인간과 공존하는 인공지능을 만들 것인가  - 스튜어트 러셀

 

기계, 인공지능은 인간을 닮아가려 하는 것인가

 

 ‘로봇 디자인’이라는 과목을 수강한 적이 있었다. 수업 방식은 수강생 각자 선택한 분야에 대해 로봇기술이 어떻게 적용되었고 얼마나 또는 어떻게 발전되고 있는가에 대해 조사를 해서 매주 발표하는 형식이었다. 그러나 수업의 최종 목표는 ‘로봇을 정의하는 것’이었다. 여러 분야에서 사용되는 로봇의 특징들에서 공통점을 찾아내면 로봇이라는 광범위한 단어의 정의를 내릴 수 있지 않을까 하는 것이다. 그런데 재미있는 점은 학생들 대부분이 학기가 흐를수록 로봇과 인간의 관계로 주제가 귀결된다는 것이었다. “인간은 왜 휴머노이드에 집학하는가.”, ”(인간을 보호해야 한다는)로봇의 3원칙이 현재도 적합한가.”, “인간과 인공지능 로봇을 어떻게 구분짓는가.”, “로봇이 계속 발전한다면 인간과 같이 될 것인가.” 등등.

 

그것은 마치 현재 인류가 인간을 창조한 신이 되는 것을 기대하는, 또는 우려하는 것처럼 보이면서도 언젠가 인류를 위협하지 않을까하는 막연한 두려움을 공감하는 것처럼 보였다.

 

 

 

기계가 인간이 될 수 없는 이유: 선호

 

보통 우리가 SF소설이나 영화에서 흥미 있어하는 지점은 바로 인간과 대등하거나 우월한 위치에 있는 인공지능 기계가 인류를 지배하는 스토리이다. 영화 ‘매트릭스’만 보더라도 우리는 ‘(이 책의 표현에 따르면) 인간 배터리 농장’을 상상하고 한 편의 멀티버스라고 착각하기도 한다.

 

’어떻게 인간과 공존하는 인공지능을 만들 것인가’ 이 책의 제목에서 유추할 수 있는 것 또한 기계, 인공지능, 로봇이 미래의 어떤 경우에는 인간에게 해로울 가능성도 있다는 것을 전제로 한다는 것이다. 그래서 저자는 그런 디스토피아적인 미래를 막고자 인공지능의 논리 구조부터 이해를 하며 철학 사상, 경제 등 관점에서 인간이 올바르게 기계를 다루기 위한 방법을 설득해 간다. 그런 설득 과정을 따라가다 보면 저자는 인공지능은 결코 인간이 될 수 없다는 것을 확신한다. 그 이유는 인공지능 기계는 논리적으로만 생각하기 때문이다. 트롤리의 문제처럼 논리로만 해결할 수 없는 문제는 반드시 발생하고 논리가 충돌했을 때 기계는 스스로 전원을 차단해야 한다고 주장한다.

 

저자가 주장하는 기계와 인간의 차이는 (이 책에서 저자가 가장 주장하고 싶은 부분이라고 생각하는) 7장에서 제시하는 ‘이로운 기계의 원칙들’ 을 에서 간접적으로 엿볼 수 있다.

 

1. 전적으로 이타적인 기계: 기계의 목적은 오로지 인간 선호의 실현을 최대화 하는 것이다.

2. 겸손한 기계: 기계는 그런 선호가 무엇인지 처음에는 확실히 알지 못한다.

3. 인간의 선호하는 법 배우기: 인간의 선호에 관한 궁극적 원천은 인간의 행동이다.

 

가장 눈에 띄는 단어는 ‘선호’이다. 인간의 ‘가치’, ’정의’ 등의 단어를 사용하지 않았다는 것이 이 책의 핵심이라고 할 수 있다. ‘선호’는 옳고 그름의 문제가 아니다.

그동안 우리는 뛰어난 초인공지능 기계가 그릇된 정의를 추구할 경우를 상상하며 위협적인 대상으로 바라보았을지 모른다. 그러나 저자는 ‘인간의 선호’개념을 제시하여 디스토피아적 상상을 제한한다는 것이 재미있는 지점이다. 즉, ‘선호’라는 것은 인간의 차별된 특성이자 기계가 인간을 쫓아올 수 밖에 없는 이유라고 하는 것이다. 기계가 인간의 ‘속성을 닮는’ 것이 아닌 인간을 좋아하는 것을 추구함으로써 인간과 기계의 추구하는 목적이 다르고 존재의 의미가 다르다. 즉, 기계가 인간의 지위를 찬탈하는 것이 아닌 공존하는 방향을 갖게 된다.

 

지난 9월 미국의 한 미술대회에서 인공지능이 만든 그림이 인간 심사위들에 의해 1위를 수상하는 사건이 있었다. 당연히 “기계가 인간만의 영역을 침범했다.”, “기계가 학습으로 이미지를 만드는 것이 예술활동으로 볼 수 있는가.” 등등 여러 여러 논란이 있었다. 언뜻 생각해보면 이런 부정적인 의견들이 당연하다 할 수 있다. 그러나 스튜어트 러셀의 원칙을 적용해 보면 충분히 이해가 가는 사건이다. 인간인 심사위원들이 가장 좋은 작품을 선정했다는 것은 어떤 의미인가? 그리고 인공지능은 그림을 학습하여 그린다는 것은 어떤의미인가? 심사위원들이 작품을 선정하는 것은 선호도에 따라 결과물을 고르는 행위라고 할 수 있다. 또한 기계는 그렇게 선호도가 높은 결과가 나올 수 있도록 학습을 하는 것이라고 할 수 있다.

미술대회 우승까지 한 'AI 그림'…단순 표절일 뿐 vs 새로운 예술 도구(경향신문)

스튜어트 러셀의 논리에 따르면, 그림대회 사건을 보고 인공지능이 인간의 영역을 침범하는 것을 우려하는 것은 섣부른 일이지 않을까.

 

 

 

맺음말_맥락

이 책의 주제는 인공지능이 -초인공지능이라고 불릴정도로- 고도로 발전할 수 밖에 없다는 것은 기정사실화 하면서, 어떻게 하면 인공지능을 갖게 된 기계를 인류에 도움이 될 수 있도록 제어하는 방법을 제시하는 것이다.

 

트롤리 문제를 접해본 사람들은 그 문제가 쉽게 답이 나오지 않는 논리라는 것을 너무나 잘알고 있을 것이다.

이 책은 그 트롤리문제와 같은, 결코 1+1=2식의 한가지 답이 나올 수 없는 수많은 문제를 마치 인공지능에 빙의하듯 제시한다. 어떻게 보면 논리적으로 사고할 수 있는 방법을 제시하는 책이라고 볼 수도 있다. 하지만 오히려 이렇게 논리적인 기계를 어떻게 논리적으로 다룰 것인가 하는 것을 고민한다는 것 자체가 인간만의 특권일 수 있다.

트롤리 문제 https://upload.wikimedia.org/wikipedia/commons/thumb/8/8c/Trolley_problem.png/1200px-Trolley_problem.png

인간의 선호는 언어의 ‘맥락’에 숨겨있다, 기계는 인간의 언어를 문자의 의미는 이해할 수 있어도 숨은 맥락은 이해하기 어려울 것이라고 본다. 그 맥락에는 상황에 따라 다르고 인간의 감정에 따라 같은 단어를 사용함에도 달라진다. 이 책은 맥락 속에 숨겨진 인간의 선호를 논리적으로 찾아내는 과정을 설명하면서도 그것은 매우 어려운일이라고 본다. 그래서 기계는 겸손해야 한다고 한다.

 

우리가 인공지능과 공존하기 위해서는 겸손한 상태의 기계가 인간의 선호를 이로운 방향으로 학습할 수 있도록 오히려 더 많은 데이터를 공유해야한다. 그리고 기계를 연구하는 것과 함께 기계보다 예측하기 더 어려운 우리 인간 자체를 연구하는 것도 게을리 하지 말아야 할 것이다.