주제별 글모음/인공지능에 대한 글

격암(강국진) 2021. 3. 20. 14:40

요즘은 독일 철학자가 쓴 디지털 휴머니즘이라는 책을 읽고 있습니다. 인공지능의 시대에 인간의 의미와 역할을 강조하는 이 책에서 아주 중요하게 등장하는 것이 자유의지와 인과론이라고 할 수 있습니다. 작가는 기계는 그저 시키는대로 할 따름이지만 인간은 기계적으로 결정하는 알고리즘이 아니기 때문에 판단의 주체는 오직 인간만이 될 수 있다고 말합니다. 다시 말해 인간은 자유의지를 가지고 있으며 기계와는 달리 인과론적으로 펼쳐지는 연쇄적 사건들에서 최초의 판단자가 될 수 있다는 말이죠. 

 

예를 들어 자율운전을 생각해 봅시다. 운전은 윤리적 딜레마를 만들어 낼 때가 있습니다. 즉 어떤 선택을 해도 누군가가 피해를 볼 때 우리는 어떻게 판단을 해야 하는가가 객관적으로 결정되어 지지 않는 상황이 있다는 겁니다. 행인과 운전자 둘 중 하나만 살릴 수 있다고 할 때 어느 쪽을 살려야 할 것인가라던가 백명을 살리기 위해서라면 아무 죄없는 한 사람은 죽일 수도 있는가같은 질문이 윤리적 딜레마가 어떤 것인가를 보여줍니다. 

 

철학자는 인간은 윤리적 판단을 할 수 있지만 우리는 알고리즘이 윤리적 판단을 내리게 할 수 없다고 말합니다. 결국 인간의 결정을 기계가 대신하는 경우에 해당하는 자율운전에 반대하는 것이죠. 말하자면 설사 기계가 운전할 때보다 사람이 운전할 때 교통사고 사망자가 백배 많다고 해도 기계의 판단으로 사람을 죽일 수는 없다는 겁니다. 기계는 윤리적 판단을, 가치 판단을 할 수 없으니까요. 판단은 오직 인간만이 하니까요. 

 

저는 이 책을 쓴 철학자가 나름대로 고심하여 집필한 이 책이 무의미하다고 생각하지 않습니다. 다만 답이 중요한 것이 아니라 문제제기가 더 의미깊다는 생각을 하며 읽고 있습니다. 사실 이 철학자가 논하는 문제들은 완전히 새로운 것은 아닙니다. 이 책은 계속 인간에게 기계가 봉사해야 한다고 말하면서 기계에게 인간이 맞추는 것이 아니라 인간에게 기계가 맞춰야 한다고 말하고 있습니다. 기계에게 인간이 맞추는 것은 탈인간적 변화이고 인간에게 기계가 맞추는 것은 바로 디지털 휴머니즘이라는 겁니다. 

 

그런데 서울의 지하철역을 생각해 봅시다. 그건 참 편리하게 되어 있는 시스템이지만 여전히 인간이 학습하고 적응해야 하는 시스템입니다. 인간이 내가 왜 선로를 따라 걸을 수 없냐고 주장하면 선로가 인간에게 맞추는 그런 시스템은 아닙니다. 때로 그것이 어렵고 피해자를 만들 때도 있지만 모두가 지하철 시스템의 규칙을 숙지할 때 그 시스템은 편하게 인간에게 봉사합니다. 반면에 난 그런 규칙이 내 자유를 침해하는 것이 싫다고 말하고 저항하면 지하철 시스템은 멈춰설 겁니다. 그런데 그게 꼭 더 인간적인 사회일까요? 이런 말은 마치 코로나가 퍼져도 마스크를 쓰지 않는 자유를 누리는 것이 인간적 사회라는 말처럼 들입니다. 게다가 이런 주장은 지하철시스템뿐만 아니라 우리가 인간의 발명이라고 할 수 있는 모든 것에 할 수 있으며 따라서 자유를 계속 주장하면 우리는 점점 더 침팬지처럼 변하면서 퇴행할 것입니다. 그런 퇴행이 휴머니즘일까요?

 

이런 기계나 시스템에 대해서만 말하면 오해의 소지가 있기에 다른 측면에 대해서도 말해보겠습니다. 살인은 나쁘다라는 것은 분명 윤리적 판단입니다. 그런데 이게 인간적인 판단일까요? 물론 그렇습니다. 하지만 여기서 말하는 인간도 이미 DNA가 결정하는 인간이 아니라 사회적 인간입니다. 즉 사회시스템이 인간에게 살인은 나쁘다라는 규칙을 준 것이고 그걸 인간이 받아들이고 적응한 것이지 아무 제약이 없어도 살인은 나쁘다라는 윤리가 보편적이 되는 것은 아니라는 겁니다. 왜냐면 살인은 나쁘다라는 윤리는 예외가 있기 때문입니다. 사형제도도 있지만 전쟁에서 싸우는 군인들도 있지 않습니까? 살인은 나쁘다라는 것이 그토록 자명한 윤리적 판단이었다면 왜 이 판단에 예외 사항이 자꾸 있겠습니까? 

 

결국 우리가 말하는 인간은 DNA가 결정하는 물질이 아니고 사회적 영향의 결과물이라는 겁니다. 이미 우리가 상식으로 알고 있는 인간의 모습은 우리가 문명에, 사회적 시스템에 적응한 결과인데 그런 인간이 다시 새로운 시스템에 적응하는 것은 비인간적이고 지금 이대로 사는 것은 인간적이라는 구분은 정말 당연한 것일까요? 10세기 인간이 20세기 인간을 보고 저건 비인간적이라고 하는거나 20세기인간이 21세기 인간을 보고 그런 말을 하는 거나 마찬가지 아닐까요? 

 

저는 인간은 물과 같아서 어떤 그릇에 담기든 그저 그릇의 모양을 반영할 뿐이니 인간이 어떻게 변하든 상관없다고 하는 것은 아닙니다. 다만 인간이란 이러저러한 것이다라고 독단적으로 선언하고 인간형을 고정하고 나서 그것과 달라지는 것은 비인간적인 변화이니 용납할 수 없다는 식으로 사고를 전개하는 것은 그럴듯하지만 큰 의미가 없다는 겁니다. 우리는 심장이식이나 시험관아기같은 문제에 대해서도 심지어 수혈에 대해서도 비슷한 이야기를 했습니다만 그런 독단론은 새로운 변화에 대해 별 의미를 가지지 못합니다. 그냥 우리가 괴물이 되는거아니냐는 공포만 만들 뿐이죠. 

 

여기서는 질문의 출발점으로 돌아가는 것이 유익합니다. 질문의 출발점이란 결국 자유의지나 인과론인데 이 문제는 서구적인 환원주의적 사고 방식이 아니라 비환원주의적 사고 방식으로 볼 때 전혀 다른 모습을 가지게 되기 때문입니다. 환원주의에서는 전체를 이루는 부분들이 인과적인 관계를 가지면서 전체를 구성하게 됩니다. 일단 먼저 부분들이 있고 그 부분들이 상호작용하는 거죠. 그러니까 기계가 있고 인간이 있으면 인간과 기계가 어떤 영향을 서로 주고 받는가 하는 식으로 세상을 보게 되는 것이죠.

 

비환원주의는 우리가 보는 것들이 모두가 아니면 대다수 전체와의 무수한 피드백속에서 동적인 평형과 균형을 이루면서 존재한다고 생각합니다. 이렇게 관점을 바꾸면 생기는 일중의 하나가 인과를 따지지 않게 된다는 겁니다. 제가 좋아하는 토끼모양 풍선 이야기를 또 해 봅시다. 토끼 모양 풍선의 귀는 풍선안의 바람이 그 귀를 풍선바깥쪽으로 밀어내기 때문에 생기는 것이 아닙니다. 풍선 바깥의 공기와 안쪽의 공기가 서로 밀면서 균형을 이룬 결과 생긴 것이죠. 여기서 토끼의 귀를 풍선안의 공기가 만들었다거나 풍선바깥이 만들었다거나 하는 이야기는 이미 통하지 않는 겁니다. 

 

내가 있고 세상이 있다거나 세상이 있고 거기에 내가 있게 된다는 것이 아니라 나라는 존재는 애초에 세상의 것들이 만들어 내는 균형과 평형의 결과라고하면 어떻습니까? 기계가 있고 인간이 있는 것이 아니라 애초에 모든 것이 균형과 적응의 결과로 존재하는 것이라고 하면 우리는 자유의지나 윤리적 판단에 대해서 인간만이 특권을 가졌다거나 인간이 이렇게 변하는 것은 탈인간적이라는 식의 독단적 선언은 하지 않게 될 것입니다. 자유의지의 문제는 피드백과 동적평형을 강조하는 관점으로 바라보면 무의미합니다. 세상과 나를 가르는 순간 나의 의지문제가 발생한 것인데 애초에 그것이 하나라면 내 뜻과 세상의 뜻에 구분이 없으니까요. 

 

이렇게 말하면 살인을 하건 강간을 하건 다 내가 책임질 일이 아니고 세상의 뜻이니 나는 맘대로 살 수 있다는 거냐고 말하는 사람이 있을 법합니다. 너와 나도 구분이 안되는 것이니 남의 물건도 마구 훔쳐도 되고 말입니다. 그런데 정말 그렇습니까? 여러분은 단지 법이 있기 때문에 살인과 강간과 도둑질을 안하고 있는 겁니까? 내가 안해도 누군가는 할거다라는 말도 맞습니다. 그리고 법이 필요없다는 것도 아닙니다. 그러나 법을 존중하더라도 그 법을 만든 것이 인간이며 우리는 단지 그 법때문에 이렇게 사는게 아니라고 하는 것이 진정한 자유인이고 윤리적 인간이겠죠. 살아있는 인간일 겁니다. 법때문에 참는다고 하는 사람이야 말로 법의 노예이며 실질적으로 죽은 자입니다. 법에 묶여서 질질 끌려가고 있는 것이니까요. 

 

비환원주의적 생각은 모든 것이 허깨비라는 것을 의미하지 않습니다. 인간은 DNA의 영향을 받죠. 사회적 영향이 있다고 인간이 갑자기 팔이 세개가 되지는 않습니다. 하지만 인간은 단지 DNA가 아니라는 겁니다. 아주 많은 부분이 보다 빨리 변하고 사회적 균형안에서 만들어 진 것이라는 것이죠. 사실 DNA도 균형의 결과지만 그건 진화라는 다른 시간스케일을 가진 과정입니다.

 

법은 문명화된 사회를 만들었습니다. 법은 말하자면 그 사회의 DNA입니다. 하지만 그것도 변할 수 있고 변해야 하는 것이죠. 우리는 같은 것을 지하철 시스템이나 인공지능이 펼치는 세상에 대해서도 말할 수 있습니다. 이제까지 그랬듯이 우리는 새로운 환경에서 새로운 균형점을 찾아 바뀔 것입니다. 그것은 피할 수 없는 것이며 용케 피해낸다면 21세기에 수렵채집인으로 살고 있는 원주민같은 존재들이 되겠죠. 그걸 더 인간적이라고 부른다고 과연 뭐가 좋은지 모르겠습니다. 

 

법의 이름으로 사람이 죽기도 합니다. 하지만 그렇다고 우리가 법질서를 파괴해야 세상이 좋아진다고 하지 않습니다. 다만 현실에 맞지 않는 법이 있다면 법을 바꿀 뿐이죠. 인공지능은 윤리적 판단을 해서는 안되고 판단은 인간만이 할 수 있다는 생각은 그럴듯하게 들리지만 그건 법따위는 있어서는 안되고 무슨 성자나 왕만이 판결을 내릴 수 있다고 하는 거나 마찬가지입니다.  공화국의 법질서안에서 살아보지 못하고 족장의 독재아래서만 사는 충성스런 원주민은 법따위는 비인간적이라고 할지 모르지만 공화국에서 사는 문명인들의 눈에는 원주민이 비인간적으로 삽니다. 각자 인간을 독단적으로 정의하고 있기 때문입니다. 인공지능은 당연히 인간의 경험과 상식을 집약해서 판단을 내릴 것입니다. 우리는 물론 가장 인간적인 인공지능을 추구할 것입니다. 다만 거기서 말하는 인간의 의미는 미래에는 지금과는 똑같을 수 없습니다. 

사업자 정보 표시
| | | 사업자 등록번호 : -- | TEL : -- | 사이버몰의 이용약관 바로가기
재런 러니어(Jaron Lanier) 가 쓴 [디지털 휴머니즘]을 언급하신 거지요? 제가 넷플릭스에서 [소셜 딜레마]라는 다큐를 보다가, 거기 등장한 재런 러니어란 인물에게 호기심이 생겨 저서를 검색해 보았더니 마침 동명의 저서가 나와서요.

아닙니다. 같은 이름의 책이 두 권이 있군요. 제가 읽은 책은 보다 최근에 나온 율리안 니다-뤼멜린이 쓴 것입니다. 말씀하신 책이 더 좋은 책일지도 모르죠.
https://www.aladin.co.kr/Search/wSearchResult.aspx?AuthorSearch=%EC%9E%AC%EB%A1%A0+%EB%A0%88%EC%9D%B4%EB%8B%88%EC%96%B4@1749561&BranchType=1
http://aladin.kr/p/G6J83