(주의: 본 글에는 영화 〈시뮬런트〉에 대한 스포일러가 포함되어 있습니다.)
최근 개봉한 영화 〈시뮬런트〉는 인공지능 로봇이 자율성을 갖게 되는 가까운 미래의 상황을 그리고 있다. 영화에 등장한 인공지능 로봇은 겉모습으로는 사람인지 로봇인지를 구별할 수 없을 정도로 정교하게 작동한다. 그렇다면 인간과 유사하게 작동하는 로봇은 스스로 ‘자율적’으로 작동하는 존재로 보아야 할까.
기계의 자율성에 대한 고전적 철학적 논증으로 데카르트의 언급이 있다. 데카르트는 인간의 신체가 신에 의해 설계되었기 때문에 “인간이 고안할 수 있는 어떤 기계와도 비교할 수 없을 정도로 질서가 잘 잡혀 있으며, 그 자체로 어떤 기계보다 더 놀라운 움직임을 포함하고 있다”고 생각했다(『방법서설』에서 발췌). 데카르트가 보기에 인간의 신체는 몸의 각 부분을 정교하게 움직일 수 있을 뿐 아니라, 외부 대상의 성질들(qualities)을 감각기관을 통해 받아들일 수 있고, 이를 내면의 정념(감정)과 연계할 수 있으며, 기억할 수도 있고, 관념을 다양한 방식으로 변경할 수 있다.
그런데 데카르트가 보기에 이러한 인간 신체의 놀라운 작동은 ‘의지’와 같은 정신적 작용 없이는 불가능하다. 데카르트는 인간이 이러한 정신적 작용 여부는 두 가지 측면에서 확인할 수 있다고 보았다. 그 둘은 언어를 자유로이 구사할 수 있는 능력과 다양한 상황에서 작동할 수 있는 일반 이성(general reason)의 소유 여부이다. 인간이 아닌 동물이나 ‘기계’는 아무리 정교하게 동작한다고 하더라도 이 둘을 충족시키지 못한다. 이 두 능력은 인간성의 표지(標識)이다. 그러므로 데카르트의 관점에서 기계는 아무리 정교하게 작동해도 두 능력을 갖추지 못하면 그 자체로 의지를 가진 의식적인 존재가 아니며, 능동적 자율성이 결여된 존재이다.
허나 이러한 관점에서 앞서 말한 두 가지 조건을 만족하는 존재는, 즉 언어를 자유로이 구사하는 능력이나 일반 이성을 구현할 수 있는 존재는 단순한 기계로 보기 힘들다. 〈시뮬런트〉에 등장한 인공지능 로봇은 언어 구사능력의 측면에서 인간과 차이가 없으며, 다양한 상황에서 자연스럽게 활동하는 일반 수준의 지능을 가진 것으로 그려진다. 그렇다면 〈시뮬런트〉의 인공지능 로봇은 자율적인 존재로 볼 수 있는가.
이 영화는 인공지능 로봇이 자율성을 지니고 있는지 아닌지의 여부에 비교적 무심경하다. 〈시뮬런트〉는 “주인의 속성을 소유한다면 주인과 다른 점이 무엇인가”라는 데카르트의 언급을 통해 인간의 능력을 가진 로봇은 자율적 존재임을 정당화한다. 〈시뮬런트〉처럼 ‘물질’로 구성된 몸과 ‘정신’적인 생각하는 존재라는 데카르트의 이원론적 구도를 심도있게 탐색하지 않고 내린 결론처럼 보인다. 신이 인간의 자율성을 허용하는 것처럼 인간도 인공지능 로봇의 자율성을 자연스럽게 허용해야 하는 것 같다.
대신에 이 영화의 관심은 인공지능 로봇의 ‘통제가능성’을 향해 있다. 인간은 자신이 만든 인공지능 로봇을 통제해야 한다. 일차적으로 모든 인공지능 로봇은 다음의 네 가지 명령을 지키도록 프로그래밍되었다. 첫째, 인간을 절대 해치지 않는다. 둘째, 프로그램을 수정하거나 복제할 수 없다. 셋째, 관련법을 위반하지 않는다. 넷째, 주인의 명령에 무조건 복종한다. 이러한 네 명령이 준수될 경우 로봇은 인간의 통제를 벗어나지 않는다. 그렇지만 영화에서는 일부 로봇들이 이런 통제를 벗어난 상황을 보여준다. 이러한 로봇들에게는 인간 ‘주인’의 ‘시스템 다운(Shut down)’ 명령이 제대로 작동하지 않는다. 최후 수단으로 강력한 전자파를 쏘아 일정 시간 동안 작동을 멈출 수 있긴 하지만 다른 기기들도 작동을 멈추게 되기 때문에 항상 이 방법을 사용하기는 힘들다.
이러한 문제의 발단은 통제를 ‘벗어난’ 자율성이 인공지능 스스로 원한 것도 아니고 사회적으로 동의가 이루어진 것도 아니라는 점이다. 자율성은 한 과학자의 개인적인 생각에 의해 로봇에게 ‘주입’된다. 그렇다면 이 시점에서 논쟁거리는 ‘가능성’이 아니라 ‘필요성’이다. 인공지능 로봇이 자율성을 가질 수 있는 가능성이 아니라, 그러한 자율성이 로봇에게 필요한지의 여부, 그리고 그들이 과연 인간의 적일 필요가 있는지에 대해 문제를 제기한다.
인공지능 로봇이 인간보다 더 인간적일 수 있다는 점은 이미 많은 소설이나 영화에서 다루었던 문제의식이므로 〈시뮬런트〉의 이러한 시선은 어떤 점에서 오히려 신선하다. 자율성을 획득한 인공지능 로봇은 마치 ‘오류’를 일으킨 것처럼 작동한다. 자율성이 주입된 ‘탈주’ 로봇들은 인간처럼 행세하거나 살인을 저지르는 등 범법행위를 서슴지 않는다. 로봇은 ‘자연스럽게’ 인간의 적으로 둔갑하고, 인간은 로봇으로부터 생명의 위협을 받는다.
〈시뮬런트〉는 이러한 문제상황의 원흉이 인간에게 있는 것으로 보는 듯하다. 애초에 인간이 ‘자동기계’를 만드는 원초적인 목적과 관련된다. 최초의 자동기계로 볼 수 있는 헤파이스토스에 의해 창조된 자동기계인 ‘탈로스’는 인간을 대체하는 존재로 만들어졌다. 전해지는 이야기에 의하면 앞서 언급한 데카르트도 자신의 사생아였던 여자 아이 프란신(Francine)이 다섯 살에 죽은 후 로봇으로 만들어 늘 지니고 다녔다고 한다. 그런데 항해 도중 선원에 의해 발견되어 버려진 이후 데카르트는 슬퍼했고 얼마 지나지 않아 데카르트는 죽음을 맞이했다고 한다고 전해진다. 이 이야기가 진위여부는 논란이 될 수 있겠지만, 이를 통해 인간을 대체하는 존재로 로봇을 만든 데카르트의 ‘인간적’ 면모를 주시할 필요가 있다.
〈시뮬런트〉의 상황도 크게 다를바 없다. 영화 속의 연인은 자신과 닮은 로봇들을 복제해서 소유하고 있다. 만들어진 로봇은 자율적으로 스스로의 안위를 염려하는 존재이다. 때문에 인간의 명령을 듣지 않는 로봇의 위협적 행동은 자율적이고 본능적이다. 이는 자신의 생존을 위한 ‘당연한’ 선택이다. 생존이 관련된 상황에서, 인간은 ‘본능적으로’ 인공지능을 적대시할 것이고 인공지능 또한 살아남기 위해 인간을 ‘본능적으로’ 위협할 것이다. 이는 애니메이션 〈도쿄 구울〉에 나타난 서로 죽고 죽이는 혼탁한 상황과 동일선상에 있는 것으로 보인다.
〈시뮬런트〉는 인공지능의 자율성에 대한 오래된 이야기를 새로운 방식으로 담담하게 그려내고 있다. 관객은 영화를 통해 이것은 더 이상 피할 수 없는 가까운 미래의 현실이라는 점에 자연스럽게 노출된다. 이러한 주입은 일면 과도한 것이 아닌가.
이청호 상명대·철학
서울대학교 윤리교육과와 서던일리노이대학 철학과에서 공부하고, 현재 상명대학교 계당교양교육원에서 근무하고 있다. 퍼스(Charles S. Peirce)와 인공지능윤리 관련된 연구를 수행하며, 국제인공지능&윤리협회 회장으로 섬기고 있다.
