■ AI 윤리에 대한 모든 것 | 마크 코켈버그 지음 | 신상규·석기용 옮김 | 아카넷 | 264쪽
이 책은 인공지능 기술과 관련한 윤리적 쟁점을 포괄적이고 체계적으로 망라하는 가운데 그에 대한 실천적 대응 방향을 제시한 책이다. 18세기 산업혁명의 뒤를 이어 AI 기술의 눈부신 혁신과 함께 도래한 ‘제2의 기계 시대’는 AI에 대한 깊은 감탄과 실존적 두려움이라는 상반된 감정을 동시에 불러일으키고 있다.
오늘날 AI는 이미 운송, 마케팅, 건강관리, 금융과 보험, 보안, 군사, 과학, 교육, 사무, 엔터테인먼트, 예술, 농업, 제조업 등 많은 영역에서 활용되고 있으며, 심지어 법원의 의사 결정이나 치안에도 사용되고 있다. 바야흐로 기계가 인간을 ‘보완’하는 수준을 넘어 ‘대체’하는 수준으로까지 진화하면서 공상과학소설에서나 묘사된 장면은 이제 현실 세계로 들어오게 되었다.
이러한 전례 없는 기술적 도약은 인류의 자기 이해에 심대한 도전을 제기했을 뿐만 아니라, 여러 가지 윤리적, 사회적, 정치적 이슈를 야기했다. 이를테면 기계가 인간의 지능을 능가할 것이라는 발상이 담긴 ‘초지능’이나 ‘기술적 특이점’ 같은 개념은 인간 예외주의 혹은 인본주의에 대한 우리의 오래된 믿음을 그 뿌리부터 뒤흔들고 있으며, 그로 인해 AI가 인간의 삶을 장악하고 위협할 수 있다는 공포를 불러일으키는가 하면, 자율 주행 자동차나 자율 살상 무기에는 도덕적 책임을 어떻게 부여해야 하는지, 무엇인가 일이 잘못되면 누가 책임져야 하는지 같은 질문을 던지게 한다. 또한 AI로 인한 개인 정보 침해나 전체주의의 위험성, 사회적 불평등이나 편견 강화에 대한 우려 또한 꾸준히 제기되고 있다. 이와 같이 새로운 기술로 인해 의도하지 않은 결과가 초래될 수도 있다는 점에서 AI는 ‘오펜하이머의 원자탄’에 비견되기도 한다.
이 책은 먼저 AI의 발전과 미래를 말하는 영향력 있는 서사들을 소개하는 것으로 시작한다. 가장 대표적인 것으로는 종국에는 우리가 기계를 지배하는 것이 아니라 기계가 우리를 지배하게 될 것이라는 초지능에 대한 이야기다. 이것은 폭발적인 기술 발전으로 인해 세상에 도대체 무슨 일이 일어나는지 더는 이해할 수 없을 정도가 됨으로써 인간사가 종말을 고하고 말 것이라는 기술적 특이점이라는 생각과 밀접한 관계가 있다.
따라서 오늘날 우리가 직면한 과제는 AI를 어떻게든 우리가 원하는 대로 통제할 수 있어야 한다는 것이고, 그러기 위해서는 첨단 기술을 이용해 인간 스스로 자신을 ‘신’으로 업그레이드해야 한다고 한편에서는 주장한다. 저자는 이와 같은 인간과 기계의 경쟁 서사 혹은 ‘프랑켄슈타인 콤플렉스’를 넘어서기 위한 해법을 서구 문화 바깥에서 찾는다. 거기에는 종말에 관한 사상도 없고, 인간은 근본적으로 기계보다 우월하며 물질성을 초월하려는 존재임을 끊임없이 옹호하는 플라톤적 욕망도 없으며, 기계에 대해 보다 우호적인 태도를 발견할 수 있기 때문이다.
이어서 저자는 AI를 둘러싼 과장된 이야기를 넘어서고 AI에 대한 윤리적 논의를 단순히 미래에 대한 꿈 혹은 악몽으로 제한하지 않기 위해 기계에서 인간 같은 지능이 가능한지, 인간과 기계의 차이점은 무엇인지, AI는 단지 기계일 뿐인지 아니면 어떤 형태의 도덕적 고려를 받을 자격이 있는지 등을 하나하나 검토한다.
그런 뒤 저자는 AI에 관한 철학적 논의나 역사적 맥락화를 뒤로하고 AI 기술이 오늘날 우리 삶에서 실제로 어떻게 작동하고 있는지를 설명하기 위해 AI의 역사와 함께 기호적 AI나 신경망 인공지능 같은 기술을 소개하고 기계학습, 데이터 과학을 자세히 들여다본다. 그리고 프라이버시, 투명성, 설명 가능성, 편향, 공정성, 불평등 등 AI 윤리에서 다루어지는 쟁점들을 개괄한 다음 이러한 이슈들에 정책적으로 어떻게 접근할지를 검토한다. 마지막으로 기후 변화나 에너지 문제 같은 전 지구적 현안을 AI 문제와 연관 지어 논의함으로써 지속 가능한 삶을 구축하는 방법에 대해 더 깊이 돌아보게 한다.
