■ AI 이후의 세계: 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라 | 헨리 A. 키신저·에릭 슈미트·대니얼 허튼로커 지음 | 김고명 옮김 | 윌북(willbook) | 296쪽
챗GPT는 시작일 뿐이다. 우리에게 어떤 미래가 올 것인지 본격 탐구하고 이해해야 할 시점이 왔다. 그래서 정치와 경제와 과학, 각 분야를 대표하는 세 저자가 중지를 모았다. 이 책은 미국 전 국무장관이자 국제정치 이론의 거장 헨리 키신저, 구글 회장과 인공지능국가안보위원회(NSCAI) 위원장을 역임한 에릭 슈밋, MIT 슈워츠먼컴퓨팅대학의 초대 학장 대니얼 허튼로커가 4년에 걸쳐 AI를 주제로 논의한 내용을 담은 책이다.
생성형 AI가 내놓는 뛰어난 결과물에 감탄하며 실용적 활용법에 주목하고 있는 오늘날이지만 이 신기술이 인류에게 끼칠 철학적·전략적 영향에 관한 논의는 부족한 실정이다. 우리를 대신해 생각과 판단을 해주는 인공지능을 당연하게 여길 ‘AI 네이티브’ 세대의 등장이 예고된 가운데, 걷잡을 수 없는 문제가 발생하기 전에 지금 당장 모든 시민이 위와 같은 질문과 마주하여 AI의 효용과 한계를 합의해야 한다. 저자들은 ‘아직’ 인간이 미래의 주도권을 쥐고 있다고 역설한다.
지금의 ‘디지털 네이티브’처럼 앞으로는 누구나 인공지능을 스마트폰처럼 자연스럽게 사용할 것이다. 저자들은 ‘AI 네이티브’ 세대의 출현을 예고하며 사회·경제·정치·기술·역사·철학 등 분야를 총망라하여 미래상을 그려낸다. 신기술에 지나치게 열광(hype)하거나 비관하지 않고 객관적인 시선에서 이러한 질문에 답하고자 한다.
“인공지능 개발은 현재 어디까지 진척되었고 어디로 나아가는 중인가?, 이성을 숭앙하는 근현대 계몽주의 이후 지성사에는 어떤 장이 펼쳐지는가?, 틱톡과 페이스북 같은 AI 기반 디지털 플랫폼에는 무슨 혁신이 일어나는가?, 전쟁의 형태와 국제질서는 어떻게 개편되며 미국의 역할은 무엇인가?, 초인적 지능과 공존하는 사회에서 인간의 정체성은 어떻게 달라지는가?”
중요한 질문들의 답을 찾아가며 이 책은 인공지능을 어디까지 믿고 어떻게 책임져야 하는지를 짚는다. 이를테면 AI는 어떻게든 조리 있는 답변을 제시하려고 없는 사실을 꾸며내며 교묘한 가짜뉴스도 얼마든지 만든다. 이 책은 AI의 답변이 “일견 완벽하기 때문에 그 결과물을 과신하는 경향”이 나타나며 더 강해질 것이라고 날카롭게 경고한다.
AI가 허위정보를 생성한다면 이를 필터링하는 데에도 AI가 쓰일 수밖에 없다. 몇몇 사람들은 편견에 구애받지 않는 듯한 인공지능에게 검열 권한을 적극 넘겨줘야 한다고 말한다. 하지만 “AI가 실수로 진실한 정보를 막는다면 이를 바로잡을 수 있는가?” “AI가 ‘가짜’로 낙인찍은 정보를 읽을 권한이 우리에게 있는가? 아니, 애초에 그런 정보를 읽을 의향이 있는가?” 저자들은 섣부른 의존 또한 답이 될 수 없다고 지적한다.
예측이 불가능하며 이해를 불허하는 AI의 특성은 상황을 더 복잡하게 만든다. 구글 딥마인드에서 개발한 알파제로(AlphaZero)는 체스에서 이례적인 전술을 선보였는데, 우리 머리로는 감당하지 못하는 방대한 경우의 수를 검토하여 패턴을 인식한 결과였다. 즉, AI는 결과물을 그저 제시할 뿐 왜(어떻게) 그에 도달했는지 인간이 공감하고 이해할 수 있게 설명하진 않는다.
보드게임에서 AI의 도움을 받는 정도야 큰 문제가 아니겠지만, 국가안보와 직결된 사안이라면 어떨까? 재난이나 전쟁 상황에서 제 계산에 따라 더 많은 사람을 구하기 위해 일부 국민의 생명을 희생시키라고 지도자에게 권고한다면, 무엇을 근거로 그를 따르거나 거부할까? 우리의 기량을 능가한 AI를 활용하지 않고 인간의 이성만 사용하는 것은 고집이자 태만으로 여겨질 수 있다. 그런 상황에서 권고를 거부하는 것이 과연 정당화될 수 있는가?
이 책은 특이점 이후의 세계에서도 ‘인간성’은 무의미해지지 않는다고 설명한다. “인공지능은 인간이 아니다. 의식도 없고 성찰 능력도 없다.” 그러므로 정책 결정이나 법 집행 등 중차대한 사안은 인간이 결정하고 감독할 때만 정당성이 확보된다. 인간은 정치적 동물로서 복잡한 사회를 형성하고, 분쟁을 평화적으로 해결할 원칙을 세우며, 그에 의거해 질서를 유지해왔다. “판단의 주체는 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다”는 저자들의 주장은 인간으로서 산다는 것의 의미를 다시금 성찰하도록 우리를 이끈다.
