생성하는 인공지능에 질문하기

이번에 출간된 계간 『문화/과학』 114호(2023년 여름)는 ‘AI는 생성하는가’ 특집호이다.

‘생성’이라는 기술적 수식어에 걸맞게, 생성형 AI는 그간 인간성의 마지막 보루로 알려져온 ‘창의적 능력’을 장착한 듯 보인다. AI는 몇 마디의 프롬프트만으로 손쉽게 문서를 작성하고 요약하며 번역하고, 우리 상상 속 이미지를 화면 가득 실제로 펼쳐놓는다. 하지만 챗지피티가 쉴 새 없이 쏟아내는 말과 글은 마치 전문 지식을 갖춘 듯 보이면서도 여러 면에서 오류와 실수로 가득하다.

또한 이 효율적인 범용 기술은 자동화로 인해 누군가의 일자리가 빼앗길 것이라는 악몽을 어느새 실현하기 시작했다. 생성형 AI든 챗지피티든 별것 아니라고, 그저 최근의 다른 여러 기술들과 마찬가지로 한때 지나가는 유행이나 트렌드일 뿐이라고 생각할 수도 있겠지만, 많은 이들은 인터넷(혹은 적어도 웹)의 발명만큼이나 이후 사회 전반에 장기적인 영향을 미치게 될 하나의 기술적 토대가 될 것이라고 전망하고 있다.

하지만 말과 이미지를 새롭게 만들어내는 생성형 AI의 능력은 얼핏 인간의 노동을 보조하거나 강화하는 듯 보이지만 인간의 노동을 부차적인 것으로 만들고 있기도 하다. 무엇보다 콘텐츠를 만들어내는 창의산업의 영역에서 창작 노동자들과 예술가들의 입지를 좁히면서도, 그것이 지금껏 인류가 제작하고 축적해온 언어와 시청각적 데이터를 무차별적으로 추출하고 학습한 것에 기반해 작동한다는 점에서 문제적이다. 그런 점에서 생성형 AI는 인간의 창의적 노동에 대한 이중적 착취를 가능하게 한다. 그러나 우리 사회는 아직 AI가 대체해나가고 있고 또 곧 대체할 가능성이 높은 노동 분야에서의 정의로운 전환에 대한 고민을 시작하지도 못했다.

이에 『문화/과학』은 근거 없이 환호하거나 덮어두고 비판하지 않고 생성형 AI가 우리 사회 전반에 미치고 있는 영향과 펼쳐내고 있는 가능성을 분석적으로 들여다본다. 그것이 가지고 있다고 간주되는 창의성, 창의적 능력, 생성하는 역량에 대해 우선 예술, 노동, 교육, 젠더, 권력, 커뮤니케이션 등의 영역을 중심으로 질문을 던지고자 한다. 과연 지금의 AI는 진정으로 생성하는가?

■ 특집 〈AI는 생성하는가〉 (책임편집: 김상민·하승우·신현우 편집위원)

이번 특집에는 여덟 편의 글이 실렸다. 챗지피티(ChatGPT) 등 생성형 인공지능에 대한 우리 사회의 과도한 열광이나 혹은 근거 없는 비관을 넘어서서, 우리 삶과 의식에 영향을 미칠 AI 기술을 현실주의적으로 검토한다.

► 이광석의 「404 시스템 에러: 생성형 AI가 인도하는 ‘멋진 신세계’」는 동시대 인공지능이 우리 사회에 미치는 영향을 크게 두 측면에서 우려한다. 하나는, 인간 사회관계를 ‘소셜(미디어)’ 관계로 흡수하고 대체하는 경향이며, 다른 하나는, 생성형 AI의 빠른 확산과 범용화로 인해 인간의 사유 과정과 대상 세계의 탐구 행위가 자동화 프로세스에 위탁되는 경향이다. 우리 스스로 사회적 판단, 숙의, 의사결정, 성찰적 질문 등을 생성형 AI에 의탁하면서 인간 ‘사회(의식)의 탈숙련화’가 극대화할 공산이 크기에, 이에 대항하는 기술 민주주의적 해법이 필요하다고 제안한다.

► 김상민의 「환각 생성과 창의성 추출의 자동화된 기계: 생성형 AI 뒤집어 보기」는 생성형 AI가 생성하는 것은 사실상 생성의 결과라기보다는 방대한 데이터 ‘추출’의 결과이며 ‘생성’이라는 용어는 사실 그것이 방대한 인간 커뮤니케이션, 정보, 대화, 지식으로부터 추출한 것들의 배치라고 주장한다. 나아가 생성형 AI가 가진 창의적 역량이란 사실 그것을 작동시키는 인간의 창의성을 지속적으로 요구하는 것이라는 점에서 생성형 AI는 창의성의 추출 기계가 된다는 점을 강조한다.

► 하승우는 「AI 머신 비전과 새로운 사회 권력」에서 챗지피티로 촉발된 생성형 AI에 관한 관심을 얼굴 인식, 원격 탐사, 킬러 드론 등으로 방향을 전환하면서, 동시대 자동화된 머신 비전(혹은 컴퓨터 비전)이 어떤 방식으로 새로운 사회적 권력으로 편성되고 있는지 주목한다. 아티스트들이 기계 시각이 작동하는 방식, 곧 ‘작동적 이미지(operational image)’를 어떻게 재전유했는지 살피면서, 인간과 기계의 시각을 ‘관계적’ 관점에서 살펴볼 것을 제안한다.

► 신현우의 「인공지능 자본주의 프론티어 비판: 인지자동화 시대 제3섹터 비인간 노동과 ‘탈중앙화 커먼즈’의 재구성」은 현재 인공지능 기술이 ‘대가속’에 진입해, 물리적 자동화뿐 아니라 ‘인지의 자동화’를 이루는 정점에 도달했다고 분석한다. 인공지능은 인간이 아니면서 생산수단도 아닌, 죽어있는 동시에 살아있기도 한 미지의 노동, 자본과 노동 사이의 제3 섹터 ‘비인간 노동’을 생성하는데, 여기서 중요한 것은 노동조합-시민조직에 기반한 블록체인 탈중앙화 네트워크, 인공지능의 커먼즈화를 통해 비인간 노동의 문제에 대항할 수 있는 코뮌-기술적 실천을 탐색하는 것이라고 본다.

► 김현준은 「생성형 AI는 무엇을 생성하는가?: 커뮤니케이션 생성 엔진」에서 AI의 ‘생성’과 ‘창의’란 사회기술적 상호작용의 ‘생성물’인 동시에 알고리즘 통치를 교묘하게 제어하고 관철시키는 논리가 될 수 있음을 지적한다. AI가 인간과의 상호작용을 통해 자본주의 기술체계에 의한 생활세계의 식민화를 추동하거나, 기술합리성(노동)과 의사소통합리성(언어)을 융합하는 제3의 조절매체로서 기능함으로써 알고리즘 규율권력과 불평등을 더욱 교묘하게 강화하며, 기술기업의 책임을 일반 사용자에게 전가하는 ‘커뮤니케이션 제어관리권력’이 되고 있다고 주장한다.

► 임태훈의 「쓰면 현실이 된다!: AI를 혁명적 현실 생성 도구로 사용하기」는 인공지능을 대안현실을 창조하는 기술체계로 전유하는 방식을 구체적으로 탐색한다. 초거대 AI모델이 지금에 이르는 데에는 빅테크 자본에 기반한 플랫폼 자본주의의 독과점이 선행되었음을 지적하면서, AI의 엄청난 생산성은 끝없이 휘발되는 텍스트, 이미지, 사운드, 그리고 예술과 창의노동 전체를 하향평준화 시킨다고 본다. 따라서 역사적으로 요청되는 것은 ‘글쓰기의 알고리즘적 잠재성’이며, 이 잠재성은 ‘텍스트/이미지의 픽셀 뭉치들을 모니터 밖의 혁명적 현실 생성 도구로 진화하는 길’에 대한 실험적 실천으로 이어져야만 한다고 역설한다.

► 강현주는 「생성형 AI 기술은 트랜스젠더의 오래된 농담을 이해할 수 있을 것인가?」에서 여성공학자로서 현재의 생성형 AI 기술에 대한 상황적 독해를 시도한다. 생성형 AI는 환각이나 편향성과 같은 오류를 본질적으로 가지고 있기에 인간의 다양한 전략과 맥락 사이에서 무엇이 참이고 거짓이며 숨겨진 의도가 무엇인지 파악할 수 없다는 점에서 한계를 가진다고 보며, 전유와 역설을 전략적으로 사용하는 소수자들의 비균질적이고 예측하기 어려운 말하기 방식이 오히려 인간과 기계의 새로운 관계맺음을 가능하게 만들 것이라고 주장한다.

► 김성우는 「생성형 AI의 부상과 리터러시 생태계의 변동: 변화의 지형과 비판적 메타-리터러시의 가능성을 중심으로」에서 텍스트 리터러시 연구자의 관점에서 생성형 AI, 특히 챗지피티가 대학교육의 맥락에서 리터러시에 미칠 영향을 살핀다. 리터러시 관행의 변화로서 AI를 매개로 한 읽기와 쓰기가 부상할 것이고, 리터러시 실천에 있어서 읽기와 쓰기의 순서가 전도되거나 나아가 실시간으로 통합될 것이며, 생산성 담론에 기반해 읽기와 쓰기의 속도가 변화할 뿐만 아니라, 나아가 학술적 글쓰기의 영역에서 저자성과 윤리의 문제에 대해 근본적인 질문이 제기될 것으로 본다.

■ 특별 집담회

생성형 AI에 대한 특집에 맞추어, 최근 AI, 디지털 기술, 인공적 신체 등에 대해 작업하거나 고민을 이어가고 있는 세 팀의 예술가(양아치, 언메이크랩, 장진승)와 네 명의 『문화/과학』 편집위원이 함께 「AI 창의성을 둘러싼 예술의 위기와 가능성」이라는 제목으로 특별 집담회를 가졌다. 챗지피티에서 이미지 생성 AI에 이르기까지 생성형 AI를 대하는 예술가들의 시각과 관점은 통일되지 않고 대중들처럼 열광적으로 달려들기보다는 아직은 의문을 품은 채 비판적으로 관찰하고 있음을 확인하는 자리였다. 본 특별 집담회는 점점 더 가속화되는 데이터 생성과 소비의 속도 속에서 범용화되고 있는 자본주의적 AI 신기술에 예술가 및 연구자들이 끌려다니지 않으면서 어떻게 동시대 기술의 문제와 관련해 더 근원적인 부분까지 밀고 나갈 수 있을지에 대한 많은 고민을 던질 수 있는 계기가 되었다. 여기에 더해 집담회에 참여한 세 예술가 팀이 그동안 AI에 관련해 작업해 온 작품의 일부를 이번 호의 이미지로 심소미가 큐레이팅 했다.

■ 동시대 분석

이번 호 ‘동시대 분석’에는 케이팝 제작-자본의 변화, 에너지 요금과 생태적 공공성, 포스트 코로나 시기 줌의 일상화를 다루는 세 편의 글을 실었다. 이동연의 「SM 경영권 분쟁의 구조적 이해와 케이팝 제작-자본의 변화」는 2023년 2월부터 본격화한 SM엔터테인먼트를 둘러싼 경영권 분쟁의 전개과정을 살펴보면서, 이 사태를 기본적으로 ‘자본의 전쟁’으로 인식하고 이면에 잠재해 있는 복합적 양상들을 드러낸다. 한재각의 「414 기후정의파업이 쏘아 올린 에너지 요금 논쟁: 기후위기 시대의 생태적 공공성을 묻다」는 2022년 겨울부터 2023년 상반기까지 가파르게 상승한 전기·가스 에너지 요금 상승을 둘러싼 생태사회주의적 비판을 제기한다. 맹미선은 「포스트 코로나와 줌의 일상화: 네모난 창과 거리 두기」에서 이제는 우리가 벗어났다고 생각하는 코로나19 팬데믹의 상황을 되돌아보며 비대면 화상 커뮤니케이션, 대표적으로 줌 플랫폼이 어떻게 우리의 일상적인 활동들을 새롭게 매개했는지 살핀다.

■ 텍스트의 발견

AI 특집과 관련된 신간으로 사회학자 백욱인의 책 『인공지능 시대 인간의 조건』을 시각예술가 안준형이 「AI라는 시급한 문제 앞에서 필요한 지식인의 태도」라는 제목으로 독해한다. 인공지능뿐 아니라 빅데이터, 알고리즘, 머신러닝, 블록체인, 플랫폼 장치 등 오늘날의 규정적 기술들을 낱낱이 살피며 비판하면서, ‘인공지능 효과에 시선을 빼앗기는 것’이 아니라, 기술적 대상으로서의 인공지능 가운데 놓인 인간의 조건을 새롭게 재구성하는 것이 중요하다고 역설한다.

■ 이론의 재구성

디지털 기술과 인간의 관계를 철학적 논의로 쟁점화하고자 하는 프랑스의 작가이자 철학자인 에릭 사댕의 저서 『인공지능 혹은 세기의 쟁점: 급진적 반인간주의의 해부학』의 서문을 심소미와 줄리앙 코와네의 번역으로 싣는다. 이글에서 사댕은 인공지능을 제한된 도식에 토대를 두고 모든 종류의 이익을 충족시킬 것을 목표로 한 ‘합리성의 양식’으로 보면서, 인공지능이 선도하는 규범적 합리성에 맞서기 위해 존재의 복수성과 삶의 근원적인 불확실성을 받아들여야 한다고 주장한다.

이명아 기자 다른기사 보기