인공지능 사회의 도래와 그 위험

[이슈와 시선]

Figure Status Update - OpenAI Speech-to-Speech Reasoning

2024년 3월 10일 제프리 힌튼 교수가 “10년 안에 인간을 자율적으로 죽이는 로봇 병기가 등장할 것으로 전망한다”고 밝히는 놀라운 인터뷰 기사가 보도됐다. 그는 ‘인공신경망’을 개발해서 인공지능의 시대를 연 장본인으로 구글에서 인공지능 연구를 이끌고 있다가 작년 3월에 인공지능의 위험에 대응하기 위해 구글을 사직했다. 힌튼 교수의 의견은 인공지능에 관한 가장 중요한 의견으로 존중돼야 한다.

힌튼 교수의 무서운 인터뷰가 보도되고 사흘 뒤에 미국에서 ‘피규어 01’이라는 이름의 로봇이 공개됐다. 생성형 인공지능 개발 오픈AI와 로봇 스타트업 피규어의 합작품인 이 로봇은 인공지능을 탑재한 인간 형태의 로봇으로 그 정확한 논리성과 정밀성에 세계가 깜짝 놀라고 말았다. 1991년에 개봉된 영화 ‘터미네이터 2’는 인공지능 로봇의 인간 공격을 너무나 정밀하게 묘사해서 세계를 놀라게 했다. 그런데 이제 정말 ‘터미네이터’가 곧 등장할 수 있겠다는 우려가 당연한 상황이 되었다.

인공지능은 너무나 놀라운 능력을 갖고 있다. 인공지능은 이미 곳곳에서 쓰이고 있지만 이제 더욱 더 강력한 인공지능이 그야말로 모든 분야에서 활용될 것이다. 그러나 힌튼 교수를 비롯한 많은 전문가들이 강력히 경고하고 있듯이 인공지능은 엄청난 위험을 안고 있기도 하다. 우리는 인공지능의 활용에 앞서서 그 위험에 대응하는 것에 더욱 더 주의해야 한다. 인공지능은 인류를 참담한 파멸로 몰아넣을 수 있다.

1973년에 당시 미국을 대표하는 중견 사회학자였던 다니엘 벨(1919~2011)은 『탈공업사회의 도래』라는 제목의 책을 출간했다. 이 책은 1960년대 미국 사회의 변화에 관한 논문들을 모은 것으로 벨은 그 변화를 ‘탈공업’(post-industry)으로 압축해서 제시했다. 현대 사회는 공업사회이고, 1760년경에 영국에서 시작된 ‘공업혁명’이 그 역사적 기원이다. 미국은 후발 공업국이었으나 19세기 말~20세기 초에 영국을 제치고 세계 최대 공업국이 되었다. 그 결과 미국은 20세기 초에 세계 최강국이 되었다.

그런데 1950~60년대에 미국 사회에서는 탈공업화가 이루어지고 있었다. 미국은 더 이상 철강과 기계로 대표되는 나라가 아니게 되었다. 벨은 산업 통계를 추적해서 이 사실을 실증적으로 포착했다. 미국은 1차 산업(농광업)과 2차 산업(제조업)이 아니라 3차 산업(서비스업)이 압도하는 나라로 변하고 있었다. 이 변화를 벨은 탈공업으로 제시했다. 이로써 탈공업이라는 말이 세계로 퍼져서 현대 사회의 발전 전망으로 여겨지게 되었다.

1980년에 벨은 ‘정보사회의 사회적 틀’이라는 논문을 써서 탈공업사회의 실체를 정보사회로 제시했다. 정보사회(information society)라는 말은 이미 1960년대 나타난 말이지만 벨은 이 말을 쓰지 않았는데 1970년대 말에 생각을 바꿔서 정보사회라는 말을 탈공업사회의 실체로 채택했던 것이다. 여기에는 1971년에 당시 3년차 스타트업이었던 인텔이 마이크로프로세서를 개발한 이래 빠르게 발전해 온 컴퓨터 기술이 놓여 있었다. 정보기술이 세계를 바꾸고 있었고, 이 변화는 그 뒤 더욱 가파르게 진행됐다.

정보사회는 인공지능의 전면적 활용에서 그 정점에 이르게 된다. 인공지능은 초고성능 컴퓨터로서 정보기술의 정점이다. 다니엘 벨을 대표로 해서 주류 정보사회론자들은 정보사회를 인류가 이룩한 문명의 정점으로 제시했다. 그러나 현실에서 정보사회는 사회 위기도, 생태 위기도 해결하지 못했다. 현실 정보사회는 편리성과 생산성이 크게 향상된 사회이나 그렇다고 해서 이상향이라고 할 수는 없다.

인공지능 사회(AI society)는 어떻게 될 것인가? 인공지능은 정보사회를 더욱 향상시켜 결국 이상향을 이루게 될 것인가? 이에 대해 많은 우려들이 제기되어 있다. 이 우려들에 대한 논의가 널리 이루어져야 한다. 표피적 실용성-경제성에 현혹되어 심층적 문제를 무시하는 것은 위험을 파국으로 악화시키는 것이다. 위험은 사고가 일어날 가능성이다. 위험에 올바로 대처하지 않으면 일어나지 않을 사고가 빈발하는 사고사회가 되고 만다.

1986년에 독일의 사회학자 울리히 벡(1944~2015)은 1986년 4월의 체르노빌 핵발전소 폭발 사고를 계기로 『위험사회』를 출간했다. 이 책은 서구 선진국들이 그저 ‘풍요사회’인 게 아니라 극도의 위험을 안고 있는 과학기술에 의해 작동되는 ‘위험사회’라고 갈파했다. 울리히 벡의 경고는 정보사회에도 적실하며, 인공지능의 본격 활용으로 더욱 더 그렇게 된다. 인공지능은 ‘정보위험사회’를 극단화할 수 있다. 이런 상황에서 황당한 사이비 무속 세력이 권력을 농단하면 ‘정보위험사회’의 문제가 더욱 더 악화될 수밖에 없다.

나는 인공지능 사회의 주요 위험을 다음과 같이 다섯 가지로 정리해 보았다. 물론 ‘인류세’ 문제의 악화를 비롯한 다른 위험들도 많이 있다.

첫째, 인공지능은 인간을 완전히 대체할 수 있다. 최초의 인공지능은 의료와 법률의 분야에서 나타났다. 인공지능이 엉터리 의사와 검판사-변호사의 문제를 크게 개선할 수 있다. 그런데 인공지능은 고도의 창작 분야도 포함해서 모든 분야에서 대규모 실업을 야기할 것이다. 물론 새로운 직업도 많이 생성될 것이다. 그러나 인공지능의 효과를 방치하면 인공지능 격차의 문제가 급속히 악화되고 말 것이다.

둘째, 인공지능은 허위사실 유포의 문제를 극도로 악화시킬 것이다. 히틀러-괴벨스는 대중매체를 활용한 허위사실 유포를 극단화했다. 오늘날 히틀러-나치의 후예이자 히로히토-자피의 후예인 비리 세력은 컴퓨터와 인터넷을 이용해서 온갖 허위사실을 만들어서 유포한다. 독일은 사회의 기반을 망치는 이런 범죄를 이미 수백억 원의 벌금형에 처하고 있다. 인공지능은 완전히 사실 같은 허위사실을 넘치게 할 수 있다.

셋째, 정보 기술은 감시 기술이기도 하다. 이미 인류는 일거수일투족이 모두 상시 추적-감시될 수 있는 초감시의 상황에서 살아가고 있다. 인공지능은 이 문제를 더욱 더 악화시킨다. 안면 인식 기술은 수많은 사람들을 추적-감시해서 독재를 강화하는 유력한 수단으로 활용될 수 있다. 인공지능은 식별 감시 기술과 자료 감시 기술을 최고 수준으로 정교화하고 통합해서 감시 사회의 문제를 극단화할 수 있다.

넷째, 인공지능은 정보기술의 군사적 활용을 더욱 더 강화할 것이다. 현대 정보기술의 개발은 미군의 요구에 크게 의지해서 이루어졌다. 미국은 2차 대전을 겪으며 ‘경제의 군사화’가 구조화되었고, 이에 따라 ‘냉전기’에도 막대한 국방비를 쓰게 됐는데, 그 핵심에 정보기술의 개발이 자리하고 있다. 정보기술은 탐지를 넘어서 타격을 고도로 정교화하며, 인공지능은 인간 살상을 자율적으로 수행할 수 있다.

다섯째, 오픈AI/샘 알트만은 인공지능을 극단으로 강화해서 정말 인간 지능을 기계적으로 구현하고자 한다. 이른바 ‘인공 일반 지능’(AGI)를 만드는 것이다. 여기에는 완전한 인류 파멸의 위험이 있다. 제프리 힌튼 교수가 우려하는 인공지능의 무기화를 훨씬 넘어서 인공지능이 인간을 완전히 지배하고 절멸시킬 수 있다. 인공지능은 인터넷으로 연결되어 지구 전체에서 동시에 인류를 공격할 수 있다.

유럽연합은 ‘인공지능 법’을 예정보다 2년 정도 늦춰서 2023년 12월에 제정했다. 유럽연합의 입법 과정이 복잡하기도 하지만 직접적인 이유는 2022년 11월에 돌연 세상에 나타난 오픈AI의 챗지피티(ChatGPT, Chat Generative Pre-trained Transformer) 때문이었다. 챗(chat)은 ‘재잘거리다’는 뜻인데, 컴퓨터 기술에서는 인간과 대화하는 방식으로 작동하는 컴퓨터 프로그램을 뜻한다. Generative Pre-trained Transformer는 ‘생성적 사전훈련 변환기’로 직역될 수 있지만 여기서 Transformer는 2017년에 구글이 발표한 놀라운 변환 프로그램이다. 챗지피티는 인공지능의 새 장을 열었다.

유럽연합의 ‘인공지능 법’은 인공지능 사회가 확립되기 위한 거대한 법적 기반을 제시한 것이다. 이제 세계적으로 인공지능 사회는 급속히 우리의 현실이 될 것이다. 그러나 인공지능 기술을 선도하는 미국은 아직도 이에 대한 법적 대응에 미온적이다. 샘 알트만조차 의회와 정부의 적극적 대응을 요구하고 심지어 IAEA 같은 국제기구의 설립을 제안하고 있다. 미국 의회와 정부는 인공지능 기술의 경제적 가치에 집중하는 동시에 중국과의 치열한 경쟁에서 이기기 위해 이렇게 미온적인 상태에 있다. 하루빨리 인공지능의 알고리듬을 모두 공개하고 공개평가하는 상태로 나아가야 한다.

유럽연합에 이어 미국과 중국이 모두 올바른 인공지능 정책을 실행해야 하고, 이를 위해 인류가 ‘인류세’에 대응하고 있는 것과 같은 인류적 노력이 필요하다. 그것은 지금 여기에서 우리 각자에 의해 실천돼야 한다. ‘인류세’가 인류의 위기이듯이 인공지능도 인류의 위기이다. 인공지능을 단지 기회로만 보는 것은 잘못이다. 인공지능은 인류가 이룬 최고의 성과이자 최악의 위험일 수 있다. 매일 다양한 인공지능 활용서가 쏟아져 나오고 있다. 이런 당연한 관심과 노력의 바탕에 인공지능의 위험에 대한 인식이 있어야 한다. ‘인간을 위한 인공지능’은 인간의 존속을 위한 중대한 요청이다.

홍성태 상지대·사회학

상지대학교 문화콘텐츠학과 교수로 재직하고 있으며, 정보, 생태, 건축-도시, 예술 등을 중심으로 연구하고 강의하고 있다. 저서로 『인공지능X메타버스』(2023), 『디지털 문화의 세계』(2022), 『생태복지국가를 향하여』(2019), 『사고사회 한국』(2017), 『사회로 읽는 건축』(2012) 외 다수의 저서와 편역서가 있다.

홍성태 상지대·사회학 다른기사 보기