지구의 새로운 배치

한 장의 사진이 있다. 나는 그 사진을 수년 전 트위터에서 흘깃 보았는데, 그 이후로 다시 찾을 수가 없다. 실체가 없는 이미지, 그저 나의 환상에 불과한 이미지일지도 모른다. 그 이미지는 해변의 크고 작은 가지각색의 돌멩이, 자갈, 몽돌이 물기에 젖어 반짝이는 사진이다. 아마도 산책 중이던 사진의 촬영자는 무언가를 보고 쪼그려 앉아서 그 사진을 찍었던 것 같다. 여러 색과 모양의 작은 돌멩이들은 자연스럽게 서로 조화를 이루면서 아름답게 보였는데, 자세히 들여다보아야 어떤 돌무늬가 인쇄된 플라스틱 패널(장판) 조각이 그 돌들 아래에 위장한 듯 섞여 있다는 것을 겨우 알 수 있었다. 자연의 돌과 인공적 돌무늬는 한치의 위화감 없이 혼연일체가 되어 있었다. 살짝 바랜 색과 비정형의 테두리로 판단컨대, 돌무늬 패널은 누군가 일부러 놓은 것이 아니라 바다 위를 떠다니다가 어느새 해변으로 밀려온, 그야말로 발견된 사물(found object)임이 분명했다. 그 이미지는 자연과 인공물의 하이브리드적 조화를 보여주는 우리 시대 시각문화의 한 에피소드 혹은 알레고리로 간주될 수 있겠다.

인공적인 사물이 자연적 사물과 자연스럽게 하나가 되어 조화롭게 새로운 배치(assemblage)를 이루는 것을 보는 일은 현대인들에게 매우 자연스러운 일이 되었다. 브뤼노 라투르(Bruno Latour)의 방식으로 말하자면, 그것은 증식하는 현대의 여러 하이브리드 중 매우 단순한 사례에 불과할지도 모른다. 수천만 년에 걸쳐 거대한 바위가 해변의 자갈이 되는 사이에, 역시 수천만 년에 걸쳐 땅속에 묻힌 생명체의 잔해가 석유가 되고 다시 플라스틱 조각으로 변모한다. 그 둘은 오늘날 우연히 나란히 놓였고 눈으로 구분하기 어려울 정도로 동일한 시각적 경험을 제공하고 있다. 컴퓨터, 모바일 폰, 전기자동차와 같은 인공적 사물들의 일상적 경험은 그것이 얼마나 그리고 어떻게 자연의 질료로 구성되었는지를 종종 잊게 만든다. 하지만 자연과 문화는 이미 서로 뒤섞이고 그들 사이에 어떤 이분법적 구분조차 본질적으로 의미가 없다.

다른 여느 자연처럼, 돌은 절망하지도 막연한 희망을 품지도 않은 채 수억 년의 지구 생활을 견디고 있다. 영겁의 시간 동안 그 거대한 산을 이루는 커다란 바위는 이미 여러 차례 바위에서 돌멩이로, 모래로, 진흙으로, 다시 바위로 순환하는 사이클을 돌았을 것이다. 바위는 아무리 우리가 산성비로 부식되는 것을 걱정한다고 해도 인류가 멸종되고 지구상의 새로운 종류의 생명체가 (심지어 생명체가 아닐 수도 있겠지만) 지배종이 될 때까지 여전히 그 견고함을 유지하고 있으리라. 하지만 그것은 성급한 근대인의 판단일지도 모른다. 돌과 바위는 어쩌면 그렇게 견고하지 않거나 지속되지 못할 수도 있지 않을까. 지구상의 돌과 바위가 (포괄적인 의미에서) 디지털 미디어 장치에 필요한 물질의 추출을 위해 혹은 에너지원으로 사용되기 위해 모조리 채굴될 가능성도 있다. 그래서 어쩌면 자연의 돌과 바위는 인공적 돌과 바위, 혹은 그 돌과 바위의 무늬 같은 가상적 이미지로 대체될 가능성도 배제할 수는 없다. 지구와 돌의 시간과는 달리, 인류는 고작 이백여 년의 짧은 시간 동안 ‘심원한 시간(deep time)’의 장구한 지질학적 과정을 압축적으로 가속화하여 개발하고 채굴하고 소비해왔다. 현대인들은 에너지 생산을 위해 석탄이나 석유와 같은 화석 연료를, 다양한 산업 상품과 디지털 장치들을 제작하고 구동시키기 위해 구리, 알루미늄, 코발트, 규소, 니켈, 리튬과 같은 광물들을 무분별하게 채굴하는 중이다.

데이터의 추출과 자원의 채굴 사이에서

최근 많은 이들이 데이터를 ‘새로운 자연 자원’이라 칭하곤 하는데, 이것은 단지 은유가 아니다. 데이터를 땅속에서 채굴하지는 않지만, 데이터는 전 지구적 디지털 플랫폼과 알고리즘의 네트워크를 피드(feed)하고 그것을 살아 움직이도록 만드는 원료다. 데이터는 도처에 있지만 그것의 필요가 발명되고 측정 장치(센서)가 고안된다면 무한정 채굴가능한 어떤 것이기도 하다. 사실 이 데이터의 존재가 무엇인지(사물인지 개념인지 혹은 사건인지)에 대해서는 아직 불확정적이지만, 이 세계의 어떤 것도 데이터가 되어 계산과 분석의 대상이 된다는 점에서 가소성(plasticity)이 뛰어난 자원임은 분명하다. 앞서 본 자연의 돌과 인공적 돌 이미지 사이의 결합만큼이나 우리에게 실리콘(규소)과 알고리즘(데이터) 사이의 결합은 ‘자연스러운’ 현상이 되었다. 산업 자본주의에서 인지 자본주의로의 전환은 암석에서 채굴되는 희귀 광물과 세상 모든 것으로부터 추출가능한 데이터 사이의 필연적인 결합을 통해 이루어졌다. 디지털 혹은 인지 자본주의에서는 모든 것이 땅과 물질로부터 벗어나 손에 잡히지 않는 비물질적인 것, 즉 데이터와 같은 것으로 환원될 것 같지만, 실제로는 암석과 지구에 더욱 깊은 결속이 요구된다. 마테오 파스퀴넬리(Matteo Pasquinelli)는 이러한 기술적·사회적 조건을 ‘탄소실리콘 기계(carbosilicon machine)’와 ‘사이버화석 자본(cyberfossil capital)’이라는 개념으로 요약한다.¹ 우리 사회는 에너지를 생산하는 연료, 반도체를 구성하는 재료, 사물과 에너지에 형태를 부여하는 정보 사이의 통합을 통해 모든 것이 자동화되는 사이버네틱 세계로 나아가고 있다.

비판적 인공지능(AI) 연구자인 케이트 크로퍼드(Kate Crawford)는 『AI 지도책』²에서 벤자민 브래튼의 『스택』³에 펼쳐지는 플랫폼의 전 지구적 레이어를 따라 ‘지구(Earth)’⁴에서부터 논의를 시작한다. 모든 것이 계산가능한 것으로 변모한 현실(computational reality)의 행성적 인프라는 에너지와 광물, 클라우드, 스마트 도시, 사물 인터넷, 인터페이스, AI 알고리즘 등에 이르는 다층적인 형태와 규모로 구축되어 있다. 소프트웨어와 알고리즘이라는 추상적 혹은 비물질적 체계가 작동하는 층위는 에너지와 광물이 채굴되는 층위와 아래위로 겹쳐있다. 블라단 욜러(Vladan Joler)와 크로퍼드의 공동 작업 중 하나인 〈AI 시스템 해부(Anatomy of an AI System)〉에서도 AI에 대한 총체적 분석은 지구 혹은 땅에서 시작하고 끝난다. “네트워크 라우터부터 배터리, 마이크까지 AI 시스템의 확장된 네트워크에 포함되는 각 제품은 수십억 년에 걸쳐 형성된 원소들로 만들어진다. 심원한 시간이라는 관점에서 보면 우리는 지구의 역사를 쥐어짜 찰나의 기술적 시간을 위해 사용하고, 이를 통해 불과 몇 년간 사용될 제품을 만들어낸다. (중략) 지질 작용은 광석 채굴부터 전자 기기 폐기물 처리장에 이 물질을 폐기하는 작업에 이르기까지 이러한 전 과정의 시작이자 끝이다.”⁵

이러한 관점에서 산드로 메자드라(Sandro Mezzadra)와 브렛 닐슨(Brett Neilson)은 현시대 자본주의의 지배적 패러다임을 재규정하고자 하는데, 이는 ‘추출주의(extractivism)’라는 것의 의미를 확장함으로써 가능해진다.⁶ 과거 남반구의 주변부 국가들의 지표면과 땅속, 그리고 생물권에서 자연 자원이나 (인간을 포함한) 생명체를 강제로 이주시키고 그로부터 가치를 재생산하고 축적해 온 (제국주의의) 역사적 과정을 가리키는 것에서부터 데이터 마이닝이나 인간의 삶 자체를 그 대상으로 하는 생명자본주의(biocapitalism)의 작동까지도 포괄하는 것으로 ‘추출’의 의미를 확장하려는 것이다. 말하자면 AI를 가동하는 장치들을 제작, 유지하기 위한 자연 자원의 추출에서부터 AI 알고리즘의 훈련과 개선을 위한 데이터 채굴, 나아가 AI 알고리즘의 완성을 위한 인간 데이터 노동의 착취에 이르기까지 지금의 자본주의가 작동하는 메커니즘은 공통적으로 추출주의에 기반한다고 볼 수 있다. 물론 현재의 채굴, 추출, 착취도 여전히 주로 글로벌 남반구나 주변부 국가들에서 이루어진다는 점에서 지금의 자본주의의 전지구적 불균등의 양상은 역사적으로 달라지지 않았다는 것이 강조되어야 할 것이다.

메자드라와 닐슨의 확장된 ‘추출주의’의 새로운 부분은 욜러와 크로퍼드가 세심히 그려내고 있는 지도를 통해 시각화된다. 그들은 〈AI 시스템 해부〉에서 아마존의 ‘에코’라는 조그만 AI 스피커 장치(알렉사라는 시스템이 탑재되어 있다)가 어떤 광물 원소로부터 만들어지고 그것의 알고리즘은 (인간 노동에 의해) 어떻게 훈련·작동하며 폐기된 이후에는 어떻게 분해되어 다시 땅속에 묻히는지 거시적이고도 미시적으로 추적한다.⁷ 우리가 데이터라는 혹은 AI 알고리즘이라는, (눈에 보이지 않지만, 혹은 눈에 보이지 않기에) 비물질적이고 추상적이라고 여기는 것이 디지털의 형식으로 생성·존재하고, 유지·저장되며, 계산·측정되고, 이동·순환하기 위해서는 반드시 물질적(광물의) 존재 기반이 필요하며, 나아가 그것의 채굴과 폐기가 동반된다는 당연하지만 흔히 간과되는 사실을 넓게 펼쳐진 한 장의 지도(분해 조립도) 위에서 확인할 수 있다. 하나의 AI 시스템에서 자원, 노동, 데이터가 추출되고 또 그 과정에서 가치를 생성해내는 다중적인 추출/착취의 과정은 노동력-생산수단-생산물이 구성하는 삼각형의 부분과 전체가 매 층위에서 복잡하게 반복되는 ‘시에르핀스키’ 삼각형의 프랙탈 구조를 갖추고 있다. 콩고의 희귀 광물 채굴의 현장에서건, 중국의 아마존 음성 AI 제조 공장에서건, 디지털 장치를 사용하는 집에서건, 이 마르크스주의적 변증법의 삼각형 프랙탈 구조를 벗어날 수 없다.

지식과 정신의 추출

도처에 존재하는 추출주의는 이제 우리의 지식과 정신, 지각의 자동화 과정에서도 횡행하고 있다. AI는 그 정신적 추출주의의 선봉장이다. 블라단 욜러와 마테오 파스퀴넬리의 〈지식경 선언(The Nooscope Manifested)〉은 AI의 편향이 기계학습을 통해 데이터셋으로부터 훈련되고 알고리즘의 모델로 구축된 다음 현실에서 적용되기에 이르기까지의 전 과정을 또 다른 지도(혹은 다이어그램)를 통해 자세히 묘사한다.⁸ AI를 ‘지능적 기계’라는 이데올로기적 지위에서 끌어내려 ‘지식 도구’ 중 하나일 뿐이라고 제대로 인식하기 위해, 저자들은 우선 “기계학습을 인간의 손이 닿지 않는 방대한 데이터 공간에서 특징, 패턴, 상관관계를 인식하는 데 도움이 되는 지식 확대 도구로 간주하는 것이 더 합리적”이라고 본다. AI를 자율성을 가지고 인간의 능력을 뛰어넘는 어떤 것으로 신화화하기보다는 여러 종류의 데이터로부터 추출된 지식을 특정한 방식으로 굴절하고 편향을 강화하고 필터링하는 일종의 확대경(볼록렌즈)과 같은 하나의 도구로 간주해야 한다는 것이다. 그러고 나서는 세 단계에 걸쳐, 어떻게 인간적 편견(오류)과 기계적(통계적) 편견이 기계학습의 훈련 과정에서 증폭되어 학습 알고리즘의 모델에 내재하며 나아가 AI의 렌즈를 투과해 실제 현실에 적용되는지 설명한다.

‘지식경’ 지도가 보여주는 마지막 단계인 알고리즘이 현실에 적용되는 단계는 흥미롭게도 두 방향으로 전개되는데, 이 두 방향은 ‘패턴의 인식’을 수행하는 분류(classification)와 ‘패턴의 생성’을 담당하는 예측(prediction)으로 나뉜다. 하지만 그 다이어그램에서 패턴의 생성으로서의 예측은 지금이라면 생성형(generative) AI의 ‘생성’이라고 표기했어야 할 듯하다.⁹ 왜냐하면 예측은 여전히 판단이나 결정과 유사하거나 그 부분일 것이기 때문이다. 예측은 사실 패턴의 생성이라기보다는 과거의 패턴으로부터 미래의 시점을 외삽한 결과에 대한 판단이라고 볼 수 있다. 요컨대, 우리는 현실에서 AI의 적용을 각각 ‘판단’(예측을 포함하는 분류)과 ‘생성’(생성 혹은 제작)으로 이제는 구분할 수 있겠다. 이 둘의 과정은 일반적으로 우리 사회에서 AI가 맡는 주요한 역할을 표상함과 동시에 그것이 대체한다고 여기는 인간의 두 가지 중요한 정신적 역능(인식능력)을 가리킨다. 그 둘은 판단하기와 상상하기다. 비록 정확하게 들어맞지 않더라도 편의상 칸트식의 개념적 구분을 빌려 오자면 판단력과 상상력을 나타낸다고도 할 수 있겠다. 즉 인간이 가진 고유한 정신적 능력 중에서, 세계(대상)를 인식하는 데 있어 그것이 어떤 규칙에 얼마나 따르고 있는지를 판정하는 능력과 대상이 현존하지 않음에도(표상의 규칙에 아직 대응하지 않는) 그 표상을 떠올리는 직관적인 능력을 가리킨다. 이러한 구분을 따른다면, 요즘의 생성형 AI는 상상력이라는 인간의 정신적 역능을 흉내내기 위한 알고리즘 모델이라고 볼 수 있겠다. AI가 상상할 수 있는가의 문제는 소모적이기에 자세히 논할 수는 없지만, 생성형 AI(이미지 생성 AI의 경우 특히)는 인간의 상상력과 유사한 방식으로 표상(이미지)을 ‘아무튼’ 생성한다는 점이 중요하다.

생성인가, 추출인가

케이트 크로퍼드는 『AI 지도책』의 서두에서 영리한 말, 한스에 대한 이야기 직후에 두 가지 환상이 AI 분야에서 매우 강력한 방식으로 작용한다고 본다. 한 가지 환상은 “인간이 아닌 시스템(컴퓨터든 말이든)이 인간 정신과 비슷하다는 것”이고 다른 한 가지는 “지능이 마치 자연적이며 사회적·문화적·역사적·정치적 힘과 구별된 것처럼 독자적으로 존재하는 무언가라는 것”이다.¹⁰ AI가 인간 정신(지능)과 비슷하다고 보거나 또 지능 자체가 다른 역량들과 구분되어서 독자적인 능력이라 간주하는 것은 대중들의 환상에 불과하다는 지적이다. 하지만 영리한 말, 한스의 사례가 사실상 보여주듯, 그 자체로 인간의 지능을 가지지 못하고 인간의 다른 역량들의 조화로운 관계 속에서 드러나는 것이 아니라 해도, AI가 (방법이 어떻게 되었든) 인간의 지적인 능력(판단력이나 상상력)과 동일한 것으로 간주되는 어떤 것을 수행(행사)한다면 그것은 그 능력을 지니고 있다고 해석해야 하는 것은 아닐까. 어쩌면 AI에 대한 비판적 시각, 그것을 인간적 우월함에 비해 여전히 부족한 어떤 것으로 폄하하는 관점이 오히려 ‘지능’ 자체를 편협하게 인식하고 있지는 않을까.

따라서 우리의 관심은 AI가 지능을 가지고 있는지, 생각을 하는지에 관한 것을 넘어서야 할 필요가 있다. 이제 AI 알고리즘은 과거와 현재에 이르기까지 집적된 데이터에 기반해 훈련(기계학습)하고 그 과정에서 구축한 알고리즘 모델(패턴)을 통해 기존에 존재하지 않은 독창적인 텍스트와 이미지, 나아가 사운드를 창출할 수 있게 되었다. 예술가와 창의 산업의 종사자들은 새로운 작품과 콘텐츠를 제작하는 과정에서 이러한 생성형 AI를 도구로 삼아 혹은 협업의 파트너로 삼아 창의적이면서도 효율적인 결과물을 산출할 수 있다. 비록 할루시네이션(hallucination, 환각)의 문제는 완전히 사라지지 않겠지만, 아마 앞으로의 예술 창작은 생성형 AI와의 대화, 문답, 상호작용을 통해 이루어지며, 그 과정은 예술 창작자와 AI 양자에게 상호 혁신과 진화의 기회를 제공하게 될 것이다. 그 점은 머지않은 시점에서 충분히 증명되겠지만, 궁극적으로 창의적이고 생성하는 AI를 가능하게 하는 것은 (AI에 의한) 인간적 능력들의 추출이라는 점이 간과되어서는 안 된다. 사실 생성형 AI는 추출하는 기계다. 마치 인간과 같은 혹은 인간을 능가하는 창의력을 생성하는 것이 아니라, 오히려 인간의 상상력과 호기심을 생성해내고 그것을 추출하는 장치다.

AI는 인간의 창의성과 상상력까지 어떻게 추출의 대상으로 삼을까? 욜러의 〈신추출주의(New Extractivism)〉는 인간의 신체적·정신적 활동에서 땅속 자연 자원까지, 인간 세포 단위에서 대기권 바깥의 우주에 이르기까지 광대한 스케일의 지도로 디지털 자본주의의 모든 추출주의적 양상을 종합한 것으로서 의미가 있다.¹¹ 이 지도에는 AI 알고리즘에 데이터를 제공하고 가공하며 현실에 적용하는 ‘공장’이라 불리는 중간 지대가 있는데, 그 위쪽에서는 각종 SNS와 디지털 서비스가 마치 거스를 수 없는 중력처럼 작용해 개인들을 빨아들인 뒤 플라톤의 동굴과 푸코가 언급한 파놉티콘(panopticon)이 결합한 것 같은 공간(플라톱티콘, Platopticon)에 포획한다. 개인은 각자 자신의 공간에서 개별화된 콘텐츠를 소비하지만 그들의 반응 행동과 상호작용은 데이터로 전환된다. 그 아래쪽에는 인간적 차원, 사회적 차원, 물류의 지평, 자원의 채굴이라는 현실의 차원에서 다양한 형태의 데이터, 자연, 노동이 어떻게 채굴, 추출되어 중간 지대인 공장으로 전달되는지가 그려진다. 사실 이러한 설명에서는 인간의 창의성과 상상력은 도무지 존재하지 않는 것처럼 보인다. AI 추출기계에 완전히 포섭되어 있기 때문이다.

새로운 추출주의 시대의 예술

욜러가 개입해온 일련의 작업들은 우리 시대 인공지능 자본주의가 데이터, 노동, 자원의 추출에 기반한 거대한 포획의 틀이라는 사실을 알레고리와 개념의 배치가 통합된 ‘지도’라는 시각적 형식을 통해 재현함으로써 전형적인 학술적 논의의 방식에서 벗어난다. AI가 이 행성적 추출주의의 거대한 포획 장치에서 중심적인 역할을 수행하고 있음을 우리는 어떻게 아는가? 예술은 이를 어떻게 사유하며, 결국 우리에게 어떻게 보여주는가? 욜러에게는 지도가 미디어이며, 지도 그리기가 바로 담론적·예술적 실천인 셈이다. 그는 “주로 지도 그리기의 방식을 통해 사유”하는데, “지도는 비선형적인 스토리텔링 형식으로, 다양한 방식으로 탐구할 수 있는 인지적 영역”이라고 보았다. “각각의 지도는 자체적인 상징, 관계, 의미에 대한 고유한 언어를 가지고 있”기에 우리를 지도 속으로 끌어들여 “각자의 경로와 해석을 만들 수 있게”하는 하나의 예술 작품이기도 하다.¹²

AI가 인간의 고유한 창의적 역량을 가지고 있다고 믿게 된 시대에 예술은 무엇을 할 수 있을까? 생성형 AI 기술을 도구와 협력자로 채택해 작품을 제작하는 데 새로움과 속도를 부여하는 데 전력투구하는 예술가들이 한쪽에 존재한다면, 다른 한쪽에는 그것 자체에 대해 의문을 품거나 질문을 제기하는 예술가들이 있다. 전자는 지금도 앞으로도 대다수가 되겠지만 후자만큼 급진적인 방식으로 예술의 경계를 돌파해나가지는 못할 것이다. 그런 점에서 최근 돌이라는 자연적 대상과 AI 사이에서 발견되는 모종의 관계를 일련의 작업들로 보여주고 있는 언메이크랩(Unmakelab)은 후자의 모범적인 사례라고 할 수 있겠다. 〈유토피아적 추출〉(2020)과 같은 퍼포먼스 영상, 〈신선한 돌〉(2020)과 같은 실시간 영상에서부터 GPT-3와 모션 트래킹, 가상엔진 등을 사용한 영상인 〈시시포스의 변수〉(2021), 객체인식 AI를 사용한 〈카무플라주 케찹〉(2022)에 이르기까지 언메이크랩은 돌을 주요 소재로 하여 최근의 디지털 기술이 내포하고 있지만 비가시적인 추출주의적 본성에 대한 비판적 이해를 시도하고 있다. 돌, 암석, 대지, 지구, 자연은 어떻게 데이터와 AI의 영역에 포섭되고 추출되는지, 그러한 추출은 어떤 문제를 야기하는지, AI가 생성하는 과정이 어째서 결과적으로는 추출인지를 일련의 재현과정을 통해 보여준다.

다시 돌에 관한 이야기로 돌아와 글을 맺자면, 우리가 디지털, 데이터, AI의 시대에 경험하는 많은 것들은 어쩌면 이 돌과 흙, 지구에서 벗어날 수 없다는 생각이 든다. 도나 해러웨이가 땅속, 지하의(chthonic) 것에 대해 이야기하고, 우리가 호모나 인간이 아니라 부식토(humus), 퇴비(compost)라고 하는 것, 그래서 인류세보다는 쑬루세(Chthulucene)로, 땅의 시대로 지칭해야 한다는 것¹³의 의미를 곱씹어본다면, 인공적인 것과 자연적인 것 사이에, 인간적인 것과 비인간적인 것 사이에 놓인 경계란 지극히 허구적이라는 것을 알 수 있다. 다만 모든 것이 채굴의 대상이 되어가는 세계에서, 인류세라는 파국의 징후 앞에서, 예술은 무엇이 될 수 있고 무엇을 할 수 있는지 아직은 열려있다는 것이 커다란 위안이다.