히토 슈타이얼: “이 모든 X같은 짓은 누가 프롬프트한 걸까?”
게시일: 2025년 11월 26일 | 원문 작성일: 2025년 7월 25일 | 저자: Günseli Yalcinkaya | 원문 보기
세계적인 예술가이자 사상가인 히토 슈타이얼(Hito Steyerl)과 비평가 귄셀리 얄친카야(Günseli Yalcinkaya)가 나눈 2025년의 대담을 번역하고 분석한 문서입니다. 이 인터뷰는 생성형 AI와 머신러닝이 사회, 정치, 그리고 군사 영역에 미치는 복잡하고도 비판적인 함의를 깊이 있게 파고들어요. 슈타이얼은 기술을 둘러싼 신화적 담론의 허상을 벗겨내고, 그것이 현실 세계에서 어떻게 권력과 자본의 도구로 작동하는지 날카롭게 지적해요.
핵심 요약: 그래서 이게 왜 중요한가요?
이 인터뷰는 단순한 기술 비평을 넘어, 우리 시대의 권력, 통제, 저항에 대한 근본적인 질문을 제기해요. 히토 슈타이얼의 가장 날카로운 통찰은 다음 다섯 가지로 요약할 수 있어요.
- AI는 마법이 아니라 ‘계몽 없는 마법화’에 가까워요. 기술 기업들은 의도적으로 AI를 신비롭게 포장하지만, 그 본질은 통계와 최적화에 불과하며 오히려 우리 삶을 저질화시키는 도구로 쓰일 수 있다는 거죠. 기술의 본질을 직시하고 현혹되지 않는 게 중요해요.
- 테크노-파시즘은 이미 현실이 되고 있어요. AI는 단순히 편리한 도구가 아니라 특정 집단을 억압하고 감시하는 파시즘적 통제 시스템의 핵심 기술로 부상하고 있어요. 이민자 추방 데이터베이스 구축부터, 알고리즘을 이용한 허위 정보 유포, 국가 비상사태 선포 촉진에 이르기까지 AI와 파시즘의 부상은 더 이상 무관하지 않아요.
- 현대전은 AI 기술의 R&D 시험장이 됐어요. 가자, 우크라이나 등 실제 전쟁 지역이 규제 없는 환경에서 AI 무기를 테스트하고 데이터를 추출하는 장소로 활용되고 있어요. ‘라벤더(Lavender)’, ‘아빠 어디있어(Where’s Daddy)’ 같은 냉소적인 이름의 살상 시스템은 기술의 비인간성을 극명하게 보여줘요.
- 디지털 주권은 환상에 가까우며, 우리는 기계에 의해 훈련되고 있어요. 우리가 데이터 사용을 줄여도 주변 사람들의 데이터를 통해 통계적으로 예측되고 분류돼요. 더 나아가 우리는 기계가 이해하기 쉬운 방식으로 행동하고 질문하도록, 즉 ‘Veo 프롬프트 인간’이 되도록 길들여지고 있어요.
- 진정한 대안은 기술이 아닌 ‘인간의 협력적 인프라’에 있어요. 페디버스(Fediverse)나 데이터 커먼즈 같은 기술적 대안도 존재하지만, 근본적인 해결책은 기술 자체가 아니라 협력적인 사회와 정치 조직을 만드는 데서 찾아야 해요. 기술은 만병통치약이 아니에요.
• • •
1. AI와 마법적 사고: 기술의 ‘재마법화’를 파헤치다
이 섹션에서는 히토 슈타이얼이 AI를 둘러싼 신비주의적 담론을 어떻게 비판하는지 살펴봐요. 그는 이러한 담론이 AI의 실제 기능과 목적을 가리고, 대중의 비판적 사고를 마비시키는 역할을 한다고 주장해요.
1. ‘재마법화’가 아닌 ‘챗봇화’(Re-enchatment)
슈타이얼은 최근의 기술 열풍을 ‘재마법화(re-enchantment)‘가 아닌 ‘재챗봇화(re-enchatment)‘라고 명명해요. 이는 현재 기술의 핵심 주체가 챗봇이며, 이 현상이 진정한 의미의 마법적 경험과는 거리가 멀다는 점을 강조하려는 거예요.
“전혀 마법적이지 않으며, 오히려 삶을 저질화시킨다.”
슈타이얼은 현재의 AI 기술을 이렇게 일축하며, 거대 기업들이 제품 판매를 위해 의도적으로 ‘마법적 분위기’를 조장하고 있다고 비판해요.
2. 연금술과 머신러닝
슈타이얼은 머신러닝의 작동 방식을 근대 과학보다는 연금술에 비유해요. 전통 과학이 인과관계(cause-and-effect)에 기반을 두는 반면, 머신러닝은 연금술처럼 상관관계와 유추를 통해 작동하기 때문이에요. 이는 머신러닝이 내놓는 결과가 명확한 논리적 설명 없이 도출될 수 있음을 의미하며, 그 작동 방식에 내재된 비합리성을 드러내요.
3. 도구적 비합리성의 시대
과거에는 이윤과 지배를 위해 합리성을 도구로 사용하는 ‘도구적 합리성’이 중요했다면, 지금은 ‘도구적 비합리성’의 시대가 도래했다고 슈타이얼은 진단해요. 이는 비합리성 자체가 이윤 창출과 지배를 위해 체계적으로 활용되고 자동화되는 현상을 의미해요. AI를 둘러싼 신화와 맹신은 바로 이 도구적 비합리성이 작동하는 대표적인 사례예요.
이러한 기술의 비합리적 측면은 사회를 통제하는 더 어두운 목적, 즉 군산 복합체의 논리와 결합될 때 더욱 위험해져요.
• • •
2. 예술, 군산 복합체, 그리고 테크노-파시즘
이 섹션에서는 AI 기술의 어두운 이면, 즉 군사적 활용과 테크노-파시즘을 촉진하는 역할에 대해 심층적으로 탐구해요. 그리고 이러한 거대한 흐름 속에서 예술이 어떤 저항의 가능성을 가질 수 있는지 질문해요.
1. 예술가의 역할
슈타이얼은 예술가들이 생성형 AI를 사용하는 것에 대해 신중하면서도 열린 입장을 보여요. 과거 예술가들이 화장실을 작품의 재료로 성공적으로 사용했듯, 거대 언어 모델도 비판적 도구가 될 수 있다는 거예요. 그는 다음과 같은 핵심 질문을 던져요.
“AI를 그것의 군산 복합체적 논리, 혹은 머신러닝 산업의 논리에 맞서도록 방향을 틀 수 있는가?”
현재로서는 과대광고와 기술-권위주의에 맞서는 ‘비판적 참여’라면 의미가 있겠지만, 10년 후의 상황은 누구도 예측할 수 없다고 답해요.
2. 연루를 피할 수 있는가?
현대 기술의 대부분이 군산 복합체에 뿌리를 두고 있기에, 기술을 사용하면서 그 책임에서 완전히 자유로워지기는 매우 어려워요. 슈타이얼은 두 가지 구체적인 예를 들어요.
- 팔란티어(Palantir): 데이터 분석 기업 팔란티어는 이민자 추방을 위한 데이터베이스를 구축하고 있어요.
- 태양광 패널: 친환경 에너지원으로 여겨지는 태양광 패널 구매조차도 복잡한 글로벌 공급망과 지정학적 문제에 연루될 수밖에 없어요.
완전한 회피는 어렵지만, 대안적인 기술 스택을 만들거나 기존의 공간을 떠나는 방식으로 어느 정도 저항은 가능하다고 그는 덧붙여요.
3. AI와 파시즘의 명백한 관계
슈타이얼은 2019년 자신의 영상 작업에서 파시즘의 부상과 AI 사이에 어떤 관계가 있을 것이라는 직감을 표현한 바 있어요. 영상 속에서 나치주의자들이 “외국인은 나가라”고 외칠 때, 내레이션은 이렇게 말해요.
“AI가 모든 것을 예측하려 할수록, 세상은 점점 더 통제 불능 상태에 빠져든다.”
그는 당시에는 직감에 불과했던 이 관계가, 오늘날에는 명백한 현실이 되었다고 진단해요. AI 기술은 다음과 같은 방식으로 테크노-파시즘을 구현하고 있어요.
- 백악관 소셜 미디어 계정에서 나오는 파시즘적 저질 콘텐츠가 팔레스타인인들의 제거를 찬양하고 있고요.
- 알고리즘화된 허위 정보가 비상 통치 선포를 용이하게 만들죠.
- 팔란티어 같은 기업은 이민자 추방을 위한 데이터베이스를 구축하고 있어요.
이처럼 사회 전체를 위협하는 거대 담론을 넘어, 이제 AI 시스템이 개인의 행동을 어떻게 변화시키고 있는지 살펴볼게요.
• • •
3. 기계와의 공생: 누가 누구를 길들이고 있는가?
이 섹션에서는 자동화된 시스템이 인간의 행동을 미묘하지만 강력하게 재구성하는 방식과, 디지털 시대에 자율성이라는 개념이 어떻게 도전받고 있는지를 탐구해요.
1. ‘Veo 프롬프트 인간’ 되기
슈타이얼은 인간과 자동화 시스템의 관계가 ‘상호 훈련 과정’처럼 보이지만, 실제로는 다른 양상이라고 분석해요.
“자동화 시스템이 자신들에게 유용한 방식으로 상호작용하도록 인간을 훈련시키는 과정이다.”
구글의 영상 생성 AI ‘Veo’가 만든 영상 속 인물들이 “우리가 프롬프트에서 비롯됐다는 건 음모론일 뿐”이라고 말하는 인터넷 밈처럼, 인간은 점차 기계가 원하는 방식으로 질문하고 행동하는 ‘Veo 프롬프트 인간’이 되어가고 있다는 거예요.
슈타이얼은 “이 모든 X같은 짓은 대체 누가 프롬프트한 걸까?”라며 이 상황을 개탄해요. 그의 이 질문은 단순히 밈에 대한 감상을 넘어, 이 인터뷰 전체를 관통하는 핵심 질문—즉, 자동화된 비합리성과 통제의 시대를 과연 누가 설계하고 있는가—을 던져요.
2. 프로세스 시각화
이러한 인간과 기계의 피드백 루프는 다음과 같이 시각화할 수 있어요.
3. 디지털 주권의 환상
디지털 주권을 지키는 것은 거의 불가능에 가까워요. 슈타이얼은 개인이 자신의 데이터 발자국을 줄이려 노력하더라도 다음과 같은 이유로 소용없다고 설명해요.
“시스템은 주변 사람들의 데이터로부터 당신을 연관 지어 추론하고 분류한다.”
즉, 개인의 노력만으로는 거대한 데이터 시스템의 감시망에서 벗어날 수 없어요.
4. 기본적인 보안 수칙
그럼에도 불구하고 개인이 취할 수 있는 최소한의 실질적인 조언은 존재해요. 슈타이얼은 기본적인 보안 수칙의 중요성을 강조하며 다음과 같은 예를 들어요.
“OpenAI에게 당신의 정신 건강 상태에 대해 이야기하는 것이 정말 좋은 생각일까요? 정말로 그렇게 하고 싶다고 확신하나요?”
개인의 데이터 문제를 넘어, 이제 AI가 전쟁이라는 가장 거대하고 폭력적인 영역에서 어떻게 활용되는지 살펴볼게요.
• • •
4. 자동화된 전쟁과 파시즘의 미학
이 섹션은 AI 기술의 가장 직접적이고 폭력적인 적용 사례, 즉 현대전에서의 역할과 그것이 역사적 파시즘의 미학과 어떻게 섬뜩하게 연결되는지에 초점을 맞춰요.
1. 전쟁의 R&D 시험장
슈타이얼은 AI가 무기 개발 속도를 엄청나게 가속하고 있다고 지적해요. 특히 실제 전쟁 지역이 ‘규제가 적은 R&D 구역’으로 활용되고 있으며, 서구의 거대 무기 회사들이 이곳에서 기술 노하우를 추출하고 있다고 비판해요. 그가 언급한 구체적인 지역들은 다음과 같아요.
- 가자 (Gaza)
- 우크라이나 (Ukraine)
- 터키 (Turkey)
- 남부 쿠르디스탄 (South Kurdistan)
2. DIY 드론에서 공중 테러까지
원래 영상 제작과 같은 DIY 영역에서 사용되던 카메라 드론 기술이 감시 국가의 기술과 결합하여 공중 테러 무기로 변모하는 과정은 기술 전용의 위험성을 명확히 보여줘요.
3. 잔인하고 냉소적인 언어
AI 전쟁 시스템에 붙여진 이름들은 그 잔인성을 노골적으로 드러내요. 이스라엘 방위군이 사용한 라벤더(Lavender)와 아빠 어디있어(Where’s Daddy) 시스템이 대표적이에요. 슈타이얼은 이러한 작명이 트럼프의 밈 미학(meme aesthetics)과 같은 접근법을 보여준다고 분석해요.
‘아빠 어디있어’라는 이름은 가자지구 주민들을 살해할 뿐 아니라 모욕하려는 욕망을 드러내며, 이는 트럼프가 AI로 생성한 팔레스타인 제거주의 선동물에서 보이는 태도와 일치해요. 슈타이얼의 관찰에 따르면:
“무례하고 냉소적인 것은 더 이상 부끄러운 일이 아니라 공개적으로 찬양받는 정치적 스타일이 됐다.”
4. ‘브레인롯’과 파시즘
인터뷰에서는 ‘이탈리안 브레인롯(Italian brainrot)‘이라는 바이럴 AI 트렌드와 파시즘의 미학적 연결고리를 탐구해요. 특히 이 트렌드의 캐릭터인 봄바르디노 크로코딜로(Bombardino Crocodillo)가 가자 지구 폭격을 희화화하는 것은, 파시스트 이탈리아의 식민지 전쟁 당시 공중 폭격을 미학화했던 미래주의 예술 사조 ‘아에로피투라(aeropittura)‘를 연상시켜요. 이는 AI가 만들어내는 기괴한 문화 현상이 파시즘의 역사와 무관하지 않음을 시사해요.
이러한 암울한 현실 속에서, 우리는 어떤 대안적인 미래를 상상할 수 있을까요?
• • •
5. AI 너머의 지평: 대안적 인프라와 양자 과학
이 마지막 섹션에서는 슈타이얼이 제시하는 앞으로 나아갈 길을 탐색해요. 그는 AI의 한계를 지적하며, 대안적 기술과 그보다 더 중요한 인간 조직의 원리가 가진 가능성을 조명해요.
1. 대안적 인프라
슈타이얼은 거대 기술 기업의 독점에 맞설 수 있는, 이미 프로토타입으로 존재하는 대안 인프라들을 언급해요.
- 페디버스 (The Fediverse)
- 데이터 커먼즈 (Data commons)
- 공공 모델 (Public models)
- DIY 및 오픈소스 기술 (DIY and open-source tech)
- 솔라펑크 (Solarpunk)
2. 기술보다 중요한 것
하지만 그는 기술만으로는 근본적인 문제를 해결할 수 없다고 단언해요. 그는 자신의 핵심 주장을 다음과 같이 요약해요.
“만약 우리에게 협력적인 인간 인프라가 없다면, 기술 그 자체는 문제를 해결할 수 없습니다.”
이는 기술적 해결책을 찾기 이전에, 정치 조직과 사회적 관계에 대한 근본적인 태도 변화가 선행되어야 함을 강조하는 거예요.
3. AI vs. 양자 과학
슈타이얼은 현재의 AI 담론과 양자 과학을 비교하며, 후자가 훨씬 더 광대하고 영감을 주는 지평을 제시한다고 말해요.
| 특성 (Characteristic) | AI / 머신러닝 (AI / Machine Learning) | 양자 과학 (Quantum Science) |
|---|---|---|
| 핵심 본질 (Core Essence) | 최적화, 통계, 관료주의, 보험 데이터 (Optimization, statistics, bureaucracy, insurance data) | 현실, 얽힘, 우주의 본질에 대한 질문 (Questions about reality, entanglement, nature of the universe) |
| 인상/질감 (Impression/Texture) | 좀 따분하고 먼지 쌓인 느낌 (“a bit dusty”) | 훨씬 광대하고 확장적이며 영감을 줌 (Much vaster, more expansive, and inspiring) |
| 궁극적 지향점 (Horizon) | 예측과 통제 (Prediction and Control) | 더 근본적인 현실에 대한 이해 (Understanding of a more fundamental reality) |
4. 인류세의 종말?
인터뷰는 슈타이얼의 마지막 철학적 성찰로 마무리돼요. 그는 ‘인류세(Anthropocene)‘가 역사적으로 매우 짧은 시기로 기록될지도 모른다고 말해요. 그 이유는 다음과 같아요.
“인류가 자본주의나 AI와 같은 시스템에 통제권을 넘겨줌으로써 스스로를 대체하기 위해 너무나 열심히 노력하고 있기 때문이다.”
이 통찰은 기술에 대한 우리의 맹목적인 믿음이 인류의 미래를 어떤 방향으로 이끌고 있는지에 대한 깊은 질문을 남기며 대담을 끝맺어요.
저자 소개: 귄셀리 얄친카야(Günseli Yalcinkaya)는 Spike Art Magazine의 기자입니다. 히토 슈타이얼(Hito Steyerl)은 독일 베를린 예술대학교(UdK Berlin) 뉴미디어 아트 교수이자, 현대 미술계에서 가장 영향력 있는 예술가이자 이론가 중 한 명입니다.
참고: 이 글은 Spike Art Magazine에 게재된 히토 슈타이얼 인터뷰를 번역 및 요약한 것입니다. 원문은 AI, 테크노-파시즘, 현대전, 그리고 예술의 역할에 대한 깊이 있는 대화를 담고 있습니다.
원문: Interview: Hito Steyerl - Günseli Yalcinkaya, Spike Art Magazine (2025년 7월 25일)
생성: Claude (Anthropic)