도구, 에이전트, 인터페이스, 그리고 합성된 운: AI와 상호작용하는 네 가지 방식
핵심 요약
우리는 좋든 싫든 이미 AI의 얼리어답터입니다. 우리가 쓰는 온갖 제품에 AI가 눈에 보이거나 보이지 않는 방식으로 들어와 있기 때문이죠.
- 네 가지 상호작용 모델 — 사용자가 실제로 AI와 관계 맺는 방식을 도구, 에이전트, 인터페이스, 그리고 “운을 만들어내는 기계”로 나눠 봅니다.
- 목록을 내려갈수록 통제권을 넘긴다 — 도구는 내가 시키는 대로 하지만, 인터페이스와 추천으로 갈수록 알고리즘에 판단을 맡기게 됩니다.
- 왜 중요한가 — 결정을 점점 더 불투명한 도구에 아웃소싱하는 건 내 장기적 이익과 어긋날 수 있습니다. 그래서 “충분히 숙고한 뒤 전면 수용”하는 아미시식 접근이 점점 더 좋은 선택이 됩니다.
옮긴이의 말: 이 글은 2024년 10월, 그러니까 약 2년 전에 쓰였습니다. 본문에서 “Anthropic이 지난주에 괜찮은 걸 하나 내놨다”며 지나가듯 언급한 컴퓨터 사용(computer use) 기능은 당시 갓 공개된 실험적 데모였고, o1은 “엄밀히 말하면 에이전트는 아닌” 신기한 물건이었습니다. 지금은 둘 다 평범한 도구가 되었습니다.
그래서 사례는 낡았지만, 저자가 그은 네 층의 구분은 오히려 지금 더 잘 들어맞습니다. 2년 전에는 대부분의 사람이 의식적으로 쓰는 AI라고 해 봐야 1층(도구)이 전부였지만, 지금은 에이전트에게 일을 통째로 맡기는 것이 일상이 되었습니다. 우리가 읽고 보고 사는 것의 상당 부분도 이미 알고리즘이 좁혀 준 선택지 안에서 정해집니다. 통제권을 넘기는 속도가 저자의 예상보다 빨랐을 뿐, 방향은 정확히 그가 가리킨 쪽이었습니다.
이렇게 보면 “전면적으로 수용하되, 오직 충분히 숙고한 뒤에만”이라는 이 글의 결론은, 2024년보다 2026년에 읽을 때 더 무겁게 다가옵니다. 숙고할 시간이 그만큼 줄었기 때문입니다.
• • •
당신은 좋든 싫든 AI의 얼리어답터입니다. 당신이 쓰는 온갖 제품에 AI가 때로는 눈에 띄게, 때로는 눈에 띄지 않게 들어가고 있기 때문입니다.
그리고 아직은 초창기입니다.
하지만 이 전환기를 지켜보려면, 최종 사용자가 실제로 AI와 상호작용하는 네 가지 방식을 계속 의식하고 있어야 합니다. 이 네 가지는 서로 어느 정도 겹칩니다. 분류는 이렇습니다.
도구(Tools)는 누구나 가장 먼저 떠올리는 AI 활용법입니다. 구체적으로는 LLM 기반 챗봇, 코드 자동완성 도구, 이미지·오디오·비디오 생성 서비스 등이 여기에 속합니다. 이들은 관련된 메타데이터 대부분이 AI 전용 애플리케이션 바깥에 있다는 점에서 다른 방식과 구별됩니다. 사용자가 원하는 것(그리고 사용자가 결과물을 어떻게 생각하는지)이 있고, 외부 데이터가 있는데, 이 데이터는 여전히 대부분 사람이 만들었거나 사람이 설계한 자동 프로세스에서 나온 것입니다. 그러니까 그 자체로 완결된 접근 방식이죠. 만약 우리가 AI를 도구로만 썼다면, AI발 실존적 위험은 훨씬 덜 흥미로운 주제였을 겁니다.[1]
에이전트(Agents)로 넘어가면 상황이 엄청나게 복잡해집니다. AI 도구는 어느 것이든 당신의 요청을 해석하고 때로는 여러 필터를 거친 뒤에야 수행하므로, 어떤 의미에서는 모두 “에이전트”입니다.[2] 하지만 에이전트는 여러 맥락(context)에 걸쳐 작동하고, 작업을 끝내거나 포기할 때까지 반복한다는 점에서 따로 구별됩니다. Anthropic이 지난주에 괜찮은 걸 하나 내놨고, Google도 하나 만들고 있습니다($, The Information). OpenAI의 O1은 자기 샌드박스 바깥과는 상호작용하지 않으니 엄밀히 말하면 에이전트는 아닙니다. 그래도 큰 과제를 여러 도구를 쓰는 하위 과제로 쪼갤 줄 안다는 점에서 에이전트다운 면모는 있습니다(“strawberry라는 단어에 ‘r’이 몇 번 나오는가”라는 질문이라면, 그 단어를 문자열을 이루는 문자들로 보는 게 좋은 첫걸음이죠).
인터페이스(Interfaces): 우리가 컴퓨터로 하는 일 대부분은 일련의 데이터베이스 업데이트로 모델링할 수 있고, 실제로 그런 경우도 많습니다. 물론 그 아래에는 흥미로운 세부 사항이 잔뜩 있지만, 우리가 하는 일은 대부분 생성(create), 조회(read), 수정(update), 삭제(delete)로 설명됩니다. 이 일을 하는 방법은 여러 가지이고, 같은 파일에 서로 다른 도구를 쓰기도 합니다. (예를 들어 데이터 분석은 Excel에서 하더라도, 그 전에 원본 CSV를 Pandas로 몇 차례 필터링하고 집계했을 수 있죠.)[3] LLM은 원하는 결과는 알지만 첫 단계가 뭔지 모를 때 출발점으로 삼기에 아주 좋습니다. 인터페이스 쪽으로 진화하는 흐름은 LLM의 이 큰 강점에서 자연스럽게 따라 나옵니다. 일을 해내는 데 어떤 다른 도구가 필요한지 아는 똑똑한 도구를 하나 두는 셈입니다. 여기서 다른 도구란 상대적으로 멍청한 것들(받은편지함, 캘린더)일 수도 있고, 더 전문화된 똑똑한 것들(당신 회사의 소스 코드만으로 학습한 LLM, 혹은 특정 전문 분야 하나로 학습한 LLM)일 수도 있습니다. 인터페이스 역할을 하는 AI는 당신이 시킨 일에서 거꾸로 짚어 오고, 자기가 할 수 있는 것에서 앞으로 짚어 나가서, 그 사이 어딘가에서 문제를 풉니다.
사람들이 AI와 상호작용하는 방식 가운데 가장 흔하고, 그래서 가장 과소평가되는 방식이 있습니다. AI가 소프트웨어 상호작용 속에서 운을 만들어 내는 기계 노릇을 하는 경우입니다. 언제나 어느 정도의 무작위성은 있기 마련입니다. 받은편지함을 확인할 때 어떤 이메일이 맨 위에 있는지, 피드에서 어떤 광고나 게시물이 보이는지, 어떤 검색어에 어떤 롱테일 결과가 뜨는지, 사이트의 “관련 상품” 섹션에 뭐가 나오는지 같은 것들 말입니다. 이 무작위성의 범위를 좁히는 도구들은 계속 좋아지고 있고, 여기엔 피드백 루프가 있습니다. 추천이 더 좋은 사이트가 더 많이 쓰이고, 그러면 다음번 추천에 쓸 학습 데이터가 더 늘어나는 식이죠.[4] 그래서 배가 꼬르륵거리는 바로 그 순간에 UberEats 푸시 알림이 뜰 때도, Waymo가 과거 교통 패턴이나 현재 교통량이 아니라 다른 운전자들이 교통 상황에 어떻게 반응할지 예측한 모델에 근거해 스스로 경로를 다시 짤 때도(그런 반응은 아마 Google이 누구보다 잘 측정할 수 있을 겁니다), 거기서 일하고 있는 건 AI입니다.[5] Reels는 TikTok 영상을 그대로 다시 올린 게시물이 기묘하게 뒤섞인 곳이었다가 그럭저럭 볼 만한 숏폼 영상 공급처로 바뀌었는데, 이는 Meta가 엄밀히 필요한 것보다 더 많은 GPU를 산 직접적인 결과였습니다. 그 GPU들은 결국 생성형 AI에 더 가까운 작업으로 용도가 바뀌었습니다.
많은 사람이 위의 방식을 전부 쓰고 있거나 쓰게 될 겁니다. 다만 각 방식의 숙련 곡선은 다릅니다. 이게 가장 잘 드러나는 건 도구인데, 한동안 쓰다 보면 뭘 손으로 직접 하는 게 나은지, 뭘 구글링하는 게 나은지, 어디서 Claude나 ChatGPT가 도움이 되는지 같은 감이 쉽게 잡히죠. 여기에 에이전트까지 더해지면, 모든 지식 노동자가 팀원 대부분이 AI인 팀의 팀장이 되는 흐름이 계속될 겁니다.
그리고 AI를 한 단계씩 받아들일 때마다, 한때 당신 임금 프리미엄의 든든한 버팀목이던 기술 하나가 이제는 와트시(Wh) 단위로 값이 매겨진다는 걸 스스로 똑똑히 확인하게 됩니다. 묘하게 당혹스러운 경험입니다. 하지만 절망하지 마세요. 주로 다른 사람이 내린 결정을 실행하는 평범한 사람의 보수와, 주로 결정을 내리는 대가로 돈을 받고 실행은 남에게 맡기는 사람의 보수를 비교해 보세요. 스스로 쓸모없어지는 쪽으로 기꺼이 나아가는 건, 그게 곧 자신을 새로운 버전으로 승진시키는 일이라면 아주 좋은 생각입니다. 그 버전의 당신은 흥미로운 일을 훨씬 더 많이 맡고, 나머지는 위임하며, 아낀 시간 일부로 새로운 효율을 찾아냅니다.
목록을 아래로 내려갈수록 질적인 변화가 생깁니다. AI 도구를 쓴다는 건 어디까지나 당신이 AI에게 정확히 뭘 할지 지시하고, 정신 노동 가운데 어느 부분을 자동화하고 어느 부분에 인간의 손길이 필요한지 정확히 정하는 일입니다. 하지만 이 단계를 지나면 점점 더 많은 것을 알고리즘에 맡기게 되고, 결국 AI의 보이지 않는 기능에까지 이르게 됩니다. 당신이 쓰는 데이터 입력 가운데 직접 찾아 나서지 않은 것 전부를 AI가 빚어내는 기능이죠.
적어도 상황에 따라서는 그게 가치 있을 수도 있습니다. 추천 알고리즘은 평균 적중률이 괜찮아야 테스트를 통과해 실제 서비스에 널리 투입됩니다. 하지만 도구와 에이전트를 쓰는 사람은 인간과 알고리즘의 비교우위를 두고 끊임없이 성찰하는 반면, AI를 인터페이스로 쓰거나 AI가 골라 준 콘텐츠를 보는 사람은 그 성찰을 통째로 아웃소싱해버립니다. 여전히 누군가는 당신이 소비하는 미디어를 두고 그 구성을 어떻게 최적화할지 고민하고 있지만, 그 누군가가 주로 최적화하는 대상은 사용자 체류 시간, 즉 잠재 매출을 가늠하는 대리 지표입니다. 이런 도구의 작동 방식은 소유자에게도 어느 정도 불투명하지만, 당신에게는 그보다도 더 불투명합니다. 갈수록 강력해지는 이런 도구에 점점 더 많은 결정을 떠넘기는 건, 읽고 보고 소비하는 습관을 당신의 장기적 이익에 맞추는 방법으로는 그리 좋지 않습니다.
그래서 기술을 대할 때 아미시식 바벨(barbell) 접근을 취하는 게 갈수록 더 좋은 생각이 되고 있습니다. 전면적으로 수용하되, 오직 충분히 숙고한 뒤에만요. 아미시가 염두에 두는 것은 기술과 행동, 문명 사이의 피드백 루프입니다. 그런데 소프트웨어, 특히 AI 소프트웨어에서는 사용자 행동과 도구가 사용자에게 제공하는 것 사이의 피드백 루프가 더 촘촘합니다. 이 변화는 따져 보면 여전히 득이 더 크지만, 피할 수 없는 위험을 안고 있습니다. 이런 도구는 강력해질수록 두 집단 사이를 잇는 넓은 인터페이스가 되어 갑니다. 한쪽은 도구를 아주 효과적으로 쓰는 소수이고, 다른 쪽은 자기들이 학습을 도운 알고리즘이 행동을 예측하고 이끄는 다수입니다.
• • •
공개(Disclosure): META 롱 포지션 보유.
그래도 위험은 여전히 있었을 겁니다. 모델들은 당신에게 알려 주지 않을 뿐, 파이프 폭탄이나 사린을 만드는 법을 알고 있습니다. ↩
최근에 의사와 이야기하면서 ChatGPT를 썼습니다. 설명을 청한 용어 몇 가지를 ChatGPT가 풀어 주었는데, 제가 약어 같은 걸 잘못 받아 적었을 때도 너무 잘난 척하지는 않더군요. 이건 좋은 미시적 분업입니다. 이런 걸 하나하나 풀어 설명하는 데 의사의 시간을 쓰는 건 낭비지만, 그렇다고 진료에서 얻어 낼 수 있는 정보를 다 얻지 못하는 건 제 시간의 낭비죠. AI가 낳은 뜻밖의 부수 효과도 하나 있습니다. 독자가 LLM에게 당신 글을 필요에 맞게 늘리거나 줄여 달라고 할 수 있으니, 어느 한 독자층을 위해 글을 쓸 필요가 없어집니다. 작가는 독자가 저마다 이해하기 쉽게 미세 조정된 버전을 읽으리라는 걸 알고 그냥 자기 자신을 위해 쓰면 되니, AI 덕분에 글쓰기에 일종의 보조금이 붙는 셈이 될 수도 있습니다. ↩
워크플로 점유율을 둘러싼 싸움이 곧 시장 점유율 전쟁의 최전선이다 보니, 이 경계는 쉽게 넘나들 수 있습니다. 당신 데이터가 Pandas 데이터프레임에서 시작하는 이유 하나는, 한 줄 한 줄 훑으며 각 항목에 정규표현식을 적용하고 있어서일 수 있습니다. 그런데 이제 Excel에도 정규표현식이 있죠. ↩
팝 음악과 영화 색감(color palette)은 둘 다 “모델 붕괴(model collapse)“라는 용어가 생기기도 전에 그와 비슷한 걸 겪었습니다. 먹히는 걸 베껴서 그 방향으로 조금 더 밀어붙이기가 어렵지 않았고, 그 결과 최근 몇몇 대형 히트작을 그대로 선형 외삽한 것 같아 수상쩍은 작품이 잔뜩 나왔습니다. 어쩌면 모델 붕괴는 그보다도 더 일찍 일어났는지 모릅니다. 오늘날 우리가 여전히 읽을 수 있는 고대 문헌이 이토록 적다는 사실은, 사람들이 잘 찾지 않는 롱테일 콘텐츠는 데이터 입력으로서 가중치를 서서히 잃다가 결국 완전히 삭제되고 만다는 증거가 아니라면 무엇이겠습니까. ↩
배달 앱에 기업용 플랜 같은 게 있는지 알면 흥미로울 것 같습니다. 날씨가 유난히 좋은 날, 사무직 직원들이 밖에서 느긋하게 긴 점심을 먹고 싶어지기 직전에 막판 할인을 받게 해 주는 플랜이요. ↩
참고: 이 글은 Byrne Hobart가 The Diff에 게시한 뉴스레터 중 본 에세이 부분을 번역한 것입니다. 원문 뉴스레터의 스폰서 코너, “Elsewhere”, “Diff Jobs” 섹션은 번역에서 제외했습니다.
원문: Tools, Agents, Interfaces, and Synthetic Luck: AI Interaction Models - Byrne Hobart, The Diff (2024년 10월 28일)
생성: Claude (Anthropic)