기계로의 초대: AI 에이전트를 위한 인프라 구축

게시일: 2025년 12월 30일 | 원문 작성일: 2025년 12월 22일 | 저자: Ed Huang (PingCAP CTO) | 원문 보기

• • •

에이전트가 주인이 된 세상

TiDB Cloud1에서 흥미로운 현상이 일어나고 있어요. 새로 생성되는 클러스터의 90% 이상을 AI 에이전트가 만들고 있거든요. 인프라 소프트웨어의 주요 사용자가 인간 개발자에서 AI 에이전트로 바뀌고 있다는 명확한 신호죠.

이런 변화는 근본적인 질문을 던져요. 에이전트가 주요 사용자가 되는 세상에서, 인프라는 어떻게 달라져야 할까요?

멘탈 모델의 중요성

저자는 이렇게 말해요. 컴퓨팅 세계에서 가장 기본적인 것들—파일 시스템, SQL, 프로그래밍 언어 같은 개념들—은 한번 발명되면 본질적으로 거의 변하지 않는다고요.

의미하는 바는 명확해요. 에이전트를 위한 새로운 프레임워크를 만드는 것보다, 이미 검증된 멘탈 모델에 맞춰 시스템을 설계하는 것이 더 효과적이에요. LangChain2 같은 새로운 프레임워크들은 에이전트의 학습 데이터에 충분히 반영되어 있지 않아서 안정적으로 채택하기 어렵거든요.

확장 가능한 추상화: agfs 사례

저자는 agfs3(벡터 파일 시스템)를 좋은 예로 들어요. 이 시스템은 완전히 새로운 기능(벡터화 검색)을 도입하면서도 사용자의 멘탈 모델은 전혀 건드리지 않았어요. 파일 연산은 그 아래에서 무슨 일이 일어나든 똑같이 작동하거든요.

이게 바로 확장 가능한 추상화의 힘이에요. 새로운 기능을 기존의 익숙한 인터페이스 위에 얹을 수 있다면, 에이전트는 별도로 배울 필요 없이 바로 그 기능을 쓸 수 있죠.

에이전트 친화적 인터페이스의 세 가지 조건

에이전트가 효과적으로 쓸 수 있는 인터페이스는 세 가지 조건을 갖춰야 해요:

• 자연어로 설명 가능 — 인터페이스의 목적과 사용법을 말로 설명할 수 있어야 해요.
• 기호적 논리로 공식화 가능 — 모호함 없이 정확한 로직으로 변환할 수 있어야 해요.
• 결정론적 결과 — 같은 입력에 대해 항상 같은 결과가 나와야 해요.

저자는 코드가 여전히 최선의 표현 방식이라고 강조해요. 밀도 있고 재사용 가능한 로직을 대규모로 표현할 때, 최소한의 토큰으로 최대한의 가능성을 담아낼 수 있는 건 결국 코드거든요.

에이전트 시대의 인프라 특성

에이전트 워크로드는 인간의 워크로드와 근본적으로 달라요:

• 일회용(Disposable) — 워크로드는 저렴하고 수명이 짧아야 해요. 언제든 버릴 수 있어야 하죠.
• 대규모 병렬화 — 에이전트는 동시에 수많은 작업을 돌릴 수 있어서 병렬 처리가 핵심이에요.
• 시맨틱 격리가 포함된 가상화4 — “겉으로는 독점적으로 보이지만 실제로는 가상화된” 설계가 필요해요.
• 비용 효율성 — 대규모 리소스 공유를 통해 비용을 낮춰야 해요.

에이전트를 절약 모드로 몰아넣으면 안 돼요. 리소스가 부족하다고 느끼면 에이전트는 보수적으로 행동하게 되고, 그러면 성능이 떨어지거든요.

비즈니스 모델의 변화

토큰을 파는 전통적인 비즈니스 모델은 지속 가능하지 않아요. 성공적인 에이전트 회사는 토큰 추론 제공자가 아니라, 한계 비용이 거의 0에 가까운 확장형 클라우드 서비스처럼 운영될 거예요.

예전에는 경제성이 안 나왔던 맞춤화가 계산 비용 급락으로 가능해지고 있어요. 완전히 새로운 비즈니스 기회가 열리는 거죠.

접착제의 세계

에이전트의 진정한 강점은 혁신이 아니라 조합(composition)에 있어요. 기존 시스템들을 연결하고, API들을 조합하고, 워크플로우를 자동화하는 게 에이전트가 가장 잘하는 일이거든요.

그래서 인프라는 에이전트가 쉽게 “접착제 역할”을 할 수 있도록 설계되어야 해요. 잘 정의된 인터페이스, 예측 가능한 동작, 그리고 조합 가능한 구성 요소가 핵심이죠.

• • •

마치며

AI 에이전트 시대의 인프라는 새로운 기술보다 검증된 추상화를, 복잡한 프레임워크보다 단순한 인터페이스를 지향해야 해요. 에이전트는 이미 알고 있는 것을 효율적으로 쓰고 싶어해요. 우리의 역할은 그들이 이미 이해하는 방식으로 새로운 능력을 제공하는 거예요.