AI 생성 코드를 밀리초 단위로 실행하는 새로운 방식

클라우드플레어(Cloudflare)가 모든 유료 Workers 사용자를 대상으로 Dynamic Workers 기능의 오픈 베타를 시작했다. 이 기능은 런타임에 샌드박스 격리 환경을 동적으로 생성해 AI가 생성한 코드를 온디맨드로 실행할 수 있게 한다. 클라우드플레어는 자사의 V8 JavaScript 엔진 기반 격리 환경이 기존 Linux 컨테이너 대비 약 100배 빠른 시작 속도와 10~100배 더 효율적인 메모리 사용량을 달성한다고 밝혔다.

특히 주목할 점은 'Code Mode'를 통해 AI 추론 비용을 최대 80%까지 절감할 수 있다는 것이다. 클라우드플레어는 X(구 트위터) 게시물에서 "안전하고 경량화된 격리 환경에서 AI 생성 코드를 실행할 수 있는 새로운 방식"이라고 소개했다.

AI 에이전트 시대, 샌드박싱이 핵심 인프라로 부상

Dynamic Workers의 등장은 단순한 기술 업데이트가 아니다. AI 에이전트가 자율적으로 코드를 생성하고 실행하는 시대에서 안전한 실행 환경, 즉 샌드박싱(sandboxing)은 필수 인프라로 자리잡고 있다. AI가 생성한 코드를 검증 없이 운영 시스템에서 직접 실행하는 것은 보안 리스크가 크기 때문이다.

이번 출시로 클라우드플레어는 E2B, Modal, Docker, Vercel 등과 함께 AI 샌드박싱 시장에 본격 진입했다. 이들 기업은 모두 자율 에이전트를 위한 안전한 코드 실행 환경 구축에 집중하고 있다. 특히 클라우드플레어의 접근은 전 세계에 분산된 엣지 네트워크를 활용한다는 점에서 차별화된다.

컨테이너 vs V8 격리: 무엇이 다른가

클라우드플레어가 강조하는 것은 기존 컨테이너 기반 샌드박싱과의 차이다. 전통적인 Docker 컨테이너는 완전한 운영체제 레벨 가상화를 제공하지만, 그만큼 무겁고 시작 시간이 길다. 반면 V8 격리 환경은 JavaScript 엔진 수준에서 작동하며 훨씬 가볍다.

이러한 성능 차이는 AI 에이전트가 수천, 수만 개의 작은 작업을 동시에 실행해야 하는 상황에서 결정적이다. 컨테이너를 매번 띄우는 것은 비용과 시간 면에서 비현실적이기 때문이다.

AI 개발자 도구 생태계의 진화

클라우드플레어의 이번 움직임은 더 큰 흐름의 일부다. 같은 날 Anthropic은 Claude Code와 Claude Cowork에 컴퓨터 사용(computer use) 기능을 추가했다고 발표했다. Claude가 단순한 대화형 비서에서 "원격 디지털 운영자"로 변모하고 있다는 것이다. 사용자는 모바일에서 Dispatch 기능으로 작업을 지시하고, Claude Code가 완성된 결과물을 돌려받는 파이프라인이 구축된 것이다.

AI 에이전트가 실제 작업을 수행하려면 세 가지 요소가 필요하다: (1) 작업을 이해하고 계획하는 LLM, (2) 코드를 안전하게 실행하는 샌드박스, (3) 결과를 검증하고 피드백하는 메커니즘. Dynamic Workers는 이 중 두 번째 요소를 겨냥한 솔루션이다.

[AI 분석] 엣지 컴퓨팅과 AI의 융합 가속화 전망

클라우드플레어의 전략은 명확하다. AI 워크로드를 중앙 집중식 데이터센터가 아닌 전 세계에 분산된 엣지 네트워크에서 처리하겠다는 것이다. 이는 지연시간(latency) 감소와 개인정보 보호 측면에서 유리하며, 특히 실시간 AI 에이전트 서비스에 적합하다.

AI 샌드박싱 시장은 향후 더욱 치열해질 가능성이 높다. E2B는 Python과 Node.js 실행에 특화되어 있고, Modal은 GPU 워크로드에 강점을 보인다. Docker는 기업 시장에서의 신뢰도를, Vercel은 프론트엔드 개발자 생태계와의 통합을 무기로 삼고 있다. 이 중 클라우드플레어는 글로벌 네트워크 규모와 기존 Workers 생태계를 활용해 차별화를 시도하고 있다.

장기적으로는 AI 에이전트가 코드를 생성하고 실행하는 과정 전체가 자동화되고, 개발자는 고수준의 의도만 전달하는 방식으로 패러다임이 전환될 것으로 보인다. 다만 보안, 비용 최적화, 디버깅 도구의 성숙도가 여전히 과제로 남아 있다. 클라우드플레어의 오픈 베타는 이러한 과제를 실제 사용자 피드백을 통해 해결하려는 시도로 해석된다.