Bringing more agent harnesses and frameworks to Cloudflare, starting with Flue
Quick Summary
Cloudflare는 Flue를 첫 사례로 삼아 에이전트 프레임워크·하네스·런타임의 3계층 구조와 Agents SDK가 제공하는 durable execution, 코드 실행, durable filesystem 같은 생산용 기반 요소를 설명한다.
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 요약
Cloudflare는 Flue를 첫 사례로 삼아 에이전트 프레임워크·하네스·런타임의 3계층 구조와 Agents SDK가 제공하는 durable execution, 코드 실행, durable filesystem 같은 생산용 기반 요소를 설명한다.
📌 핵심 요약
- 글은 2026년을 에이전트 하네스가 실험 단계를 넘어 실제 인프라로 들어가는 해로 규정하며, 중단 복구·비신뢰 코드 실행·도구 사용 같은 문제가 하네스만으로는 해결되지 않는다고 설명한다.
- Cloudflare는 Project Think를 생산 환경에 맞게 다듬으며 얻은 교훈을 Agents SDK의 기반 계층으로 옮기고, 그 위에 Flue 같은 프레임워크가 개발자 경험과 통합 방식을 제공한다고 말한다.
- Flue는 Pi 하네스 위에 만들어진 오픈소스 프레임워크로, 에이전트가 무엇을 해야 하는지를 절차적으로 스크립트하기보다 모델·스킬·샌드박스·지시문 등 알아야 할 맥락을 선언하는 방식을 강조한다.
- Flue는 Slack, GitHub, Linear, Discord 같은 채널 통합, headless 실행과 React 기반 UI 스트리밍, Markdown blueprint를 통한 통합 추가 등 실제 서비스 환경에 맞춘 개발자 경험을 제공한다.
- Cloudflare 대상 배포에서는 각 Flue 에이전트가 Durable Object로 실행되며, Agents SDK의 runFiber(), stash(), onFiberRecovered(), @cloudflare/codemode, @cloudflare/shell 등을 활용해 복구 가능하고 비용 효율적인 실행 환경을 구성한다.
🧩 주요 포인트
- 글은 2026년을 에이전트 하네스가 실험 단계를 넘어 실제 인프라로 들어가는 해로 규정하며, 중단 복구·비신뢰 코드 실행·도구 사용 같은 문제가 하네스만으로는 해결되지 않는다고 설명한다.
- Cloudflare는 Project Think를 생산 환경에 맞게 다듬으며 얻은 교훈을 Agents SDK의 기반 계층으로 옮기고, 그 위에 Flue 같은 프레임워크가 개발자 경험과 통합 방식을 제공한다고 말한다.
- Flue는 Pi 하네스 위에 만들어진 오픈소스 프레임워크로, 에이전트가 무엇을 해야 하는지를 절차적으로 스크립트하기보다 모델·스킬·샌드박스·지시문 등 알아야 할 맥락을 선언하는 방식을 강조한다.
- Flue는 Slack, GitHub, Linear, Discord 같은 채널 통합, headless 실행과 React 기반 UI 스트리밍, Markdown blueprint를 통한 통합 추가 등 실제 서비스 환경에 맞춘 개발자 경험을 제공한다.
- Cloudflare 대상 배포에서는 각 Flue 에이전트가 Durable Object로 실행되며, Agents SDK의 runFiber(), stash(), onFiberRecovered(), @cloudflare/codemode, @cloudflare/shell 등을 활용해 복구 가능하고 비용 효율적인 실행 환경을 구성한다.
🧠 상세 정리
1. 에이전트 하네스의 생산 환경 진입
글은 2026년을 에이전트 하네스가 실제 운영 환경으로 들어가는 시점으로 제시한다. Codex, Claude Code, OpenCode, Pi, Project Think처럼 모델이 외부 세계에 접근하는 방식을 제어하는 소프트웨어가 성숙해졌고, 팀들은 이를 단순한 프로토타입이 아니라 부하를 감당하는 인프라로 배포하기 시작했다. 그러나 생산 환경에서 동작하는 에이전트는 단순히 모델 호출을 반복하는 프로그램이 아니며, 중단·재시작·상태 보존·외부 도구 접근 같은 분산 시스템 문제를 함께 다뤄야 한다. Cloudflare는 Project Think를 직접 만들고 고객과 운영 사례를 다루면서, 이러한 문제가 개별 하네스 내부 로직만으로 해결되기 어렵다는 점을 강조한다.
2. 하네스만으로 해결할 수 없는 플랫폼 의존 문제
원문은 에이전트가 중간에 끊겼을 때 맥락을 잃지 않고 자동으로 이어서 실행하는 문제, 신뢰할 수 없는 코드를 안전하게 실행하는 문제, 모델이 학습된 도구를 실제 환경에서 사용할 수 있게 하는 문제를 핵심 과제로 든다. 이 문제들은 상태, 저장소, 컴퓨트와 직접 연결되어 있기 때문에 하네스 자체의 설계만으로는 충분하지 않다. 실행 중이던 에이전트의 메모리 상태가 사라지거나, 도구 호출이 중간에 멈추거나, 사용자 화면에는 끝나지 않는 스피너만 남는 식의 문제가 생길 수 있다. Cloudflare는 이런 이유로 Project Think를 단단하게 만들며 얻은 교훈을 Agents SDK의 기본 계층으로 옮겼다고 설명한다.
3. 프레임워크·하네스·런타임의 3계층 구조
글은 생산급 AI 에이전트를 만들기 위한 새로운 3계층 스택을 설명한다. 가장 위에는 Flue 같은 프레임워크가 있으며, 프로젝트 구조, 규칙, 통합, CLI, 개발자 경험을 제공한다. 그 아래에는 Pi나 Project Think 같은 하네스가 있고, 이 계층은 도구를 호출하고 결과를 읽고 맥락을 관리하며 작업이 끝날 때까지 에이전트 루프를 계속 진행한다. 가장 아래에는 Cloudflare Agents SDK 같은 런타임 또는 플랫폼이 있으며, 위 계층이 의존하는 컴퓨트, 상태, 저장소 primitive를 제공한다. 이 구조에서 Agents SDK는 durable execution 같은 기능을 특정 하네스나 프레임워크에 묶지 않고 공통 기반으로 제공하는 역할을 맡는다.
4. Flue의 선언적 에이전트 개발 방식
Flue는 Astro 팀이 만든 오픈소스 프레임워크로 소개되며, 1.0 Beta가 Pi 하네스를 기반으로 출시되었다고 설명된다. 원문은 Flue의 차별점을 에이전트가 수행할 절차를 직접 스크립트하지 않고, 에이전트가 알아야 할 내용을 선언하는 접근에서 찾는다. 개발자는 모델, 스킬, 샌드박스, 지시문처럼 에이전트가 필요로 하는 맥락을 정의하고, 에이전트는 주어진 과제를 자율적으로 해결한다. 그래서 별도의 orchestration loop를 직접 작성하지 않아도 되며, 버그 리포트를 받아 샌드박스에서 재현하고 원인을 진단하는 triage agent를 짧은 코드로 구성할 수 있다는 예시가 제시된다.
5. 사용자 작업 공간과 연결되는 Flue 개발자 경험
Flue는 에이전트가 고립된 백엔드 프로세스가 아니라 사용자가 이미 일하는 공간 안에 들어가야 한다는 관점에서 개발자 경험을 설계한다. Slack, GitHub, Linear, Discord 같은 곳에 에이전트를 배치할 수 있는 pre-configured Channels를 제공하며, 이벤트 검증과 dispatch boilerplate를 자동으로 처리한다. 또한 Flue 에이전트는 background task를 위한 headless 실행도 가능하지만, @flue/react를 통해 에이전트 상태, 도구 실행, live message를 프론트엔드로 스트리밍할 수 있다. 통합 추가 역시 flue add channel slack 같은 명령으로 Markdown blueprint를 생성하고, 이를 코딩 에이전트가 읽고 수정해 코드베이스에 통합하는 흐름을 염두에 둔다.
6. Durable Streams와 Cloudflare 배포 모델
원문은 로컬 터미널에서 실행되던 에이전트를 운영 생태계로 옮길 때 전통적인 분산 시스템 장애가 나타난다고 설명한다. 호스트 크래시, LLM 제공자의 API timeout, 예기치 않은 재시작은 실행 중인 agent turn의 단기 기억을 지울 수 있다. Flue는 Durable Streams를 통해 실행 기록의 각 이벤트를 append-only log에 추가하고, prompt, tool response, model choice를 변경 불가능한 ledger처럼 처리해 상태가 휘발되지 않도록 한다. Node.js에서는 에이전트가 장기 실행 프로세스로 동작하고 VM, 컨테이너, GitHub Actions, 기존 서버에 배포될 수 있지만, Cloudflare를 대상으로 하면 각 에이전트는 Durable Object가 되어 격리된 저장소와 컴퓨트를 가진 채 자동 확장된다.
7. runFiber 기반의 중단 복구와 durable execution
에이전트의 한 turn은 단일 요청이 아니라 토큰 스트리밍, 도구 호출, 결과 대기, 인간 승인 요청, 하위 에이전트 위임 등이 이어지는 긴 과정일 수 있다. 이 과정은 몇 초에서 몇 분까지 걸릴 수 있고, 어느 지점에서든 프로세스가 중단되거나 크래시될 수 있다. Agents SDK의 Fibers는 Durable Object 내부에서 checkpointing을 제공해 이 문제를 다룬다. runFiber()는 작업 시작 전에 진행 상태를 Durable Object의 SQLite 저장소에 기록하고, turn이 진행되는 동안 stash()로 중간 상태를 저장하며, 새 인스턴스가 복구될 때 onFiberRecovered()가 마지막 checkpoint를 전달한다. Flue는 Cloudflare 대상에서 이 구조를 사용해 turn을 재구성하거나 특정 부분을 재실행하는 결정을 하네스가 내릴 수 있게 한다.
8. 도구 목록 확장 대신 코드 실행을 활용하는 방식
글은 에이전트에게 많은 도구를 나열해 주는 방식이 한계에 부딪힌다고 지적한다. 도구 표면이 커질수록 모델은 적절한 도구를 고르기 어려워지고, context window는 도구 정의로 채워져 성능이 떨어질 수 있다. 대안으로 제시되는 패턴은 모델에게 여러 도구 대신 코드를 실행하는 하나의 도구를 주는 것이다. 모델은 필요한 API를 호출하는 TypeScript 또는 JavaScript 함수를 작성하고, 하네스가 이를 실행한다. Cloudflare Agents SDK는 @cloudflare/codemode를 통해 Dynamic Workers 위에서 LLM이 생성한 코드를 별도 Worker isolate에서 실행하며, 제공된 binding만 접근하게 해 샌드박스 실행을 구현한다.
9. durable filesystem과 가벼운 작업 공간 실행
에이전트 하네스는 파일 읽기, 출력 작성, 코드 검색, diff 이해처럼 파일시스템이 필요한 작업을 자주 수행한다. 특히 코딩 에이전트는 파일시스템 안에서 살아가지만, 서버리스 환경에서는 실행 사이에 지속되는 작업 공간을 확보하는 것이 문제가 된다. 원문은 일반적인 답이 컨테이너이지만, 많은 에이전트 작업은 텍스트 파일 읽기, grep, 패치 작성처럼 전체 Linux 환경을 매번 띄울 필요가 없는 작업이라고 설명한다. @cloudflare/shell은 Durable Object 내부에 SQLite 기반 durable virtual filesystem을 제공하고, read, write, edit, search, grep, diff 같은 typed file operation을 도구로 제공한다. Flue는 Cloudflare 대상에서 workspace virtual file state API에 JavaScript를 실행하는 방식으로 컨테이너 오버헤드를 피하며, full OS가 필요한 경우에는 Cloudflare Containers와 향후 @cloudflare/workspace 연동을 통해 전환할 수 있다고 설명한다.
10. 반복 가능한 장기 작업을 위한 Dynamic Workflows
마지막 부분에서 원문은 에이전트가 단일 코드 조각 실행이나 파일 읽기를 넘어 대규모 다단계 파이프라인을 오케스트레이션해야 하는 상황을 제기한다. 예시로는 버그를 안정적으로 해결하는 코드 리뷰 흐름이나, 시간이 지나도 일관되게 좋은 결과를 내는 리서치 workflow가 언급된다. 이런 작업은 각 단계를 지속적으로 저장하고, 실패를 재시도하며, 중단 후 다시 이어갈 수 있어야 하므로 하네스만으로 durable multi-step execution을 제공하기 어렵다. 따라서 플랫폼이 각 단계를 보존하고 복구 가능한 실행 구조를 제공해야 한다는 것이 원문의 흐름이다. 제공된 source_body는 이 주제가 확산되고 있다는 문장과 함께 다음 사례로 넘어가려는 지점에서 끝나므로, 이후의 구체 사례나 결론은 확인할 수 없다.
🧾 핵심 주장 / 시사점
- 이 글의 핵심은 에이전트 개발의 경쟁축이 단순한 모델 호출이나 프롬프트 설계에서 상태 보존, 복구, 샌드박스, 파일시스템 같은 운영 기반으로 이동하고 있다는 점이다.
- Flue는 에이전트를 절차적으로 조립하는 대신 맥락을 선언하게 함으로써 개발 부담을 줄이려 하지만, 실제 생산성은 Agents SDK 같은 하위 런타임이 얼마나 안정적으로 상태와 실행을 보장하느냐에 크게 의존한다.
- Cloudflare가 Durable Object, Dynamic Workers, virtual filesystem을 에이전트 인프라의 기본 요소로 묶어 설명하는 방식은 에이전트 하네스와 프레임워크가 클라우드 플랫폼 primitive 위에서 재구성되고 있음을 보여준다.
✅ 액션 아이템
- Cloudflare가 제시한 3계층(하네스-프레임워크-런타임) 구조를 기준으로 현재 워크로드를 계층별로 분해해 적용 범위를 정리한다.
- Project Think에서 도출된 운영 교훈을 Agents SDK 기본 계층으로 옮겨 durable execution, 신뢰도 낮은 코드 실행, durable filesystem 처리 책임을 명시한다.
- Flue의 선언형 컨텍스트(모델·스킬·샌드박스·지시문)와 채널 통합, headless 실행, React 스트리밍 요소를 함께 비교해 배포 대상과 우선순위를 조정한다.
❓ 열린 질문
- Flue의 선언형 에이전트 설계가 기존 절차형 스크립트 방식보다 실제 운영에서 대응 속도를 얼마나 개선할 수 있는가?
- Agents SDK의 runFiber, stash, onFiberRecovered 조합은 어느 장애 패턴에서 복구율을 높이는 핵심 수단으로 작동하는가?
- 각 에이전트를 Durable Object로 운용할 때 다중 채널 통합을 유지하면서 비용 효율성을 만족하는 병행 처리 기준은 무엇인가?