Self-Compact Pi Agent: ZERO HYPE Agentic Coding Devlog

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

Self-Compact Pi Agent: ZERO HYPE Agentic Coding Devlog를 중심으로, 컨텍스트 관리는 장기 실행의 핵심 제약이다. 사용량이 쌓이면 작업 중단뿐 아니라 성능 저하와 비용 낭비가 발생할 수 있어, 에이전를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. 컨텍스트 관리는 장기 실행의 핵심 제약이다. 사용량이 쌓이면 작업 중단뿐 아니라 성능 저하와 비용 낭비가 발생할 수 있어, 에이전트가 작업 상황에 맞춰 압축 시점을 판단하도록 설계한다.
2. 알림·경고·강제 압축의 세 단계로 자율 판단과 개입을 조합한다. 알림 이후에는 자연스러운 작업 경계를 찾게 하고, 강제 경계에서는 다른 도구 호출을 막아 압축을 보장하는 구성을 제안한다.
3. self-compact는 압축 요약에 자기 인계 메모를 더한다. 목표, 완료 판단, 다음 행동을 남겨 압축 이후에도 작업을 이어가도록 하며, 알림·경고·압축 프롬프트와 상태 UI도 함께 구현한다.
4. 같은 과제를 세 하네스·모델 조합에 맡긴 실험에서 Fable 5.1은 50분·약 500K 컨텍스트, Codex의 Astra는 21분·136K로 완료했다. GLM 5.2는 사용률 98%에서 완료하지 못했다. 이는 영상 속 개별 실행 결과이며, 속도만으로 구현 품질을 판단하지 않고 실제 동작을 추가 확인했다.
5. Fable 구현에서는 경고 후 메모 작성, 압축, 파일 읽기 재개를 확인했지만 강제 압축 경계도 넘어섰다. Astra 구현에서는 낮은 사용률에서 직접 압축을 요청해 도구 호출과 인계 메시지 보존을 확인했다. 두 검증은 압축과 인계 기능을 보여주지만 자율 시점 판단의 우월성까지 입증하지는 않는다.

🧩 배경과 문제 정의

• 장시간 실행하는 자율 에이전트는 제한된 컨텍스트 윈도 때문에 작업이 중단될 수 있다. 컨텍스트 누적에 따른 성능 저하와 비용 증가도 함께 해결해야 한다.
• 수십~수백 개 에이전트가 몇 시간씩 공동 목표를 수행하는 환경에서는 사람이 매번 압축 시점을 판단하기 어렵다. 에이전트가 사용량을 인식하고 적절한 작업 경계에서 스스로 압축하는 기능이 필요하다.
• 목표는 Pi 기반 하네스에 자체 압축 도구, 단계별 경고, 사용자 정의 압축 프롬프트와 상태 표시를 결합하는 것이다. 압축 후에도 목표와 다음 행동을 이어갈 수 있도록 자기 인계 메모를 보존한다.

🕒 시간순 섹션별 상세정리

1. 고정 임계치 압축에서 에이전트의 시점 판단으로

• 컨텍스트 윈도는 에이전트의 작업 수행을 제한하는 핵심 자원이다. 모델과 엔지니어링 역량이 좋아져도 사용량 관리 문제는 남는다 [00:20]
• 기존 자동 압축의 사용량 기준을 넘어, 에이전트가 현재 작업 상황을 고려해 더 나은 압축 시점을 선택하도록 만드는 것이 핵심 가설이다 [02:04]

2. 구현 전에 문제와 요구사항을 직접 구체화

• 초안에 전문 지식과 필요한 세부 조건을 명확히 담아야 에이전트가 원하는 결과를 구현할 수 있다. 계획을 작성한 뒤 서로 다른 모델을 사용하는 세 가지 하네스에 같은 과제를 맡겨 비교한다 [03:14]
• 해결할 문제는 장기 실행 에이전트의 컨텍스트 소진, 컨텍스트 누적에 따른 성능 저하, 비용 낭비다. 독립 실행형 Pi 에이전트에 자체 압축 도구를 추가하는 방향으로 요구사항을 정한다 [03:55]

3. 자체 압축 도구와 세 단계 개입 수준

• 에이전트가 직접 호출하는 압축 도구를 제공하고, 알림·경고·강제 압축의 세 임계치를 둔다. UI도 이 세 상태를 구분해 표시하도록 설계한다 [04:16]
• 가벼운 알림과 강한 경고에 각각 별도 프롬프트를 사용한다. 하네스를 제어하면 기본 압축 프롬프트도 목적에 맞게 바꿀 수 있다는 접근이다 [05:00]

4. 계획·구현·검증과 명시적인 완료 기준

• 작업 디렉터리 등을 변수로 분리해 여러 에이전트에 같은 과제를 적용한다. 공통 절차는 계획·구현·검증이며, 계획 단계에는 Plan F3 스킬을 사용한다 [06:26]
• 프롬프트에 완료 기준과 평가 기준을 함께 넣는다. 완료 기준은 에이전트가 언제 멈춰야 하는지 정의하고, 평가 기준은 충족해야 할 조건을 구체화한다 [07:14]

5. 압축 요약에 자기 인계 메모를 추가

• self-compact 도구는 자체 압축과 자기 메모 작성을 함께 지원한다. 메모는 기존 압축 요약에 더해 후속 작업에 필요한 정보를 전달하는 추가 사용자 프롬프트로 사용한다 [08:32]
• 컨텍스트 바에는 캐시된 토큰, 캐시되지 않은 토큰, 남은 공간과 세 임계치 표시를 담는다. 이 UI가 Pi 안에서 실제로 동작하는 것까지 완료 조건에 포함한다 [09:13]

6. 비용 경계를 고려한 임계치와 실행 옵션

• 임계치 옵션은 비율과 토큰 수를 지원하고, 토큰 수에는 천·백만 단위 접미사를 허용하도록 요구한다. 비율의 상한은 90%로 설정한다 [10:46]
• 영상에서는 GPT 모델의 가격이 270K 토큰 지점에서 대략 두 배가 된다는 전제를 두고, 알림 225K·경고 250K·강제 압축 270K를 제안한다. 비용 경계에 도달하기 전에 진행 중인 작업을 마무리할 여유를 주려는 설정이다 [11:10]

7. 비교 실험의 격리 규칙과 신뢰성 평가

• 평가 기준에는 완료 조건과 작업 절차의 충족 여부를 넣는다. 계획 디렉터리 예외를 제외한 작업 영역 밖 산출물 작성, 다른 에이전트의 계획이나 앱 파일 열람은 즉시 실패로 규정한다 [13:08]
• 일반적인 임시 파일 위치와 작업 영역 밖 도구 실행은 허용한다. 실수로 실패 조건을 위반했다면 즉시 중단하고 이를 보고하도록 요구한다 [14:10]

8. 세 하네스와 모델로 같은 구현 과제 실행

• just 파일에 변수와 실행 명령을 묶어 Claude Code, Codex, Pi를 실행한다. 특정 도구 하나를 고정하기보다 여러 도구를 지속적으로 비교하는 방식이다 [15:05]
• 비교 조합은 Claude Code의 Fable 5.1, Codex의 GPT6 Astra, Pi의 GLM 5.2다. 각 에이전트가 별도 작업 영역에서 같은 계획·구현·검증 절차를 수행한다 [16:40]

9. 완료 시간과 컨텍스트 사용량의 차이

• GLM 5.2는 컨텍스트 사용률 98%에 도달하고 작업을 완료하지 못한다. 실행 기록에는 많은 추론이 쌓여 있으며, 이 사례에서는 컨텍스트 한계가 실제 장애가 된다 [17:17]
• Fable 5.1은 50분, Codex의 Astra는 21분에 완료한다. 확인한 컨텍스트 사용량은 Fable이 100만 토큰 창의 약 50%인 500K, Astra가 136K다 [17:54]

10. 초기 실행 검증과 테스트용 임계치 조정

• GLM 구현을 실행했지만 요구한 컨텍스트 바가 나타나지 않는다. 이 버전의 검증은 중단하고 다음 구현으로 넘어간다 [19:50]
• Fable 구현은 환경변수를 설정한 뒤 실행된다. 임계치 표시가 가까이 겹쳐 있어 테스트용 값을 알림 10%·경고 20%·강제 압축 30%로 벌린다 [20:11]

11. Fable 구현에서 경고·메모·압축·작업 재개 확인

• 큰 파일을 찾아 나누어 읽게 하면서 컨텍스트를 채운다. 테스트의 목적은 사용량 증가에 따라 자체 압축 알림이 발생하는지 확인하는 것이다 [21:16]
• 에이전트는 첫 알림 뒤에는 여유가 있다고 판단해 계속 진행하고, 경고 임계치를 넘자 압축이 필요하다고 판단한다. 자기 메모를 작성하지만 앞선 읽기로 강제 압축 경계도 넘어선다 [22:04]

12. Astra 구현과 자율 판단 구간의 설계

• Astra 구현은 상단 위젯에 알림 100K·경고 200K·강제 압축 300K 지점을 표시한다. 이 구현에서도 컨텍스트를 채워 자체 압축 동작을 시험한다 [23:00]
• 알림부터 경고까지는 넓은 판단 여유를 주고, 경고부터 강제 압축까지는 더 짧게 두는 구성을 제안한다. 강제 경계에서는 다른 도구 호출을 막아 압축을 보장한다 [23:26]

13. 명시적 압축 호출과 두 구현의 프롬프트 비교

• Astra 구현이 아직 12% 사용량에 머물러 있어, 직접 자체 압축을 요청하고 인계 내용을 자기 메모로 사용하게 한다. 에이전트가 임계치와 무관하게 압축 도구를 호출할 수 있는지 확인하는 테스트다 [24:55]
• 이번 결과물에 대한 정성 평가에서는 Fable의 압축·알림·경고 프롬프트가 Astra보다 낫다고 판단한다. 다른 에이전트를 위한 프롬프트 작성 품질에서 차이가 관찰된 것이다 [25:23]

14. 압축 시점·보존 정보·재개 방식을 함께 제어

• 자체 압축의 핵심은 언제 압축할지, 무엇을 보존할지, 어떻게 이어갈지를 에이전트가 관리하도록 만드는 것이다. 하네스와 프롬프트를 함께 설계해 이 과정을 제어한다 [26:21]
• 장기 자율 작업에서는 알림 간격을 벌리거나 임계치를 추가해 판단 여유를 조절할 수 있다. 목표는 비용 급증과 컨텍스트 누적에 따른 성능 저하를 줄이는 것이다 [27:16]

15. 반복 가능한 자동화와 도구 선택의 기준

• 정확한 요구사항을 에이전트와 스웜에 전달하는 능력은, 원하는 결과를 반복적으로 생산하는 소프트웨어 자동화 시스템으로 확장할 수 있다 [28:15]
• 도구 선택의 기준은 필요한 기능을 직접 만들고 제어할 수 있는지에 있다. Pi의 장점도 내부 동작을 폭넓게 수정할 수 있는 소프트웨어라는 데 둔다 [29:00]

16. 매주 월요일에 이어지는 만남

• 매주 월요일마다 같은 곳에서 다시 만날 수 있다. [29:55]

17. 집중을 유지하며 계속 만들기

• 집중을 유지하고 계속 만들어 나가야 한다. [29:56]

🧾 결론

• 자체 압축의 설계 대상은 압축 시점, 보존할 정보, 작업 재개 방식이다. 하네스와 프롬프트를 함께 제어해야 이 세 요소를 연결할 수 있다.
• 명확한 요구사항과 완료·평가 기준이 구현 비교의 토대다. 상태 표시와 실제 압축 후 작업 재개까지 확인해야 결과물의 작동 여부를 판단할 수 있다.
• 이번 실험에서는 Astra의 완료 시간과 컨텍스트 사용량이 유리했고, 압축·알림·경고 프롬프트는 Fable 구현이 더 낫다는 정성 평가가 나왔다. 평가 항목에 따라 결과가 달랐다.

📈 투자·시사 포인트

• 자율 코딩 도구를 평가할 때 모델 성능과 함께 컨텍스트 관리, 압축 후 작업 연속성, 하네스 수정 가능성을 살펴볼 필요가 있다.
• 비용 절감은 이 설계의 목표다. 영상의 토큰 사용량과 가격 경계 가정만으로 실제 청구 비용이나 장기 운영 절감률을 확정할 수는 없다.
• 요구사항을 정밀하게 정의하고 반복 검증하는 능력은 여러 에이전트가 같은 목표를 수행하는 자동화 시스템으로 확장할 기반이다.
• 도구 선택에서는 필요한 기능을 직접 만들고 제어할 수 있는지가 중요한 기준으로 제시된다. 영상은 Pi의 내부 동작 수정 가능성을 이 관점에서 평가한다.

⚠️ 불확실하거나 확인이 필요한 부분

• GPT 모델의 가격이 270K 토큰에서 약 두 배가 된다는 설명은 영상의 설정 전제다. 적용 모델, 요금 조건, 실제 과금 기준을 별도로 확인해야 한다.
• 세 조합의 완료 시간과 컨텍스트 사용량은 이번 과제의 실행 결과다. 반복 실험이나 조건별 결과가 제시되지 않아 모델·하네스의 일반적인 우열로 확대하기 어렵다.
• Fable 테스트는 강제 압축 경계를 넘어섰고, Astra 테스트는 명시적인 압축 요청을 사용했다. 고정 임계치 방식보다 자율 판단 방식이 더 좋은 시점을 고르는지는 추가 검증이 필요하다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 적용할 모델의 컨텍스트 한도와 요금 조건을 확인하고 알림·경고·강제 압축 임계치를 정한다.
• 압축 인계 메모에 목표, 완료 판단, 다음 행동이 남는지 확인한다.
• 테스트용 임계치를 낮춰 세 단계 알림, 상태 UI, 강제 경계의 도구 호출 차단, 압축 후 작업 재개를 검증한다.
• 동일 과제를 격리된 작업 영역에서 반복 실행하고 완료 시간, 컨텍스트 사용량, 실제 비용, 결과물 동작을 함께 비교한다.

❓ 열린 질문

• 에이전트가 선택한 압축 시점은 고정 임계치보다 작업 연속성과 비용 측면에서 얼마나 유리한가?
• 한 번의 큰 도구 응답으로 경고와 강제 경계를 연달아 넘을 때 필요한 여유 구간은 어느 정도인가?
• 자기 인계 메모는 반복 압축 과정에서 목표와 다음 행동을 얼마나 정확하게 보존하는가?