YouTubeStanford Online·2026년 11월 14일·0

AI Agent Design Patterns: ReAct, CodeAct & More

Quick Summary

ReAct·CodeAct를 비롯한 AI 에이전트 디자인 패턴은 제어 흐름·도구 실행·컨텍스트 관리를 과제에 맞게 조합하고, 품질·비용·지연을 평가하며 완성하는 설계 틀이다.

영상 보기

클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.

원본 열기

🖼️ 인포그래픽

AI Agent Design Patterns: ReAct, CodeAct & More 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

AI Agent Design Patterns: ReAct, CodeAct & More의 핵심 내용을 4단계로 요약한 인포그래픽
AI Agent Design Patterns: ReAct, CodeAct & More 핵심 내용을 4단계로 압축한 4컷 인포그래픽

💡 한 줄 결론

ReAct·CodeAct를 비롯한 AI 에이전트 디자인 패턴은 제어 흐름·도구 실행·컨텍스트 관리를 과제에 맞게 조합하고, 품질·비용·지연을 평가하며 완성하는 설계 틀이다.

📌 핵심 요점

  1. 워크플로와 에이전트의 차이는 실행 제어권이다. 코드가 순서를 정하면 예측과 디버깅이 쉬운 워크플로이고, 모델이 관찰을 바탕으로 다음 행동을 정하면 유연한 에이전트다. 반복 절차가 명확한 업무에는 워크플로를, 조사 과정에서 행동을 바꿔야 하는 업무에는 에이전트를 검토할 수 있다.
  2. 작업 분해와 패턴 조합에는 비용이 따른다. 프롬프트 체이닝, 라우팅, 병렬화, 오케스트레이터–워커, 평가자–최적화자는 서로 다른 문제를 해결한다. STORM은 여러 관점의 조사와 문서 작성을 결합하고, Archon은 목표 벤치마크와 추론 예산에 맞춰 구조를 탐색한다. 호출이나 후보 답변을 늘리는 효과는 정확도와 비용을 함께 비교해야 판단할 수 있다.
  3. ReAct와 CodeAct는 행동을 구성하는 방식이 다르다. ReAct는 추론·행동·관찰을 반복하며 다음 행동을 수정한다. CodeAct는 행동을 실행 가능한 코드로 표현해 반복 조회와 계산을 묶는다. ReWOO는 도구 간 의존성을 미리 계획하고, LLMCompiler는 의존성 그래프의 독립 작업을 병렬 실행한다.
  4. 성찰의 가치는 검증 가능한 피드백에 달려 있다. Reflection은 실행 궤적과 성찰을 기억으로 활용하고, CRITIC은 도구와 검색으로 검증을 보강한다. 외부 근거 없이 답을 재검토하게 한 연구에서는 성능이 악화되기도 했다. 별도의 성찰 단계를 추가할지는 현재 모델과 실제 과제의 평가 결과로 결정해야 한다.
  5. 컨텍스트 관리는 정보 선별과 작업 연속성을 함께 다룬다. 이벤트 로그에는 원본 실행 기록을 보존하고, 모델 입력에는 필요한 내용을 골라 넣을 수 있다. 외부 메모리, 컴팩션, 관찰 마스킹, 서브에이전트, 스킬의 점진적 공개를 조합하되 요구사항·목표·제약·진행 상태를 유지해야 한다. 입력 변경에 따른 KV 캐시 비용도 고려할 대상이다.

🧩 배경과 문제 정의

  • 에이전트 시스템은 제어 흐름, 작업 분해, 도구 사용 방식 등 여러 설계 결정을 요구한다. 디자인 패턴은 판단의 출발점이지만, 실제 환경에 맞게 수정하고 완성해야 한다.
  • 워크플로는 프로그램이 정한 절차를 따라 예측 가능성을 높이고, 에이전트는 모델이 다음 행동을 선택해 유연성을 높인다. 이러한 차이는 평가와 최적화의 난이도에도 영향을 준다.
  • 복잡한 작업에는 여러 패턴의 조합이 필요하다. STORM은 조사와 글쓰기 과정을 결합한 사례이며, Archon은 추론 비용과 목표 벤치마크에 맞춰 워크플로 구조를 탐색하는 사례다.

🕒 시간순 섹션별 상세정리

1. 디자인 패턴은 환경에 맞게 완성해야 하는 설계 틀이다

  • 소프트웨어 디자인 패턴은 확장하고 이해하기 쉬운 코드를 만드는 방법을 정리하며, 에이전트 시스템에도 비슷한 설계 틀을 적용할 수 있다. 다만 패턴은 미완성된 출발점이므로 각 환경에 맞게 수정해야 한다 [00:53]
  • 에이전트 분야는 아직 변화가 크다. ReAct의 추론 패턴은 비교적 지속적으로 사용됐고 MCP도 도구를 구성하는 공통 방식으로 확산하고 있지만, 이를 고정된 표준으로 단정하기는 어렵다 [03:22]

2. 제어 흐름의 주체가 워크플로와 에이전트를 구분한다

  • 워크플로는 코드가 논리와 실행 순서를 관리하고, 에이전트는 AI 모델이 다음 행동을 결정한다. 모델 자체는 이 시스템 안에서 호출하는 구성요소다 [04:04]
  • 코드로 절차를 지정한 워크플로는 예측하기 쉽다. 에이전트는 관찰에 따라 행동을 바꿀 수 있어 유연하지만, 그만큼 예측·평가·최적화가 어려워진다 [04:59]

3. 프롬프트 체이닝은 작업 분해로 정확도와 지연시간을 교환한다

  • 프롬프트 체이닝은 하나의 작업을 연속된 모델 호출로 나누고, 필요하면 중간에 조건 검사를 둔다. 이메일에서 일정 추출, 이모지 선택, 캘린더 등록을 각각 처리하는 방식이 예다 [08:34]
  • 모델 호출을 나누면 각 단계가 단순해지지만 대체로 한 번에 처리할 때보다 오래 걸린다. 호출별 추론 방식에 따라 예외는 있을 수 있으며, 특히 복잡한 작업일수록 분해의 이점이 커질 수 있다 [09:09]

4. 라우팅은 입력에 맞는 모델과 후속 절차를 선택한다

  • 라우팅은 입력을 분류해 적절한 모델, 프롬프트 또는 워크플로로 보낸다. 일정 관련 이메일과 처리할 행동 항목이 담긴 이메일에 서로 다른 후속 절차를 적용할 수 있다 [10:04]
  • 문제 난이도를 먼저 판별하고 쉬운 수학 문제는 작은 3B 모델에, 어려운 문제는 더 강력한 모델에 맡기는 방식으로 비용과 시간을 절약할 수 있다 [10:27]

5. 병렬화는 독립 작업 분할과 반복 응답 투표에 활용된다

  • 병렬화는 미리 정한 여러 작업을 동시에 실행한다. 챗봇의 안전성 분류와 답변 생성을 병행하고, 위험한 요청으로 판정되면 생성한 답변을 사용자에게 표시하지 않는 방식이 가능하다 [11:23]
  • 투표 방식은 같은 입력을 여러 번 처리한 뒤 결과를 집계한다. 수학 문제를 다섯 번 풀어 같은 답이 세 번 나오면 그 답을 선택하는 방식이 예다 [11:45]

6. 오케스트레이터–워커는 하위 작업의 종류와 수를 동적으로 정한다

  • 고정된 병렬 분기와 달리 오케스트레이터는 필요한 작업과 워커 수를 동적으로 결정한다. 복잡한 소프트웨어 제작에서는 UI나 색상 선택기 같은 구성요소를 나눠 각각 맡길 수 있다 [12:55]
  • LLM이 문제를 분해하고 워커 LLM에 위임하므로, 해결에 필요한 하위 작업의 성격과 개수를 미리 예측하기 어려운 상황에 적합하다 [13:20]

7. 평가자–최적화 루프에는 명확하고 신뢰할 수 있는 피드백이 필요하다

  • 생성기가 결과를 만들면 평가자가 검토하고 피드백을 제공한다. 결과를 수용하거나 생성기로 돌려보내 수정하는 과정을 반복한다 [13:42]
  • 무엇이 좋고 나쁜지 구체적으로 설명할 수 있어야 반복 개선이 의미가 있다. 또한 평가 LLM이 그 피드백을 제공할 능력이 있어야 하며, 인간의 선호처럼 모델이 잘 판단하지 못하는 기준에는 사용자 참여가 필요할 수 있다 [14:19]

8. STORM은 다양한 관점의 조사로 인용을 갖춘 문서를 만든다

  • STORM은 사용자의 주제를 받아 조사하고, 목차와 참고문헌을 포함한 위키피디아 형식의 글을 생성한다. 2024년 화롄시 지진에 관한 문서 생성이 예시이며, 여러 단계가 필요하지만 절차를 정의할 수 있어 워크플로에 적합하다 [16:04]
  • 관련 글을 검색한 뒤 지진학자, 지질학자, 정치인, 주민처럼 주제에 필요한 관점을 생성한다. 각 관점은 서로 다른 질문과 정보 요구를 만든다 [16:42]

9. STORM의 구조는 여러 워크플로 패턴을 결합한다

  • 조사 대화를 바탕으로 목차를 구성하는 경로와, 주제에서 초안 목차를 바로 만드는 경로가 병행된다. 이후 수집한 참고자료와 목차를 이용해 본문을 작성한다 [17:35]
  • 관점의 종류와 개수를 미리 고정하지 않고 주제에 따라 생성하므로 오케스트레이터–워커 패턴에 해당한다. 최대 관점 수를 제한하는 하이퍼파라미터가 있는 것으로 기억되지만, 실제 관점 수는 LLM이 결정하고 각 관점은 독립적으로 후속 작업을 수행한다 [18:26]

10. 다양한 관점의 효과는 품질과 비용을 함께 고려해 평가해야 한다

  • STORM은 인터넷 검색으로 출처를 찾는다. 직접 목차를 생성하는 것보다 복잡한 조사 경로를 두는 이유는 다양한 관점을 확보하고 더 폭넓은 글을 만들기 위해서다 [20:16]
  • 멀티에이전트 시스템을 비교하려면 먼저 비용과 정확도 중 무엇을 중요하게 볼지 정의해야 한다. 더 높은 비용으로 더 높은 정확도를 얻는 관계가 있을 수 있으므로, 비교 기준에 따라 평가가 달라진다 [21:17]

11. 대화 종료 조건과 감독 모델은 별도의 설계 선택이다

  • STORM의 최대 대화 길이는 스크립트의 하이퍼파라미터로 정하는 것으로 기억된다. 질문이 끝났음을 나타내는 문구로 LLM이 루프를 종료할 수도 있고, 대화가 길어지면 설정된 한도에서 중단할 수도 있다 [22:06]
  • STORM에는 큰 감독 모델이 작은 모델의 작업 품질을 판정하는 구조가 없는 것으로 보이며, 전체 과정에서 같은 크기의 모델을 사용했을 가능성도 있다. 정확한 모델 구성은 확실하게 기억되지 않는다 [23:21]

12. STORM은 직접 생성과 검색 기반 기준선보다 높은 평가를 받았다

  • 비교 기준에는 글을 직접 생성하는 방식, 목차 작성 단계를 제거한 방식, 검색 증강 생성이 포함된다. Oracle RAG는 사람이 해당 글을 작성할 때 실제 사용한 참고자료를 제공하는 방식으로 설명되지만, 이 명칭의 해석에는 기억상의 불확실성이 있다 [24:53]
  • 제시된 결과에서 STORM은 사람이 작성한 글과의 유사도가 더 높았다. LLM이 평가한 흥미도, 구성, 관련성, 내용 포괄성에서도 더 높은 점수를 받았으며, 구체적인 수치는 자막에 제시되지 않는다 [25:08]

13. Archon은 목표 성능과 추론 예산에 맞는 워크플로를 탐색한다

  • Archon은 목표 벤치마크, 허용할 추론 비용, 사용 가능한 여러 LLM을 입력으로 받는다. 크기가 다른 모델과 다양한 추론 시점 기법을 조합해 워크플로 구조를 구성한다 [25:59]
  • 후보 구조를 생성하고 벤치마크 성능을 측정한 뒤, 베이지안 탐색으로 다른 조합을 반복해서 시험한다. 최종 산출물은 선택된 워크플로 아키텍처다 [26:20]

14. Archon은 생성·융합·비평·검증을 조합 가능한 구성요소로 다룬다

  • 생성기는 질의에 대한 답을 만들고, 융합기는 여러 후보 답변을 하나로 합친다. 비평기는 각 후보의 장점과 약점을 작성해 평가자–최적화 방식의 피드백을 제공한다 [27:07]
  • 순위기는 후보가 정답일 가능성에 따라 순서를 매긴다. 검증기는 먼저 답의 정확성에 대한 근거를 생성하고, 이어 답을 다시 생성하는 두 번의 호출로 구성된다 [27:34]

15. 순위 평가의 한계와 다중 후보 수학 풀이 구조

  • LLM의 순위 평가 능력은 맥락과 후보 수에 따라 달라진다. 소수 후보를 비교하는 데는 꽤 능숙해졌다는 판단이지만, 천 개 항목의 순위를 한꺼번에 정하는 경우에는 실패할 것이라는 한계가 드러난다 [28:56]
  • Archon의 평가는 주로 수학과 코드에 집중하지만, 더 명확하게 정의된 워크플로에 특히 적합할 수 있다는 견해도 있다. 수학 풀이 사례에서는 GPT-4o, Llama 3.1, Qwen 2.5, Wizard에서 각각 다섯 개씩 생성해 총 20개 후보 답변을 만든다 [29:41]

16. 답변 통합 워크플로의 전제는 생성 결과의 다양성이다

  • 여러 생성기의 답변을 묶어 fuser가 통합하고, GPT-4o 검증기가 피드백과 수정을 수행한 뒤 마지막 fuser가 단일 응답을 만든다. 이 구성은 수학 과제를 위한 아키텍처 탐색 결과다 [30:02]
  • 생성기를 많이 사용하는 이유는 서로 다른 답변을 확보하기 위해서다. 탐색 과정에서 모델 선택도 최적화하며, 답변의 다양성이 없으면 이 파이프라인의 효과가 무너진다 [30:51]

17. 고정된 실행 단계와 토큰 예산이 워크플로의 성능을 좌우한다

  • 각 모델이 추론을 끝내고 답을 내놓아야 다음 검토 단계로 넘어갈 수 있다. 답을 내지 않는 결과는 버린다는 전제가 있으며, 프롬프트나 추론·컨텍스트 길이를 조정하더라도 모델이 실제로 응답해야 한다는 의존성은 남는다 [31:20]
  • fuser에 표시된 모델명은 통합 작업을 수행하는 모델을 뜻하며, 같은 모델이 생성한 답변만 통합한다는 뜻은 아니다. 마지막 통합의 구체적 방식에는 불명확한 부분이 있고, 이 구성 자체가 수학 과제의 보편적 권장안인 것도 아니다 [32:05]

18. 워크플로와 에이전트는 실행 제어 방식이 다르다

  • 워크플로는 에이전트보다 재현과 디버깅이 쉽다. 프롬프트 체이닝, 라우팅, 병렬화, 오케스트레이터·워커, 평가자·최적화자 패턴을 조합하면 더 큰 워크플로를 구성할 수 있다 [33:17]
  • 에이전트는 LLM이 환경과 상호작용하고 피드백을 받으면서 종료 시점도 결정한다. 따라서 LLM이 어떻게 추론하고 환경에 행동을 가할지 설계해야 한다 [33:47]

19. ReAct는 추론으로 검색 행동을 수정해 정답에 접근한다

  • Apple Remote가 원래 제어하던 프로그램을 다른 어떤 장치로 제어할 수 있는지 묻는 사례에서, 직접 응답·추론만 수행·행동만 수행하는 방식은 각각 정답에 도달하지 못했다 [34:32]
  • ReAct는 추론과 행동을 결합한다. 검색으로 Front Row를 찾은 뒤 이름의 중의성을 고려해 ‘Front Row software’로 다시 검색하고, 키보드 기능 키로도 제어할 수 있다는 답을 얻는다 [35:18]

20. ReAct의 효과는 프롬프팅과 미세조정에서 다르게 나타난다

  • 원 논문의 실험에서는 모델을 5,400억 파라미터까지 확장했을 때 ReAct 방식의 프롬프팅보다 모델 내부 지식에 의존하는 방식이 더 좋았다. 다만 데이터셋의 특성이 영향을 줬을 가능성도 있다 [36:02]
  • 추론과 행동을 수행하도록 미세조정하면 프롬프트로만 유도할 때보다 과제 성능이 좋아졌다. 에이전트 행동을 위한 사후학습이 흔해진 현재의 모델은 이런 능력을 학습한 상태일 것으로 기대할 수 있다 [36:31]

21. Reflection은 실행 경험과 성찰을 기억으로 축적한다

  • 행동을 수행하는 LLM의 실행 궤적을 평가하고, 자기성찰 LLM이 성공과 실패의 원인을 정리한다. 과거 궤적과 그에 대한 성찰을 기억으로 제공하면 이후 행동에서 이전 경험을 활용할 수 있다 [37:47]
  • 괄호 유효성을 판별하는 코딩 사례에서는 여는 괄호와 닫는 괄호의 총개수만 확인한 코드가 단위 테스트에 실패했다. 성찰에서 괄호의 대응 관계를 확인하지 않았다는 원인을 찾아 다음 시도의 코드를 수정한다 [39:05]

22. 외부 근거 없는 자기수정은 오히려 성능을 떨어뜨릴 수 있다

  • 「Large Language Models Cannot Self-Correct Reasoning Yet」의 실험에서는 답변을 재검토하고 스스로 옳다고 판단할 때까지 수정하게 했다. 적절한 기준선과 성능이 좋은 모델을 사용했을 때 GSM8K와 Common Sense QA 모두에서 성능이 악화됐다 [40:53]
  • Reflection은 단위 테스트 실행 같은 외부 환경 피드백을 사용한다는 차이가 있다. 자기수정의 부정적 결과를 보인 연구는 더 강한 추론 모델이 등장하기 전의 연구라는 시점상의 한계도 있다 [41:38]

23. 기억 규모와 성찰 구조는 평가를 통해 선택해야 한다

  • Reflection의 결과만으로 기억 크기와 성능의 관계를 충분히 판단하기는 어렵다. 제시된 여섯 번의 시도는 모두 컨텍스트에 넣을 수 있는 규모여서, 대규모 경험에서 기억을 검색하는 문제를 충분히 다루지 않는다 [42:12]
  • 초기 Reflection 구현은 모델에게 실행 궤적을 보고 성찰을 작성하도록 프롬프트를 주는 방식이다. 복잡한 샌드박싱 같은 장치가 핵심인 구조는 아니다 [42:50]

24. CRITIC은 검증기에 도구를 제공해 성찰을 보강한다

  • CRITIC은 검증기에 도구 호출과 검색 능력을 추가한다. 모델이 자신의 답을 프롬프트만으로 돌아보는 대신, 외부 정보와 상호작용하며 검증하도록 만든다 [44:35]
  • 제시된 실험에서는 도구 없는 CRITIC보다 도구를 사용하는 CRITIC의 성능이 높았다. 정답을 이미 아는 Oracle 조건과는 구별되지만, 외부 검증 근거가 단순 자기성찰보다 유용할 수 있음을 보여준다 [45:00]

25. CodeAct는 여러 도구 호출을 실행 가능한 코드로 묶는다

  • CodeAct는 행동을 코드로 표현하고 도구를 실행 환경의 함수로 제공한다. 스마트폰 구매 국가를 비교하는 예에서는 국가별 환율·가격 등의 조회를 반복문으로 처리하고, 최솟값 계산도 코드 안에서 수행한다 [45:29]
  • 예시 프로그램은 일본에서 904달러에 구매하는 것이 가장 저렴하다는 결과를 낸다. 실험에서는 코드 기반 행동의 성공률이 테스트한 모든 모델에서 더 높았고, 대체로 실행 턴도 적었지만 text-davinci-3에서는 JSON 방식의 턴 수가 더 적은 예외가 있었다 [47:39]

26. ReWOO는 관찰 전에 계획과 도구 간 의존성을 만든다

  • ReWOO는 ‘Reasoning Without Observation’ 방식으로, 실행 결과를 받기 전에 전체 계획을 작성한다. 질의응답 예에서는 관련 문서 검색, 주요 재료 추출, 해당 재료의 문서 검색, 제조사 확인을 순서대로 연결한다 [49:11]
  • 계획에는 앞선 도구의 출력이 다음 도구의 어느 입력으로 들어갈지 참조 관계가 포함된다. 워커는 이 관계에 따라 결과를 전달하며 실행하고, 마지막에 전체 실행 궤적을 바탕으로 답을 생성한다 [50:44]

27. LLMCompiler는 의존성 그래프와 재계획으로 실행을 최적화한다

  • LLMCompiler는 검색·계산·LLM 호출을 방향성 비순환 그래프로 구성하고 독립적인 작업을 병렬 실행한다. 제시된 결과에서는 정확도를 유지하면서 실행 속도를 높이고 지연을 줄였다 [52:14]
  • 동적 재계획은 외부 검증기가 과제 수행 실패를 판정하면 새 계획을 생성하고 다시 시도하는 반복 구조다 [54:05]

28. 컨텍스트 엔지니어링은 필요한 입력을 선별하는 문제다

  • 에이전트의 LLM 호출에는 입력을 구성하는 별도의 컨텍스트 관리가 필요하다. 문서·도구·지시·도메인 지식 가운데 필요한 내용을 골라 컨텍스트 창에 맞춰야 한다 [55:46]
  • 긴 컨텍스트 안에 사실이 들어 있어도 그 위치에 따라 모델이 이를 활용해 추론하기 어려워질 수 있다. 모델의 성능이 개선되고 있더라도 적절한 내용을 선별해 넣는 작업은 성능 향상에 도움이 된다 [56:54]

29. 컨텍스트는 간결함과 연속성을 함께 유지해야 한다

  • 현재 과제에 필요한 정보만 남겨야 한다. 전체 대화 이력과 모든 관찰 결과를 계속 유지하면 불필요한 정보가 쌓여 성능이 저하될 가능성이 있다 [57:33]
  • 내용을 줄일 때도 요구사항·목표·제약·진행 상태는 보존해야 한다. 설계 조건을 잃으면 에이전트가 예상하지 못한 방식으로 행동할 수 있다 [58:00]

30. 영속 이벤트 로그는 상호작용과 실행 결과를 기록한다

  • 컨텍스트 관리 패턴에는 영속 이벤트 로그, 메모리 오프로딩, 압축, 관찰 마스킹, 컨텍스트 격리가 있다. 이 구간에서는 그중 영속 이벤트 로그의 구현 사례로 OpenHands의 이벤트 스트림을 다룬다 [58:49]
  • OpenHands는 사용자 메시지, 에이전트의 응답과 행동, 관찰 결과와 도구 호출 응답을 이벤트 스트림에 기록한다. 숫자 목록을 웹페이지로 표시하도록 요청하는 예에서도 코드 실행을 포함한 각 행동이 이 스트림에 남는다 [59:23]

31. 이벤트 로그로 실행 기록과 모델 입력을 분리한다

  • 이벤트 스트림은 출처·내용·모델에 표시하는 방법을 담은 객체들을 보존한다. 모델을 호출할 때마다 전체 이벤트에서 변환 가능한 항목을 골라 행동을 묶고 메시지로 변환하므로, 이벤트를 컨텍스트로 구성하는 방식을 조정할 수 있다 [1:00:37]
  • 과거 궤적 일부를 모델 입력에서 제외하더라도 원본 로그는 그대로 유지된다. 압축이나 삭제는 모델에 보여 주는 표현에 적용되며, 에이전트가 실제로 수행한 행동 기록은 보존된다 [1:01:09]

32. 외부 메모리에 정보를 저장하고 필요할 때 검색한다

  • 정보를 메모리나 파일에 저장하면 컨텍스트에서 제거한 뒤에도 다시 사용할 수 있다. MemGPT의 예에서는 대화에서 얻은 생일과 연인 이름을 저장해 이후 대화에서 관련 질문에 활용한다 [1:02:00]
  • 메모리 검색·조회 도구나 RAG를 이용하면 사용자에 관해 알고 있는 모든 정보를 항상 컨텍스트에 넣을 필요가 없다. 사용자 경험과 관련된 사실을 외부에 보관하고 필요한 시점에 가져오는 방식이다 [1:02:48]

33. 컴팩션은 긴 실행 이력을 요약하지만 처리 비용이 따른다

  • ReAct의 추론·행동·관찰 반복이 길어지면 이전 내용을 요약해 줄일 수 있다. 가장 단순한 구현은 모델의 실제 처리 한도보다 낮은 임계값을 설정하고, 그 지점에서 누적 컨텍스트를 요약하게 하는 것이다 [1:03:39]
  • 압축 과정 자체에 도구 호출과 검색을 허용하면 필요한 맥락을 더 잘 확보할 수도 있다. 다만 단순 요약보다 복잡해지고 사용자가 압축 완료를 기다리는 시간이 생기므로, 효율과 압축 방식 사이의 절충이 필요하다 [1:04:02]

34. 관찰 마스킹은 큰 도구 출력을 줄여 컨텍스트를 관리한다

  • 코딩 등 여러 작업에서는 추론과 행동보다 관찰 결과가 컨텍스트를 크게 늘릴 수 있다. 검색한 문서 전문이나 코드 실행 결과가 대표적인 원인이며, 이미 활용한 관찰을 몇 줄로 줄이거나 출력 자체를 제외하는 방식이 대안이 된다 [1:05:01]
  • 원본 관찰은 이벤트 로그에 남기고, 일정 턴이 지난 관찰만 모델 입력에서 제외할 수 있다. 다만 입력 변경은 KV 캐시를 무효화하므로, 매번 바꾸기보다 5턴이나 10턴 간격으로 정리하고 다시 프리필하는 식의 시스템 설계가 필요할 수 있다 [1:05:56]

35. 서브에이전트와 점진적 공개로 컨텍스트를 격리한다

  • 검색과 문서 추론이 많이 필요한 작업을 서브에이전트에 맡기면, 상세 자료는 해당 에이전트의 컨텍스트에 쌓인다. 주 에이전트는 짧은 결과 요약을 받아 전체 작업을 조율하므로 자신의 컨텍스트 부담을 줄일 수 있다 [1:07:42]
  • 점진적 공개는 필요한 시점에만 상세 지침을 불러오는 방식이다. 예를 들어 PDF 처리 방법과 코드를 스킬 파일에 보관하고, PDF 작업이 생겼을 때 해당 내용을 컨텍스트에 추가한다 [1:08:22]

36. 스킬은 작업 지식을 공급하며 다른 컨텍스트 관리 패턴과 결합된다

  • 메모리로 지식을 옮긴 뒤 컨텍스트를 압축하거나, 이벤트 로그를 유지하면서 관찰을 잘라내는 방식은 서로 호환된다. 실제 에이전트 시스템은 이러한 패턴을 조합해 컨텍스트를 관리한다 [1:09:22]
  • 도구는 환경에 행동을 수행하지만, 스킬은 수행 방법을 에이전트의 작업 메모리에 추가한다. 스킬 이름이나 파일 위치는 미리 알려 주고 본문은 필요할 때 읽으며, 이 목록은 압축 뒤에도 유지되는 시스템 프롬프트의 일부가 된다 [1:09:52]

37. Pi는 최소한의 도구와 ReAct 루프를 제공한다

  • Pi는 사용자의 작업 방식을 하니스에 맞추기보다 하니스를 작업 방식에 맞춰 확장하는 최소주의 설계를 따른다. 기본 상태에는 서브에이전트, 권한 확인, 계획 모드, 할 일 목록, 백그라운드 bash 실행이 없다 [1:12:10]
  • 기본 활성 도구는 read·bash·edit·write 네 가지다. 다른 기능 상당수도 터미널에서 코드를 실행하는 방식으로 구현할 수 있어, 처음부터 많은 도구를 노출하지 않는다 [1:12:42]

38. Pi는 분기 가능한 기록과 부분 요약으로 맥락을 유지한다

  • Pi의 컨텍스트는 트리로 구성되어 이전 대화 지점으로 돌아간 뒤 새 분기를 만들 수 있다. 이벤트 로그를 모델 입력으로 변환하며, 스킬 파일을 통한 점진적 공개도 지원한다 [1:13:36]
  • 컴팩션에서는 원문으로 유지할 첫 항목을 경계로 정한다. 그 이전 기록은 모델이 요약하고 이후 기록은 그대로 보존해, 다음 입력을 시스템 프롬프트·요약·압축하지 않은 대화로 구성한다 [1:14:04]

39. 최소주의 하니스의 효과와 안전성은 별도로 평가해야 한다

  • Pi는 실행 프로세스와 같은 권한으로 동작하고, 위험한 명령에 대한 승인 팝업이나 자동·수동 모드 구분을 제공하지 않는다. 실행 중에는 사실상 항상 자동 모드이며 내장 안전장치가 없다 [1:14:31]
  • 기반 모델의 성능 향상으로 복잡한 주변 기능의 필요성이 줄었고, 단순한 구조에 필요한 확장만 추가하는 설계가 효과적일 수 있다는 견해다. 다만 안전장치의 부족은 용도에 따라 위험하며 Pi의 약점으로 평가된다 [1:15:31]

🧾 결론

  • 패턴은 완성된 정답이 아니다. 과제의 반복성, 불확실성, 도구 의존성에 맞춰 제어 구조를 선택해야 한다.
  • 더 많은 에이전트와 호출이 항상 더 좋은 결과를 만들지는 않는다. 후보 답변의 다양성, 평가자의 판단 능력, 외부 검증 근거가 효과를 좌우한다.
  • 모델·하니스·컨텍스트 관리의 조합은 벤치마크로 비교해야 한다. 단순한 하니스가 충분한 경우도 있지만, 필요한 안전장치는 별도로 평가해야 한다.

📈 투자·시사 포인트

  • 에이전트 서비스의 도입 경제성을 평가할 때는 성공률과 함께 추론 토큰, 호출 수, 응답 지연을 확인해야 한다. Archon의 성능 사례도 더 큰 추론 예산을 허용한 조건에서 해석해야 한다.
  • 제품의 설계 역량을 검토할 때는 모델 선택뿐 아니라 외부 검증, 실행 기록, 컨텍스트 선별을 살펴볼 필요가 있다. 이 구성요소들은 반복 개선과 운영 중 문제 추적에 직접 연결된다.
  • 기반 모델이 강해질수록 일부 복잡한 하니스의 필요성이 줄어들 수 있다. 기능 수보다 실제 과제에서의 성능·비용과 안전장치의 적합성을 비교하는 것이 유용하다.

⚠️ 불확실하거나 확인이 필요한 부분

  • STORM의 최대 관점 수, 대화 길이 제한, 모델 구성, Oracle RAG의 의미에는 강연자의 기억상 불확실성이 포함돼 있다. 구현을 재현하려면 원문과 코드를 확인해야 한다.
  • STORM·CodeAct·ReWOO·LLMCompiler 등의 성능 설명은 제시된 실험 조건에 한정된다. 여러 결과의 구체적 수치가 제공되지 않아 개선 폭이나 다른 업무에서의 재현성을 단정하기 어렵다.
  • 자기수정의 성능 악화를 다룬 연구는 더 강한 추론 모델이 등장하기 전의 결과다. 현재 모델에 별도 성찰이 필요한지는 다시 평가해야 한다.
  • 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
  • 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
  • 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

  • 대상 업무에서 코드로 고정할 단계와 모델이 관찰에 따라 결정할 단계를 구분한다.
  • 대표 과제와 평가 데이터를 마련하고 성공률·비용·지연의 허용 기준을 정한다.
  • 단일 호출 또는 단순 워크플로를 기준선으로 두고, 작업 분해·병렬화·성찰을 추가했을 때의 효과를 비교한다.
  • 성찰과 재시도에는 단위 테스트, 검색, 외부 검증기 등 과제에 맞는 피드백을 연결한다.

❓ 열린 질문

  • 우리 과제에서는 어느 단계까지 고정 워크플로로 처리하고, 어디부터 모델의 동적 판단에 맡기는 것이 유리한가?
  • 추가 후보 생성과 성찰이 만드는 품질 향상은 늘어난 토큰 비용과 지연을 감수할 만큼 큰가?
  • 관찰 마스킹·요약·외부 메모리를 어떻게 조합해야 필요한 정보를 유지하면서 컨텍스트와 캐시 비용을 줄일 수 있는가?

관련 문서

공통 태그와 주제 흐름을 기준으로 같이 보면 좋은 문서를 이어서 제안합니다.