🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

태빌리는 단순한 에이전트 구조, 선별된 문맥, 제한된 도구, 실패 중심의 설계를 결합해 토큰 소비를 66% 줄이면서 딥리서치 벤치에서 최고 수준의 성과를 달성했다.

📌 핵심 요약

• 연구 에이전트는 방대한 자료를 수집·독해·종합할 수 있어 글쓰기, 의사결정, 코딩, 영업을 비롯한 다양한 에이전트형 작업의 핵심 구성요소로 발전하고 있다.
• 빠르게 향상되는 모델의 능력을 흡수하려면 복잡한 수제 최적화와 고정된 가정을 줄이고, 오케스트레이션을 단순화하면서 모델에 제한된 자율성을 부여해야 한다.
• 장시간 연구에서는 원문과 도구 출력을 계속 누적하지 않고, 검색 결과를 간결한 성찰로 증류해 다음 행동의 문맥으로 사용한 뒤 최종 산출물 작성 단계에서만 원자료를 다시 제공하는 방식이 효과적이다.
• 이 문맥 관리 방식은 반복할수록 입력 토큰이 누적되는 기존 구조를 선형적인 소비 구조로 바꾸며, 오픈 딥 리서치와 비교해 토큰 소비를 66% 줄이면서 딥리서치 벤치에서 최고 수준의 성과를 냈다.
• 운영 환경에서는 도구 재시도, 모델 전환, 예외 상황 시험, 소수의 핵심 도구, 실행 추적 관찰을 함께 활용하고, 평가 점수보다 신뢰성·유용성·비용·지연 시간·실패 감소를 우선해야 한다.

🧩 주요 포인트

1. 연구 에이전트는 방대한 자료를 수집·독해·종합할 수 있어 글쓰기, 의사결정, 코딩, 영업을 비롯한 다양한 에이전트형 작업의 핵심 구성요소로 발전하고 있다.
2. 빠르게 향상되는 모델의 능력을 흡수하려면 복잡한 수제 최적화와 고정된 가정을 줄이고, 오케스트레이션을 단순화하면서 모델에 제한된 자율성을 부여해야 한다.
3. 장시간 연구에서는 원문과 도구 출력을 계속 누적하지 않고, 검색 결과를 간결한 성찰로 증류해 다음 행동의 문맥으로 사용한 뒤 최종 산출물 작성 단계에서만 원자료를 다시 제공하는 방식이 효과적이다.
4. 이 문맥 관리 방식은 반복할수록 입력 토큰이 누적되는 기존 구조를 선형적인 소비 구조로 바꾸며, 오픈 딥 리서치와 비교해 토큰 소비를 66% 줄이면서 딥리서치 벤치에서 최고 수준의 성과를 냈다.
5. 운영 환경에서는 도구 재시도, 모델 전환, 예외 상황 시험, 소수의 핵심 도구, 실행 추적 관찰을 함께 활용하고, 평가 점수보다 신뢰성·유용성·비용·지연 시간·실패 감소를 우선해야 한다.

🧠 상세 정리

1. 연구 에이전트가 중요한 이유

연구는 정보를 수집하고 읽으며 종합하는 기초적인 지식 노동으로, 글쓰기와 의사결정은 물론 코딩 같은 작업에도 직접 연결된다. 사람이 수행하는 연구는 기억력, 독해 속도, 투입 가능한 시간의 제약을 받지만, 인공지능 연구 에이전트는 훨씬 많은 정보를 처리하고 그 내용을 빠르게 종합하며 작업 규모를 확장할 수 있다. 저자들은 이러한 특성 때문에 연구 에이전트가 현재 인공지능의 주요 활용 사례로 부상하고 있으며, 앞으로 콘텐츠 생성·코딩·영업 등 더 넓은 에이전트형 작업 흐름의 핵심 하위 구성요소가 될 것으로 본다. 이 글의 목적은 태빌리가 최고 수준의 연구 에이전트를 구축하며 얻은 기술적·철학적 교훈을 설명하고, 모델과 도구 및 실행 구조가 어떤 방향으로 발전해야 하는지 제시하는 데 있다.

2. 미래 모델의 발전을 흡수하는 실행 구조

에이전트 실행 구조는 문맥 관리, 도구 호출, 반복 제어, 오케스트레이션, 오류 처리를 맡아 모델이 실행 중 더 좋은 결과를 내도록 지원하는 소프트웨어 계층이다. 문제는 기반 모델이 빠르게 발전하기 때문에 현재의 모델 특성에 맞춘 복잡한 가정과 수제 최적화가 다음 세대 모델에서는 오히려 병목이 될 수 있다는 점이다. 태빌리의 첫 번째 딥리서치 구조도 복잡하고 정교했지만, 새로운 모델이 등장하자 기존 가정이 성능을 제한해 개발팀은 약 7개월 전 시스템 전체를 처음부터 다시 구축해야 했다. 이 경험을 통해 저자들은 미래의 모델 발전을 낙관적으로 예상하되 가정을 최소화하고, 오케스트레이션을 단순하게 유지하며 모델의 자율성을 적극 활용해야 시간이 지날수록 개선되는 에이전트를 만들 수 있다고 결론 내렸다.

3. 모델과 도구가 함께 진화해야 하는 방향

지난 7개월 동안 모델의 능력은 조용하지만 의미 있게 향상됐으며, 특히 도구 호출 능력의 발전은 미리 정해진 작업 흐름에서 자율적인 에이전트로 이동하게 한 핵심 요인으로 제시된다. 저자들은 모든 모델이 결국 실행 구조를 통해 사용되므로, 향후 모델도 에이전트 개발자가 겪는 문제를 해결하고 그 실행 구조를 더 잘 지원하는 방향으로 발전해야 한다고 본다. 구체적으로는 긴 문맥을 압축하기 위한 높은 재현율의 요약, 안정적인 도구 호출, 간결한 글쓰기 능력이 중요한 개선 과제로 언급된다. 도구 역시 대량의 원자료를 문맥 창에 그대로 쏟아 넣기보다 자체적으로 문맥을 정리해 가장 관련성 높은 데이터만 반환해야 하며, 태빌리는 이러한 처리를 고급 검색 기능에 내장해 후속 에이전트의 환각과 지연 시간을 낮추는 데 활용했다.

4. 검색 문맥의 선별과 전역 상태 관리

장시간 이어지는 연구에서는 문맥 창을 깨끗하고 최적화된 상태로 유지하는 일이 핵심 과제이며, 이를 세심하게 관리하지 않으면 에이전트가 실패할 가능성이 매우 높다고 저자들은 강조한다. 태빌리의 고급 검색은 웹 원문을 직접 처리한 뒤 각 출처에서 관련성이 가장 높은 부분만 반환하므로, 연구 에이전트가 적은 지연 시간으로 가치 있는 내용을 수집하도록 돕는다. 여기에 전역 상태 보존과 출처 중복 제거를 적용하면 에이전트가 이미 본 자료가 아니라 새로운 정보에 노출되고, 정보 탐색 범위가 한 갈래로 좁아지는 시점을 엔지니어가 파악해 아직 탐색하지 않은 관련 영역으로 유도할 수 있다. 동일한 관리 체계는 최종 결과물을 생성할 때 출처를 정확히 연결하는 데도 유리하며, 저자들은 이렇게 정제된 웹 검색 구조를 딥리서치 에이전트 전체 설계의 기초 요소로 평가한다.

5. 사람의 반복적 연구 방식을 본뜬 성찰 구조

사람은 연구를 시작할 때 달성하려는 목표와 필요한 정보를 정의한 다음, 자료를 수집하고 핵심 통찰만 추려 단기 기억에 보관하며 그 내용을 바탕으로 다음 행동을 결정한다. 이러한 과정은 정보를 모으고, 증류하고, 다음 단계를 선택하는 순환으로 반복되며, 충분한 이해를 확보해 최종 결과물을 만들 때가 되어서야 원래의 출처로 돌아가 세부 내용을 확인한다. 태빌리는 딥리서치 에이전트도 같은 방식으로 설계해 도구 출력 전체를 계속 전달하지 않고, 각 결과를 간결한 성찰로 바꾼 뒤 과거 성찰의 집합만 다음 도구 호출의 문맥으로 사용해야 한다고 주장한다. 다만 최종 산출물을 작성하는 단계에서는 정보 손실을 막고 정확한 근거를 확보하기 위해 증류된 성찰뿐 아니라 원자료를 다시 문맥에 제공해야 한다.

6. 누적 문맥을 제거한 토큰 효율화

일반적인 반응·행동형 에이전트 구조에서는 이전 도구 호출과 출력이 다음 반복의 문맥에 계속 남기 때문에, 각 호출의 입력 토큰이 첫 번째에는 n, 두 번째에는 2n, 이후에는 3n처럼 증가한다. 도구 호출을 m번 반복하면 전체 소비량은 n×m×(m+1)÷2가 되어 반복 횟수에 대해 이차적으로 증가하며, 장시간 작업이나 다중 에이전트 환경에서는 누적 비용이 더욱 커진다. 반면 태빌리 방식은 방대한 웹 원문 대신 크기가 상대적으로 작은 지식 성찰만 반복 문맥에 유지하므로 각 호출을 거의 n으로 고정할 수 있고, 전체 소비량도 n×m인 선형 구조로 바뀐다. 저자들은 이 차이로 에이전트당 약 (m+1)÷2의 비율만큼 토큰을 절감할 수 있다고 설명하며, 실제로 오픈 딥 리서치와 비교해 토큰 소비를 66% 줄이면서 딥리서치 벤치에서 최고 수준의 성과를 달성했다고 보고한다.

7. 비결정적 에이전트를 운영 환경에 배치하는 법

운영 수준의 에이전트를 만드는 일은 높은 성능과 품질을 위해 자율성을 허용하면서도 지연 시간, 비용, 신뢰성에 관한 엄격한 조건을 함께 충족해야 하는 균형 문제다. 언어 모델은 본질적으로 비결정적이므로 일정한 안전장치 안에서 자유롭게 추론하고 반복하도록 할 때 가장 강한 결과를 내지만, 잘못된 도구 호출이나 특정 하위 주제에 대한 과도한 집중, 예상했던 추론 패턴의 붕괴가 발생할 수 있다. 하나의 보호 장치로 모든 문제를 잡을 수 없기 때문에 실패 양상을 사후 예외가 아니라 설계의 핵심 고려사항으로 다루고, 도구 호출 재시도와 모델 전환뿐 아니라 이상 행동의 사전 예측, 올바른 패턴을 강화하는 지시, 경계 사례 시험을 함께 적용해야 한다. 또한 이론적으로 유용해 보이는 도구를 많이 제공하면 새로운 실패 가능성과 선택 혼란이 생기므로, 에이전트가 일관되게 선택하고 반복할 수 있는 소수의 필수 도구만 노출하는 편이 낫다고 저자들은 설명한다.

8. 평가 점수보다 방향성과 운영 가치

태빌리는 평가를 개발 방향을 조정하는 수단으로 사용했지만, 언어 모델이 판정하는 평가는 비결정적이고 판단 과정이 해석하기 어려워 완전히 신뢰하기 힘들다고 지적한다. 특히 장시간 실행되는 에이전트는 단일 실험에도 며칠이 걸릴 수 있어 평가 자체가 개발의 병목이 될 수 있으므로, 저자들은 벤치마크 점수를 직접 극대화하기보다 변경이 실제 신뢰성과 유용성을 높였는지 확인하는 방향성 피드백에 집중했다. 평가 결과는 그 방향을 검증하는 보조 수단이었으며, 하나의 점수보다 개발자의 직관과 에이전트 실행 추적을 세심하게 관찰하는 일이 더 신호가 강한 피드백을 제공했다고 설명한다. 운영 시스템에서는 평가 점수 한 점의 상승보다 토큰 사용량 감소, 신뢰성 향상, 낮은 지연 시간, 실패 횟수 감소가 더 가치 있으며, 최고 수준의 연구 성능과 효율성을 함께 달성하는 것이 핵심 목표로 제시된다.

🧾 핵심 주장 / 시사점

• 모델이 발전할수록 성능이 좋아지는 에이전트를 만들려면 현재 모델의 약점을 복잡한 규칙으로 고정하기보다, 단순한 실행 구조와 최소한의 가정을 유지해야 한다.
• 검색 원문을 매 반복마다 누적하지 않고 성찰로 증류하는 방식은 문맥 오염을 줄이는 동시에 토큰 소비를 이차 증가에서 선형 증가로 전환할 수 있다.
• 운영 환경의 성공 기준은 단일 평가 점수가 아니라 토큰 비용, 지연 시간, 실패율, 도구 선택의 일관성, 실제 사용자에게 제공하는 신뢰성과 유용성을 함께 개선하는 것이다.

✅ 액션 아이템

• 연구 에이전트는 오케스트레이션을 단순화하고 복잡한 수제 최적화·고정 가정을 축소해 모델의 제한된 자율성을 반영한다.
• 장시간 검색에서는 원문과 도구 출력을 계속 누적하지 않고 성찰형 요약만 다음 단계 문맥으로 사용해 토큰 누적을 선형 구조로 전환한다.
• 운영 지표는 점수 우선에서 벗어나 신뢰성·유용성·비용·지연·실패 감소를 함께 두고 실행 재시도·모델 전환·예외 대응을 함께 점검한다.

❓ 열린 질문

• 성찰형 요약만으로 문맥을 유지할 때 핵심 사실이 빠질 위험을 어떤 방식으로 즉시 감지할 것인가?
• 토큰 66% 절감을 달성한 컨텍스트 정제 방식에서 원문 재주입 타이밍은 연구 단계별로 어떻게 정해야 하는가?
• 신뢰성, 유용성, 비용, 지연, 실패 감소를 동시에 개선할 때 지표 충돌은 어떤 우선순위로 조정할 것인가?