🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

AI 에이전트는 대규모 언어 모델이 애플리케이션의 제어 흐름을 결정하는 시스템으로 볼 수 있지만, 더 유용한 관점은 에이전트를 이분법적으로 나누기보다 에이전틱한 정도의 스펙트럼으로 이해하는 것이다.

📌 핵심 요약

• 저자는 AI 에이전트를 대규모 언어 모델이 애플리케이션의 제어 흐름을 결정하는 시스템으로 정의하지만, 이 정의가 일반적인 기대와 완전히 맞지는 않는다고 설명한다.
• 단순히 입력을 두 경로 중 하나로 라우팅하는 시스템도 기술적 정의로는 에이전트에 포함될 수 있으므로, 에이전트 여부보다 에이전틱한 정도를 논의하는 편이 더 생산적이라고 본다.
• 에이전틱함은 대규모 언어 모델이 시스템의 행동 방식을 얼마나 많이 결정하는지에 따라 달라지며, 라우터, 상태 기계, 자율 에이전트 같은 단계로 이해할 수 있다.
• 시스템이 더 에이전틱해질수록 분기와 반복을 지원하는 오케스트레이션, 오래 걸리는 작업을 위한 백그라운드 실행, 중간 오류에 대응하는 내구적 실행이 중요해진다.
• 또한 실행 중 관찰과 개입, 중간 단계까지 평가하는 평가 체계, 에이전트가 거친 단계들을 깊게 추적하고 질의할 수 있는 모니터링 체계가 필요해진다.

🧩 주요 포인트

1. 저자는 AI 에이전트를 대규모 언어 모델이 애플리케이션의 제어 흐름을 결정하는 시스템으로 정의하지만, 이 정의가 일반적인 기대와 완전히 맞지는 않는다고 설명한다.
2. 단순히 입력을 두 경로 중 하나로 라우팅하는 시스템도 기술적 정의로는 에이전트에 포함될 수 있으므로, 에이전트 여부보다 에이전틱한 정도를 논의하는 편이 더 생산적이라고 본다.
3. 에이전틱함은 대규모 언어 모델이 시스템의 행동 방식을 얼마나 많이 결정하는지에 따라 달라지며, 라우터, 상태 기계, 자율 에이전트 같은 단계로 이해할 수 있다.
4. 시스템이 더 에이전틱해질수록 분기와 반복을 지원하는 오케스트레이션, 오래 걸리는 작업을 위한 백그라운드 실행, 중간 오류에 대응하는 내구적 실행이 중요해진다.
5. 또한 실행 중 관찰과 개입, 중간 단계까지 평가하는 평가 체계, 에이전트가 거친 단계들을 깊게 추적하고 질의할 수 있는 모니터링 체계가 필요해진다.

🧠 상세 정리

1. AI 에이전트 정의의 어려움

저자는 사람들이 거의 매일 묻는 질문이 AI 에이전트가 무엇인지라고 말하며, LangChain이 대규모 언어 모델 애플리케이션을 만드는 개발자를 돕는 도구를 만든다는 맥락에서 논의를 시작한다. 특히 외부 데이터와 계산 자원과 상호작용하며 추론 엔진처럼 작동하는 시스템들이 흔히 에이전트라고 불린다. 저자의 기술적 정의는 대규모 언어 모델을 사용해 애플리케이션의 제어 흐름을 결정하는 시스템이라는 것이다. 그러나 이 정의는 사람들이 기대하는 고도화되고 자율적이며 인간 같은 에이전트의 이미지와 완전히 일치하지 않는다. 예를 들어 대규모 언어 모델이 두 경로 중 하나를 고르는 단순 라우팅 시스템도 정의상 에이전트가 될 수 있기 때문에, 정확한 경계를 긋기는 어렵다고 설명한다.

2. 에이전트보다 에이전틱함의 정도

저자는 특정 작업이 진짜 AI 에이전트인지 아닌지를 따지는 방식보다, 시스템이 어느 정도 에이전틱한지를 인정하는 접근이 더 낫다고 본다. 이 관점은 자율주행차에 여러 단계의 자율성이 있는 것처럼, AI 에이전트의 능력도 스펙트럼으로 볼 수 있다는 생각에 기반한다. 어떤 시스템은 아주 작은 수준의 에이전틱함만 가질 수 있고, 어떤 시스템은 훨씬 많은 결정을 모델에 맡길 수 있다. 그래서 저자는 앞으로 에이전트가 무엇인지 질문을 받으면, 에이전트라는 범주를 엄격히 나누기보다 에이전틱하다는 것이 무엇을 뜻하는지로 대화를 옮기겠다고 말한다. 이는 용어 논쟁보다 실제 시스템 설계와 설명에 더 도움이 되는 방향으로 제시된다.

3. 자율성 수준으로 보는 대규모 언어 모델 시스템

저자는 에이전틱한 시스템을 대규모 언어 모델이 시스템의 행동 방식을 얼마나 많이 결정하느냐로 설명한다. 입력을 특정 후속 워크플로로 보내는 라우팅은 낮은 수준의 에이전틱함을 가진 예로, 라우터 범주에 해당한다. 여러 대규모 언어 모델이 여러 단계의 라우팅을 수행한다면 라우터와 상태 기계 사이에 놓인다고 볼 수 있다. 어떤 단계에서 계속 진행할지 종료할지를 판단하게 만들어 시스템이 완료될 때까지 반복 실행된다면, 이는 상태 기계에 가까워진다. 더 나아가 시스템이 도구를 만들고, 그것을 기억하며, 이후 단계에서 다시 사용한다면 매우 에이전틱한 자율 에이전트 범주에 가까운 사례로 설명된다.

4. 개발과 실행에서 달라지는 요구사항

저자는 시스템이 얼마나 에이전틱한지를 이해하면 개발 과정 전반의 의사결정을 더 잘할 수 있다고 말한다. 에이전틱함이 커질수록 분기 논리와 순환을 일급으로 지원하는 오케스트레이션 프레임워크가 더 큰 도움이 된다. 복잡한 에이전틱 시스템은 단순한 순차 실행보다 흐름이 다양하고, 어떤 작업은 완료까지 오랜 시간이 걸릴 수 있다. 따라서 백그라운드 실행으로 작업을 돌릴 필요가 생기며, 중간에 오류가 발생했을 때도 처리할 수 있는 내구적 실행이 중요해진다. 즉 에이전틱함의 증가는 단지 모델 사용 방식만이 아니라 실행 인프라와 프레임워크 선택에도 직접적인 영향을 준다.

5. 관찰, 개입, 평가의 필요성

시스템이 더 에이전틱해질수록 실행 중인 시스템과 상호작용하고 내부 상황을 들여다볼 필요가 커진다. 에이전트가 실제로 어떤 단계를 밟을지 미리 정확히 알기 어렵기 때문에, 현재 무슨 일이 일어나는지 관찰할 수 있어야 한다. 또한 의도한 경로에서 벗어날 때 특정 시점의 상태나 지시를 수정해 다시 올바른 방향으로 유도할 수 있어야 한다. 평가 측면에서도 최종 출력만 보는 것으로는 부족하며, 무작위성이 누적될 수 있으므로 여러 번 평가를 실행해야 한다. 나아가 에이전트가 얼마나 효율적으로 행동하는지 확인하기 위해 중간 단계까지 테스트하는 평가 체계가 필요하다고 설명한다.

6. 새로운 도구와 인프라가 필요한 이유

저자는 대규모 언어 모델 애플리케이션에서 실제로 새로운 것이 무엇인지, 기존 도구와 인프라만으로 충분한지 질문한다. 그의 결론은 애플리케이션이 더 에이전틱해질수록 새로운 도구와 인프라의 필요성이 더 중요해진다는 것이다. 그래서 에이전트를 구축하고 실행하며 상호작용하도록 돕는 오케스트레이터와, 대규모 언어 모델 애플리케이션을 테스트하고 관찰하는 플랫폼을 만들게 되었다고 설명한다. 에이전틱 스펙트럼을 더 멀리 이동할수록 지원 도구 생태계 전체를 다시 상상해야 한다는 주장이다. 마지막으로 에이전틱한 능력의 스펙트럼을 이해하고 활용하는 것이 개발 과정의 효율성과 견고성을 높일 수 있다고 정리한다.

🧾 핵심 주장 / 시사점

• 이 글의 핵심은 AI 에이전트를 고정된 범주로 정의하려 하기보다, 대규모 언어 모델이 제어 흐름을 얼마나 결정하는지에 따라 에이전틱함을 단계적으로 파악하자는 데 있다.
• 에이전틱함이 커질수록 필요한 것은 더 강한 모델만이 아니라 분기, 반복, 백그라운드 실행, 내구적 실행, 실행 중 개입을 지원하는 시스템 설계다.
• 에이전틱 시스템의 품질 관리는 최종 답변 평가에 그치지 않고, 에이전트가 거친 중간 단계와 행동 효율성까지 관찰하고 평가하는 방식으로 확장되어야 한다.

✅ 액션 아이템

• AI 에이전트 판별을 이분법에서 벗어나 라우터·상태기계·자율 단계로 이어지는 에이전틱 정도 스펙트럼으로 재정의한다.
• 시스템이 에이전틱해질수록 분기·반복 오케스트레이션, 백그라운드 실행, 중간 오류 대응을 함께 갖추도록 설계를 우선순위화한다.
• 실행 중 단계별 관찰·개입·평가가 가능하도록 로그 추적과 질의가 가능한 모니터링 체계를 함께 설계한다.

❓ 열린 질문

• LLM이 제어흐름을 결정하는 비율을 실무에서 정량화할 때 어떤 지표로 에이전틱 수준을 나눌 것인가?
• 현재 라우팅형 단순 분기 구조는 어느 지점부터 상태기계형, 자율형 구조로의 전환이 필요한가?
• 오케스트레이션·재시도·장기 작업이 있는 파이프라인에서 중간 단계까지 평가 가능한 모니터링 기준은 무엇으로 설정할 것인가?