How Apollo Uses Deep Agents and LangSmith for GTM AI
Quick Summary
아폴로는 복잡한 시장 진출 업무를 자연어 목표 하나로 실행하기 위해 AI 어시스턴트를 딥 에이전츠 기반의 동적 기술 구조로 재설계하고, 랭스미스로 추적·평가·관측 체계를 구축했다.
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 요약
아폴로는 복잡한 시장 진출 업무를 자연어 목표 하나로 실행하기 위해 AI 어시스턴트를 딥 에이전츠 기반의 동적 기술 구조로 재설계하고, 랭스미스로 추적·평가·관측 체계를 구축했다.
📌 핵심 요약
- 아폴로 AI 어시스턴트는 잠재고객 발굴, 연락처 보강, 영업 시퀀스 작성, 성과 측정으로 이어지는 전체 시장 진출 과정을 자연어 요청에 따라 실행한다.
- 기존 랭그래프 감독자 구조에서는 새로운 용도마다 하위 에이전트와 고정 경로를 추가해야 했지만, 딥 에이전츠 도입 후에는 목표에 맞는 기술을 동적으로 선택하고 자체 계획을 수립하게 됐다.
- 새 구조에서는 응답 지연과 사용자 확인 요청이 감소했으며, 내부 메타 기술을 활용해 초기 개발부터 출시까지 필요한 작업량을 약 80~85% 줄였다.
- 아폴로는 랭스미스를 기본 디버깅 도구로 사용하며, 사전 품질 기준부터 실시간 추적·지표·고객 피드백까지 연결한 6계층 평가 체계인 AI 워치타워를 운영한다.
- AI 어시스턴트는 제품 화면을 넘어 API, MCP 서버, 명령줄 도구로 확장됐으며, 향후 예약 실행과 상시 백그라운드 업무를 수행하는 자율형 에이전트로 발전할 예정이다.
🧩 주요 포인트
- 여러 제품 모듈을 오가던 단일 영업 목표 → 자연어로 목표만 제시하면 전체 과정을 수행하는 통합 경험으로 전환됐다.
- 고정된 감독자·하위 에이전트 구조 → 모델 중립적인 평면형 기술 구조로 바뀌면서 새 용도 개발과 실행 경로의 유연성이 높아졌다.
- 분산 로그에 의존하던 운영 방식 → 추적, 정량 평가, 실사용 지표, 고객 반응을 연결해 출시 전후 품질을 지속적으로 관리하는 체계로 바뀌었다.
🧠 상세 정리
1. 제품 범위가 만든 사용자 복잡성
아폴로는 잠재고객 발굴부터 연락처 정보 보강, 영업 시퀀스 작성, 거래 관리, 분석까지 전체 영업 주기를 포괄하는 시장 진출 플랫폼이다. 그러나 약 10년에 걸쳐 기능과 제품 범위가 넓어지면서 고객은 하나의 목표를 달성하기 위해 지나치게 많은 모듈과 단계를 거쳐야 한다고 느꼈다. 신규 잠재고객 대상 캠페인을 시작하려면 리드를 찾고, 연락처를 보강하고, 메시지 시퀀스를 작성한 뒤, 다시 별도 대시보드로 이동해 결과를 측정해야 했다. 아폴로는 이러한 개별 작업이 사실상 하나의 목표에 속한다는 점에 주목했다. 이에 사용자가 자연어로 시장 진출 목표를 말하면 어시스턴트가 발굴·보강·접촉·측정의 전체 순환을 수행하는 대화형 인터페이스를 만들었다.
2. 감독자 구조에서 목표 기반 실행으로의 전환
초기 다중 에이전트 시스템은 랭그래프의 감독자 기반 구조로 구현됐으며, 주 에이전트가 작업을 여러 전문 하위 에이전트에 분배했다. 이 방식은 작동했지만 새로운 용도가 생길 때마다 별도의 하위 에이전트를 작성하고 감독자에 연결한 뒤, 미리 정한 경로를 따르도록 만들어야 했다. 고정된 그래프 구조는 사용자가 원하는 자연스러운 에이전트 경험과 맞지 않았고, 실제 이용 과정에서도 의도를 재확인하는 요청이 자주 나타났다. 아폴로는 딥 에이전츠와 클로드 에이전트 SDK를 비교한 뒤 여러 대규모 언어 모델 공급자를 계속 선택할 수 있다는 이유로 딥 에이전츠를 채택했다. 특정 모델 공급자에 종속되지 않는 것이 핵심 선택 기준이었다. 새 구조에서는 엔지니어가 실행 경로를 사전에 모두 지정하지 않아도 에이전트가 목표를 해석해 계획을 만들고 필요한 기술을 선택한다.
3. 평면형 기술 구조와 개발 효율 개선
재설계된 어시스턴트는 잠재고객 발굴, 영업 시퀀스 생성, 기업·담당자 조사, 이메일 전달 가능성 관리, 분석, 계정 점수화, 구매 의도 신호 탐지 등의 기술을 보유한다. 에이전트는 사용자가 제시한 목표에 따라 이 기술들을 동적으로 조합해 실행하며, 그 결과 지연 시간이 개선되고 확인 요청도 크게 줄었다. 기존 감독자 구조에서는 새 에이전트를 작성하고 연결한 다음, 첫 평가에서 약 20~30%였던 출시 전 정확도를 목표치인 80%까지 높이는 장기간의 평가가 필요했다. 새 평면형 구조에서는 문제 설명을 받은 에이전트가 구조 계획을 만들고, 선임 엔지니어가 이를 검토한 뒤, 다른 에이전트가 실제 구축을 수행하는 내부 메타 기술도 도입했다. 아폴로에 따르면 이러한 방식으로 초기 개발부터 출시까지 필요한 작업량이 약 80~85% 감소했다. 즉, 기술 단위의 재사용과 에이전트의 자체 계획 수립이 제품 확장 속도를 직접 개선했다.
4. 랭스미스를 통한 추적과 장애 분석
아폴로는 자체 관측 도구만으로 복잡한 다중 에이전트 내부를 파악하기 어려워지자 랭스미스를 도입했다. 기존에는 한 대화 안에서 어떤 도구가 어떤 순서로 호출됐는지, 각 단계에 얼마나 시간이 걸렸는지, 어느 지점에서 문제가 발생했는지를 확인하기가 매우 어려웠다. 현재 랭스미스는 AI 팀 모든 엔지니어가 사용하는 기본 디버깅 화면이며, 운영 환경에서 시간 초과나 오류가 발생하면 대화 식별자를 이용해 실패한 단계를 직접 추적한다. 이 방식은 구글 클라우드 스토리지 로그, 몽고 데이터, 여러 하위 시스템을 서로 대조하던 이전 절차를 대체했다. 또한 각 요청의 전체 프롬프트, 문맥, 도구 호출, 결과, 지연 시간을 기록하며, 새로운 제품에는 첫날부터 이러한 실시간 추적을 적용한다.
5. AI 워치타워의 6계층 평가 체계
아폴로의 AI 워치타워는 품질 기준, 종단 간 품질 시험, 실시간 추적, 실시간 인사이트, 주간 보고서, 고객 피드백의 6계층으로 구성된다. 코드를 작성하기 전 정확성·어조·관련성 등 3~5개 평가 차원을 정의하고, 구체적 사례와 함께 1~5점 기준을 만든 뒤 두 명의 독립 검토자가 50~200개의 출력을 평가해야 출시할 수 있다. 반드시 통과해야 하는 대표 시나리오는 프롬프트나 모델 설정을 변경하는 모든 코드 변경 요청과 모든 배포에서 실행된다. 표본 트래픽의 자동 평가 점수, 거절률, 지연 시간에 의미 있는 하락이 나타나면 범주·하위 범주·세그먼트의 3단계로 원인을 좁히고 임시 표본 비율을 50~100%까지 높인다. 주간 보고서는 요금제, 기업 규모, 업종별 집단을 나눠 각 계층의 결과를 종합한다. 긍정·부정 사용자 평가는 기능과 같은 코드 변경 요청으로 출시되며, 부정 평가는 수분 안에 일일 분류 대기열로 전달되고 7일 이동 구간에서 8%를 지속적으로 넘으면 최우선 장애로 취급된다.
6. 화면을 벗어난 헤드리스 어시스턴트 확장
AI 어시스턴트는 처음에는 사용자가 보고 있는 제품 화면에서 문맥을 가져오고 아폴로 인터페이스 안에서 작업을 수행하는 기능으로 시작했다. 목표 기반의 기술 구조로 바뀌면서 화면과의 결합을 제거할 수 있었고, 동일한 어시스턴트를 API와 MCP 서버로 제공하는 헤드리스 에이전트로 확장했다. 현재 제품 내 대화 기능을 구동하는 어시스턴트가 클로드, 챗지피티, 퍼플렉시티의 아폴로 MCP 연동에도 사용된다. MCP 상호작용에서 발생하는 문맥 크기 비용을 줄이기 위한 아폴로 명령줄 도구도 함께 구축됐다. 아폴로 MCP를 사용하는 팀은 4만 곳을 넘었으며, 월간 2억 3천만 건 이상의 호출을 처리하는 아폴로 API의 50만 곳 이상 이용 팀을 빠르게 따라가고 있다. 회사는 이 채널의 빠른 채택을 통해 시장 진출 업무 운영자의 기술적 성향이 예상보다 강하다는 점을 확인했다.
7. 상시 실행되는 자율형 시장 진출 에이전트
아폴로가 추진하는 다음 확장은 기존 기술의 실행 정확도를 높이고 새로운 용도를 추가하는 것과, 자율형 에이전트를 제공하는 것의 두 축으로 나뉜다. 헤드리스 API를 이용하면 사용자는 에이전트를 일정에 맞춰 실행하거나 항상 작동하는 백그라운드 프로세스를 맡길 수 있다. 예를 들어 슬랙이나 다른 연결 도구에서 매일 아침 이상적 고객상에 부합하는 상위 잠재고객 50명을 전달하도록 지시할 수 있으며, 이 과정에서 아폴로 화면을 직접 열 필요가 없다. 이는 사용자가 기존에 일하는 도구 안에서 AI 어시스턴트를 동료처럼 활용하게 하려는 방향과 연결된다. 아폴로는 기술 라이브러리의 깊이와 범위를 확대하면서 이러한 예약형·상시형 업무 수행 범위를 넓힐 계획이다.
🧾 핵심 주장 / 시사점
- 아폴로 사례에서 자연스러운 에이전트 경험은 대화 화면 자체보다 목표를 자체적으로 분해하고 재사용 가능한 기술을 동적으로 조합하는 실행 구조에서 비롯됐다.
- 모델 중립성은 단순한 구현 선택이 아니라 향후 여러 언어 모델 공급자를 사용할 수 있는 가능성을 유지하기 위한 구조적 요구사항으로 작용했다.
- 출시 전 정적 평가만으로는 운영 품질을 보장하지 못하므로, 아폴로는 실시간 추적·집계 지표·주간 분석·사용자 피드백을 하나의 지속적 품질 관리 과정으로 연결했다.
✅ 액션 아이템
- 고정 감독자·하위 에이전트 경로 대신 목표에 맞춰 기술을 동적 선택하고 자체 계획을 세우는 평면형 구조를 적용 범위를 정의한다.
- 랭스미스 추적·정량 평가·실사용 지표·고객 피드백을 이은 다계층 품질 관리에서 출시 전후 점검 기준을 정한다.
- 잠재고객 발굴부터 시퀀스 작성·성과 측정까지 자연어 한 목표로 이어지는 통합 실행과 API·MCP·CLI 확장 우선순위를 비교한다.
❓ 열린 질문
- 딥 에이전트 전환 후 응답 지연과 사용자 확인 요청 감소를 어떤 지표로 지속 확인할 것인가?
- 내부 메타 기술로 개발·출시 작업량을 80~85% 줄인 효과가 어떤 용도에서 가장 크게 나타났는가?
- 예약 실행과 상시 백그라운드 업무를 맡는 자율형 에이전트로 갈 때 먼저 열 범위는 어디인가?