🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Zendesk는 OpenAI 모델을 활용해 정해진 대화 흐름에 머무르던 기존 봇을 넘어, 고객 문제의 해결을 목표로 대화를 이끌고 맥락에 맞춰 행동하는 적응형 서비스 AI 에이전트를 파일럿 운영하고 있다.

📌 핵심 요약

• Zendesk는 10년 이상 고객 경험 플랫폼을 운영해 왔고, 매년 46억 건 이상의 해결을 지원하는 규모를 바탕으로 2023년 초부터 OpenAI와 협력해 서비스와 제품 개발에서 AI의 역할을 확장해 왔다.
• 기존 자동화는 고객 의도를 분류한 뒤 미리 정의된 대화나 워크플로를 실행하는 방식이어서, 고객이 질문을 바꾸거나 추가 설명을 요구하거나 예외 상황을 제기하면 한계를 드러냈다.
• Zendesk의 새 AI 에이전트는 GPT-4o 같은 OpenAI 모델을 기반으로 단순 답변을 넘어 대화를 주도하고, 맥락을 추론하며, 필요한 후속 질문을 던지고, 문제 해결을 향해 여러 단계를 수행하도록 설계됐다.
• 새 에이전트 빌더는 자연어로 절차를 정의하면 AI가 적응형 추론으로 실행 계획을 세우고, 배포 전 제안 단계를 미리 보여주며, 팀이 의사결정 과정을 감사할 수 있도록 실시간 가시성을 제공한다.
• Zendesk는 지연시간, 비용, 품질을 기준으로 모델을 내부 벤치마킹하고, RAG부터 백그라운드 추론 작업까지 다양한 사용 사례에서 모델을 평가해 24시간 안에 테스트·배포할 수 있는 체계를 운영하고 있다.

🧩 주요 포인트

1. Zendesk는 10년 이상 고객 경험 플랫폼을 운영해 왔고, 매년 46억 건 이상의 해결을 지원하는 규모를 바탕으로 2023년 초부터 OpenAI와 협력해 서비스와 제품 개발에서 AI의 역할을 확장해 왔다.
2. 기존 자동화는 고객 의도를 분류한 뒤 미리 정의된 대화나 워크플로를 실행하는 방식이어서, 고객이 질문을 바꾸거나 추가 설명을 요구하거나 예외 상황을 제기하면 한계를 드러냈다.
3. Zendesk의 새 AI 에이전트는 GPT-4o 같은 OpenAI 모델을 기반으로 단순 답변을 넘어 대화를 주도하고, 맥락을 추론하며, 필요한 후속 질문을 던지고, 문제 해결을 향해 여러 단계를 수행하도록 설계됐다.
4. 새 에이전트 빌더는 자연어로 절차를 정의하면 AI가 적응형 추론으로 실행 계획을 세우고, 배포 전 제안 단계를 미리 보여주며, 팀이 의사결정 과정을 감사할 수 있도록 실시간 가시성을 제공한다.
5. Zendesk는 지연시간, 비용, 품질을 기준으로 모델을 내부 벤치마킹하고, RAG부터 백그라운드 추론 작업까지 다양한 사용 사례에서 모델을 평가해 24시간 안에 테스트·배포할 수 있는 체계를 운영하고 있다.

🧠 상세 정리

1. OpenAI와의 협력으로 서비스 자동화의 목표를 재정의

Zendesk는 오랫동안 기업의 고객 경험을 지원해 온 플랫폼으로, 매년 46억 건 이상의 해결을 처리하는 규모를 갖고 있다. 2023년 초부터 Zendesk는 OpenAI와 긴밀히 협력하며 AI가 서비스와 제품 개발 방식을 어떻게 바꿀 수 있는지 탐색했다. 현재는 OpenAI 모델을 기반으로 한 새로운 유형의 AI 에이전트를 파일럿 운영하고 있다. 이 에이전트들은 단순히 고객 메시지에 답하는 수준이 아니라, 전체 대화를 관리하고 응답을 계획하며 자율적으로 실행하는 방향으로 설계됐다. 핵심 기준은 더 많은 메시지를 처리하는 것이 아니라 실제 고객 문제의 해결에 도달하는 것이다.

2. 의도 분류 기반 봇의 한계

기존 서비스 자동화의 표준 모델은 고객의 의도를 예측한 뒤, 미리 정의된 대화 흐름이나 워크플로를 실행하는 방식이었다. 이런 접근은 구조화된 문의나 예상 가능한 상호작용에서는 효과가 있었지만, 고객이 말을 바꾸거나 추가 질문을 하거나 예외적인 상황을 제기하면 쉽게 흔들렸다. Zendesk CTO Adrian McDermott는 과거 방식을 ‘메시지 입력, 응답 출력’의 세계로 설명하며, 실제 고객은 자연스럽게 맥락을 이어가길 기대한다고 말했다. 서비스에서 중요한 것은 결국 해결이며, 기존 봇은 그 해결을 달성하는 능력에서 제한적이었다는 문제의식이 바탕에 있다.

3. FAQ용 RAG에서 자율적 추론 에이전트로의 이동

Zendesk는 OpenAI와의 협력 초기에는 기본적인 FAQ 상호작용을 위해 검색증강생성, 즉 RAG를 활용하는 생성형 접근을 도입했다. 하지만 현재의 초점은 단순히 관련 정보를 찾아 답변하는 데서 더 나아가, AI 에이전트가 독립적으로 작업을 계획하고 실행할 수 있는 생성형 추론으로 옮겨갔다. 새 에이전트는 OpenAI 모델인 GPT-4o 등을 기반으로 하며, 질문에 답하는 것뿐 아니라 대화를 이끌고 맥락을 이해하며 해결을 향해 움직인다. RAG와 추론을 결합함으로써 여러 단계의 대화, 후속 질문, 사용자 입력에 따른 응답 조정이 가능해졌다.

4. 서비스 해결에 맞춘 에이전트형 AI 구조

Zendesk가 소개하는 새 에이전트형 AI는 서비스 환경에 맞춰 만들어진다는 점을 강조한다. 이들은 고정된 대화 흐름에만 의존하지 않고, 고객의 문제를 이해한 뒤 필요한 정보를 묻고 다음 단계를 조정할 수 있다. McDermott는 봇에게 대화를 안내할 수 있는 더 많은 주도권을 부여하되, 품질과 정확성을 위한 Zendesk의 가드레일 안에서 작동하게 했다고 설명한다. 즉 자율성이 무제한으로 주어진 것이 아니라, 해결이라는 목표와 운영상 통제 사이의 균형을 맞추는 방향이다. 그 결과 복잡한 문제도 경직된 스크립트 없이 더 자연스럽게 처리할 수 있는 구조를 지향한다.

5. 정적 플로에서 적응형 추론과 자연어 절차 정의로 전환

Zendesk의 AI 에이전트 개발에서 큰 변화 중 하나는 대화 흐름과 생성형 절차를 한 대화 안에서 자연스럽게 오갈 수 있는 하이브리드 개발 모델이다. 새 AI 에이전트 빌더에서는 기업이 절차를 자연어로 정의할 수 있고, 에이전트는 적응형 추론을 활용해 실행 계획을 세운다. 배포 전에는 제안된 단계의 미리보기를 제공해 운영자가 에이전트의 행동 방향을 확인할 수 있다. 또한 AI 추론 제어 기능은 에이전트가 어떻게 판단했는지 실시간 가시성을 제공하며, 팀이 각 대화를 감사하고 의사결정 과정을 검토할 수 있게 한다. 이 변화는 설정 시간을 며칠에서 몇 분으로 줄이고, 더 많은 Zendesk 고객이 생성형 자동화를 사용할 수 있게 하는 데 초점이 있다.

6. 사용 사례별 모델 벤치마킹과 빠른 배포 체계

Zendesk는 내부적으로 엄격한 벤치마킹 프로그램을 운영해 각 사용 사례에 가장 적합한 모델을 선택하고 프롬프트를 조정한다. 평가 기준에는 지연시간, 비용, 품질이 포함되며, OpenAI의 o3-mini 같은 새 모델도 RAG부터 백그라운드 추론 작업까지 다양한 용도에서 테스트한다. 이 절차를 통해 Zendesk는 새 모델을 24시간 안에 평가하고 테스트하며 배포할 수 있다고 설명한다. 배포 전후에는 오프라인 평가와 실제 운영 지표를 함께 추적하고, 해결률, 편집률, 지연시간 같은 기준을 본다. 각 모델 결정은 문서화되고 감사 가능하게 유지되어 시스템이 진화하는 과정에서도 투명성과 신뢰성을 확보하려 한다.

7. 80% 자동화를 향한 파일럿과 초기 반응

Zendesk는 현재 초기 도입 고객을 대상으로 새 에이전트형 AI 플랫폼을 파일럿 운영하고 있다. 이 플랫폼은 기존 설정과 쉽게 통합되도록 설계되어, 고객이 처음부터 시스템을 다시 구축하지 않아도 자동화 수준을 높일 수 있게 하는 것이 목표다. 본문은 특히 고객들이 80% 자동화에 더 빠르게 도달하도록 돕는 방향을 강조한다. 더 넓은 범위의 성과 지표는 2025년 후반에 공개될 예정이지만, 초기 반응은 긍정적이라고 제시된다. 빠른 설정, 더 정확한 응답, 모든 채널에서 더 매끄러운 사용자 여정이 초기 피드백의 핵심으로 언급된다.

🧾 핵심 주장 / 시사점

• Zendesk의 접근은 고객 서비스 AI의 평가 기준을 ‘답변 생성’에서 ‘문제 해결’로 옮기려는 시도다.
• 자연어 절차 정의와 배포 전 실행 계획 미리보기는 비전문가 팀도 생성형 자동화를 운영할 수 있게 만드는 핵심 장치로 보인다.
• 모델을 한 번 선택해 고정하는 방식이 아니라 사용 사례별로 벤치마킹하고 24시간 내 배포하는 체계가 서비스 AI 경쟁력의 중요한 운영 기반으로 제시된다.

✅ 액션 아이템

• 고객 문의 자동화 흐름에서 질문 변경, 추가 설명 요구, 예외 제기처럼 기존 봇이 약해지는 상황을 별도 시나리오로 분류해 점검한다.
• 자연어로 절차를 정의하고 배포 전 실행 제안을 확인하는 에이전트 빌더 방식이 현재 서비스 운영 프로세스에 맞는지 검토한다.
• 지연시간, 비용, 품질을 함께 보는 내부 벤치마크 기준을 마련하고 RAG와 백그라운드 추론 작업을 각각 테스트 대상으로 나눈다.

❓ 열린 질문

• 적응형 서비스 에이전트가 대화를 주도할 때 어느 단계까지 후속 질문과 실행 계획 수립을 맡기고 사람이 개입해야 할까?
• 실시간 가시성과 감사 기능이 제공되더라도 팀이 AI의 의사결정 과정을 충분히 이해하고 승인할 수 있는 운영 기준은 무엇일까?
• 24시간 안에 모델을 테스트·배포하는 체계를 운영하려면 품질 저하, 비용 증가, 지연시간 문제를 어떤 기준으로 중단 판단할까?