How Workday Built an Enterprise-Scale AI Agent Platform with LangGraph and LangSmith

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Workday는 LangGraph와 LangSmith를 활용해 보안·거버넌스 요건을 갖춘 내부 AI 에이전트 플랫폼을 구축하고, 기존 4~5개월이던 프로토타입 개발 기간을 스테이징 환경 기준 하루 미만으로 단축했다.

📌 핵심 요약

• Fortune 500 기업의 절반 이상에 서비스를 제공하는 Workday는 2025년 경영진이 제시한 2026년 말까지의 에이전트 운영 목표에 맞춰, 자체 인프라에서 AI 에이전트를 개발·배포·운영하는 내부 플랫폼 구축에 착수했다.
• 초기 4명으로 구성된 Agent Platform 팀은 확장성과 지속 실행을 지원하는 에이전트 서버, 감사 정책에 연결된 데이터 접근 통제, 협업 평가 플랫폼, 이를 추상화하는 Python SDK를 구축 범위로 삼았다.
• 플랫폼은 인증·보안·규정 준수·인프라를 담당하며, Agent System of Record의 API 접근 거버넌스와 내부 LLM 게이트웨이·RAG 검색 서비스 등을 연결하는 Python SDK를 제공한다.
• LangGraph는 단순한 ReAct 루프부터 복잡한 결정적 워크플로까지 설계할 유연성을 제공했고, LangSmith는 추적·관측·평가를 지원했다. 팀이 운영하는 LangChain 기반 에이전트 서버는 A2A와 MCP를 이미 지원했다.
• 기존에는 프로토타입 구축에 4~5개월이 걸리고 운영 배포도 보장되지 않았지만, 새 플랫폼에서는 인증·보안 요건이 반영된 프로토타입을 스테이징 환경에서 하루 미만에 실행할 수 있게 됐다. 팀은 약 30명으로 성장했으며 추가 투자가 계획돼 있다.

🧩 주요 포인트

1. 인증·보안·규정 준수의 플랫폼 공통 처리 → 에이전트 개발팀이 기능 요구사항과 그래프 설계에 집중할 수 있는 기반 마련.
2. LangGraph의 설계 유연성과 A2A·MCP를 지원하는 서버 기반 → 다양한 에이전트 구조를 표준화된 인프라 위에서 구현.
3. Python SDK로 내부 LLM 게이트웨이·RAG 검색 서비스 연결 → 분리돼 있던 내부 기능을 에이전트 개발에 활용하는 통합 접점 형성.

🧠 상세 정리

1. 4명으로 시작한 기업용 에이전트 플랫폼 구축

Workday는 HR·재무·IT 분야의 에이전트형 플랫폼으로, Fortune 500 기업의 절반 이상에 서비스를 제공한다. 2025년 경영진은 에이전트형 솔루션의 시장 기회를 보고 2026년 말까지 에이전트를 실제 운영 환경에 배포한다는 목표를 제시했다. 제품팀에는 빠른 프로토타이핑과 운영 배포를 모두 지원하는 기반이 필요했지만, 내부 서비스를 운영하려면 엄격한 보안·데이터 거버넌스와 감사·규정 준수·데이터 보존 정책을 충족해야 했다. 초기 4명의 팀이 맡은 범위에는 지속 실행과 확장성을 갖춘 에이전트 서버, 감사 정책에 연계된 데이터 접근 통제, 협업 평가 플랫폼, 이 모든 기능을 추상화하는 SDK가 포함됐다.

2. 개발팀과 최종 고객을 함께 지원하는 공통 기반

Agent Platform 팀은 에이전트를 만드는 Workday 내부 엔지니어링 팀과 해당 에이전트의 최종 고객이라는 두 사용자 집단을 지원한다. 플랫폼이 인증·보안·규정 준수·인프라를 담당함으로써 개발팀이 기능 요구사항에 집중하도록 하는 것이 기본 역할이다. 처음 출시된 주요 제품은 에이전트가 접근할 수 있는 API를 통제하는 거버넌스 계층인 Agent System of Record였다. Agent Platform 팀은 이 시스템의 기반이 되는 백엔드 서버와 평가 인프라를 구축했다. 따라서 에이전트의 기능 개발을 지원하는 일과 기업 환경에서 필요한 접근 통제 및 운영 기반을 제공하는 일이 플랫폼의 역할로 함께 묶였다.

3. Workday 내부 서비스를 연결하는 Python SDK

팀은 선임 머신러닝 엔지니어 Alex Gatto가 ‘Workday LangChain’이라고 부르는 Python SDK도 만들었다. 이 SDK는 LangChain의 기본 구성 요소를 감싸고, 관련 요청을 Workday 내부의 LLM 게이트웨이와 RAG 검색 서비스, 기타 도구로 연결한다. Alex는 LangChain이 새로운 AI 개념을 내놓을 때마다 Workday에서도 같은 개념을 위한 Python SDK를 구축하려 했다고 설명했다. 이는 에이전트 개발자가 사용할 수 있는 개념과 인터페이스를 제공하면서 실제 처리는 Workday 내부 서비스를 통하도록 하는 접근이다. 플랫폼은 이러한 SDK를 통해 기존 내부 기능을 에이전트 개발 과정에서 활용할 수 있는 공통 접점으로 제공했다.

4. LangGraph의 설계 유연성과 표준 서버의 결합

Workday는 내부 개발자에게 설계 단계의 유연성을 제공하면서 하부 인프라는 표준화하기 위해 LangGraph를 선택했다. 에이전트를 대화나 페르소나의 연속으로 모델링하는 플랫폼과 비교해, 그래프 기반 모델은 단순한 ReAct 루프부터 복잡한 결정적 워크플로까지 구현할 수 있었다. LangSmith는 추적·관측·평가에 활용됐으며, Alex는 Agent Server와 LangSmith가 에이전트 개발에 필요한 많은 기능을 기본으로 제공한다고 평가했다. 경영진이 A2A와 MCP 전략을 물었을 때도 팀은 이미 운영 환경에서 지원하고 있다고 답할 수 있었다. LangChain의 에이전트 서버 구현에 두 프로토콜 지원이 포함돼 있었고, 개발자가 그래프를 수정하면 서버에도 즉시 반영됐기 때문이다.

5. 4~5개월에서 하루 미만으로 줄어든 프로토타이핑

기존에는 프로토타입 에이전트를 만드는 데 4~5개월이 걸렸으며, 그렇게 만든 결과물이 운영 환경에 배포될 수 있다는 보장도 없었다. 새 플랫폼에서는 인증과 보안 요건이 반영된 프로토타입을 스테이징 환경에서 하루 미만에 실행할 수 있게 됐다. 이 수치는 프로토타입을 스테이징 환경에서 구동하기까지의 기간으로, 운영 배포 전체가 하루 안에 끝난다는 의미로 제시되지는 않았다. 개발팀이 집중할 질문도 에이전트가 실제로 수행할 기능과 그래프의 형태로 좁혀졌다. 초기 4명이었던 팀은 약 30명으로 성장했고 추가 투자도 계획돼 있으며, Alex는 LangChain과의 협력 및 그 성과를 팀 확대의 배경으로 설명했다.

6. 분리된 내부 인프라를 활용하는 통합 인터페이스

Alex는 Agent Platform의 가치를 에이전트 배포 계층보다 넓게 설명했다. Workday 엔지니어들은 오랜 기간 LLM 게이트웨이, RAG 검색기, 추천 엔진, 프롬프트 서비스 등 수십 개의 내부 서비스를 구축했지만, 대부분은 개별 팀 밖에 잘 알려지지 않은 채 분리돼 있었다. Python SDK와 LangChain 기반 구성 요소를 제공하는 Agent Platform은 이 서비스들을 드러내고 연결하는 계층이 됐다. 원문은 이를 Workday 내부 인프라의 폭넓은 기능을 실제 에이전트 개발에 활용하도록 하는 첫 통합 인터페이스로 설명한다. Alex는 LangChain과의 긴밀한 협력이 에이전트 개발에 핵심적이며, LangSmith의 속도와 성숙도 없이는 고객에게 가치를 제공하기 어려웠을 것이라고 평가했다.

🧾 핵심 주장 / 시사점

• 프로토타입 개발 기간 단축은 인증·보안·규정 준수를 공통 플랫폼에서 처리한 구조와 함께 제시된다. 개발 속도와 기업용 통제 요건을 함께 다룬 점이 이 사례의 핵심이다.
• LangGraph의 그래프 기반 설계와 표준화된 서버 인프라의 결합은 개발팀의 구현 선택지를 넓히면서 공통 운영 기반을 제공하는 방식으로 해석할 수 있다.
• 플랫폼의 효용은 에이전트 실행 지원에 그치지 않는다. 기존에 분리돼 있던 내부 서비스를 Python SDK로 연결하면서, 이미 구축된 기능의 활용 범위를 넓히는 역할도 했다.

✅ 액션 아이템

• 인증·보안·규정 준수를 공통 처리하는 Agent Platform 구조의 적용 가능성 검토.
• LangGraph의 설계 유연성과 A2A·MCP 지원이 에이전트 기능 요구사항에 부합하는지 확인.
• Python SDK를 통한 내부 LLM 게이트웨이·RAG 검색 서비스 연결과 프로토타입 개발 기간 단축 효과 검토.

❓ 열린 질문

• 스테이징 환경에서 하루 미만에 실행되는 프로토타입이 운영 배포에 도달하기까지는 어느 정도의 시간이 필요한가?
• LangGraph의 설계 유연성과 인증·보안·규정 준수의 공통 처리는 복잡한 결정적 워크플로에서도 어떻게 함께 유지되는가?
• 약 30명으로 성장한 Agent Platform 팀의 추가 투자는 어떤 기능과 운영 요구사항에 배분될 예정인가?