Salesforce and Nvidia's new reasoning model is everything the AI labs should fear

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Salesforce와 Nvidia가 공개 가중치 Nemotron 기반의 기업 업무용 추론 모델 Koa를 선보이며 비용·데이터 통제를 중시하는 대안을 제시했지만, Claude 등 외부 모델과의 협력도 유지한다.

📌 핵심 요약

• Salesforce는 Dreamforce에서 자사 최초의 추론 모델 Koa를 발표했으며, Nvidia와 함께 공개 가중치 Nemotron을 영업·마케팅·고객 지원 업무에 맞게 후속 학습했다.
• Koa는 Agentforce에서 기존 모델의 대안으로 제공된다. 이전에는 장시간 또는 여러 단계의 추론이 필요한 요청을 AI 게이트웨이가 Claude나 ChatGPT 같은 외부 프런티어 모델로 전달했다.
• Salesforce와 Nvidia는 실제 Salesforce 고객 데이터 대신 고객 행동 패턴을 모방한 합성 데이터로 Koa를 후속 학습했으며, Salesforce는 자사 환경에 내장된 고객 데이터 요구사항과 보안 통제를 따르는 모델이라고 설명한다.
• 양사는 Koa가 동일한 기업 업무를 Claude나 ChatGPT에 맡길 때보다 적은 토큰으로 처리하고 비용을 낮추도록 설계됐다고 설명하지만, 기사에는 구체적인 성능 비교나 비용 절감 수치가 없다.
• Salesforce는 Anthropic·OpenAI와의 관계를 중단하지 않는다. 새로 발표한 Anthropic과의 Claudeforce 협력은 Claude를 AI 인터페이스로 사용하면서 데이터를 Salesforce의 기록 시스템과 보안 인프라에 유지하도록 한다.

🧩 주요 포인트

1. 기업 업무에 특화한 공개 가중치 Koa의 등장 → 범용 프런티어 모델의 능력뿐 아니라 업무 적합성·비용·데이터 통제가 모델 선택의 기준으로 부각된다.
2. Agentforce에 자체 추론 선택지 추가 → 외부 프런티어 모델에 의존하던 추론 요청에도 대안이 생기며, AI 게이트웨이를 통한 필요별 모델 선택이 중요해진다.
3. 합성 데이터 학습·토큰 효율 주장과 Claudeforce 협력의 병행 → 데이터 보호와 경제성을 강조하면서 외부 모델도 함께 활용하는 방향이며, 실제 성능과 절감 효과는 제시된 정보만으로 확정할 수 없다.

🧠 상세 정리

1. Koa 발표와 기업용 AI 수요의 변화

Salesforce는 이번 주 Dreamforce 기술 콘퍼런스에서 자사 최초의 추론 모델 Koa를 주요 발표 중 하나로 소개했다. Koa는 Nvidia의 공개 가중치 Nemotron을 기반으로 하며, 두 회사가 영업·마케팅·고객 지원 업무에 맞도록 공동으로 후속 학습했다. 기사는 이를 기업이 원하는 AI와 최첨단 모델 연구소가 제공하는 AI 사이의 요구 차이를 보여주는 사례로 해석한다. 독점 모델 업체들이 기업의 파일·코드·프롬프트·피드백 유입과 수백만 달러 지출을 원한다는 기사 관점에 비춰, Koa는 기업의 구체적인 업무와 비용·데이터 통제 요구에 초점을 맞춘 대안으로 제시된다.

2. 공개 가중치와 업무 특화가 제시하는 가치

Salesforce는 Koa를 폐쇄형 프런티어 모델 대신 선택할 수 있는 공개 가중치 모델로 제시한다. 기사는 극도로 어려운 수학 문제를 푸는 능력보다 실제 기업의 특정 업무를 수행하도록 학습했다는 점을 강조한다. 또한 실제 고객 데이터를 학습에 사용하지 않아 해당 학습 데이터가 다른 고객에게 유출될 수 없다는 논리를 제시하며, 적은 토큰으로 같은 업무를 처리해 지출을 줄이는 것을 장점으로 든다. 필요에 따른 AI 게이트웨이의 자동 라우팅과 Salesforce에 내장된 고객 데이터 요구사항·보안 통제 준수도 제공 가치에 포함된다. 다만 기사에는 이러한 장점의 범위를 검증할 상세한 평가 결과가 제시되지 않는다.

3. Agentforce의 외부 추론 의존에 생긴 대안

Koa는 고객이 반복 업무용 에이전트를 만드는 Agentforce에서 기존 제공 모델의 대안으로 사용될 예정이다. 기사에 등장하는 반복 업무의 예시는 고객 서비스 질문에 답하거나 약속을 잡는 일이다. Salesforce AI 부문 EVP Jayesh Govindarajan은 이미 다수의 소형 업무 특화 언어 모델을 보유했지만, 추론은 지금까지 프런티어 모델 제공업체에 의존했다고 설명했다. Koa 이전에는 에이전트가 장시간 이어지거나 여러 단계로 구성된 업무를 추론해야 할 경우, 어떤 모델이 요청을 처리할지 정하는 AI 게이트웨이가 프롬프트를 Claude나 ChatGPT 같은 모델로 전달했다. Koa의 추가는 이 추론 처리에 Salesforce 자체 모델이라는 선택지가 생긴다는 의미다.

4. Nemotron 선택의 배경과 합성 데이터 학습

Govindarajan은 자체 기업용 프런티어 모델을 만들고 싶었지만 출발점으로 삼을 사전 학습 기반 모델이 부족했다고 설명했다. 그는 Nemotron이 등장하기 전에는 미국 주권형 모델이면서 최첨단 수준이고 데이터 출처도 명확한 가용 모델이 없었다고 주장했으며, Alibaba의 중국 공개 가중치 모델 Qwen이 무엇으로 학습됐는지는 알지 못한다고 말했다. 이는 Salesforce 측의 선택 이유와 판단으로 제시된 발언이다. 두 회사는 범용 기반 모델에 영업·고객 지원 지식을 갖추게 하는 후속 학습에서 실제 Salesforce 고객 데이터를 사용하지 않고 고객 패턴을 모방한 합성 데이터를 만들었다. 구체적으로 화가 난 고객의 전화를 받는 고객 서비스 담당자부터 거래를 성사시키려는 영업 담당자까지 업무 환경과 인물을 시뮬레이션했다.

5. 토큰 효율과 비용 절감 주장의 범위

Koa의 목표는 Salesforce 고객이 에이전트에 맡기는 업무를 Claude나 ChatGPT보다 잘 수행하면서 소모하는 토큰도 줄이는 것이다. Nvidia의 기업용 생성형 AI 소프트웨어 부문 VP Kari Ann Briski는 Nemotron에 토큰 효율적인 추론을 위한 고유한 아키텍처가 있다고 설명했다. 그는 주권형 AI, 첫 토큰이 나오기까지의 시간, 효율적인 추론을 토큰 경제성에 필요한 세 요소로 함께 제시했다. 이 설명은 기업용 모델의 가치가 업무 수행 능력과 응답 지연, 토큰 소모를 함께 고려하는 데 있다는 양사의 방향을 보여준다. 다만 기사에는 비교 조건이나 벤치마크, 절감률이 없어 Koa의 실제 우위와 비용 효과를 정량적으로 판단할 수는 없다.

6. Claudeforce 협력이 보여주는 병행 전략

기사는 Koa의 등장에도 Salesforce가 Anthropic이나 OpenAI를 완전히 떠나는 것은 아니라는 점으로 논의를 마무리한다. Salesforce는 Anthropic과 Claudeforce라는 새로운 협력도 발표했다. 이 협력은 기업이 Claude를 AI 인터페이스로 사용하면서 데이터를 Salesforce의 기록 시스템에 남겨두고 그 인프라로 보호할 수 있도록 한다. 이는 외부 모델 활용과 Salesforce 내 데이터 유지가 함께 가능한 구성으로 소개된다. 따라서 Koa 발표는 기존 프런티어 모델과의 관계를 전면 대체한다는 뜻보다, 자체 업무 특화 추론 모델을 추가하면서 외부 모델과의 협력도 병행한다는 방향으로 읽힌다.

🧾 핵심 주장 / 시사점

• 기사는 Koa를 통해 기업용 AI의 경쟁 기준이 범용 추론 능력뿐 아니라 업무 적합성, 토큰 비용, 데이터 통제로 확장되고 있다고 해석한다.
• 실제 고객 데이터를 사용하지 않은 합성 데이터 학습과 Salesforce 내부의 데이터·보안 통제는 서로 다른 단계에서 고객 데이터 보호를 뒷받침하는 요소로 제시된다.
• Koa와 Claudeforce의 동시 추진은 자체 모델 확보가 외부 모델 배제를 뜻하지 않으며, 업무별 선택지 확대와 협력이 함께 진행될 수 있음을 보여준다.

✅ 액션 아이템

• Koa 도입 검토 시 업무 적합성·비용·데이터 통제를 핵심 판단 기준으로 적용.
• Koa와 Claude·ChatGPT의 비교에서 토큰 사용량과 업무 성능을 확인하고, 수치가 없는 비용 절감 주장은 검증 과제로 유지.
• Agentforce의 모델 선택과 Claudeforce 활용을 검토할 때 Salesforce 내 데이터 유지 및 보안 통제 조건을 함께 확인.

❓ 열린 질문

• Koa는 동일한 기업 업무에서 Claude나 ChatGPT 대비 토큰 사용량과 비용을 얼마나 줄이며, 성능은 어떻게 달라지는가?
• Agentforce의 AI 게이트웨이는 어떤 기준으로 Koa와 외부 프런티어 모델을 선택하는가?
• Claudeforce에서 Claude를 AI 인터페이스로 사용할 때 Salesforce의 데이터 유지와 보안 통제는 구체적으로 어떻게 적용되는가?