Box taps Nvidia’s Nemotron for new agent-first content retrieval system

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Box는 Nvidia의 Nemotron 임베딩을 통합한 Box Content Retrieval을 공개했으며, 에이전트의 검색 속도·정확도·비용 개선을 내세워 2027년 초 Enterprise Advance 고객에게 제공할 예정이다.

📌 핵심 요약

• Box Content Retrieval은 Nemotron이 생성한 임베딩 메타데이터를 활용해 에이전트가 질의나 작업에 가장 관련 있는 문서 조각을 제공받도록 하는 기능이다.
• Nvidia의 생성형 AI 소프트웨어 부사장 Kari Briski는 질의 응답 속도가 4배 빨라지고, 오류가 20% 줄며, 토큰 사용량이 90% 감소할 것으로 예상한다고 밝혔다.
• Box는 이 기능을 모든 Enterprise Advance 고객에게 2027년 초부터 순차적으로 제공할 예정이다.
• 기반 기술인 Nvidia의 Nemotron Embed는 검색 시스템 개선을 위한 오픈웨이트 임베딩 모델 프로젝트이며, 7월 공개된 Nemotron 모델은 검색 품질을 측정하는 RTEB 벤치마크에서 1위를 기록했다.
• Box는 능동적으로 작업하는 에이전트와 결합할 때 특히 유용하며 변호사의 관련 조항·판례 검색에 도움이 될 것으로 설명했다. Nemotron 모델은 무료로 이용할 수 있지만, 전체 시스템은 Box의 기존 메타데이터와 권한 제어에도 크게 의존한다.

🧩 주요 포인트

1. 문서 전체를 읽는 대신 관련 문서 조각을 전달 → 에이전트가 처리할 정보량을 줄이는 방식이며, 속도·오류·토큰 개선 수치는 Nvidia 측의 예상이다.
2. 키워드를 넘어 개념을 연결하는 Nemotron 임베딩 → 표현이나 언어가 달라도 관련 법률 주제를 찾을 수 있어 변호사의 검색 업무에 활용 가능성이 있다.
3. 무료 Nemotron 모델과 Box의 메타데이터·권한 제어 결합 → 모델에 접근할 수 있어도 동일한 검색 시스템을 처음부터 재현하기는 어렵다.

🧠 상세 정리

1. Box Content Retrieval 공개와 성능 개선 예상

Box는 개발자 콘퍼런스에서 Nvidia의 Nemotron 임베딩 시스템을 제품 핵심에 통합하는 Box Content Retrieval을 공개했다. 이 기능은 Nemotron이 생성한 임베딩 메타데이터를 이용해 에이전트의 질의 응답을 개선하며, Box는 사용자가 더 빠르고 정확하면서 비용도 낮은 검색을 이용할 수 있다고 설명했다. Nvidia의 생성형 AI 소프트웨어 부사장 Kari Briski는 응답 속도 4배 향상, 오류 20% 감소, 토큰 사용량 90% 감소를 예상했으며, 기사에는 이를 검증할 구체적인 시험 조건이 제시되지 않았다. 제공 대상은 모든 Enterprise Advance 고객이며, 출시 시점은 기사 작성 시점의 다음 해인 2027년 초로 예정돼 있다.

2. 관련 문서 조각을 찾는 임베딩 기술

Box CEO Aaron Levie는 에이전트가 문서를 하나씩 읽는 대신 사용자의 질의나 수행 중인 작업에 가장 관련 있는 문서 조각을 전달받게 된다고 설명했다. 이 기능은 자동 검색 시스템을 개선하기 위한 오픈웨이트 임베딩 모델 프로젝트인 Nvidia의 Nemotron Embed를 구현한 것이다. 기사에 따르면 이러한 모델은 LLM으로 데이터를 미리 처리해 에이전트가 더 잘 활용하도록 하지만, 주요 AI 연구소에서는 상대적으로 주목받지 못했다. Nvidia는 오픈소스 모델 프로젝트에서 이 분야에 집중해 왔으며, 7월 공개한 Nemotron 모델은 검색 품질을 측정하는 RTEB 벤치마크에서 1위를 기록했다.

3. 개념 기반 검색과 법률 업무 활용

Box는 이 시스템이 능동적으로 작업하는 에이전트와 결합할 때 가장 유용할 것이라고 설명하며 변호사의 업무를 사례로 들었다. 변호사는 새로운 시스템을 통해 필요한 조항과 판례를 더 쉽게 찾을 수 있을 것으로 제시됐지만, 기사에서 실제 법률 업무의 성과가 검증된 것은 아니다. 그 근거는 Nemotron 임베딩이 단순한 키워드 일치를 넘어 문서에 담긴 기저 개념을 연결한다는 점이다. 이에 따라 문서마다 표현이나 언어가 달라도 검색 도구가 관련 법률 주제를 찾아 제시할 수 있으며, 이는 관련성을 판단하는 방식이 단어의 일치 여부에만 머물지 않는다는 설명이다.

4. 무료 모델과 전체 시스템 재현의 차이

Nemotron 모델은 무료로 이용할 수 있지만, Box Content Retrieval 전체를 구현하는 데 필요한 요소가 모델만으로 충족되는 것은 아니다. 기사에 따르면 이 시스템은 Box가 이미 보유한 메타데이터와 권한 제어에 크게 의존하며, 이러한 결합 때문에 처음부터 같은 시스템을 재현하기는 어렵다. Aaron Levie는 하나의 간단한 API에 아마 다섯 가지 기술을 담고 있다고 표현해 여러 기술이 통합돼 있음을 강조했다. 따라서 모델의 공개성과 무료 이용 가능성은 기반 기술에 대한 접근을 뜻하며, Box가 제공하는 통합 검색 기능 전체를 손쉽게 복제할 수 있다는 의미로 확대하기는 어렵다.

🧾 핵심 주장 / 시사점

• Box Content Retrieval의 핵심은 에이전트에 전달할 정보를 관련 문서 조각으로 좁히는 데 있으며, 검색 품질과 처리 효율을 함께 개선하려는 접근이다.
• RTEB 벤치마크 1위는 기반 모델의 검색 품질에 관한 근거이고, 응답 속도 4배 향상·오류 20% 감소·토큰 사용량 90% 감소는 별도로 제시된 Nvidia 측 예상이므로 구분해 해석할 필요가 있다.
• Nemotron 모델의 무료 제공에도 Box의 기존 메타데이터와 권한 제어가 중요하다는 점은 통합 시스템의 가치가 모델 외의 요소에도 있음을 보여준다.

✅ 액션 아이템

• Box Content Retrieval 도입 검토 시 2027년 초 제공 일정과 Enterprise Advance 고객 대상 조건을 확인할 필요가 있다.
• 응답 속도 4배 향상·오류 20% 감소·토큰 사용량 90% 감소를 Nvidia 측 예상으로 구분하고 실제 활용에서의 개선 여부를 검토할 필요가 있다.
• Nemotron 활용 검토 시 개념 기반 법률 검색의 가능성과 Box의 메타데이터·권한 제어 의존성을 함께 고려할 필요가 있다.

❓ 열린 질문

• Nvidia가 예상한 응답 속도 4배 향상·오류 20% 감소·토큰 사용량 90% 감소는 실제 활용에서도 나타날까?
• 2027년 초부터 제공될 Box Content Retrieval은 모든 Enterprise Advance 고객에게 어떤 순서로 제공될까?
• 표현이나 언어가 다른 조항·판례를 찾는 변호사의 업무에서 Nemotron의 개념 기반 검색은 얼마나 효과적일까?