NVIDIA Kumo Relational Outperforms Supervised Machine Learning on Relational Data, No Training Required

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA는 최대 10,000개의 문맥 예시로 관계형 데이터베이스를 직접 예측하는 사전학습 모델 Kumo Relational이 과제별 추가 학습 없이 15개 데이터베이스의 41개 평가 과제에서 주요 지도학습 모델을 능가했다고 발표했다.

📌 핵심 요약

• Kumo Relational은 테이블·외래 키·타임스탬프를 유지한 채 데이터베이스에서 직접 예측하며, 최대 10,000개의 과거 예시를 문맥으로 사용해 단일 순전파로 결과를 산출한다. 과제별 추가 학습, 수동 특성 공학, 테이블 평탄화가 필요 없으며, 필요하면 미세조정할 수 있다.
• 사전학습에서 보지 않은 RelBench V1·V2, SAP SALT, 4DBInfer의 15개 데이터베이스와 41개 과제로 평가했다. 저자들은 분류·회귀에서 관계형 딥러닝 모델과 전문가가 특성을 설계한 테이블 앙상블을 능가했으며, 일반적인 관계형 벤치마크에서 지도학습을 앞선 최초의 퓨샷 기반 모델이라고 주장한다.
• RelBench V1 분류에서는 전문가 설계 특성을 사용하는 그래디언트 부스팅 트리보다 평균 AUROC가 약 4포인트 높았다. SAP SALT에서는 AutoGluon 대비 MRR이 기본 상태에서 8%, 미세조정 후 16% 높았고, 특성을 설계한 XGBoost 대비 개선 폭은 각각 7 MRR 포인트와 13 MRR 포인트였다. RelArena-α에서는 1,000개 샘플당 약 17초로, 최고 점수 모델과 유사한 정확도에서 약 430배 빨랐다.
• 전체 학습 데이터의 0.2%만 문맥으로 사용하거나 외래 키 연결의 최대 75%를 제거한 조건에서도 좋은 성능 또는 안정성을 보였다고 보고했다. 다만 의미 있는 관계와 시간적 변화가 있는 데이터에 가장 적합하며, 매우 큰 학습 데이터에서는 과제별 지도학습 모델이 앞설 수 있고, 예측 신호는 제한된 수의 홉 안에서 도달 가능해야 한다.
• PQL로 예측 과제를 지정할 수 있어 사람과 에이전트 모두 사용할 수 있다. GPU 기반 오픈소스 structured-data-models 라이브러리 또는 NVIDIA NIM으로 제공되며, 사용자 정의 그래프 엔진은 메모리 매핑 I/O를 통해 500B+ 행을 처리하고 최대 5 GB/s의 I/O 속도를 지원한다고 설명한다.

🧩 주요 포인트

1. 관계와 시간을 유지하는 직접 예측 → 수동 집계와 과제별 파이프라인 구축 부담을 줄이고, PQL 질의로 새로운 예측 과제를 표현하는 방식으로 전환한다.
2. 개 과제의 정확도와 RelArena-α의 처리 속도 → 기존 지도학습 파이프라인을 대체할 근거를 제시하지만, 데이터 규모와 관계 구조에 따라 문맥 학습·미세조정·지도학습의 적합성을 구분해야 한다.
3. 최대 10,000개 문맥 예시와 제한된 홉이라는 제약 → 500B+ 행 처리 능력과 별개로, 예측에 필요한 관계가 문맥과 탐색 범위에 포함되는지가 적용 성능을 좌우한다.

🧠 상세 정리

1. 구조화 데이터 예측을 기반 모델로 전환하려는 배경

글은 언어와 비전에서 일어난 기반 모델 중심의 전환이 구조화 데이터에서도 진행되고 있다는 관점에서 출발한다. 과거 자연어 처리가 과제별 모델과 토큰화·표제어 추출·n-그램 파이프라인에 의존했던 것처럼, 관계형 데이터 예측도 여전히 수주에 걸친 특성 공학과 개별 모델 학습, 파이프라인 조정을 요구한다는 설명이다. 저자들은 구조화 데이터 기반 모델의 이점을 기존 파이프라인보다 높은 정확도, 하나의 사전학습 모델이 제공하는 단순성과 민첩성, 에이전트에 예측 능력을 부여하는 인터페이스로 정리한다. Kumo Relational을 사용하면 새로운 예측을 별도 개발 프로젝트 대신 질의로 표현할 수 있어, 기존 방식에서는 구현 부담이 컸던 활용 사례에도 접근할 수 있다고 주장한다. 특히 LLM이 에이전트의 읽기·쓰기·추론을 지원한다면, 이 모델은 고객 이탈처럼 앞으로 발생할 결과를 예상하도록 돕는 역할을 한다.

2. 관계형 데이터와 문맥 학습을 이용한 직접 예측

Kumo Relational은 하나의 평평한 테이블 대신 테이블 간 관계와 시간 정보를 보존한 데이터베이스를 직접 다루는 관계형 기반 모델이다. 사용자·주문·상품처럼 연결된 데이터를 최근 30일 평균 주문액 등의 수동 집계로 한 행에 압축하면 세밀한 구조적 신호가 사라지고 사람의 작업도 많이 필요하다는 것이 출발점이다. 모델은 합성 관계형 데이터로 한 번 사전학습한 뒤, 추론 시 최대 10,000개의 문맥 예시를 읽어 새로운 과제에 적응한다. 각 예시는 특정 시점의 개체 주변 부분 그래프와 해당 개체의 실제 목표값을 짝지으며, 고객의 이탈 여부나 상품 판매량 같은 결과를 담는다. 예측할 내용은 선언형 언어인 PQL로 지정하고, 시간 기반 과제에서는 기준 시점 이전 데이터만 모델에 제공하면서 이후 사건으로 목표값을 계산해 데이터 누출을 방지한다. 이 과정을 통해 과제별 추가 학습이나 수동 특성 공학 없이 단일 순전파로 예측한다는 설명이다.

3. 테이블 내부와 테이블 사이를 나누어 처리하는 구조

모델의 처리는 테이블 안의 값을 이해하는 단계와 여러 테이블 및 문맥 예시 사이의 관계를 연결하는 단계로 나뉜다. 먼저 경량 네트워크가 각 테이블을 독립적으로 처리하며, 같은 열의 값 사이 관계를 보는 열 어텐션과 한 행의 특성 사이 관계를 보는 행 어텐션을 번갈아 적용한다. 이 단계에서 현재 예측에 중요한 행과 열을 파악하고, 정보가 다른 곳으로 전달되기 전에 잡음을 걸러낸다고 설명한다. 이어 더 큰 네트워크가 기본 키와 외래 키 관계에 대한 그래프 어텐션으로 행 임베딩을 전달하고, 문맥 예시 사이의 교차 샘플 어텐션을 함께 수행한다. 사용자 프로필을 거래 이력과 연결하는 등의 관계 추론이 이 단계에서 이루어지며, 모든 셀 대신 행 임베딩을 처리하므로 이차 비용을 피하고 큰 문맥과 더 깊은 부분 그래프로 확장할 수 있다는 설계상의 근거를 제시한다.

4. PluRel 기반 합성 데이터 사전학습과 미세조정

Kumo Relational의 사전학습에는 실제 관계형 데이터베이스와 다양한 예측 질의를 반영하도록 시뮬레이션한 합성 데이터만 사용했다. 학습은 단일 테이블에서 시작해 점점 복잡한 관계 구조로 진행되며, 필요한 수준의 다양한 관계형 데이터베이스가 공개되어 있지 않다는 문제를 합성 데이터로 보완한다. 생성기는 Kumo 팀 구성원들이 개발과 원논문 공동 집필에 참여한 PluRel의 접근법을 기반으로 하며, 먼저 스키마를 만들고 실제 데이터처럼 군집을 이루는 외래 키 연결을 생성한 다음 열 값을 구성한다. 열 값은 시간적 추세와 테이블 간 의존성을 포함하는 구조적 인과 모델에서 생성되며, 생성 과정이 가벼워 사전학습 데이터를 사실상 제한 없이 공급할 수 있다고 설명한다. PluRel 논문은 합성 데이터베이스를 추가할수록 사전학습 손실이 거듭제곱 법칙을 따르고 실제 데이터베이스 성능도 개선된다고 보고했으며, Kumo Relational은 이를 통해 고정 집계 대신 테이블을 넘나드는 필터링·상관관계 파악·집계를 학습한다. 특정 데이터셋과 과제에서 정확도를 최대화하려는 경우에는 별도의 미세조정도 지원한다.

5. 41개 과제의 정확도와 RelArena-α의 효율

평가는 RelBench V1·V2, SAP SALT, 4DBInfer에서 가져온 15개 관계형 데이터베이스와 41개 과제를 대상으로 했으며, 전자상거래·의료·기업·소셜·학술 영역을 포함한다. 이 데이터셋들은 사전학습에서 사용되지 않았고, 저자들은 분류와 회귀 모두에서 강력한 지도학습 관계형 딥러닝 모델과 전문가 설계 특성을 사용하는 테이블 앙상블을 능가했다고 보고한다. RelBench V1 분류에서는 전문가가 설계한 특성을 사용하는 그래디언트 부스팅 트리보다 평균 AUROC가 약 4포인트 높았다. RelBench V1의 관계형 모델과 시스템을 비교하는 RelArena-α에서는 기본 상태로 정확도와 효율의 파레토 전선에 위치했다. 도표상 Kumo Relational은 1,000개 샘플당 추론 시간이 약 17초이고 Elo는 1,842인 반면, 최고 점수인 rt-plurel은 Elo 1,878과 약 7,300초를 기록해 저자들은 유사한 정확도에서 약 430배 빠르다고 설명한다. 따라서 이 비교는 Kumo Relational이 최고 Elo를 기록했다는 의미보다는, 제시된 정확도와 처리 시간의 조합이 경쟁력이 있다는 주장이다.

6. SAP SALT 성능과 불완전한 데이터에 대한 견고성

SAP SALT 기업 벤치마크에서는 Kumo Relational의 MRR이 대규모 AutoGluon 앙상블보다 기본 상태에서 8% 높았고, 미세조정 후에는 우위가 16%로 확대되었다고 보고한다. 최근의 테이블 기반 모델들과 비교한 개선 폭은 약 25%라고 제시한다. 별도로 전문가가 설계한 특성을 사용하는 XGBoost와 비교하면, 기본 상태에서는 7 MRR 포인트, 미세조정 후에는 13 MRR 포인트 높았다고 설명하므로 상대 개선율과 포인트 차이는 구분해서 읽어야 한다. 저자들은 전체 학습 데이터의 0.2%만 문맥으로 사용해도 좋은 성능을 보였으며, 외래 키 연결을 최대 75% 제거한 경우에도 안정적이었다고 보고한다. 잡음이 많은 열을 다수 추가했을 때도 성능 저하가 거의 없었다는 결과를 함께 제시하며, 적은 문맥과 손상된 관계, 불필요한 특성이 존재하는 조건에서의 견고성을 강조한다.

7. 문맥 크기와 관계 탐색 범위에서 오는 한계

글은 Kumo Relational의 강점이 모든 데이터와 과제에 동일하게 적용되는 것은 아니라는 한계를 명시한다. 모델은 시간에 따라 변하는 사용자 행동처럼 의미 있는 관계와 시간적 역학이 있는 데이터에서 가장 잘 작동한다고 설명한다. 학습 데이터가 매우 큰 과제에서는 과제별 지도학습 모델이 문맥 기반 예측을 여전히 소폭 앞설 수 있으며, 이번 벤치마크에서 문맥 예시를 최대 10,000개만 사용했다는 조건을 함께 제시한다. 저자들은 이러한 경우에 대응하기 위한 방식으로 기반 모델의 미세조정을 제안하므로, 추가 학습 없이 사용할 수 있다는 특징과 미세조정 가능성은 함께 이해해야 한다. 또한 예측에 필요한 신호가 제한된 수의 홉 안에서 도달 가능해야 한다고 명시하며, 관련성이 높은 몇 개 테이블에 집중한 질의에서 시작해 필요에 따라 그래프 범위를 넓히도록 권한다.

8. 라이브러리와 NVIDIA NIM을 통한 실행 방식

실행 환경으로는 메모리 내 데이터, 데이터베이스·웨어하우스 커넥터, 그리고 메모리 매핑 I/O로 500B+ 행을 처리하는 사용자 정의 그래프 엔진을 제시하며, 해당 엔진의 I/O 속도는 최대 5 GB/s라고 설명한다. 모델은 자매 모델인 Kumo Tabular도 사용하는 GPU 기반 오픈소스 structured-data-models 라이브러리에서 제공되고, 최초 사용 시 Hugging Face Hub에서 가중치를 내려받는다. 직접 실행 예시는 GPU 노트북에서 KumoRelational을 불러와 문맥 예시와 목표값, 예측 대상 개체, 양쪽 개체에 연결된 관련 테이블을 전달하는 형태다. 별도 서비스로 운영하려면 NVIDIA NIM으로 배포한 뒤 오픈소스 structured-data-models-client로 연결할 수 있다. 이 경우 PQL로 예측을 표현하면 클라이언트가 문맥 예시와 관련 테이블을 모아 요청을 보내며, 제시된 질의는 각 사용자의 향후 30일 주문 수를 예측하는 형태다. 다만 제공된 원문은 마지막 클라이언트 호출 코드 도중에 끝나므로, 완성된 호출과 실행 결과까지는 확인할 수 없다.

🧾 핵심 주장 / 시사점

• 핵심 변화는 개별 예측 과제마다 특성과 모델을 구축하던 작업을, 관계형 구조를 유지한 문맥 구성과 PQL 질의로 옮기는 데 있다. 따라서 모델 정확도뿐 아니라 새로운 예측 과제를 추가하는 데 드는 작업 부담도 주요 가치로 제시된다.
• RelArena-α 결과는 최고 점수 자체보다 정확도와 추론 시간의 균형을 뒷받침한다. Elo 1,842와 1,878의 차이를 유지하면서 약 430배의 속도 차이를 함께 읽어야 원문의 주장 범위를 정확히 이해할 수 있다.
• 500B+ 행을 처리하는 실행 기반이 있어도 한 번의 예측에서 활용하는 문맥은 최대 10,000개 예시이며, 관련 신호에도 홉 제약이 있다. 데이터베이스 전체 규모와 개별 예측에 활용되는 정보 범위는 별도로 판단할 필요가 있다.

✅ 액션 아이템

• Kumo Relational과 기존 XGBoost·AutoGluon의 정확도 및 추론 시간 비교 평가.
• 최대 10,000개 문맥 예시와 제한된 수의 홉 안에 예측 신호가 포함되는지 검토하고, 대규모 학습 데이터에서는 미세조정과 지도학습의 적합성 비교.
• PQL 기반 예측 과제에 대한 structured-data-models 라이브러리와 NVIDIA NIM의 적용 방식 검토.

❓ 열린 질문

• Kumo Relational의 41개 평가 과제에서 나타난 정확도와 처리 속도 우위가 적용 대상 데이터베이스에서도 유지되는가?
• 최대 10,000개 문맥 예시와 제한된 수의 홉으로 필요한 예측 신호를 충분히 포함할 수 있는가?
• 매우 큰 학습 데이터에서는 Kumo Relational의 미세조정과 과제별 지도학습 모델 중 어느 쪽이 더 높은 정확도를 제공하는가?