TimesFM-3: A zero-shot foundation model for multivariate forecasting

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

구글 리서치의 TimesFM-3는 과제별 미세조정 없이 여러 시계열과 공변량을 활용해 한 번의 순전파로 예측하며, 공개 벤치마크 3종에서 점 예측과 확률적 예측 모두 사전학습 기반 모델 중 최고 순위를 기록했다.

📌 핵심 요약

• TimesFM-3는 3억 3천만 개의 매개변수를 갖추고 실제·합성 시계열의 1조 개 이상 시점으로 사전학습했으며, 단변량 예측만 지원했던 TimesFM-2.5에서 다변량 예측으로 확장됐다.
• 여러 목표 시계열의 동시 예측, 과거에만 관측되는 공변량, 미래 값도 알려진 과거·미래 공변량을 지원하며 과제별 미세조정 없이 시계열 간 의존성을 활용한다.
• 32개 시점 단위의 패치와 시간축·변수축 어텐션을 사용하고, 연속 패치 마스킹으로 전체 예측 구간을 한 번에 생성하며 각 목표의 시점마다 10~90백분위에 해당하는 9개 분위수를 예측한다.
• 아이스크림 판매 예시에서는 프로모션 일정을 공변량으로 입력해 행사일마다 약 20%의 판매 증가를 예상했으며, 일반적인 단변량 예측은 예정된 프로모션에 반응하지 못했다.
• Gift-Eval, FEV-Bench, Time에서 점 예측과 확률적 예측의 평균 순위가 사전학습 기반 모델 중 가장 높았다. GitHub와 Hugging Face에 공개됐으며, BigQuery 통합은 발표일인 2026년 8월 31일 기준 향후 몇 주 내 제공될 예정이라고 밝혔다.

🧩 주요 포인트

1. 입력 범위의 확장 → TimesFM-3는 개별 시계열의 과거뿐 아니라 관련 시계열과 알려진 미래 공변량을 예측에 반영한다.
2. 전체 구간의 동시 생성 → 패치를 순차 생성하던 방식에서 벗어나며, 9개 분위수로 예측 불확실성도 함께 제시한다.
3. 단변량·다변량 성능 비교 → 단변량 모드도 경쟁 모델과 대등하거나 우수했고, 다변량 모드는 시계열 간 정보와 공변량을 활용해 공개 벤치마크의 평균 순위를 추가로 개선했다.

🧠 상세 정리

1. 단변량 모델에서 다변량 기반 모델로의 확장

구글 리서치는 2026년 8월 31일 다변량 시계열 예측을 기본적으로 지원하도록 사전학습한 TimesFM-3를 소개했다. 2024년 시작된 TimesFM 계열은 여러 산업의 예측 과제에 활용됐지만, 2025년 9월 공개된 TimesFM-2.5까지는 단일 시계열의 과거만 사용하는 단변량 예측에 한정됐다. 원문은 실제 예측에서는 관련 상품 판매, 과거 방문객 수, 날씨 예보와 행사 일정처럼 여러 정보가 함께 영향을 준다고 설명한다. TimesFM-3는 3억 3천만 개의 매개변수와 1조 개 이상의 실제·합성 시점을 포함한 학습 말뭉치를 바탕으로 이러한 다변량 상황을 처리한다. 과제별 미세조정 없이 함께 변화하는 여러 시계열의 의존성을 포착하고 예측에 활용하는 것이 핵심 변화다.

2. 여러 목표와 두 종류의 공변량 지원

TimesFM-3는 관련된 여러 목표 시계열을 동시에 예측하며, 모든 목표에 대해 점 예측과 분위수 예측을 지원한다. 예를 들어 서로 다른 아이스크림 브랜드의 판매량을 함께 예측하면서 시계열 사이의 관계를 활용할 수 있다. 과거 공변량은 이전 방문객 수처럼 과거에는 관측됐지만 미래 값은 알려지지 않은 정보를 뜻한다. 과거·미래 공변량은 예정된 프로모션이나 날씨 예보처럼 미래 구간에도 사용할 수 있는 신호를 포함한다. 원문은 이처럼 예측 대상과 보조 정보를 구분해 지원함으로써, 단일 시계열의 이력만으로 설명하기 어려운 실제 예측 상황을 모델이 다룰 수 있다고 설명한다.

3. 패치 구성과 시간축·변수축 어텐션

TimesFM-3는 이전 세대의 디코더 전용 트랜스포머 구조를 계승하며, 연속된 32개 시점을 하나의 패치로 묶어 처리한다. 시계열별 정규화는 서로 크게 다른 값의 규모를 다루기 위해 적용된다. 목표 시계열과 과거 공변량은 단일 패치에서 토큰을 구성하지만, 과거·미래 공변량은 현재 패치와 미래 패치를 연결해 알려진 향후 신호를 미리 참조한다. 토큰은 입력 잔차 블록을 거쳐 시간과 변수의 두 축으로 구성된 트랜스포머에 들어간다. 시간축 어텐션은 동일 시계열의 과거 토큰만 보도록 인과적으로 제한해 데이터 누출을 방지한다. 변수축 어텐션은 같은 시점의 다른 모든 시계열을 참조하며, 두 종류의 어텐션을 여러 층에서 번갈아 적용해 시간적 패턴과 시계열 간 관계를 결합한다.

4. 한 번의 순전파와 분위수 예측

이전 TimesFM은 예측 패치를 하나씩 생성했으며, 원문은 이 방식에 지연 시간, 오차 누적, 계산 비용 문제가 있다고 설명한다. TimesFM-3는 연속 패치 마스킹을 사용해 관측된 문맥 뒤에 미래 예측 구간을 나타내는 마스킹된 자리표시 토큰을 추가한다. 미래 값을 알 수 없는 목표 시계열과 과거 공변량은 해당 구간에서 가리지만, 과거·미래 공변량은 알려진 미래 신호를 제공하도록 노출한다. 모델은 시간축과 변수축 어텐션을 거쳐 반복 생성 없이 모든 미래 패치를 한 번의 순전파로 채운다. 각 목표 시계열의 모든 예측 시점에는 10백분위부터 90백분위까지 9개 분위수를 출력해 예측 불확실성에 대한 확률적 정보를 제공한다.

5. 프로모션 일정에 반응하는 판매 예측 예시

원문은 다음 달의 프로모션 일정을 바탕으로 아이스크림 판매량을 예상하는 사례를 통해 다변량 입력의 역할을 설명한다. 일반적인 단변량 모델은 과거 판매에서 나타난 주간 패턴을 미래로 연장하지만, 특정 날짜에 예정된 프로모션 정보를 알지 못한다. TimesFM-3의 다변량 모드에는 프로모션 일정을 과거·미래 공변량으로 전달한다. 모델은 과거 문맥에서 프로모션과 판매 증가의 관계를 파악한 뒤, 그 관계를 앞으로 행사가 예정된 날짜에 적용한다. 제시된 예시에서는 행사일마다 약 20%의 판매 증가를 예상하며, 그래프의 다변량 예측은 각 행사에 반응하지만 단변량 예측은 반응하지 않는다. 원문은 이러한 차이가 한 달 전체의 예상 매출을 더 정확하게 예측하는 데 기여한다고 설명한다.

6. 공개 벤치마크 결과와 모델 제공 일정

평가는 Gift-Eval, FEV-Bench, Time의 세 공개 벤치마크에서 수행됐으며, TimesFM-3는 점 예측과 확률적 예측 모두 사전학습 기반 모델 중 최고 순위를 기록했다. 비교 대상에는 다변량 예측을 지원하는 Chronos-2와 Toto 2.0 계열, 이전 모델인 TimesFM-2.5가 포함됐다. 그래프는 과제별 평균 순위를 사용하며, 순위 값이 낮을수록 성능이 좋다. 공변량과 시계열 간 정보를 제외한 단변량 모드도 경쟁 모델과 대등하거나 우수했고, 다변량 모드는 두 예측 지표에서 평균 순위를 추가로 개선했다. 모델은 GitHub와 Hugging Face에 공개됐으며, BigQuery 통합은 발표 시점으로부터 향후 몇 주 내 제공될 예정이라고 밝혔다. 통합을 기다리는 동안에는 BigQuery의 AI.FORECAST 명령으로 TimesFM-2.5를 단변량 과제에 사용할 수 있다고 안내했다.

🧾 핵심 주장 / 시사점

• 프로모션 예시는 알려진 미래 공변량이 과거 패턴의 단순 연장을 넘어 예정된 사건에 반응하는 예측을 가능하게 한다는 점을 보여준다.
• 한 번의 순전파로 전체 예측 구간을 생성하는 방식과 9개 분위수 출력은 추론 방식의 변화와 불확실성 표현을 함께 제공한다.
• 단변량 모드의 경쟁력과 다변량 모드의 추가 개선을 구분한 평가는 기본 예측 성능과 시계열 간 정보 활용의 효과를 각각 보여준다.

✅ 액션 아이템

• TimesFM-3 적용 대상에서 여러 목표 시계열, 과거 공변량, 과거·미래 공변량의 가용성 확인.
• TimesFM-3의 단변량·다변량 모드에서 점 예측과 9개 분위수 예측 결과 비교.
• GitHub와 Hugging Face의 TimesFM-3 공개 모델 및 BigQuery 통합 제공 여부 확인.

❓ 열린 질문

• 적용하려는 예측 과제에서 TimesFM-3에 제공할 관련 시계열과 알려진 미래 공변량은 무엇인가?
• Gift-Eval, FEV-Bench, Time에서 나타난 다변량 모드의 성능 개선이 적용 대상에서도 확인되는가?
• 2026년 8월 31일 기준 향후 몇 주 내 제공 예정이던 BigQuery 통합은 현재 이용 가능한가?