Modèles de Fondation et Ajustement : Vers une Nouvelle Génération de Modèles pour la Prévision des Séries Temporelles
Inspired by recent advances in large language models, foundation models have been developed for zero-shot time series forecasting, enabling prediction on datasets unseen during pretraining. These large-scale models, trained on vast collections of time series, learn generalizable representations for both point and probabilistic forecasting, reducing the need for task-specific architectures and manual tuning. In this work, we review the main architectures, pretraining strategies, and optimization methods used in such models, and study the effect of fine-tuning after pretraining to enhance their performance on specific datasets. Our empirical results show that fine-tuning generally improves zero-shot forecasting capabilities, especially for long-term horizons.
Code (0)
등록된 구현이 없습니다.
Tasks
Time Series ForecastingSimilar Papers 제목 키워드 기반
\'Etude des r\'eseaux de neurones r\'ecurrents pour \'etiquetage de s\'equences (A study of Recurrent Neural Networks for Sequence Labelling)
Dans cet article nous {\'e}tudions plusieurs types de r{\'e}seaux neuronaux r{\'e}currents (RNN) pour l{'}{\'e}tiquetage de s{\'e}quences. Nous proposons deux nouvelles variantes de RNN et nous les comparons aux variante…
Reconnaissance automatique de la parole : g\'en\'eration des prononciations non natives pour l'enrichissement du lexique (In this study we propose a method for lexicon adaptation in order to improve the automatic speech recognition (ASR) of non-native speakers)
Dans cet article nous proposons une m{\'e}thode d{'}adaptation du lexique, destin{\'e}e {\`a} am{\'e}liorer les syst{\`e}mes de la reconnaissance automatique de la parole (SRAP) des locuteurs non natifs. En effet, la rec…
Automatic Speech RecognitionAutomatic Speech Recognition (ASR)speech-recognitionSpeech RecognitionNouvelle approche pour le regroupement des locuteurs dans des \'emissions radiophoniques et t\'el\'evisuelles (New approach for speaker clustering of broadcast news) [in French]
Adaptation de la prononciation pour la synth\`ese de la parole spontan\'ee en utilisant des informations linguistiques (Pronunciation adaptation for spontaneous speech synthesis using linguistic information)
Cet article pr{\'e}sente une nouvelle m{\'e}thode d{'}adaptation de la prononciation dont le but est de reproduire le style spontan{\'e}. Il s{'}agit d{'}une t{\^a}che-cl{\'e} en synth{\`e}se de la parole car elle permet…
Speech SynthesisUne m\'ethode discriminant formation simple pour la traduction automatique avec Grands Caract\'eristiques
Marge infus{\'e} algorithmes d{\'e}tendus (MIRAS) dominent mod{\`e}le de tuning dans la traduction automatique statistique dans le cas des grandes caract{\'e}ristiques de l{'}{\'e}chelle, mais ils sont {\'e}galement c{\'…