TimesFM 1.0

TimesFM 1.0 to pierwszy otwarty punkt kontrolny modelu fundamentowego Google Research do prognozowania szeregów czasowych. Praca, która za nim stoi, ukazała się w październiku 2023 i została przyjęta na ICML 2024; wagi opublikowano 8 maja 2024, kiedy Google zaktualizował wpis na blogu badawczym informacją, że model jest już na Hugging Face i GitHubie. Pomysł przeniesiono z modeli językowych: zamiast dopasowywać osobny model statystyczny do każdego szeregu, naucz jeden model na ogromnym korpusie szeregów i pozwól mu prognozować nowe w trybie zero-shot. Korpus liczył 100 miliardów rzeczywistych punktów czasowych, w większości dane o zainteresowaniu wyszukiwaniami z Google Trends i odsłony Wikipedii — dwa źródła, które, jak piszą autorzy, odwzorowują trendy i sezonowość obecne w wielu innych rzeczywistych szeregach. Punkt kontrolny jest świadomie mały: 200 milionów parametrów, transformer dekoderowy działający na łatach, 20 warstw o wymiarze 1280, historia czytana w łatach po 32 punkty i przewidywana w łatach po 128. Ta asymetria to decyzja projektowa, za którą praca argumentuje najmocniej — długa łata wyjściowa oznacza mniej kroków autoregresyjnych do odległego horyzontu, a więc mniej narastającego błędu. Ograniczenia pierwszej generacji są równie wyraźne: maksymalny kontekst 512 punktów, wskaźnik częstotliwości, który musi podać użytkownik, i wyłącznie prognozy punktowe, bo dołączone głowice kwantylowe nigdy nie zostały skalibrowane. Porównania opublikowane przez Google to wykresy, a nie tabele, więc w tym profilu nie ma z nich ani jednej liczby — ale ich kierunek jest jednoznaczny. Na archiwum Monash, mierzone średnią geometryczną skalowanego MAE, model w trybie zero-shot bije większość metod nadzorowanych, w tym najnowsze modele głębokie, a także llmtime z GPT-3.5, będąc o rzędy wielkości mniejszym. Na długohoryzontowych zbiorach ETT, przy 96 i 192 punktach w przód, dorównuje modelowi PatchTST uczonemu bezpośrednio na tych danych. Trzy generacje później ruch przeniósł się dalej — około trzech tysięcy pobrań miesięcznie w obu kopiach razem, wobec 86 tysięcy dla TimesFM 2.0 — a jednak to repozytorium ma najwięcej polubień w rodzinie, 840, więcej niż bieżąca TimesFM 3.0. Wagi są na Apache 2.0 i nadal dostępne.

▸Wideo

Brak materiałów wideo.

▸Recenzje