IBM Granite TimeSeries TTM R2
IBM · USA · 2024
Modele prognostyczne zaczynające się od miliona parametrów, które biją rywali tysiąc razy większych: przewidują zużycie prądu, ruch i sprzedaż z laptopa, a trzecia najczęściej pobierana pozycja IBM należy właśnie do nich.
TinyTimeMixers R2 to odpowiedź IBM na pytanie, które reszta branży rozstrzygnęła siłowo: jak duży musi być model, żeby prognozować liczbę zmieniającą się w czasie — zużycie prądu w przyszły wtorek, ruch na skrzyżowaniu, sprzedaż w magazynie. Odpowiedź branży w 2024 r. brzmiała: setki milionów albo miliardy parametrów. Odpowiedź IBM to milion. Repozytorium pobrano około 388 tysięcy razy w trzydziestu dniach do 1 września 2026 r., co czyni je trzecią najczęściej pobieraną pozycją IBM — przed flagowym czatem Granite o trzydziestu miliardach parametrów, za dwoma koderami wyszukiwania. Pracuje w systemach, które nigdy nie odzywają się do człowieka. Założenie konstrukcyjne jest odwrotnością modelu ogólnego przeznaczenia. Zamiast jednej dużej sieci obsługującej każde ustawienie prognozy IBM wydaje rodzinę małych sieci, z których każda jest wstępnie uczona pod jedną konkretną parę liczb: ile historii czyta i jak daleko przewiduje. Repozytorium trzyma te odmiany w osobnych gałęziach — 512, 1024 i 1536 punktów historii, prognoza od 96 do 720 punktów w przód — a pomocnicze narzędzie dobiera właściwą. Publikację opisującą metodę przyjęto na konferencję NeurIPS 2024. Ciekawy jest zestaw porównawczy. IBM podaje, że TTM wygrywa z modelami TimesFM, Moirai, Chronos, Lag-Llama, Moment, GPT4TS, TimeLLM i LLMTime w testach prognozowania bez przykładów i z kilkoma przykładami — a to lista obejmująca konstrukcje oparte na architekturach modeli językowych, liczące miliardy parametrów. Jeśli to się utrzyma, cała teza, że prognozowaniu pomaga skala rodem z modeli językowych, jest błędna, przynajmniej na tych horyzontach. Liczby pochodzą od producenta; nikt nie powtórzył niezależnie całego porównania. Wersję R2 uczono wstępnie na około 700 milionach próbek wobec 250 milionów w R1, a zysk IBM ocenia na ponad 15 procent w standardowych testach. Późniejsze gałęzie R2.1 podnoszą to do mniej więcej miliarda próbek i dodają rozdzielczość dzienną oraz tygodniową. Uczciwie postawione ograniczenie jest w karcie: wersja otwarta obsługuje dane od minutowych do godzinowych, a szeregi miesięczne czy roczne wypadają poza zakres, bo model potrzebuje co najmniej 512 punktów historii. Uzupełnianie krótkich szeregów zerami producent wprost odradza. Licencja to czysta Apache 2.0. Dostrajanie do konkretnego zbioru jest tu regułą, nie wyjątkiem — IBM podaje, że wystarczy pięć procent zwykłej ilości danych treningowych, żeby model był konkurencyjny, i że wszystko to działa na jednej karcie graficznej albo na laptopie.
▸Wideo
Brak materiałów wideo.
▸Recenzje
Brak recenzji. Bądź pierwszy!