IBM Granite 4.0 Micro

Granite-4.0-Micro odstaje od własnego pokolenia i właśnie o to w nim chodzi. Podczas gdy H Small, H Tiny i H Micro zastąpiły 36 ze swoich 40 warstw blokami stanowymi Mamba-2, Micro zachowuje wszystkie czterdzieści jako zwykłe warstwy uwagi z pozycjami RoPE — to klasyczny gęsty transformer o 3,40 miliarda parametrów, wymiarze osadzeń 2560, z 40 głowicami uwagi i 8 głowicami klucz-wartość. IBM wydał go z myślą o licznym oprogramowaniu, które pod koniec 2025 r. nie obsługiwało architektur hybrydowych. Koszt tego wyboru widać dokładnie tam, gdzie przewiduje teoria. Micro dorównuje swojemu hybrydowemu bliźniakowi w wiedzy ogólnej (MMLU 65,98 wobec 67,43), bije go w łańcuchach rozumowania (BBH 72,48 wobec 69,36) i w rachunkach (GSM8K 85,45 wobec 81,35), ale za kontekst 128 tysięcy tokenów płaci pamięcią podręczną klucz-wartość rosnącą z każdym tokenem, podczas gdy hybryda utrzymuje stan o stałym rozmiarze. W wielojęzycznych zadaniach rachunkowych różnica biegnie w drugą stronę i jest duża: MGSM 28,56 wobec 44,48. To najczęściej pobierany i najczęściej zapisywany model pokolenia — około 59 500 pobrań głównego repozytorium w trzydziestu dniach do 1 września 2026 r. wobec 19 100 u hybrydowego bliźniaka — co mówi mniej o jakości, a więcej o tym, ile oprogramowania wciąż spodziewa się zwykłego transformera. Jest tu też wniosek dalej idący dla śledzących tę rodzinę. Granite 4.1 z kwietnia 2026 r. i późniejsze Granite 4.2 to gęste modele wyłącznie z uwagą i RoPE, a najmniejszy z nich ma tę samą liczbę warstw, ten sam wymiar osadzeń i tyle samo głowic co ten model. Hybrydowa gałąź Granite 4.0 była eksperymentem; przetrwała ta cicha, konwencjonalna. Licencja to Apache 2.0 bez warunków dodatkowych. Polskiego nie ma wśród dwunastu przetestowanych języków.

▸Wideo

Brak materiałów wideo.

▸Recenzje