IBM Granite 4.0 H Micro

Granite-4.0-H-Micro to najmniejszy z trzech hybrydowych modeli opublikowanych przez IBM w październiku 2025 r. i ten o najdłuższym życiu handlowym. Mieści 3,19 miliarda parametrów, wszystkie czynne — nie ma tu mieszanki ekspertów, jest wyłącznie hybrydowy układ warstw: cztery z uwagą i trzydzieści sześć Mamba-2, wymiar osadzeń 2048, 32 głowice uwagi z 8 głowicami klucz-wartość i brak kodowania pozycji. Przy tym rozmiarze przydatne czynią go dwie własności. Pierwsza to stan rekurencyjny o stałym rozmiarze, dzięki któremu koszt pamięciowy wejścia o długości 128 tysięcy tokenów pozostaje płaski, zamiast rosnąć z każdym tokenem; na laptopie albo urządzeniu brzegowym to różnica między uruchomieniem a nieuruchomieniem. Druga to fakt, że IBM nie okroił zasięgu językowego: te same dwanaście przetestowanych języków co u flagowca i MMMLU 55,19 wobec flagowych 69,69 — mniej, ale jest. Profil wyników jest typowy dla małego modelu, który bije ponad swoją wagę: MMLU 67,43, MMLU-Pro 43,48, GPQA 32,15, średnia IFEval 84,32 (lepiej niż siedmiomiliardowy H Tiny), ArenaHard 36,15, HumanEval 81, MBPP 73, BFCL v3 57,56 przy wywoływaniu narzędzi. W podążaniu za instrukcją jest drugim wynikiem całego pokolenia. To również jedyny model Granite 4.0 wciąż wystawiony u dużych pośredników API, za około 0,017 dolara od miliona tokenów wejściowych i 0,112 od miliona wyjściowych — tanio nawet jak na małe modele i taniej niż nowsze oferty IBM z linii 4.1 i 4.2. Dla czytelnika, który chce sprawdzić hybrydę z Mambą-2 bez stawiania czegokolwiek u siebie, to jedyne wciąż otwarte drzwi tego pokolenia. Licencja to Apache 2.0 bez warunków dodatkowych. Polskiego nie ma wśród przetestowanych języków.

▸Wideo

Brak materiałów wideo.

▸Recenzje