Qwen3.5-0.8B
Alibaba Cloud · China · 2026
Najmniejszy model generacji Qwen3.5: poniżej miliarda parametrów, około 1,7 GB wag, a mimo to czyta zeskanowany dokument niemal tak dobrze, jak dwukrotnie większy model wyspecjalizowany w widzeniu — przy zerowych wynikach z matematyki.
Qwen3.5-0.8B, opublikowany 28 lutego 2026 r., to podłoga obecnej generacji Alibaby i najlepsza ilustracja tego, co zostaje z modelu ściśniętego aż tak mocno. Pliki wag zawierają 873 miliony parametrów w formacie bfloat16, razem z koderem obrazu — około 1,7 GB, czyli rozmiar mieszczący się na urządzeniu klasy telefonu, na płytce wbudowanej albo w przeglądarce. Zostaje postrzeganie. Według liczb producenta model osiąga 74,5 na OCRBench, a w trybie bez rozumowania 79,1 — wobec 79,2 dla Qwen3-VL-2B, wyspecjalizowanego modelu wizyjnego o ponad dwa razy większej liczbie parametrów. Podobnie trzyma się odczyt dokumentów (OmniDocBench 61,0 z rozumowaniem i 70,6 bez) oraz liczenie obiektów na zdjęciu (CountBench 77,0). Czytelnikowi, który szuka lokalnego modelu do wyciągania liczb ze skanu albo hurtowego opisywania zdjęć, katalog nie ma dziś nic tańszego, co to potrafi. Nie zostaje rozumowanie. GPQA spada do 11,9, PolyMATH do 8,2, a w zestawach matematyki olimpijskiej HMMT Alibaba nie podaje żadnego wyniku — myślniki w jej własnej tabeli są uczciwą odpowiedzią. Wykonywanie poleceń kończy się na IFEval 44,0, więc zawodzi nawet posłuszeństwo wobec złożonej instrukcji. Karta modelu zawiera zastrzeżenie producenta, wspólne z modelem 2B i nieobecne przy większych: przy tej liczbie parametrów przeznaczeniem są prototypy, dostrajanie do konkretnego zadania oraz badania i rozwój. Rozciągnięcia kontekstu do miliona tokenów, obiecywanego przy 4B i wyżej, tutaj również nie ma; deklaracją jest 262 144 tokeny natywnie. Architektura to hybryda generacji w miniaturze: 24 warstwy jako sześć powtórzeń trzech bloków Gated DeltaNet i jednego bloku uwagi bramkowanej, wymiar ukryty 1024, szerokość warstwy w przód 3584, słownik 248 320 tokenów — przy tym rozmiarze sama tablica słownika odpowiada za znaczną część wszystkich parametrów. Wagi są na licencji Apache 2.0, z niezmienionym tekstem licencji w repozytorium.
▸Wideo
Brak materiałów wideo.
▸Recenzje
Brak recenzji. Bądź pierwszy!