Gemma 4 26B A4B

Gemma 4 26B A4B to jedyny model tej rodziny zbudowany jako mieszanka ekspertów. Google DeepMind opublikował go 11 marca 2026. Mieści 25,2 miliarda parametrów w 30 warstwach, ale każdy token trafia do 8 ze 128 ekspertów plus jednego eksperta współdzielonego, więc w danej chwili pracuje około 3,8 miliarda parametrów. Litera A w nazwie oznacza właśnie parametry aktywne, a praktycznym skutkiem jest szybkość: model liczy niemal tak szybko jak model czteromiliardowy, choć niesie wiedzę znacznie większego. Architekturę dzieli z resztą rodziny — uwaga hybrydowa przeplata okno przesuwne 1024 tokenów z pełną uwagą globalną, ostatnia warstwa jest zawsze globalna, a warstwy globalne mają wspólne klucze i wartości oraz proporcjonalne kodowanie pozycji p-RoPE. Kontekst to 256 tysięcy tokenów, słownik 262 tysiące, czyli tyle samo co w 31B. Przyjmuje tekst i obraz, oddaje tekst, obraz przez koder o około 550 milionach parametrów; wejścia dźwiękowego, które mają E2B, E4B i 12B, tutaj nie ma — podobnie jak w 31B. Testy pokazują dokładnie, gdzie mieszanka ekspertów dotrzymuje kroku, a gdzie ustępuje. W zwykłych trudnych zadaniach jest o punkt, dwa od gęstego flagowca: 82,6 procent wobec 85,2 w MMLU Pro, 88,3 wobec 89,2 w AIME 2026 bez narzędzi, 82,3 wobec 84,3 w GPQA Diamond. W zadaniach najtrudniejszych i najdłuższych różnica robi się przepaścią: 8,7 procent wobec 19,5 w Humanity's Last Exam, 44,1 wobec 66,4 w wyszukiwaniu informacji w kontekście 128 tysięcy tokenów i 1718 wobec 2150 punktów Elo na Codeforces. W odczycie z 25 sierpnia 2026 repozytorium wersji instrukcyjnej notuje 8,94 miliona pobrań w trzydzieści dni — nieznacznie więcej niż 31B i więcej niż którykolwiek inny model rodziny. Dla większości użytkowników tańszy model po prostu wystarcza.

▸Newsy

Tania Gemma przegrywa z flagowcem o dwa punkty — dopóki pytanie nie zrobi się trudne

25.08.2026 · Google DeepMind, Gemma 4 26B A4B model card

▸Wideo

Brak materiałów wideo.

▸Recenzje