Jamba 1.5 Mini

Jamba 1.5 Mini ukazała się tego samego dnia co większa siostra, 22 sierpnia 2024 roku, i niesie tę samą architekturę w formie dość małej, by działała w zwyczajnych miejscach: warstwy przestrzeni stanów Mamba przeplatane uwagą, rzadki mixture-of-experts, 52 miliardy parametrów, z czego 12 miliardów aktywnych na token. Znaczenie ma tu proporcja. W teście długiego kontekstu RULER, opublikowanym przez AI21 razem z premierą, Mini utrzymała pełne deklarowane okno 256 tysięcy tokenów z wynikiem 86,1 przy najdłuższym ustawieniu — a przy 128 tysiącach wypadła lepiej niż GPT-4 Turbo, Llama 3.1 70B czy Mistral Large 2, kilkakrotnie od niej większe i żaden z nich nie dobił do własnego reklamowanego limitu. W wiedzy ogólnej jest tam, gdzie każe jej rozmiar: 69,7 w MMLU i 46,1 w Arena Hard wobec 81,2 i 65,4 modelu Large. To uczciwa wymiana — hybryda kupuje długość kontekstu, nie surowe rozumowanie. AI21 wydało model z otwartymi wagami na licencji Jamba Open Model License i wprowadziło go do wszystkich dużych sklepów chmurowych. Generacja została od tego czasu zastąpiona dwukrotnie — przez Jamba 1.6 i 1.7, a potem przez Jamba 2 — i zniknęła z własnego API AI21 6 maja 2025 roku, ale Amazon Bedrock serwuje ją do 26 listopada 2026.

▸Wideo

Brak materiałów wideo.

▸Recenzje