ChatGLM2-6B

ChatGLM2-6B pojawił się w czerwcu 2023 roku, trzy miesiące po pierwszej generacji, i to on zrobił z tej rodziny narzędzie praktyczne, a nie tylko efektowne. Zadecydowały trzy zmiany: wstępny trening na 1,4 biliona tokenów dwujęzycznych, okno kontekstu rozciągnięte z 2048 do 32 768 tokenów dzięki technice FlashAttention oraz uwaga wielozapytaniowa, w której 32 głowy zapytań dzielą między siebie dwie głowy klucz-wartość. To ostatnie jest powodem, dla którego model wciąż bywa używany: producent zmierzył 42 procent szybszą pracę niż w pierwszej generacji, a przy kwantyzacji INT4 obsługiwana długość rozmowy na karcie z 6 GB pamięci wzrosła z około tysiąca tokenów do ośmiu tysięcy. Postęp wobec pierwszej generacji podano w procentach, a nie w wynikach bezwzględnych: MMLU o 23 procent, CEval o 33, BBH o 60, a GSM8K o 571 procent. Ta ostatnia liczba mówi więcej o tym, jak słaby w rachunkach był model pierwszy, niż o tym, jak mocny jest drugi. Jedno zastrzeżenie producent stawia wprost i katalog je powtarza: kontekst 32 tysięcy tokenów należy do modelu bazowego, natomiast dostrajanie rozmowy prowadzono na ośmiu tysiącach, a nota wydawnicza przyznaje ograniczone rozumienie pojedynczych bardzo długich dokumentów. Najciekawszą liczbą jest tu jednak licznik pobrań. Trzy lata po premierze to repozytorium pobiera się w ciągu miesiąca częściej niż GLM-5, GLM-5.1 czy GLM-4.7 — czyli aktualne modele tej samej firmy. Po części to bezwład kursów i poradników, które wciąż na nie wskazują, a po części fakt, że plik ważący kilkanaście gigabajtów mieści się na sprzęcie, na którym flagowiec o 350 mld parametrów nie zmieści się nigdy. Licencja to własny dokument producenta, a nie licencja otwartego oprogramowania: bezpłatnie do badań naukowych, a komercyjnie dopiero po rejestracji przez formularz producenta.

▸Newsy

Dwie trzecie repozytoriów Z.ai jest starszych niż rok 2025. Jedno z nich zbiera większość tego, co z ich ruchu zostało.

4.09.2026 · Hugging Face (zai-org account)

▸Wideo

Brak materiałów wideo.

▸Recenzje