GLM-4-9B-Chat

GLM-4-9B-Chat to otwartowagowy przedstawiciel generacji GLM-4, opublikowany w czerwcu 2024 roku i wycelowany wprost w Llamę 3 8B — producent wskazał ją z nazwy jako model, który miał pokonać w testach semantyki, matematyki, rozumowania, kodu i wiedzy. Praktyczny skok wobec generacji ChatGLM widać nie w wynikach, lecz w tym, co model potrafi zrobić. To pierwszy model w tej linii, w którym przeglądanie sieci, uruchamianie kodu i wywoływanie własnych funkcji są reklamowaną funkcją, z oknem kontekstu 128 tysięcy tokenów w dostarczanej konfiguracji i obsługą 26 języków zamiast wyłącznie chińskiego i angielskiego. Równocześnie wyszło rodzeństwo: GLM-4-9B-Chat-1M rozciągający okno do miliona tokenów (około dwóch milionów znaków chińskich) oraz GLM-4V-9B, który dokłada widzenie w rozdzielczości 1120 na 1120 pikseli. Architektonicznie model zostaje w rodzinie: 40 warstw, wymiar ukryty 4096, 32 głowy uwagi na 2 głowach klucz-wartość, słownik 151 552 tokenów, 9,4 mld parametrów w formacie bfloat16. Licencja zaostrzyła się wobec ChatGLM2. To wciąż własny dokument producenta z odwoływalnym prawem i formularzem rejestracji do celów komercyjnych, ale doszły obowiązki przechodzące na prace pochodne: rozpowszechniając cokolwiek zbudowanego na GLM-4, trzeba dołączyć kopię umowy, umieścić na produkcie notę „Built with glm-4”, a nazwę modelu pochodnego poprzedzić członem „glm-4”. Zespoły, które dostrajają otwarte wagi i wypuszczają je pod własną marką, powinny przeczytać ten zapis przed premierą.

▸Wideo

Brak materiałów wideo.

▸Recenzje