Cohere Command R 08-2024

30 sierpnia 2024 roku Cohere odświeżyło oba swoje flagowe modele tekstowe i nadało im datowane identyfikatory: command-r-08-2024 i command-r-plus-08-2024. Ciekawsza jest aktualizacja Command R, bo model zrobił się mniejszy. W opublikowanych wagach jest 32,3 miliarda parametrów wobec 34,98 miliarda w wersji marcowej — producent podaje, że odświeżenie o połowę zmniejszyło sprzęt potrzebny do obsługi modelu, dając przy tym około 50 procent wyższą przepustowość i 20 procent krótsze opóźnienia. Oszczędność trafiła do klienta. Wejście stanieło z 0,50 do 0,15 dolara za milion tokenów, a wyjście z 1,50 do 0,60 — o 70 i 60 procent — przy modelu, o którym Cohere pisze, że dorównuje poprzedniemu, znacznie większemu Command R+. Zmiany funkcjonalne to te, które zauważa inżynier. Model lepiej rozstrzyga, czy narzędzie jest w ogóle potrzebne, ściślej trzyma się instrukcji z wiadomości systemowej, sprawniej czyta i tworzy dane strukturalne, a wyszukiwanie z dokumentów potrafi teraz prowadzić z wyłączonymi cytowaniami. Odmawia też odpowiedzi na pytania, na które nie da się odpowiedzieć, zamiast ją zmyślać. Nowością były tryby bezpieczeństwa — parametr safety_mode z ustawieniami STRICT i CONTEXTUAL, pozwalający zacieśnić albo poluzować barierki zależnie od zastosowania, przy zawsze włączonej ochronie podstawowej. Okno kontekstu zostało przy 128 tysiącach tokenów, a zasięg językowy przy dziesięciu językach optymalizowanych. Wagi są na Hugging Face na licencji CC BY-NC 4.0, czyli do pobrania, ale nie do wdrożenia komercyjnego. W sierpniu 2026 roku producent nadal wykazuje ten model jako aktywny i to jego wskazał jako cel migracji, gdy we wrześniu 2025 roku wycofywał oryginalne Command R.

▸Wideo

Brak materiałów wideo.

▸Recenzje