Tłumacz Cohere ma te same 111 miliardów parametrów co flagowiec — i okno szesnaście razy mniejsze

Wyspecjalizowany model tłumaczenia maszynowego Cohere, Command A Translate, jest opisany w dokumentacji jako model o 111 miliardach parametrów z kontekstem 16 tysięcy tokenów — 8 tysięcy na wejście i 8 tysięcy na wyjście. Wagi opublikowane na Hugging Face zawierają 111 057 580 032 parametry, czyli dokładnie tyle, ile ma Command A, uniwersalny flagowiec tej samej firmy dla klientów korporacyjnych. Identyczna liczba wskazuje na wyspecjalizowaną pochodną, a nie na model trenowany osobno. Różnica dotyczy tego, ile model może zobaczyć naraz. Command A pracuje z oknem 256 tysięcy tokenów, wariant tłumaczeniowy z oknem 16 tysięcy. Model o tym samym rozmiarze czyta więc jednorazowo szesnaście razy mniej, co wyklucza podanie mu całej umowy albo książki i przenosi długie dokumenty do przetwarzania fragmentami — producent poświęca temu osobny poradnik o tłumaczeniu długich tekstów. Reszta specyfikacji jest zgodna z rodziną. Cohere wymienia 23 obsługiwane języki, w tym polski, arabski, chiński, hindi i perski, oraz podaje, że model działa na jednej albo dwóch kartach A100 lub H100 — to ten sam argument sprzętowy, którym firma sprzedaje Command A klientom liczącym akceleratory w szafie. Cohere nie podaje dla Command A Translate ceny za tokeny na publicznej stronie cennika, co odpowiada produktowi sprzedawanemu głównie przez umowy o wdrożenie prywatne: obietnicą jest tłumaczenie materiałów wrażliwych wewnątrz infrastruktury klienta. Wagi do pobrania mają licencję CC BY-NC 4.0, więc wolno je obejrzeć, ale nie wdrożyć komercyjnie bez osobnej umowy.