Aya 101
Cohere Labs · Canada · 2024
Model, od którego zaczął się program Aya: 12,9 mld parametrów wykonujących polecenia w 101 językach — i jedyny członek rodziny wydany bez klauzuli zakazującej użytku komercyjnego.
Aya 101 to pierwszy model programu Aya laboratorium Cohere Labs, opublikowany 8 lutego 2024 roku razem z pracą „Aya Model: An Instruction Finetuned Open-Access Multilingual Language Model”. Jego ambicją było pokrycie języków, a nie wyniki w testach: wykonuje polecenia w 101 językach, czyli mniej więcej dwa razy więcej niż modele wielojęzyczne, z którymi go wówczas porównywano — mT0 i BLOOMZ — i obejmuje długi ogon języków słabo reprezentowanych, które modele komercyjne nadal pomijają. Polski jest na tej liście, zaklasyfikowany przez autorów jako język o wysokich zasobach. Architektonicznie nie jest to własny pień Cohere. Aya 101 to dostrojenie instrukcyjne modelu mT5-XXL od Google — konstrukcji koder-dekoder z rodziny T5, a nie architektury wyłącznie dekodującej, która później stała się standardem — o 12,92 mld parametrów w opublikowanym punkcie kontrolnym. Samo dostrajanie opisano nietypowo szczegółowo: 25 mln obejrzanych próbek, wielkość wsadu 256, trening na klastrze TPUv4-128 w T5X i Jaksie. Mieszankę treningową tworzą zbiór xP3x, tworzone społecznościowo Aya Dataset i Aya Collection, zweryfikowany komercyjnie podzbiór kolekcji Data Provenance oraz ShareGPT-Command; ponieważ podstawą jest mT5, lista języków to dokładnie 101 języków obsługiwanych przez mT5. Jako model T5 korzysta ze względnego kodowania pozycji i nie ma podanego stałego okna kontekstu. Tym, co po dwóch latach uzasadnia osobny profil, jest licencja. Cohere Labs wydało punkty kontrolne na Apache 2.0 — firma wprost nazywa to decyzją misyjną — podczas gdy każde późniejsze wydanie Aya, od Aya 23 przez Aya Expanse i Aya Vision po rodzinę Tiny Aya z 2026 roku, ma licencję CC BY-NC 4.0, a w nowszych przypadkach także wniosek o dostęp przed pobraniem wag. Aya 101 wciąż pobiera się bez żadnej bramki. Odpowiedź społeczności idzie w tym samym kierunku: to nadal najczęściej polubione repozytorium w całej rodzinie, przed nowszymi i technicznie mocniejszymi modelami Aya Expanse, mimo że jest najstarsze. Jak na 2026 rok model jest przestarzały — koder-dekoder z 2024 roku, który przegrywa z dużo mniejszymi współczesnymi modelami wielojęzycznymi — ale to punkt odniesienia dla każdego późniejszego wydania Aya i jedyny, na którym projekt komercyjny może legalnie budować.
▸Wideo
Brak materiałów wideo.
▸Recenzje
Brak recenzji. Bądź pierwszy!