QwQ-32B
Alibaba · China · 2025
Ostatni model, który Alibaba wydała jako osobny produkt rozumujący — i ten, który zmieścił otwarte rozumowanie na jednej karcie graficznej.
Model QwQ-32B opublikowano 5 marca 2025 roku z otwartymi wagami na licencji Apache 2.0. Jego teza była arytmetyczna, nie retoryczna: 32,5 miliarda parametrów wobec 671 miliardów w DeepSeek-R1, przy wynikach, które autorzy umieszczali w tej samej klasie. Jakość rozumowania — przekonywała premiera — bierze się z uczenia ze wzmocnieniem nałożonego na dobry model bazowy, a nie z samej wielkości, a model tych rozmiarów mieści się na sprzęcie, który można mieć na własność. Technicznie jest to baza Qwen2.5-32B przeprowadzona przez dostrajanie nadzorowane i uczenie ze wzmocnieniem: 64 warstwy, uwaga grupowana z 40 głowicami zapytań i 8 głowicami klucz-wartość oraz okno kontekstu 131 072 tokenów. Producent dołącza do tego okna nietypowe zastrzeżenie — polecenia dłuższe niż 8192 tokeny wymagają ręcznego włączenia skalowania YaRN, więc liczba z nagłówka nie jest tym, co daje instalacja bez przeróbek. Linia zaczęła się cztery miesiące wcześniej modelem QwQ-32B-Preview, wydanym 27 listopada 2024 roku, i na tym modelu się skończyła. Alibaba nigdy nie wydała następcy QwQ. Począwszy od Qwen3 ta sama firma wbudowuje myślenie w swoje modele ogólne jako przełącznik ustawiany przy każdym zapytaniu, przez co QwQ jest zamknięciem pewnej kategorii produktu, a nie początkiem rodziny. Modelu nie wycofano i wciąż jest w powszechnym użyciu: wagi pobierane są dziesiątki tysięcy razy miesięcznie, mniej więcej trzy razy częściej niż wersja zapoznawcza, która otwierała tę linię. Model o otwartych wagach wycofany jako produkt nie znika tak, jak znika model hostowany — po prostu przestaje dostawać następców.
▸Newsy
▸Wideo
Brak materiałów wideo.
▸Recenzje
Brak recenzji. Bądź pierwszy!