Pierwszy układ OpenAI wygrywa watami — w przeliczeniu na jeden układ dwa z trzech testów wypadają odwrotnie

25 sierpnia 2026 roku OpenAI opublikowało pierwsze zmierzone wyniki układu Jalapeño — własnego procesora do wnioskowania, zaprojektowanego wspólnie z Broadcomem: od 1,5 do 1,9 raza więcej pracy na wat i od 1,7 do 3,6 raza niższe opóźnienie od czołowych systemów dostępnych na rynku, a przy zadaniach silnie interaktywnych od 2,1 do 4,1 raza wyższa wydajność. Każda liczba przepustowości w tym porównaniu jest podzielona przez moc. Gdy te same, podane przez firmę dane przeliczyć na jeden układ, dwa z trzech testów wypadają odwrotnie. Pomiary wykonano w teście InferenceX, publicznym benchmarku firmy SemiAnalysis, na trzech otwartych modelach: GPT-OSS 120B, DeepSeek R1 670B i Kimi K2.5 1T. OpenAI podaje zarówno układy porównawcze, jak i moce, przez które normalizowało wyniki: Jalapeño ma 700 watów na obudowę, GB200, z którym zmierzono się na GPT-OSS — 1200 watów, a GB300 użyty do dwóch większych modeli — 1400 watów. To wystarczy, żeby wykonać mnożenie. Na GPT-OSS 120B szczytowe 85 448 tokenów mieszanych na sekundę na kilowat daje około 59 800 na jeden układ, wobec mniej więcej 53 900 dla GB200 — przewaga o 11%. Na DeepSeek R1 ten sam rachunek daje około 13 700 dla Jalapeño wobec 16 500 dla GB300, a na Kimi K2.5 około 12 700 wobec 16 600. W przeliczeniu na układ, przy dwóch największych modelach, system NVIDII obsługuje wciąż o 17% i 23% więcej. OpenAI tego wyboru nie ukrywa — uzasadnia go. „Choć wydajność bywa podawana na układ, uważamy, że bardziej użyteczną miarą jest wydajność na jednostkę mocy”, pisze firma. To stanowisko do obrony, bo centrum danych ogranicza raczej liczba megawatów, które może pobrać, niż liczba płyt, które zmieści w szafach. Firma podaje też, że zmierzony stały pobór mocy Jalapeño nie przekraczał 550 watów, choć normalizowano go do znamionowych 700 — czyli rzeczywista przewaga na wat jest większa niż opublikowana. Obie miary odpowiadają po prostu na dwa różne pytania: ile szafa wyda przy danym budżecie mocy i ile krzemu trzeba na to zużyć. Jeden zestaw liczb przechodzi przez tę normalizację bez zmian. Opóźnienie mierzy się na żądanie, nie na kilowat: 1,03 sekundy od początku do końca wobec 1,80 na GPT-OSS oraz 1,56 wobec 5,31 sekundy na Kimi K2.5, przy czasie między tokenami skróconym z 5,48 do 1,44 milisekundy. Dla agentów, które łańcuchowo wywołują model i sumują każde opóźnienie, to właśnie ta liczba jest istotna — i nie zawdzięcza nic sposobowi liczenia mocy. Sama historia powstania układu też jest nietypowa. OpenAI podaje, że droga od pierwszego projektu do tapeoutu zajęła dziewięć miesięcy, a własne modele firmy pomagały przeszukiwać warianty implementacji i optymalizować układy arytmetyczne. Codex z modelem GPT-Astra doprowadził w dwa miesiące trzy modele o otwartych wagach, których w ogóle nie było w planie produkcyjnym, do wysokiej wydajności. Na wybranych blokach uwagi i mieszanki ekspertów w GPT-OSS implementacje napisane przez model działały od 1,5 do 1,8 raza szybciej niż wersje ludzkich ekspertów — firma zaznacza, że dotyczy to tych bloków, a nie całego modelu. Wdrażanie układu we własnej infrastrukturze ma ruszyć do końca 2026 roku, druga generacja jest opisana jako zaawansowana w pracach, a trzecia jako nabierająca kształtu; firma powtarza przy tym, że nadal będzie kupować akceleratory NVIDII zarówno do trenowania, jak i do wnioskowania.