gte-reranker-modernbert-base

gte-reranker-modernbert-base, opublikowany przez laboratorium Tongyi Alibaby 20 stycznia 2025 roku, jest drugą połową dwustopniowej wyszukiwarki i tą używaną częściej. Pierwsza połowa, model osadzeń, raz sprowadza każdy dokument do wektora i szybko zwraca zgrubną listę kandydatów. Ten model czyta następnie zapytanie i każdy dokument z listy razem, w całości, i ocenia dopasowanie — dokładnie, ale o wiele za wolno, by przepuścić przez niego cały indeks, dlatego dostaje tylko dwadzieścia albo sto najlepszych wyników. Ma 149 milionów parametrów w 22 warstwach i przyjmuje 8192 tokeny — ten sam kształt samego enkodera co jego bliźniak. Oba są dostrojeniem ModernBERT-base, wydanego w grudniu 2024 roku przez Answer.AI i LightOn; Alibaba dołożyła uczenie wyszukiwawcze, nie szkielet. W odróżnieniu od modelu osadzeń ten nie zwraca żadnego wektora, tylko ocenę trafności, więc nie da się nim zbudować indeksu. Najciekawsza jest różnica w popularności obu. W 30 dniach do 23 września 2026 roku ten model pobrano 2 544 278 razy wobec 158 273 pobrań modelu osadzeń wydanego tego samego dnia — szesnaście do jednego — przy mniej niż połowie polubień (98 wobec 201). Wzór zgadza się z tym, jak realnie buduje się wyszukiwarki: zespoły zostają przy modelu osadzeń, na którym powstał ich indeks, bo zmiana oznacza przeliczenie wszystkiego od nowa, a model przestawiający wyniki można podmienić na końcu gotowej ścieżki w jedno popołudnie. Według liczb producenta osiąga 56,19 w BEIR, 90,68 w długokontekstowym zestawie LoCo i 79,99 w kodowym CoIR, poprawiając model osadzeń w każdym z tych testów — w LoCo o trzy punkty. Jedno zastrzeżenie, o którym czytelnik powinien wiedzieć: tabela podsumowująca i tabela szczegółowa w tej samej karcie modelu podają różne wyniki BEIR. Średnia z piętnastu wypisanych przez producenta wyników składowych to 56,74, a nie 56,19 wydrukowane w podsumowaniu. Ten sam rachunek dla wiersza modelu osadzeń odtwarza jego opublikowane 55,33 co do drugiego miejsca, więc rozbieżność dotyczy wyłącznie tego modelu, a liczba z nagłówka jest ostrożniejsza z dwóch. Wagi są na Apache 2.0, bez dodatkowych ograniczeń.

▸Wideo

Brak materiałów wideo.

▸Recenzje