IBM Granite Embedding Reranker English R2
IBM · USA · 2025
Model, który niczego nie znajduje: bierze dwadzieścia wyników znalezionych przez kogoś innego i układa je lepiej, podnosząc trafność wyszukiwania IBM o niemal trzy punkty.
Granite-Embedding-Reranker-English-R2 to drugi stopień systemu wyszukiwania. Sam wyszukiwać nie umie. Dostaje zapytanie i kandydujący dokument, czyta oba naraz i zwraca jedną liczbę — na ile jedno pasuje do drugiego. Tyle. Model wyszukujący ściąga w milisekundach dwadzieścia prawdopodobnych dokumentów; ten model czyta wszystkie dwadzieścia porządnie i rozstrzyga, które trzy zasługują na czoło listy. Ten podział bierze się z nie dających się pogodzić rachunków. Model osadzeń koduje zapytanie i dokument osobno, więc milion dokumentów można zindeksować raz i przeszukiwać błyskawicznie — kosztem tego, że oba teksty nigdy nie są porównywane wprost. Koder krzyżowy, taki jak ten, czyta zapytanie i dokument jako jeden ciąg i ocenia trafność znacznie celniej, ale musi zostać uruchomiony raz na każdą parę, co czyni go bezużytecznym do przeszukiwania zbioru i idealnym do dopracowania krótkiej listy. W pomiarach IBM przestawienie dwudziestu najlepszych wyników z granite-embedding-english-r2 podnosi wyszukiwanie BEIR z 53,1 na 55,8, przeszukiwanie długich dokumentów z 41,6 na 45,8, a wielojęzyczny MIRACL z 43,6 na 55,2 — ten ostatni skok to prawie dwanaście punktów uzyskane wyłącznie z jednego dodatkowego przejścia po dokumentach, które wyszukiwarka i tak już miała. Tabela porównawcza IBM pokazuje też przegrane. Wobec gte-reranker-modernbert-base, konkurenta o dokładnie tej samej wielkości i tym samym oknie kontekstu, Granite przegrywa w dwóch testach na trzy — 55,8 wobec 56,1 w BEIR i, dotkliwiej, 45,8 wobec 51,2 w długich dokumentach. Pięć punktów straty na przestawianiu długich dokumentów to liczba, którą większość producentów po prostu z karty modelu usuwa. IBM wydrukował ją wytłuszczoną, obok własnego wyniku. Architektura odpowiada bratu wyszukującemu: ModernBERT, 149 milionów parametrów, 22 warstwy, 12 głowic uwagi, warstwa pośrednia 1152, słownik 50 368 tokenów i okno 8192 tokenów — osiem razy więcej, niż przyjmują starsze rerankery ograniczone do 512 tokenów, i to jedyny powód, dla którego ten model w ogóle radzi sobie z długimi dokumentami. W uczeniu użyto funkcji straty pisanych pod porządkowanie, w tym pListMLE, oraz scalania modeli. Jak w całej rodzinie R2, ze zbioru treningowego wyłączono MS MARCO, bo jego licencja zabrania zastosowań komercyjnych — świadoma strata trafności, którą IBM opisuje, zamiast ją przemilczeć. Licencja to czysta Apache 2.0, bez wyłączeń terytorialnych. Wyłącznie angielski, a nazwa myli: mimo przynależności do kolekcji Granite Embedding ten model nie wytwarza osadzeń, które dałoby się zapisać.
▸Newsy
▸Wideo
Brak materiałów wideo.
▸Recenzje
Brak recenzji. Bądź pierwszy!