Глоссарий
Реранкинг: пересортировка кандидатов точной моделью поверх быстрого поиска
Коротко: Реранкинг это второй этап поиска: быстрый поисковик (векторный, BM25 или их слияние) отдаёт широкую выборку кандидатов, например топ-50, а точная модель пересортировывает её по настоящей релевантности запросу. Логика такая: грубый поиск обязан не потерять нужное, но не обязан идеально упорядочить, а порядок топ-5 важнее порядка середины списка. Реранкинг встречается везде, где качество контекста напрямую влияет на ответ LLM: без него релевантный документ часто стоит на 15-м месте, не влезает в промпт и модель отвечает мимо. Типовой реранкер это кросс-энкодер или API-модель ранжирования.
Реранкинг это самая дешёвая покупка качества в RAG: архитектура поиска не меняется, меняется только порядок уже найденных кандидатов.
Разделяй обязанности: быстрый этап отвечает за полноту выборки, точный за расстановку верха. Смешивать их в один механизм значит терять и скорость, и качество.