Saltar a contenido

title: 15 · Reranquear: el segundo filtro

15 · Reranquear: el segundo filtro

Todo lo construido hasta aquí comparte una limitación de nacimiento: los motores —denso y disperso— deciden qué es parecido sin leer la pareja. Comparan la consulta con cada píldora por separado, cada una contra su vector o su vocabulario, y ordenan. Es lo que hace posible buscar entre millones de píldoras en milisegundos, y es también su techo: nunca hubo, en todo ese proceso, un momento en que alguien leyera la consulta y el candidato juntos, como se lee una respuesta. El rerank —el tamiz— es exactamente eso: una segunda pasada donde cada candidato superviviente se examina en compañía de la consulta, por un modelo que sí puede leerlos cara a cara. Este capítulo explica por qué esa segunda pasada reordena tan bien, qué cobra y cuándo merece la pena.

Dos entrevistas: la de los currículos y la de la sala

La diferencia entre el primer filtro y el tamiz se entiende con la metáfora de las entrevistas, que es la que mejor ha sobrevivido en el despacho. La búsqueda vectorial es la selección de currículos: miles de candidatos, cada uno evaluado de un vistazo, sin la vacante delante —por eso es rápido y por eso falla lo fino: un currículo magnífico puede no encajar en esta vacante concreta—. El rerank es la entrevista en sala: pocos candidatos —los que pasaron el primer filtro—, cada uno examinado con la consulta delante, pregunta y respuesta leídas juntas, matices en la mirada.

Técnicamente, la diferencia tiene nombre: los motores de primera pasada son bi-codificadores —codifican consulta y píldora por separado, cada una en su vector, y comparan coordenadas—; el reranker típico es un cruzado —recibe consulta y píldora juntas, las procesa como un único texto, y emite un juicio de encaje que ya vio las relaciones entre las palabras de una y de otra—. El cruzado ve que en la consulta importa "encadenados" y comprueba qué dice el candidato de los contratos sucesivos; el bi-codificador nunca supo qué parte de la consulta era la importante. Por eso reordena mejor: tiene más información al decidir. Y por eso no puede ser el primer filtro: leer juntos consulta y candidato cuesta mil veces más que comparar vectores —hacerlo con todo el corpus es arquitectónicamente imposible—. De ahí nace el patrón que da nombre al capítulo: recuperar ancho, reranquear estrecho. El motor barato y burdo reduce el universo a unas decenas de candidatos; el tamiz caro y fino los examina con calma.

Qué compra realmente el tamiz

La ganancia concreta del tamiz se ve mejor en su métrica natural, que el capítulo dieciocho formalizará: los aciertos en la cabeza del ranking. El primer filtro es bueno encontrando la aguja —la mete casi siempre entre sus veinte resultados— y malo ordenando la cabeza —la aguja sale en el puesto nueve con la misma frecuencia que en el dos—. Para el ensamblado que viene después —y para el usuario que mira tres resultados— esa cabeza es todo. El tamiz reordena los veinte y casi siempre sube la aguja al puesto uno o dos: misma evidencia encontrada, posición radicalmente mejor. Con el tope del capítulo trece cortando en tres o cinco, la diferencia entre que la aguja esté en el puesto nueve o en el dos no es una mejora: es la diferencia entre fallar y acertar.

El segundo rendimiento es más discreto y más valioso de lo que parece: el tamiz juzga la relación, no la superficie, y con eso corrige los fallos de categoría del capítulo dos. El párrafo del período de prueba —el impostor de máxima similitud— no sobrevive una entrevista en sala: leído junto a la consulta de contratos encadenados, es evidente que responde a otra pregunta. El bi-codificador lo subió al podio por parecido; el cruzado lo baja por irrelevante. Ese caso —el parecido que cae y la evidencia indirecta que sube— es el rendimiento que ningún ajuste del primer filtro puede igualar, porque el primer filtro no tiene acceso a la información que lo corrige.

Y una tercera compra, de naturaleza arquitectónica: el tamiz es el lugar natural de las políticas finas. Las preferencias blandas que el capítulo ocho prohibió meter como filtros duros —favorecer tal fuente, tal frescura, tal tipo— encuentran aquí su casa: como criterios de desempate en la reordenación, donde no inventan huecos, solo mueven puestos. El despacho, por ejemplo, acabó ponderando en el rerank la vigencia reciente en consultas normativas y la diversidad de fuente en sintéticas —políticas imposibles en el primer filtro y triviales en el segundo—.

El precio, y cuándo no se paga

El tamiz cobra, y cobra en las dos monedas que todo pipeline vive equilibrando: latencia y coste. Leer juntos veinte pares consulta-candidato multiplica el tiempo de la consulta —milisegundos que se notan— y, si el reranker es un servicio de pago, añade su tarifa por llamada. La gestión profesional del precio no consiste en padecerlo sino en dimensionarlo, y hay tres palancas ordenadas por rentabilidad. La primera: el ancho del tamiz. Reranquear cincuenta cuesta cinco veces más que reranquear diez, y la mejora de pasar de veinte a cincuenta suele ser marginal —lo que el primer filtro trae en el puesto cuarenta rara vez merece entrevista—. El ancho por defecto que sobrevivió en el despacho fue el rango veinte-treinta para fácticas y cuarenta-cincuenta para sintéticas, calibrado con el banco, no con el miedo. La segunda: la selectividad del tipo de consulta. Reranquear una navegacional con entidad exacta —la tabla salarial encontrada por BM25 en el puesto uno— es pagar una entrevista para confirmar lo evidente; hay consultas donde el tamiz se salta. La tercera: el modelo del tamiz —hay cruzados ligeros y pesados, locales y de servicio—; el apéndice C los recorre con criterio. El principio que ordena las tres: el tamiz se dimensiona desde el contrato —qué tipo de consulta merece qué calidad de cabeza— y no desde la fascinación por la técnica.

Y conviene cerrar con el caso contrario, porque la honestidad del libro lo exige: hay sistemas donde el rerank no se paga. Corpus pequeños donde el primer filtro ya ordena bien —con pocas píldoras, la cabeza no tiene dónde caer—; consultas, casi todas navegacionales, donde la entidad exacta decide; presupuestos de latencia imposibles. La prueba del capítulo once —vector desnudo contra sistema completo— es la que decide: si en el banco de consultas reales la cabeza del ranking ya acierta sin tamiz, este capítulo es, para ese sistema, un lujo. En el despacho no lo fue: la cabeza era justo donde más fallaba, y el rerank pagó su latencia la primera semana.

Criterio de salida

El patrón recuperar-ancho-reranquear-estrecho operativo: ancho de tamiz fijado por tipo de consulta y calibrado en el banco, políticas finas —vigencia, fuente, diversidad— movidas a criterios de reordenación, y la mejora medida en la métrica de cabeza del capítulo dieciocho. Donde el tamiz no se paga, la decisión está anotada con su evidencia.

El tamiz ordena; aún queda la pregunta de quién juzga cuando el encaje es cuestión de criterio y no de estadística. Hay un juez disponible —caro, dotado para el sentido y con vicios propios—: el propio modelo que redactará la respuesta. El LLM como juez, en la página siguiente.