title: 13 · El tope: k, umbrales y presupuesto
13 · El tope: k, umbrales y presupuesto
Hay un parámetro que aparece en todos los sistemas de recuperación con un número por defecto —cinco, casi siempre— y que casi nadie ha elegido: el tope. Cuántos resultados se piden, a partir de qué puntuación algo merece entrar y cuánto contexto se puede permitir la respuesta. Este capítulo defiende que esas tres cifras no son parámetros sino una única decisión de diseño —el tope— y que esa decisión es una política: depende del tipo de pregunta, del contrato firmado y de lo que cuesta equivocarse en cada dirección. Un tope mal elegido no degrada el sistema: lo descapita por uno de sus dos extremos —el olvido o el ruido—, y ninguno de los dos avisa.
Las dos direcciones del error
Antes de elegir conviene saber qué se rompe. Si el tope aprieta demasiado, el sistema padece olvido: la evidencia correcta existía en el corpus, la encontró incluso el motor, y se quedó en el puesto seis mientras solo cabían cinco. El usuario recibe una respuesta segura, inútil y sin saber que la respuesta buena estaba a un puesto de distancia. Es el error más peligroso del libro, precisamente porque nada en la respuesta delata el recorte: la generación redacta encantada con lo que le llegó. Si el tope se afloja en exceso, el sistema padece ruido: entran píldoras mediocres que diluyen la atención del modelo que redacta, sube el coste de cada consulta —contexto cobra por token— y aparece el efecto más demo-crático: la respuesta que cita tres documentos cuando citaba uno y se enreda en los tres.
Olvido y ruido no son simétricos en gravedad —el olvido rompe la promesa del corpus; el ruido solo la emborrona— y no son simétricos en coste —el ruido cobra en facturas y el olvido en litigios—. Esa asimetría es la primera decisión del tope: en un despacho de abogados, con el contrato declarando la trazabilidad sagrada, se elegía errar por ruido antes que por olvido; en otro dominio —un chat de bienestar, un asistente de recepción de pedidos— la balanza puede, legítimamente, caer al otro lado. No existe el tope correcto en abstracto; existe el tope correcto para un contrato.
k inicial, k final, y el embudo entero
La primera desintoxicación es separar dos constantes que los sistemas novatos confunden en una. El k de recuperación —cuántas píldoras pide el motor— y el k de entrega —cuántas llegan al contexto— son decisiones distintas, unidas por el embudo del sistema: recuperar ancho para filtrar, fusionar canales, quizá reranquear, y entregar estrecho. El capítulo doce ya exigió listas de entrada más anchas que el tope final; el capítulo quince pedirá todavía más —el rerank necesita candidatos que reordenar—. La regla que gobierna el embudo entero: cada fase pide más de lo que entrega, y la proporción la fija la fase más selectiva del camino. Un sistema que recupera cinco para entregar cinco no tiene embudo: tiene un tubo.
¿Y el número? Los valores por defecto de la industria —cinco de entrega, cien de recuperación— no son tontos, pero se venden como universales y no lo son. La calibración honrada se hace por tipo de consulta, que es la unidad del banco del capítulo uno. Las fácticas quieren k de entrega pequeño —una a tres—: la evidencia correcta es una, y las cuatro restantes de un top-cinco solo suman ruido y coste. Las sintéticas quieren k de entrega mayor —cinco a diez—, pero con la diversidad del capítulo siguiente: cinco píldoras de un mismo párrafo no son cinco evidencias. Las navegacionales quieren k de uno: o es el documento o no es. La idea central: no hay "nuestro k"; hay "nuestro k por intención", y se escribe en el contrato como lo que es —una política de servicio—.
El umbral: la línea de la dignidad
El segundo componente del tope es el que ningún sistema novato tiene y todo sistema veterano acaba poniéndose: el umbral de puntuación, la línea por debajo de la cual un candidato no entra aunque queden plazas. Su función es resolver el caso que el k no puede: qué pasa cuando no hay cinco cosas dignas. Sin umbral, un k de cinco entrega cinco —dos excelentes, una decente, dos francamente flojas— y el modelo que redacta no distingue: redactará con las cinco. Con umbral, el sistema entrega lo que merece y aplica la política del vacío del capítulo diez con lo demás.
Ahora bien, el umbral tiene una historia de calibración traicionera, y conviene contarla para ahorrarle al lector la misma cicatriz. La puntuación del canal denso no es una probabilidad de nada: es un coseno cuya escala depende del modelo de embeddings y del corpus, y además se desplaza con la consulta —hay consultas intrínsecamente vagas cuya similitud máxima baja, aunque el contenido esté en el corpus—. El umbral absoluto fijo ("nada por debajo de 0,75") se calibra una semana y miente la siguiente —no porque el número esté condenado, sino porque nadie lo recalibra; con la recalibración que el protocolo del capítulo diecinueve exige en cada migración de embeddings, un absoluto también vive—. La práctica que sobrevivió en el despacho: umbral relativo —nadie entra si la brecha con el mejor candidato es mayor que cierto margen, porque si lo mejor está a 0,82 y el segundo a 0,61, esa caída es información: la búsqueda encontró una aguja y nada más—, complementado con umbral absoluto muy holgado como suelo de emergencia. Y su calibración, como todo en la parte sexta del libro, con datos del banco: cuál es la caída normal entre puestos consecutivos en consultas con respuesta conocida, y qué caídas anuncian la sequía.
El presupuesto: el tope que cobra
El tercer componente es el que convierte el tope en dinero: el presupuesto de contexto, cuántos tokens puede ocupar lo recuperado. Es la frontera dura que ningún marketing menciona y todo CFO agradece: cada píldora entregada cobra en cada consulta, y un k generoso con píldoras largas multiplica la factura a escala. Pero reducir el presupuesto a una contabilidad sería quedarse corto, porque el presupuesto tiene una segunda función semántica: es el límite físico que convierte el tope en una elección real. Sin presupuesto, todo k es negociable; con él, cada plaza del contexto cuesta, y las decisiones del embudo —qué reranquear, qué descartar, qué resumir— se toman con contabilidad de verdad. La disciplina sana: presupuesto fijo por tipo de consulta en el contrato, contabilizado en el ensamblado del capítulo diecisiete, y vigilado en el capítulo veinte —el coste por consulta es una métrica del sistema, no un secreto de facturación—.
Queda cerrado así el triángulo del tope: k de entrega por intención, umbral relativo con suelo, presupuesto fijo por contrato. Tres cifras que en los sistemas maduros aparecen juntas y en los novatos aparecen reducidas al primero —cinco, heredado, y nunca discutido—.
Criterio de salida
El tope definido como política en el contrato: k de entrega por tipo de consulta, k de recuperación con margen para el embudo, umbral relativo calibrado con el banco de consultas y presupuesto de contexto fijo por intención. Errores aceptados declarados: el sistema sabe si está eligiendo errar por ruido o por olvido, y por qué.
El embudo deja una deuda sin pagar: si entran varias píldoras parecidas, el presupuesto se malgasta en repetición. La siguiente pieza del tope no añade nada nuevo al mundo: reparte mejor las plazas. Diversidad, en la siguiente página.