b

último artículo de la serie

Comprimimos las incrustaciones y medimos cuánto cambiarían los resultados en relación con la búsqueda completa de fp32. Ahí estaba la pregunta correcta: ¿la cuantificación rompe una recuperación ya existente?

Pero esta medición tiene un punto ciego desagradable. Puede conservar cuidadosamente el 99% del resultado del incrustador original y aún así tener problemas para encontrar los documentos que necesita en su dominio. Un punto de referencia externo, incluso uno sólido, no lo garantiza.

BEIR

fue creado específicamente para mostrar cómo los resultados de recuperación varían entre diferentes tareas y dominios; una velocidad promedio allí no reemplaza la verificación de sus propios datos.

Necesitas tu propio conjunto de evaluación. Y aquí suele surgir una falsa bifurcación:

Leer más

|

@habr_ai