En lugar de forzar al modelo a almacenar todo el historial de búsqueda en el contexto, los autores decidieron sacar el estado y entrenar el modelo para que funcione a través de un arnés especial.
El resultado es un agente con 20 mil millones de parámetros, que compite con modelos mucho más grandes en tareas de búsqueda largas.
Normalmente los agentes de búsqueda trabajan según el siguiente esquema:
buscar → leer → buscar → leer → todo se agrega al contexto.
Como resultado, el modelo desempeña simultáneamente el papel de motor de búsqueda, memoria, tomador de notas, verificador y bibliotecario.
Harness-1 comparte estas tareas.
El modelo todavía decide qué buscar, qué leer, qué datos almacenar y qué comprobar. Pero todo el estado de búsqueda se almacena en la capa de arnés exterior.
Guía la memoria de trabajo del agente:
• documentos encontrados
• evidencia seleccionada
• historial de búsqueda
• conexiones entre fuentes
• resultados de la inspección
• deduplicación y compresión de datos
• control presupuestario contextual
También es interesante que el modelo se entrenó con una cantidad relativamente pequeña de datos: solo 899 trayectorias SFT y RL en 3453 consultas. Los autores creen que una parte importante del comportamiento deseado puede transferirse al propio arnés y no coserse a los pesos del modelo.
El resultado más interesante es la portabilidad. En los nuevos puntos de referencia, que el modelo no vio durante el entrenamiento, el aumento fue incluso mayor que en las tareas originales.
Papel:
arxiv.org/abs/2606.02373
Código:
https://github.com/pat-jj/harness-1
Modelo:
https://huggingface.co/pat-jj/harness-1
Papel HF: