Llevo varios meses desarrollando un entrenador de IA para corredores en Telegram (se le ocurrió un nombre y una imagen, Claude de Pace) y esto está lejos de ser definitivo. En algún momento le di la oportunidad de cambiar el horario usando una frase libre en el chat. La primera prueba real: el usuario escribe "cambiar mi pulmón el sábado", que significa "programar un entrenamiento ligero el sábado".
De hecho, el plan ha cambiado. No el sábado, el jueves.
La investigación duró un par de minutos: el jueves el usuario hizo un entrenamiento fácil, y la modelo encontró formalmente dos características en el mensaje: fácil y sábado, y con seguridad (confianza: 0,92) eligió el objeto que estaba más cerca, y no el que la persona tenía en mente. Desde el punto de vista de la clasificación, todo se hizo correctamente. Desde el punto de vista del usuario, esto no es en absoluto lo que pidió.
Fue en este momento que se formó el principio en torno al cual se construye ahora todo el sistema: el modelo no tiene que saber qué restricciones son invariantes comerciales del producto si yo mismo no las he convertido en reglas explícitas. El código debe saber esto. Modelo - no.
Leer más
|
@habr_ai