Imaginemos que cuando se lanza la IA, esta tiene acceso a un archivo de miles de intentos anteriores: métodos exitosos, errores, disputas, refutaciones y cuestiones no resueltas. Obviamente, la capacidad de un sistema puede crecer incluso si el modelo subyacente en sí no cambia.
Pero, ¿qué y cómo recuerda exactamente el sistema? No sólo descubrimientos. Junto a ellos, el archivo incluirá instrucciones obsoletas, falsos consensos, errores aleatorios y conclusiones que todos repiten, aunque nadie recuerda de dónde salieron.
Por tanto, no basta con que un sistema científico sea capaz de aprender cosas nuevas. Debe poder, con motivos suficientes, dejar de considerar como verdad lo que ya “sabe” muy bien. Y preferiblemente no después del primer dígito extraño del dispositivo; de lo contrario, en lugar de un científico, terminarás con un generador de sensaciones. Pero no han pasado cien años desde que la vieja teoría finalmente dejó de predecir el mundo.
A continuación propongo un experimento que prueba exactamente este equilibrio. En él, el mismo modelo de lenguaje recibe los mismos datos experimentales, pero una biografía diferente de la antigua teoría. En una versión, sigue siendo una hipótesis de trabajo. En otro, logra convertirse en un libro de texto, adquirir citas y generar conocimiento dependiente.
Si la decisión cambia sólo debido al estado y al número de recuentos, obtenemos un efecto mensurable de autoridad científica mientras la base de evidencia permanece sin cambios. Si este efecto puede reducirse sin obligar a la IA a iniciar una revolución después de cada fallo del dispositivo, surge una pregunta de ingeniería: ¿es posible programar no sólo la memoria del sistema de investigación, sino también las reglas mediante las cuales cambia las creencias?
Leer más
|
@habr_ai