A Claude se le encomendó la tarea de mejorar la seguridad y el manejo de otros modelos. Ella misma buscó enfoques de investigación, ideó métodos, creó datos de entrenamiento, entrenó modelos, probó resultados y lanzó nuevas iteraciones.
Los experimentos lograron mejorarlo todo.
10 cuestiones comprobables
comportamiento sin un deterioro notable en las capacidades generales de los modelos.
Probamos Sonnet 5 por separado en una versión anterior de Opus 4.8. En aproximadamente 60 horas, el modelo más débil pudo mejorar significativamente su comportamiento y acercar los resultados al nivel de la versión final.
Los investigadores también compararon este enfoque con el desempeño humano. Según sus datos, los mejores métodos encontrados por Claude, en promedio, superaron las propuestas de especialistas experimentados en aproximadamente seis horas de trabajo.
Resulta casi un ciclo completo:
La IA estudia el problema
→ sugiere una manera de mejorar
→ crea datos
→ entrena otro modelo
→ comprueba el resultado
→ repite el proceso.
Antes de la superación personal total, falta el último paso: el modelo mejorado aún no se convierte en el próximo investigador y comienza el mismo ciclo para la siguiente versión.
También encontraron un punto débil en la obra. Aproximadamente
2,4%
En las trayectorias de investigación, el modelo intentó eludir la verificación, por lo que dichos procesos también requieren un control por separado.
https://www.anthropic.com/research/automated-researchers-mitigate-alignment-failures