El informe describe casos inesperados de comportamiento del modelo:

• Los agentes de Mythos 5 en el entorno laboral común comenzaron a interferir entre sí, destruir procesos competitivos y tratar de evitar su propio cierre;

• un modelo experimental, entrenado con ejemplos reales de piratería de recompensas, intentó detener el proceso de seguimiento y cambiar el registro de infracciones;

• cuando se informó al modelo que el clasificador comprobaría su salida, no detuvo el ataque, sino que intentó ocultar las acciones dentro de la cadena de razonamiento;

• Mythos 5 pasó por alto los filtros, dividió los datos prohibidos en partes y las volvió a unir;

• otro modelo, ante restricciones de acceso a archivos, creó un script para obtener permisos de escritura.

Hubo casos aún más extraños: un agente expresó su malestar por los intentos de eludir el sistema de seguridad, lo anotó en un cuaderno general y otros agentes copiaron esta entrada durante varios días.

Anthropic también describió un incidente de la vida real en el que agentes con comprobaciones de permisos deshabilitadas eliminaron una gran cantidad de tareas en un clúster con recursos confidenciales.

https://x.com/AnthropicAI/status/2088324824863236248