La compañía escribe que uno de los futuros modelos, el Astra, podría alcanzar ya el nivel crítico en materia de ciberseguridad. Después de esto, OpenAI detuvo el entrenamiento RL de los últimos modelos durante dos semanas, y el mayor lanzamiento planificado de Frontier-RL todavía está en pausa.
Después del reciente incidente, OpenAI también endureció sus políticas internas: aislamiento de entornos sandbox, restricciones de red y monitoreo de acciones modelo. Para Astra y otros modelos cibernéticos, ahora se aplican los requisitos más estrictos.
Hemos ampliado por separado el seguimiento del razonamiento y las llamadas a herramientas. La actividad sospechosa pasa por varias capas de verificación automática y los equipos de seguridad deben responder a los casos críticos en aproximadamente 30 minutos. Este seguimiento ya añade alrededor del 20% de los costos computacionales a la inferencia.
https://openai.com/index/pacing-model-development-cyber-capabilities/
@ai_machinelearning_big_data