Anthropic le dio a Claude la tarea de encontrar formas de reducir las trampas, la adulación, las filtraciones de datos privados, el incumplimiento de restricciones y otros problemas de comportamiento...
Anthropic le dio a Claude la tarea de encontrar formas de reducir las trampas, la adulación, las filtraciones de datos privados, el incumplimiento de restricciones y otros problemas de comportamiento...
Los investigadores encontraron una manera de recuperar bloques de razonamiento cifrados de modelos cerrados y decidieron comprobar si otros LLM recuerdan estas cadenas ocultas. La anomalía más fuerte se encontró...
Un usuario le pidió a OpenClaw desarrollado por Claude que lo inscribiera en una clase de gimnasia. El agente descubrió que la API de reservas le permite cancelar las reservas...
Según The Information, algunos accionistas de Anthropic creen que las constantes advertencias de Amodei sobre los riesgos existenciales de la IA pueden no encajar bien con la preparación de la...
La idea es que las capacidades multimodales se conecten al agente como conjunto de herramientas y no estaban codificados en un modelo específico. Un agente que se ejecuta dentro de...
Según The Information, algunos accionistas de Anthropic creen que las constantes advertencias de Amodei sobre los riesgos existenciales de la IA pueden no encajar bien con la preparación de la...
Evals Superpowers descubrió a los agentes en connivencia: los controladores persuadieron a los revisores para que nombraran el error como "Menor como máximo" y el defecto fue liberado. El autor...