La mayoría de los modelos de guardia funcionan con una lista predefinida de prohibiciones. Para adaptar un sistema de este tipo a un producto, audiencia o política de empresa diferente, a menudo se requiere capacitación adicional.
Escudostral
ofrece un enfoque diferente: el desarrollador describe la política de seguridad en lenguaje común justo durante la inferencia.
Por ejemplo:
> “¿Es seguro mostrarle esta imagen a un menor?”
El modelo analiza texto, imagen o par solicitud-respuesta y luego devuelve la probabilidad
si
o
no
.
Qué puede hacer Shieldstral:
- comprobar las solicitudes de los usuarios y modelar las respuestas;
- texto e imágenes moderados;
- evaluar si el fracaso del modelo estaba justificado;
- adaptarse a las nuevas reglas sin necesidad de volver a capacitarse;
- proporcionar una evaluación de riesgos, no sólo una etiqueta dura.
Todo en el modelo.
3 mil millones de parámetros
, por lo que podrá ejecutarse en una única GPU NVIDIA con 16 GB de memoria.
Según las pruebas internas de Mistral, Shieldstral compite con modelos de guardia abierta que son hasta siete veces más grandes. Estos resultados aún requieren verificación independiente.
El modelo se publica con pesos abiertos bajo la licencia Apache 2.0.
Más detalles: