OpenAI lanzó recientemente una vista previa del modo ultrarrápido GPT-5.6 Sol UltraFast para empresas. En este modo, la velocidad de ejecución del modelo aumentará hasta 14 veces y se podrá generar un máximo de 750 tokens por segundo. Sin embargo, el modo ultrarrápido requiere la aprobación de OpenAI según los escenarios empresariales. Las empresas pueden enviar solicitudes, pero su aprobación depende de la revisión de OpenAI.
Ideal para cargas de trabajo que requieren respuesta en tiempo real:
OpenAI dice que Cerebras admite el modo ultrarrápido y actualmente solo se aplica al modelo GPT-5.6 Sol. Después de activar el modo ultrarrápido, el modelo puede generar hasta 750 tokens por segundo, lo que equivale a 14 veces el modo estándar.
Por supuesto, no todas las cargas de trabajo requieren un modo ultrarrápido. OpenAI dice que este modo está diseñado específicamente para cargas de trabajo que requieren entornos en tiempo real o cercanos a la producción, como voz en tiempo real, atención al cliente, negocios, agentes en desarrollo, investigación financiera e investigación de seguridad.
Cerebras proporciona recursos limitados durante la fase de vista previa, por lo que después de que una empresa envíe una solicitud, OpenAI decidirá si aprueba el uso del modo ultrarrápido en función de los escenarios de uso proporcionados por los clientes. OpenAI también aumentará gradualmente la cobertura según la carga de trabajo. En el futuro, el modo ultrarrápido puede admitir más empresas a través de llamadas API.
Los clientes corporativos interesados pueden hacer clic aquí para enviar una solicitud:
https://openai.com/form/ultrafast/
vía
cnBeta.COM - Sitio de información de la industria china
(autor: fuente: bluedot.com)