Recientemente, los medios estadounidenses expusieron un importante incidente de costos de IA fuera de control dentro de Amazon. Un ingeniero utilizó el modelo Claude Sonnet de Anthropic para escribir un programa con el objetivo de completar la comparación de datos entre la información del autor y los listados de productos en la plataforma de comercio electrónico: una tarea rutinaria de procesamiento de datos. Sin embargo, terminó generando una factura de 1,8 millones de dólares (aproximadamente 12,15 millones de RMB) y el gasto real superó el presupuesto original en un 860%.

Lo que es aún más sorprendente es que al final el proyecto no se implementó con éxito y el alto consumo de energía informática continuó funcionando durante hasta 5 meses. La empresa no se dio cuenta de la anomalía hasta la conciliación financiera. Esto significa que un programa de IA desatendido ha estado "quemando dinero" día y noche durante casi medio año.

Defectos de código superpuestos a la falta de seguimiento, pequeñas lagunas devoran enormes presupuestos

Una revisión mostró que la causa raíz del accidente no era complicada. Los programas generados por IA carecen de límite en la frecuencia de las llamadas. El modelo continúa realizando solicitudes en un bucle, y el poder de la computación en la nube y los grandes costos de llamadas de modelos continúan acumulándose. Al mismo tiempo, el equipo carecía de un mecanismo de advertencia de costos en tiempo real y los defectos menores del código no se descubrieron durante mucho tiempo, lo que siguió consumiendo el presupuesto.

En una reunión interna de Amazon, los ejecutivos definieron el accidente como un "caso típico y costoso" e informaron que muchos peligros ocultos similares habían ocurrido internamente, y un proyecto incurrió inesperadamente en gastos adicionales de 540.000 dólares. Después de una serie de obstáculos, Amazon comenzó a construir urgentemente un sistema de control de riesgos y planeó lanzar un mecanismo de protección automatizado. Una vez que los gastos relacionados con la IA alcancen un umbral, el sistema limitará automáticamente el flujo e interrumpirá las tareas para evitar aumentos ilimitados de los costos. Al mismo tiempo, la empresa ha reforzado sus regulaciones y exige que todos los códigos generados por IA se sometan a una revisión manual completa para evitar que se pongan en línea directamente sin verificación.

Los errores en el código tradicional cuestan tiempo y los programas de IA fuera de control cuestan dinero real.

Este incidente expuso un riesgo que la mayoría de las empresas ignoran: los errores de codificación tradicionales consumen principalmente tiempo humano, mientras que los programas de inteligencia artificial fuera de control seguirán generando tarifas simbólicas. La falta de seguimiento presupuestario puede fácilmente provocar enormes pérdidas. Actualmente, muchas empresas simplemente esperan que la IA reduzca los costos y aumente la eficiencia, pero ignoran las nuevas exposiciones a riesgos que trae consigo el modelo de facturación de la potencia informática.

Desde "la IA que ayuda a escribir código" hasta "la IA quema dinero en secreto", la lección de Amazon no es un caso aislado, sino una nueva etapa en la que está entrando toda la industria: cuando la IA pasa de una herramienta auxiliar a un ejecutor autónomo, la granularidad del control de costos también debe descender del "nivel de proyecto" a "cada llamada". Antes de disfrutar de los beneficios de la mejora de la eficiencia de la IA, instalar "frenos" a la IA puede ser la lección más importante para las empresas en este momento.

vía

información de noticias de IA

(autor: Base de IA)