El error de Claude de Amazon de $1.8 millones muestra los costos descontrolados de la IA.

      Amazon ha descubierto que la inteligencia artificial puede convertir un error trivial en uno de siete cifras. Las métricas internas de la empresa muestran que los proyectos se están saliendo de presupuesto, incluyendo uno que consumió $1.8 millones antes de que alguien lo notara. Ingenieros senior llamaron a los resultados “catastróficamente caros”.

      Los casos se expusieron en una reunión interna y fueron reportados por primera vez por el Financial Times. El peor de ellos utilizó Claude de Anthropic para comparar registros de autores con listados de productos en la tienda de Amazon. Se excedió en un 860 por ciento del presupuesto, tardó cinco meses en ser detectado y la implementación falló de todos modos.

      Dos errores más pequeños se presentaron junto a él, señaló Tom’s Hardware. Una herramienta de auditoría financiera se excedió en aproximadamente $541,000. Un sistema destinado a acelerar las entregas sumó $134,000. Cada uno era el tipo de error que solía costar casi nada.

      Cómo un error barato se convierte en una gran factura

      La razón está en la lista de precios. Cuando una persona escribe código con errores, genera un error y se bloquea. Cuando un modelo realiza el trabajo, una mala configuración simplemente sigue funcionando y te factura en silencio. Un bucle de reintento que reenvía el mismo aviso, o un trabajo dirigido a todo el catálogo en lugar de a una muestra, no produce un bloqueo. Produce una factura.

      Esa factura llega en un ciclo mensual, no en un registro de construcción. La brecha es cómo un trabajo mal configurado funciona durante cinco meses antes de que alguien lo conecte a un número. El cambio a precios por token lo empeora. Los agentes de IA, que envían muchos más tokens que un chatbot, avivan la situación.

      Nada de esto es exclusivo de Amazon. Es la misma trampa que produjo una factura de $1.3 millones de OpenAI para un desarrollador, y la razón por la cual las facturas de IA empresarial siguen aumentando incluso cuando el precio por token disminuye.

      La empresa que vende la solución

      Aquí está la parte incómoda. Amazon gastó de más en IA mientras su propia nube vende las herramientas exactas para detenerlo. Bedrock de AWS ofrece inferencia por lotes a mitad de precio, un nivel “Flex” con descuento, almacenamiento en caché de avisos a una décima parte de la tasa de entrada, y enrutamiento de avisos que dirige trabajos simples a modelos más baratos.

      Los modelos más baratos también eran una opción. Haiku de Anthropic cuesta un tercio del modelo Sonnet que Amazon eligió. El gasto excesivo provino de seleccionar el modelo de frontera por defecto y dejar fuera las barandillas, exactamente el error que Amazon y Anthropic dicen a otras empresas que eviten.

      La respuesta de Amazon

      Amazon minimizó el asunto. “Como con cualquier nueva tecnología, estamos experimentando, aprendiendo y mejorando cómo la usamos”, dijo, añadiendo que unos pocos ejemplos aislados no reflejan cómo trabajan sus equipos. Los casos involucraron a un pequeño número de grupos dentro de una fuerza laboral corporativa de aproximadamente 300,000.

      Las matemáticas respaldan el encogimiento de hombros. Los ingresos trimestrales de Amazon superan los $180 mil millones, por lo que los presupuestos desbordados no suman más del 0.1 por ciento de las ventas de un solo mes. El experto en costos de AWS, Corey Quinn, fue poco comprensivo, publicando que “recibir una factura con dos comas que no esperabas debe ser muy difícil para ti”.

      Detrás de escena, la respuesta es más firme. Amazon ya ha eliminado una tabla de clasificación interna que clasificaba al personal según el uso de IA, después de que los empleados la manipularan inflando su consumo de tokens. Sus ingenieros ahora están construyendo barandillas automatizadas para limitar lo que un proyecto puede gastar antes de que llegue la factura.

      Esa es la verdadera lección, y es una de gobernanza, no financiera. Para Amazon, $1.8 millones es un error de redondeo. Para las miles de empresas que ahora dependen de la IA para reducir costos, un trabajo descontrolado que se oculta durante cinco meses es la diferencia entre un presupuesto y una crisis.