Los precios de GPU de AWS aumentan un 20% a medida que la escasez de memoria afecta.

      Alquilar un chip de IA comienza a sentirse como reservar un hotel en una ciudad agotada. Pagas para mantener la habitación, y la tarifa sigue subiendo. En AWS, acaba de subir de nuevo.

      Amazon Web Services ha aumentado los precios de los Bloques de Capacidad EC2 para ML en aproximadamente un 20%, a partir de julio. Business Insider fue el primero en informar sobre el cambio, y AWS lo confirmó. El servicio permite a las empresas reservar GPUs de Nvidia por adelantado, para que una larga sesión de entrenamiento continúe en lugar de detenerse a mitad de camino.

      Este es el segundo aumento en seis meses. AWS ya había elevado los mismos precios en aproximadamente un 15% en enero. Juntos, el costo de asegurar este cómputo ha aumentado drásticamente desde el nuevo año. AWS dijo que los precios cambian "periódicamente según la oferta y la demanda".

      El aumento es estrecho, no general. Afecta a una opción de compra: los bloques reservados preferidos por equipos serios de IA que entrenan o ajustan modelos grandes. Otras opciones mantienen precios fijos, dijo AWS, y la compañía afirma que los mantendrá así. El aumento no afectó a Trainium, el chip de IA interno de Amazon, según The Information.

      El alcance aún importa, debido a cuánto hay en juego. AWS es el proveedor de nube más grande del mundo, y una expansión de servicios de IA funciona en sus servidores. Cuando la categoría más cara de su cómputo aumenta, el costo se extiende a las startups y empresas que lo alquilan. AWS, por su parte, enmarcó el movimiento como prueba de cuán fuerte se ha vuelto la demanda de GPUs.

      Por qué la nube no podría seguir siendo barata

      El cambio que vale la pena observar es dónde ha llegado la presión. Durante dos años, el límite en IA fue el software y el conocimiento. Ahora es físico. El cuello de botella es la memoria de alto ancho de banda, los chips apilados junto a los procesadores de IA, y solo hay tanto para repartir. La restricción en IA ha pasado de código a silicio, como lo expresó Business Insider, y el silicio tarda años en construirse.

      La cadena es corta y despiadada. Menos memoria significa menos GPUs. Menos GPUs significa menos centros de datos. "Dado que hay un límite en la cantidad de memoria que se puede producir, entonces hay un límite en la cantidad de GPUs que se pueden producir, lo que significa que hay un límite en la cantidad de centros de datos que se pueden construir", escribió Peter Berezin, economista jefe de BCA Research, en X.

      Esa escasez le da a los gigantes de la nube una palanca. Cuando la capacidad de GPU es ajustada, los clientes tienen pocas alternativas, por lo que AWS, Microsoft, Google y Oracle pueden trasladar los costos más altos directamente. La escasez aumenta sus propias facturas, señaló Berezin, pero también mantiene la demanda por encima de la oferta, lo que les da poder de precios sobre quién puede computar.

      Un aumento de precios que ahora está en todas partes

      Amazon no está solo, y ese es el punto. Apple aumentó los precios de sus Macs y iPads esta semana, culpando a la memoria. Xbox hizo lo mismo. Elon Musk llamó al aumento en la memoria el mayor aumento de precio que ha visto en cualquier cosa. Ahora los mismos precios de memoria están apareciendo en las facturas de la nube.

      El otro lado de la presión es una bonanza. Las escaseces que elevan los precios de GPU de AWS han llevado a los fabricantes de memoria Micron y SK Hynix a valoraciones récord. Los inversores están apostando a que la crisis de memoria de alto ancho de banda mantenga el mercado ajustado y los precios altos durante años.

      Para los clientes de AWS, el mensaje es claro. El cómputo de IA más barato está detrás de ellos, y el botón de reserva ahora cuesta más presionar. La pregunta abierta es hasta dónde llegará esto. Si un aumento del 15% se convirtió en otro del 20% en seis meses, los equipos que construyen los modelos más ambiciosos quedan adivinando cuánto costará la próxima reserva.