Amazon ha presentado un nuevo chip de IA con el que espera robarle un segmento del mercado a NVIDIA. La empresa aprovechó el inicio de su evento AWS re:Invent para anunciar una versión mejorada de su chip de entrenamiento e inferencia. Trainium3 es un procesador de 3 nanómetros cuatro veces más potente que su predecesor.
De acuerdo con un comunicado de prensa, los nuevos chips se montarán en un sistema llamado UltraServer Trn3, un servidor que cuadruplica en rendimiento, eficiencia y ancho de banda de memoria a los equipos con Trainium2. La compañía señala que estos chips están diseñados para ofrecer la mejor economía de tokens en aplicaciones de razonamiento, generación de video y agentes de IA.
Trainium3 tiene un rendimiento de 2,52 petaflops de cálculo FP8 por chip, cuenta con 144 GB de memoria HBM3e y un ancho de banda de hasta 4,9 TB/s. Amazon señala que su procesador de IA está diseñado para cargas de trabajo densas, como Mixture of Experts y contexto largo. El chip garantiza un mejor equilibro de memoria y cómputo para tareas multimodales y de razonamiento.
En términos de escalabilidad, los UltraServer Trn3 admiten múltiples chips Trainium3 interconectados para entrenar y ejecutar modelos de frontera. Amazon menciona que su chip no solo es rápido, sino también más eficiente que otros aceleradores del mercado. En pruebas de inferencia a gran escala, Trainium3 genera cinco veces más tokens por megavatio que Trainium2.
Entre la lista de empresas que han tenido acceso al nuevo chip se encuentra Anthropic, creadores de Claude Sonnet. Según Amazon, el uso de Trainium3 ha reducido significativamente los costes de inferencia. Los UltraServer Trn3 tienen compatibilidad nativa con PyTorch mediante AWS Neuron, por lo que la implementación no requiere modificar código existente
Si bien Amazon no suele acaparar los reflectores cuando se trata de chips de IA, la compañía lleva varios años desarrollando su propia tecnología. La empresa ofrece sus UltraServer a través de AWS a otras empresas de IA y uno de los casos más sonados ocurrió a finales de 2024, cuando se reportó que Apple ya evaluaba el Trainium2 para entrenar sus modelos internos.
Aprovechando que los de Cupertino ya usaban la infraestructura de AWS para impulsar servicios como Siri o Apple Maps, Amazon les ofreció el Trainium2. Este chip utiliza una arquitectura basada en MPUs y admite modelos con billones de parámetros sin sacrificar la eficiencia. En ese tiempo, Apple evaluaba alternativas para entrenar sus modelos fundacionales, aunque los rumores más recientes apuntan a que se está por cerrar un acuerdo con Google.
Tras el lanzamiento de Trainium3, Amazon ya puso la vista en su sucesor. La tecnológica reveló que Trainium4 está en desarrollo y podrá interoperar con las GPUs de NVIDIA. De momento no existe fecha de salida, aunque si nos apegamos a la cadencia de lanzamientos, el Trainium4 debutaría a finales de 2026.
DERECHOS DE AUTOR
Esta información pertenece a su autor original y fue recopilada del sitio https://hipertextual.com/inteligencia-artificial/amazon-trainium3-chip-ia-nvidia/
