Amazon presenta chips personalizados para IA con mejor rendimiento y eficiencia

Amazon presenta nuevos chips personalizados para inteligencia artificial en su conferencia anual re:Invent

Mayor rendimiento y eficiencia energética

Amazon ha presentado en su conferencia anual re:Invent la última generación de sus chips diseñados para el entrenamiento y la inferencia de modelos de inteligencia artificial. Estos nuevos chips personalizados buscan reducir la dependencia de las GPUs, cuya demanda ha aumentado debido al crecimiento de la inteligencia artificial generativa. Según Amazon, el primer chip presentado, el AWS Trainium2, ofrece un rendimiento hasta 4 veces mejor y una eficiencia energética hasta 2 veces superior en comparación con su predecesor. Estará disponible en instancias EC Trn2 en la nube de AWS, pudiendo escalar hasta 100.000 chips en el producto EC2 UltraCluster de AWS.

Amazon afirma que un clúster de 100.000 chips Trainium puede entrenar un modelo de lenguaje de inteligencia artificial con 300 mil millones de parámetros en semanas en lugar de meses. Esto representa aproximadamente 1,75 veces el tamaño del GPT-3 de OpenAI, el predecesor del GPT-4. Con esta mejora en el rendimiento y la eficiencia energética, Amazon busca ayudar a los clientes a entrenar sus modelos de aprendizaje automático de manera más rápida, a un menor costo y con una mejor eficiencia energética.

Graviton4: el chip para inferencia

Además del Trainium2, Amazon también ha presentado el Graviton4, un chip basado en la arquitectura ARM diseñado específicamente para inferencia. Este chip marca la cuarta generación de la familia de chips Graviton de Amazon y ofrece un rendimiento de cálculo hasta un 30% mejor, un 50% más de núcleos y un ancho de banda de memoria un 75% mayor que su predecesor, el Graviton3. A diferencia de otros chips de inferencia de Amazon, el Graviton4 cuenta con interfaces de hardware "encriptadas", lo que proporciona una mayor seguridad para los cargamentos de trabajo y los datos de entrenamiento de IA de los clientes con requisitos de cifrado más altos.

Implicaciones para la industria de la inteligencia artificial

Estos nuevos chips personalizados de Amazon tienen importantes implicaciones para la industria de la inteligencia artificial. La escasez de GPUs, que se espera que se extienda hasta 2024 o incluso 2025, ha llevado a las empresas a buscar alternativas para el entrenamiento y la inferencia de modelos de IA. Con el Trainium2 y el Graviton4, Amazon busca ofrecer a sus clientes una solución más eficiente y rentable para sus necesidades de IA.

El Trainium2, con su rendimiento mejorado y su capacidad para escalar hasta 100.000 chips, permitirá a los clientes de AWS acelerar el entrenamiento de modelos de lenguaje de gran tamaño y reducir significativamente los tiempos de espera. Por otro lado, el Graviton4 proporcionará un mayor rendimiento de cálculo y más núcleos para la inferencia de modelos de IA, lo que permitirá una ejecución más rápida y eficiente de las aplicaciones basadas en IA.

Con estos avances en chips personalizados para IA, Amazon se posiciona como un competidor importante en el mercado de la inteligencia artificial. Su enfoque en el desarrollo de chips diseñados específicamente para las necesidades de los clientes demuestra su compromiso de ofrecer soluciones innovadoras y eficientes en este campo en constante evolución. Los clientes de AWS podrán aprovechar estos nuevos chips para acelerar sus proyectos de IA y obtener resultados más rápidos y precisos.