Tecnología | IA

Amazon presenta chips personalizados para IA con mejor rendimiento y eficiencia

Amazon presenta nuevos chips personalizados para inteligencia artificial en su conferencia anual re:Invent

Mayor rendimiento y eficiencia energética

Amazon ha presentado en su conferencia anual re:Invent la última generación de sus chips diseñados para el entrenamiento y la inferencia de modelos de inteligencia artificial. Estos nuevos chips personalizados buscan reducir la dependencia de las GPUs, cuya demanda ha aumentado debido al crecimiento de la inteligencia artificial generativa. Según Amazon, el primer chip presentado, el AWS Trainium2, ofrece un rendimiento hasta 4 veces mejor y una eficiencia energética hasta 2 veces superior en comparación con su predecesor. Estará disponible en instancias EC Trn2 en la nube de AWS, pudiendo escalar hasta 100.000 chips en el producto EC2 UltraCluster de AWS.

Amazon afirma que un clúster de 100.000 chips Trainium puede entrenar un modelo de lenguaje de inteligencia artificial con 300 mil millones de parámetros en semanas en lugar de meses. Esto representa aproximadamente 1,75 veces el tamaño del GPT-3 de OpenAI, el predecesor del GPT-4. Con esta mejora en el rendimiento y la eficiencia energética, Amazon busca ayudar a los clientes a entrenar sus modelos de aprendizaje automático de manera más rápida, a un menor costo y con una mejor eficiencia energética.

Graviton4: el chip para inferencia

Además del Trainium2, Amazon también ha presentado el Graviton4, un chip basado en la arquitectura ARM diseñado específicamente para inferencia. Este chip marca la cuarta generación de la familia de chips Graviton de Amazon y ofrece un rendimiento de cálculo hasta un 30% mejor, un 50% más de núcleos y un ancho de banda de memoria un 75% mayor que su predecesor, el Graviton3. A diferencia de otros chips de inferencia de Amazon, el Graviton4 cuenta con interfaces de hardware "encriptadas", lo que proporciona una mayor seguridad para los cargamentos de trabajo y los datos de entrenamiento de IA de los clientes con requisitos de cifrado más altos.

Implicaciones para la industria de la inteligencia artificial

Estos nuevos chips personalizados de Amazon tienen importantes implicaciones para la industria de la inteligencia artificial. La escasez de GPUs, que se espera que se extienda hasta 2024 o incluso 2025, ha llevado a las empresas a buscar alternativas para el entrenamiento y la inferencia de modelos de IA. Con el Trainium2 y el Graviton4, Amazon busca ofrecer a sus clientes una solución más eficiente y rentable para sus necesidades de IA.

El Trainium2, con su rendimiento mejorado y su capacidad para escalar hasta 100.000 chips, permitirá a los clientes de AWS acelerar el entrenamiento de modelos de lenguaje de gran tamaño y reducir significativamente los tiempos de espera. Por otro lado, el Graviton4 proporcionará un mayor rendimiento de cálculo y más núcleos para la inferencia de modelos de IA, lo que permitirá una ejecución más rápida y eficiente de las aplicaciones basadas en IA.

Con estos avances en chips personalizados para IA, Amazon se posiciona como un competidor importante en el mercado de la inteligencia artificial. Su enfoque en el desarrollo de chips diseñados específicamente para las necesidades de los clientes demuestra su compromiso de ofrecer soluciones innovadoras y eficientes en este campo en constante evolución. Los clientes de AWS podrán aprovechar estos nuevos chips para acelerar sus proyectos de IA y obtener resultados más rápidos y precisos.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Discriminación

Gemini de Google causa controversia al colocar personas de color

Gemini, el chatbot de Google, ha generado controversia por su falta de sensibilidad cultural al colocar a personas de color en uniformes nazis. Además, presenta...

Tecnología

Apple revoluciona GenAI con actualizaciones en Siri, Spotlight y más

Apple se compromete a innovar en GenAI este año con actualizaciones en Siri y Spotlight, así como nuevas funciones en Keynote, Apple Music y Xcode....

Innovación

Morph Studio revoluciona la creación de películas con IA

Morph Studio ha lanzado una herramienta de creación de películas con clips de video generados por IA. La plataforma permite a los usuarios editar y...

Innovación

SambaNova revoluciona inteligencia artificial con sistema modular y personalizado

SambaNova lanza Samba-1, un sistema de inteligencia artificial generativa modular y personalizado para empresas, que ofrece control sobre las solicitudes y respuestas, reduciendo costes de...

Inversión

Photoroom obtiene $43 millones para potenciar su app de edición

Photoroom cierra una ronda de financiación de $43 millones para potenciar su aplicación de edición de fotos basada en IA, con un enfoque en el...

Alianza

Humane y SK Telecom lanzan CosmOS en Corea del Sur

Humane anuncia su lanzamiento en Corea del Sur en asociación con SK Telecom, con planes de licenciar su sistema operativo CosmOS para el Ai Pin....

Inteligencia

Mistral AI lanza Mistral Large para competir con GPT-4

Mistral AI presenta Mistral Large para competir con GPT-4, con acceso a través de su plataforma API. La asociación con Microsoft y la inversión en...

Competencia

Alibaba desafía a OpenAI en desarrollo de inteligencia artificial

Empresas tecnológicas chinas como Alibaba están trabajando intensamente para igualar a OpenAI en el desarrollo de modelos de lenguaje, con investigadores como Binyuan Hui dedicando...