Nvidia sorprende en su presentación en GTC
Durante la conferencia Google Cloud Next en Las Vegas, se han presentado una serie de nuevos tipos de instancias y aceleradores en la plataforma Google Cloud. A pesar de la reciente presentación de Nvidia de su plataforma Blackwell, no se espera que Google ofrezca estas máquinas pronto. Sin embargo, se espera que el soporte para Nvidia HGX B200 para cargas de trabajo de IA y HPC y GB200 NBL72 para el entrenamiento de modelos de lenguaje grande llegue a principios de 2025. Una novedad interesante es que los servidores GB200 estarán refrigerados por líquido.
Una nueva instancia para entrenar modelos de lenguaje grande
Para los desarrolladores que necesitan más potencia para entrenar modelos de lenguaje grande hoy en día, Google también ha anunciado la instancia A3 Mega. Esta instancia, desarrollada en colaboración con Nvidia, cuenta con las GPU H100 estándar de la industria, pero las combina con un nuevo sistema de red que puede ofrecer hasta el doble de ancho de banda por GPU. Además, se ha presentado la instancia A3 confidential, que permite a los clientes "proteger mejor la confidencialidad y la integridad de los datos sensibles y las cargas de trabajo de IA durante el entrenamiento y la inferencia".
Google lanza sus procesadores Cloud TPU v5p
En cuanto a los chips propios de Google, la compañía ha lanzado sus procesadores Cloud TPU v5p, los aceleradores de IA más potentes desarrollados internamente hasta la fecha, disponibles en general. Estos chips ofrecen una mejora del 2x en operaciones de punto flotante por segundo y una mejora del 3x en la velocidad de ancho de banda de memoria.
Nuevas opciones de almacenamiento optimizadas para IA
Además de los nuevos chips, Google también ha anunciado nuevas opciones de almacenamiento optimizadas para IA. Hyperdisk ML, actualmente en vista previa, es el servicio de almacenamiento de bloques de próxima generación de la compañía que puede mejorar los tiempos de carga de modelos hasta en un 3.7x, según Google.
Nuevas instancias tradicionales y optimizadas por Intel
Google Cloud también está lanzando una serie de instancias más tradicionales, impulsadas por los procesadores Intel de cuarta y quinta generación Xeon. Por ejemplo, las nuevas instancias C4 y N4 de propósito general contarán con los Xeons de quinta generación Emerald Rapids, con el C4 centrado en el rendimiento y el N4 en el precio. Las nuevas instancias C4 están actualmente en vista previa privada, y las máquinas N4 están disponibles hoy en día. También en vista previa están las nuevas máquinas bare-metal C3, impulsadas por los Xeons de cuarta generación más antiguos, las instancias bare-metal optimizadas para memoria X4 (también en vista previa) y la Z3, la primera máquina virtual optimizada para almacenamiento de Google Cloud que promete ofrecer "el mayor IOPS para instancias optimizadas para almacenamiento entre los principales proveedores de nube".
Otras noticias • IA
LangChain alcanza mil millones con innovación en inteligencia artificial
LangChain, fundada en 2022, ha crecido rápidamente en el sector de la inteligencia artificial, alcanzando una valoración de mil millones de dólares. Su enfoque en...
La IA transforma las compras online en eventos como Prime Day
La inteligencia artificial está revolucionando las compras online, especialmente durante eventos como el Prime Day de Amazon. Con un aumento del 28,4% en ventas y...
Replit y Microsoft se unen para democratizar el desarrollo de software
Replit y Microsoft han formado una alianza estratégica que democratiza el desarrollo de software, permitiendo a usuarios sin experiencia crear aplicaciones. La integración con Azure...
Moonvalley democratiza el cine con su IA Marey innovadora
Moonvalley, con su modelo de IA Marey, revoluciona la producción cinematográfica al democratizar el acceso a herramientas de calidad profesional. Su enfoque híbrido y flexible...
Anysphere genera descontento por cambios en su plan Pro
Anysphere, creadora de Cursor, enfrenta descontento por cambios en su plan Pro, que ahora factura 20 dólares mensuales con tarifas de API, generando confusión y...
Cluely alcanza 7 millones de dólares en ARR con IA
Cluely, una startup de análisis de conversaciones basada en inteligencia artificial, ha alcanzado un ARR de 7 millones de dólares. Su herramienta ofrece notas en...
Kulveer Taggar lanza fondo de capital riesgo para startups de YC
Kulveer Taggar, antiguo alumno de Y Combinator, ha fundado Phosphor Capital, un fondo de capital riesgo que invierte exclusivamente en startups de YC. Con 34...
Ilya Sutskever nuevo CEO de Safe Superintelligence tras salida de Gross
Ilya Sutskever asume como CEO de Safe Superintelligence tras la salida de Daniel Gross. La startup, centrada en desarrollar superinteligencia segura, enfrenta desafíos en un...
Lo más reciente
- 1
Yplasma revoluciona la refrigeración electrónica con tecnología sostenible
- 2
Grok de xAI enfrenta críticas por desinformación y discurso de odio
- 3
Samsung lanza Galaxy Watch8 con diseño renovado y funciones avanzadas
- 4
Samsung lanza Z Flip7 FE y Z Fold7 con innovaciones
- 5
Google lanza Gemini, IA que transforma la experiencia en Wear OS
- 6
ZeroEntropy recauda 4,2 millones para revolucionar la IA
- 7
Protege tu número de teléfono del ataque de SIM swapping