Nvidia lanza una nueva plataforma de software para simplificar el despliegue de modelos de IA
En su conferencia GTC, Nvidia anunció hoy Nvidia NIM, una nueva plataforma de software diseñada para agilizar el despliegue de modelos de IA personalizados y pre-entrenados en entornos de producción. NIM aprovecha el trabajo de software que Nvidia ha realizado en torno a la inferencia y la optimización de modelos, haciéndolo fácilmente accesible al combinar un modelo dado con un motor de inferencia optimizado y empaquetarlo en un contenedor, convirtiéndolo en un microservicio accesible. "Normalmente, llevaría a los desarrolladores semanas, si no meses, enviar contenedores similares", argumenta Nvidia, "y eso si la empresa incluso tiene talento interno de IA. Con NIM, Nvidia claramente tiene como objetivo crear un ecosistema de contenedores listos para la IA que utilicen su hardware como capa fundamental con estos microservicios curados como la capa de software principal para las empresas que desean acelerar su hoja de ruta de IA".
Amplia gama de modelos y colaboraciones con grandes empresas tecnológicas
NIM actualmente incluye soporte para modelos de NVIDIA, A121, Adept, Cohere, Getty Images y Shutterstock, así como modelos abiertos de Google, Hugging Face, Meta, Microsoft, Mistral AI y Stability AI. Nvidia ya está trabajando con Amazon, Google y Microsoft para que estos microservicios de NIM estén disponibles en SageMaker, Kubernetes Engine y Azure AI, respectivamente. También se integrarán en frameworks como Deepset, LangChain y LlamaIndex. La empresa tiene como objetivo seguir añadiendo capacidades adicionales con el tiempo, como por ejemplo, hacer que el operador Nvidia RAG LLM esté disponible como un NIM, lo que promete facilitar la construcción de chatbots de IA generativos que pueden integrarse con datos personalizados.
Colaboraciones con clientes y socios estratégicos
Esta conferencia no estaría completa sin algunos anuncios de clientes y socios. Entre los usuarios actuales de NIM se encuentran empresas como Box, Cloudera, Cohesity, Datastax, Dropbox y NetApp. "Las plataformas empresariales establecidas están sentadas sobre una mina de oro de datos que pueden transformarse en copilotos de IA generativos", dijo Jensen Huang, fundador y CEO de NVIDIA. "Creados con nuestro ecosistema de socios, estos microservicios de IA en contenedores son los bloques de construcción para que las empresas de todos los sectores se conviertan en empresas de IA".
Impulso de Nvidia en el ámbito empresarial
En cuanto al motor de inferencia, Nvidia utilizará el Triton Inference Server, TensorRT y TensorRT-LLM. Algunos de los microservicios de Nvidia disponibles a través de NIM incluirán Riva para personalizar modelos de habla y traducción, cuOpt para optimizaciones de enrutamiento y el modelo Earth-2 para simulaciones meteorológicas y climáticas. "Creemos que la GPU de Nvidia es el mejor lugar para ejecutar la inferencia de estos modelos", dijo Manuvir Das, jefe de informática empresarial de Nvidia, "y creemos que NVIDIA NIM es el mejor paquete de software, el mejor tiempo de ejecución, para que los desarrolladores construyan encima y se centren en las aplicaciones empresariales, y dejen que Nvidia haga el trabajo de producir estos modelos para ellos de la manera más eficiente y de calidad empresarial, para que puedan hacer el resto de su trabajo".
Otras noticias • IA
Urgente necesidad de interpretabilidad en inteligencia artificial, advierte Amodei
Dario Amodei, de Anthropic, destaca la urgencia de la interpretabilidad en la inteligencia artificial. A pesar de los avances, la comprensión de los procesos internos...
Perplexity lanza Comet para competir éticamente con Google
Perplexity, una empresa emergente en inteligencia artificial, lanzará su navegador Comet para recopilar datos de usuarios y ofrecer publicidad personalizada. Su CEO, Aravind Srinivas, busca...
Polarización en EE. UU. sobre regulación de inteligencia artificial
El debate sobre la regulación de la inteligencia artificial en EE. UU. refleja opiniones polarizadas sobre derechos de autor, sesgos y censura. La administración Trump...
OpenAI lanza modelo de IA abierto y gratuito para todos
OpenAI lanzará un modelo de IA verdaderamente abierto, accesible para descarga gratuita, que promete democratizar el acceso a herramientas avanzadas. Con la función "handoff" para...
Desafíos de sostenibilidad ante el auge de centros de datos
El crecimiento exponencial de los centros de datos para inteligencia artificial plantea desafíos significativos en términos de costes, consumo energético y sostenibilidad. Se requieren soluciones...
Debate ético sobre la conciencia y bienestar de la IA
El avance de la inteligencia artificial plantea debates sobre la conciencia y el bienestar de las máquinas. La iniciativa de Anthropic investiga si merecen consideración...
Dropbox mejora búsqueda Dash con inteligencia artificial y colaboración
Dropbox ha mejorado su herramienta de búsqueda Dash, integrando inteligencia artificial para facilitar la búsqueda de texto, audio, vídeo e imágenes. La actualización incluye consultas...
Adobe Firefly lanza modelos AI mejorados para contenido visual
Adobe Firefly ha lanzado su nueva versión de modelos de inteligencia artificial, mejorando la generación de imágenes y vídeos con mayor calidad y control. Incluye...
Lo más reciente
- 1
Competencia entre Claude y Codex redefine programación asistida por IA
- 2
Slate Auto abrirá planta en Indiana y creará 2.000 empleos
- 3
Conflicto entre Deel y Rippling escala por acusaciones de espionaje
- 4
Startups se adaptan a incertidumbre priorizando rentabilidad y fusiones
- 5
Obstáculos migratorios amenazan talento extranjero en investigación en EE. UU
- 6
Google transforma búsqueda en línea con resúmenes de IA
- 7
Bluesky sufre caída y reaviva debate sobre fiabilidad descentralizada