Inference.ai democratiza el acceso a GPU en la nube

Inference.ai lanza una plataforma para democratizar el acceso a GPU en la nube

La creciente demanda de unidades de procesamiento gráfico (GPU) para alimentar aplicaciones de inteligencia artificial (IA) está provocando una escasez en el suministro de estas tarjetas. Ante esta situación, la startup Inference.ai ha lanzado una plataforma que busca democratizar el acceso a GPU en la nube, ofreciendo una alternativa más económica y accesible para empresas de todos los tamaños.

Una solución a la escasez de GPU

La capacidad de las GPU para realizar múltiples cálculos en paralelo las convierte en la opción ideal para ejecutar las aplicaciones de IA más avanzadas. Sin embargo, la creciente demanda de GPU ha llevado a una escasez en el suministro, lo que ha llevado a grandes empresas como Meta, Google, Amazon y Microsoft a desarrollar sus propias chips personalizadas.

Para las empresas con menos recursos, la situación es más complicada, ya que están a merced del mercado y los precios pueden variar hasta un 1000% para la misma configuración. Es aquí donde Inference.ai busca marcar la diferencia.

La propuesta de Inference.ai

Inference.ai es una plataforma de infraestructura como servicio (IaaS) que ofrece GPU en la nube a través de alianzas con centros de datos de terceros. Utilizando algoritmos, Inference empareja las cargas de trabajo de las empresas con los recursos de GPU disponibles, eliminando la incertidumbre en la elección y adquisición de infraestructura.

"Inference aporta claridad al confuso panorama de hardware para fundadores y desarrolladores con los nuevos chips de Nvidia, Intel, AMD, Groq, entre otros, permitiendo un mayor rendimiento, menor latencia y menor costo", afirma John Yue, cofundador de Inference.ai.

La plataforma de Inference.ai ofrece a los clientes una instancia de GPU en la nube, junto con 5TB de almacenamiento de objetos. Según la empresa, gracias a su tecnología de emparejamiento algorítmico y sus acuerdos con operadores de centros de datos, pueden ofrecer una potencia de cálculo de GPU mucho más económica y con una mejor disponibilidad que los principales proveedores de servicios en la nube.

"El mercado de GPU alojadas en la nube es confuso y cambia diariamente", señala Yue. "Nuestro objetivo es ayudar a los tomadores de decisiones a filtrar el ruido y encontrar rápidamente la opción adecuada para su proyecto".

Competencia y financiamiento

Aunque Inference.ai se presenta como una alternativa atractiva, no es la única en el mercado. Empresas como CoreWeave y Lambda Labs también ofrecen servicios de GPU en la nube, y han logrado recaudar importantes sumas de dinero en financiamiento.

CoreWeave, una operación de minería de criptomonedas convertida en proveedor de GPU, se espera que genere alrededor de 1.5 mil millones de dólares en ingresos para 2024. Por su parte, Lambda Labs aseguró 300 millones de dólares en capital de riesgo el año pasado.

Sin embargo, los inversores de Inference.ai confían en que hay espacio para otro jugador en el mercado. La startup acaba de cerrar una ronda de financiamiento de 4 millones de dólares liderada por Cherubic Ventures, Maple VC y Fusion Fund, que se destinará a fortalecer la infraestructura de implementación de Inference.

"Estamos seguros de que el equipo de Inference, con su conocimiento previo en hardware e infraestructura en la nube, tiene lo necesario para tener éxito", afirma Matt Cheng, de Cherubic Ventures. "Decidimos invertir porque los servicios de cómputo y almacenamiento acelerados están impulsando la revolución de la IA, y el producto de Inference impulsará la próxima ola de crecimiento de la IA".

Con su enfoque en democratizar el acceso a GPU en la nube, Inference.ai espera abrir nuevas oportunidades para empresas de todos los tamaños, permitiéndoles aprovechar al máximo el poder de la inteligencia artificial sin tener que enfrentarse a los problemas de escasez y costos elevados de las GPU.