Unify recibe $8 millones para desarrollar enrutador AI para LLM

Unify: la startup británica que ayuda a los desarrolladores a encontrar el mejor modelo de LLM

Cuando los desarrolladores tienen una tarea particular que la inteligencia artificial puede resolver, no suele ser tan simple como simplemente apuntar un LLM a los datos. Hay otras consideraciones como el costo, la velocidad y la precisión, y encontrar formas de equilibrar todo eso ha sido particularmente desafiante, especialmente con tantos modelos nuevos disponibles todo el tiempo.

Eso es donde entra Unify, una startup británica de un exalumno del Imperial College, que ha ideado una herramienta de enrutamiento que permite a los desarrolladores ingresar parámetros y encontrar el mejor LLM para sus requisitos únicos, sea cual sea. El miércoles, la empresa anunció una inversión de $8 millones.

"El objetivo principal con Unify es averiguar qué modelos de qué proveedores son los mejores para tu tarea utilizando benchmarks objetivos y paneles que te permiten compararlos", dijo Daniel Lenton, fundador y CEO de la empresa.

"El enrutador es efectivamente una extensión natural de este proceso, especialmente a medida que las empresas comienzan a implementar a gran escala, y la velocidad y el costo se vuelven más importantes. Así que lo que realmente estamos tratando de hacer es dar a las personas mucho más control sobre el perfil de calidad, costo y velocidad de sus aplicaciones de LLM", añadió Lenton.

Utilizando la inteligencia artificial para ejecutar la aplicación central del enrutador

No sorprendentemente, Unify utiliza la inteligencia artificial para ejecutar la aplicación central del enrutador. "Nuestro enrutador en sí es una red neuronal aprendida. Aprende qué modelos son los mejores para hacer qué tareas", explicó. La empresa hace esto ejecutando exhaustivos benchmarks en cada nuevo modelo en todas estas tareas utilizando GPT Pro como juez. A partir de esto, el sistema aprende qué tan bueno era este modelo para realizar ciertas tareas en sus conjuntos de entrenamiento.

"Así que muy rápidamente cualquier nuevo proveedor de modelos es compatible con el enrutador básicamente un día o dos después", dijo Lenton.

Diferenciándose de la competencia y planes de crecimiento

Lenton dice que el enrutador, y cómo han construido un modelo único para entrenarlo, es en sí mismo una forma de defender lo que su startup está haciendo de la invasión de los grandes jugadores, además de que son neutrales, y es posible que los hiperescaladores no lo sean.

"Por lo general, los clientes están experimentando con diferentes modelos y no tienen una herramienta para rastrear cuál es el mejor", señaló.

"Hay personas que tienen problemas urgentes y están dispuestas a probar una solución existente. Así es como hemos logrado entrar en el mercado", explicó.

Aunque hay competidores como Martian Router, OpenRouter y Portkey, Lenton afirma que su empresa es la única que optimiza conjuntamente la calidad, el costo y la velocidad. La empresa es pequeña en este momento, con siete empleados, y Lenton la mantiene intencionalmente delgada mientras trabaja en obtener un producto totalmente monetizado en el mercado. El plan es añadir tres empleados adicionales este año.

Ha informado de alrededor de 3000 registros hasta ahora con unos cientos de usuarios regulares. Esperan obtener ingresos al cobrar a las empresas por construir sus propios benchmarks personalizados. Cada empresa puede empezar con la herramienta con un crédito de $50.

La inversión de $8 millones provino de una serie de inversores, incluidos SignalFire, M12, J12, Essence VC, A. Capital, Lunar VC, Y Combinator y un grupo de prominentes ángeles de la industria.