Innovación | IA

Kong lanza Gateway de IA de código abierto para desarrolladores

Kong lanza su Gateway de IA de código abierto para facilitar la integración de modelos de lenguaje grandes

La compañía de API Kong está lanzando hoy su Gateway de IA de código abierto, una extensión de su gateway de API existente que permite a los desarrolladores y equipos de operaciones integrar sus aplicaciones con uno o más modelos de lenguaje grandes (LLMs) y acceder a ellos a través de una sola API. Además, Kong está lanzando varias características específicas de IA, como la ingeniería de indicaciones y la gestión de credenciales.

APIs como caso de uso para IA Marco Palladino, cofundador y CTO de Kong, señala que la IA es simplemente un caso de uso adicional para las APIs. Según Palladino, las APIs son impulsadas por casos de uso como móviles y microservicios, y ahora la IA se suma a la lista. Kong ve las APIs como una herramienta fundamental para consumir IA, ajustarla y desarrollarla. Por lo tanto, a medida que aumente la adopción de IA, también aumentará la demanda de APIs en el mundo.

Protección de datos en la IA Palladino reconoce que muchas organizaciones están interesadas en utilizar IA, pero también temen la filtración de datos. En última instancia, cree que estas empresas querrán ejecutar sus modelos localmente y utilizar la nube como respaldo. Sin embargo, actualmente estas empresas necesitan encontrar una forma de gestionar las credenciales para acceder a modelos basados en la nube, controlar y registrar el tráfico, gestionar las cuotas, etc.

Gateway de API para una integración más sencilla El objetivo de Kong es proporcionar una oferta que permita a los desarrolladores ser más productivos al construir sobre IA, aprovechando su gateway para consumir uno o más proveedores de LLM sin tener que cambiar su código. El gateway de Kong ya es compatible con Anthropic, Azure, Cohere, los modelos LLaMA de Meta, Mistral y OpenAI.

Características específicas de IA El equipo de Kong argumenta que la mayoría de los proveedores de API gestionan las APIs de IA de la misma manera que cualquier otra API. Sin embargo, al añadir características específicas de IA al gateway de API, Kong cree que puede habilitar nuevos casos de uso o al menos facilitar la implementación de los existentes. Con los transformadores de respuestas y solicitudes de IA, los desarrolladores pueden cambiar las indicaciones y los resultados sobre la marcha para traducirlos automáticamente o eliminar información personal identificable, por ejemplo.

Integración de indicaciones La ingeniería de indicaciones también está profundamente integrada en el gateway, lo que permite a las empresas hacer cumplir sus directrices sobre estos modelos. Esto también significa que hay un punto central para gestionar estas directrices e indicaciones.

Kong: una historia de éxito Han pasado casi nueve años desde el lanzamiento de la Plataforma de Gestión de API de Kong. En ese momento, la compañía que ahora es Kong todavía se conocía como Mashape. Augusto Marietti, cofundador y CEO de Mashape/Kong, señala que Kong se convirtió en el producto de API número uno en GitHub cuando Mashape estaba estancada. Kong ha tenido éxito y ahora su gateway es el corazón de la plataforma de la compañía, impulsando también el nuevo Gateway de IA. Los usuarios actuales de Kong solo tienen que actualizar su instalación para acceder a todas las nuevas características de IA.

Características de IA gratuitas Por el momento, todas estas nuevas características de IA están disponibles de forma gratuita. Con el tiempo, Kong espera lanzar características premium de pago, pero el equipo enfatiza que ese no es el objetivo de este lanzamiento.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Resilientes

Empresas de logística se mantienen fuertes a pesar de desaceleración

A pesar de la desaceleración en la financiación de la robótica, el impulso en empresas de almacenes y logística se mantiene fuerte debido a la...

Lanzamiento

Ex cofundador de OpenAI lanza Safe Superintelligence Inc. en Palo Alto

Ilya Sutskever, ex cofundador de OpenAI, ha lanzado Safe Superintelligence Inc. (SSI) con un enfoque en la seguridad de la IA. La empresa, con sede...

Redes

Snap presenta modelo de difusión de imágenes en tiempo real

Snap ha presentado un modelo de difusión de imágenes en tiempo real para dispositivos que genera experiencias de realidad aumentada vívidas. También ha lanzado herramientas...

Innovación

DeepMind crea tecnología V2A para bandas sonoras automáticas en videos

DeepMind, laboratorio de IA de Google, desarrolla tecnología V2A para generar bandas sonoras automáticas para videos. La herramienta sincroniza música, efectos de sonido y diálogos...

Innovación

Perplexity y Tako revolucionan búsqueda con resultados visuales directos

Perplexity mejora su motor de búsqueda con resultados visuales directos para consultas factuales como el tiempo y la conversión de divisas. La startup colabora con...

Tecnología

TikTok presenta avatares de IA generativa para creadores y marcas

TikTok presenta avatares de IA generativa para creadores y marcas, incluyendo avatares personalizados y de stock, así como una herramienta de doblaje de IA para...

Éxito

Tempus, empresa de pruebas genómicas debuta con éxito en Nasdaq

Tempus, empresa de pruebas genómicas fundada por Eric Lefkosky, debutó en Nasdaq con éxito a pesar de una valoración reducida. Se enfoca en inteligencia artificial...

Nombramiento

Paul Nakasone se une al consejo de OpenAI por ciberseguridad

El exjefe de la NSA, Paul Nakasone, se unirá al consejo de OpenAI para aportar su experiencia en seguridad y protección. Su incorporación refleja el...