IA | Innovación

AI21 Labs lanza Jamba, modelo generativo de texto eficiente

AI21 Labs lanza Jamba, un modelo generativo de texto innovador

La industria de la inteligencia artificial se está moviendo cada vez más hacia modelos generativos de IA con contextos más largos. Pero los modelos con ventanas de contexto grandes tienden a ser intensivos en cómputo. Ori Goshen, CEO de la startup de IA AI21 Labs, afirma que esto no tiene por qué ser así, y su empresa está lanzando un modelo generativo para demostrarlo.

AI21 Labs ha presentado Jamba, un nuevo modelo de generación y análisis de texto, que puede realizar muchas de las mismas tareas que modelos como ChatGPT de OpenAI y Gemini de Google. Entrenado con una mezcla de datos públicos y propietarios, Jamba puede escribir texto en inglés, francés, español y portugués.

Un modelo eficiente y prometedor

Jamba puede manejar hasta 140,000 tokens mientras se ejecuta en una sola GPU con al menos 80GB de memoria. Esto se traduce en alrededor de 105,000 palabras, o 210 páginas, lo que equivale a una novela de tamaño decente. Por otro lado, Llama 2 de Meta tiene una ventana de contexto de 32,000 tokens, pero solo requiere una GPU con ~12GB de memoria para funcionar.

El corazón de Jamba: transformers y modelos de espacio estatal

Lo que hace único a Jamba es su combinación de dos arquitecturas de modelos: transformers y modelos de espacio estatal (SSM). Los transformers son la arquitectura preferida para tareas de razonamiento complejas, mientras que los SSM combinan cualidades de modelos de IA más antiguos para crear una arquitectura más eficiente computacionalmente capaz de manejar secuencias largas de datos.

Innovación y eficiencia

Jamba utiliza Mamba como modelo base, lo que según Goshen, proporciona tres veces la capacidad en contextos largos en comparación con modelos basados en transformers de tamaños comparables. Aunque se ha lanzado bajo la licencia Apache 2.0, Goshen destaca que es un lanzamiento de investigación y no está destinado a ser utilizado comercialmente.

Promesa de la arquitectura SSM

A pesar de sus limitaciones, Goshen asegura que Jamba demuestra el potencial de la arquitectura SSM incluso en esta etapa inicial. "El valor añadido de este modelo, tanto por su tamaño como por su arquitectura innovadora, es que se puede adaptar fácilmente a una sola GPU", afirmó. Se espera que el rendimiento mejore aún más a medida que Mamba reciba ajustes adicionales.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Crecimiento desafiado

Google Cloud supera 20 mil millones en ingresos pero enfrenta desafíos

Google Cloud ha superado los 20 mil millones de dólares en ingresos en el primer trimestre de 2026, impulsado por la demanda de inteligencia artificial....

Crecimiento suscripciones

Google suma 25 millones de suscripciones pero enfrenta retos publicitarios

Google ha añadido 25 millones de suscripciones en el último trimestre, alcanzando 350 millones, impulsadas por YouTube y Google One. Sin embargo, enfrenta retos en...

Innovación audiovisual

Google TV transforma el entretenimiento con inteligencia artificial innovadora

Google TV revoluciona la experiencia del usuario con inteligencia artificial, introduciendo herramientas como Gemini, Nano Banana y Veo. Estas funcionalidades fomentan la creatividad y la...

Armario digital

Google Photos revoluciona la moda con armario digital inteligente

Google Photos lanza una función de armario digital que permite a los usuarios organizar su ropa mediante inteligencia artificial, crear conjuntos y compartir ideas. Esta...

Mensajería inclusiva

Shapes revoluciona la mensajería con inteligencia artificial en grupos

Shapes es una innovadora aplicación de mensajería que integra personajes de inteligencia artificial en conversaciones grupales, fomentando la interacción social y superando barreras de comunicación....

Drones móviles

Firestorm Labs transforma la fabricación de drones para el Pentágono

Firestorm Labs ha revolucionado la fabricación de drones con su plataforma xCell, que permite producir drones en contenedores móviles cerca de zonas de combate. Esta...

Competencia intensificada

Competencia en IA se intensifica tras fin de exclusividad de Microsoft

El fin de la exclusividad de Microsoft sobre OpenAI ha intensificado la competencia en inteligencia artificial, beneficiando a Amazon, que integrará modelos de OpenAI en...

Asistente virtual

Amazon presenta "Join the chat" para compras más interactivas

Amazon ha lanzado "Join the chat", una función de IA que permite a los usuarios interactuar con un asistente virtual para obtener información sobre productos...