¿Están condenados los modelos de IA a siempre alucinar?
Los agentes de IA son la nueva tendencia en auge en la IA generativa. A diferencia de la generación anterior de chatbots, estos agentes pueden hacer más que simplemente responder preguntas. Pueden tomar acciones basadas en la conversación e incluso interactuar con sistemas transaccionales de back-end para tomar acciones de manera automatizada.
Google Cloud presentó una nueva herramienta para ayudar a las empresas a construir agentes de IA. "Vertex AI Agent Builder permite a las personas construir agentes conversacionales de manera muy fácil y rápida", dijo el CEO de Google Cloud, Thomas Kurian. "Puedes construir y desplegar agentes conversacionales generativos potencialmente listos para producción e instruir y guiarlos de la misma manera que lo haces con los humanos para mejorar la calidad y corrección de las respuestas de los modelos."
El producto sin código se basa en el producto Vertex AI Search and Conversation de Google lanzado anteriormente. También se basa en los últimos modelos de lenguaje Gemini de la compañía y utiliza tanto las API de RAG como la búsqueda vectorial, dos métodos populares utilizados en toda la industria para reducir alucinaciones, donde los modelos inventan respuestas incorrectas cuando no pueden encontrar una respuesta precisa.
Parte de la forma en que la empresa está mejorando la calidad de las respuestas es a través de un proceso llamado "grounding", donde las respuestas están vinculadas a algo considerado una fuente confiable. En este caso, se basa en la Búsqueda de Google (que en realidad podría o no ser precisa). "Ahora te ofrecemos grounding en la Búsqueda de Google, llevando el poder del conocimiento mundial que ofrece la Búsqueda de Google a través de nuestro servicio de grounding a los modelos. Además, también soportamos la capacidad de hacer grounding contra fuentes de datos empresariales", dijo Kurian. Esto último podría ser más adecuado para clientes empresariales.
En una demostración, la compañía utilizó esta capacidad para crear un agente que analiza campañas de marketing anteriores para comprender el estilo de marca de una empresa, y luego aplicar ese conocimiento para ayudar a generar nuevas ideas consistentes con ese estilo. La demostración analizó más de 3.000 imágenes de marca, descripciones, videos y documentos relacionados con los productos de esta empresa ficticia almacenados en Google Drive. Luego ayudó a generar imágenes, leyendas y otro contenido basado en su comprensión del estilo de la empresa ficticia.
Aunque se puede construir cualquier tipo de agente, este ejemplo en particular pondría a Google directamente en competencia con Adobe, que lanzó su herramienta de IA generativa creativa Firefly el año pasado y GenStudio el mes pasado para ayudar a construir contenido que no se desvíe del estilo de la empresa. La flexibilidad está ahí para construir cualquier cosa, pero la pregunta es si prefieres comprar algo ya hecho si existe. Las nuevas capacidades ya están disponibles, según Google. Admite varios idiomas y ofrece puntos finales de API basados en países en EE.UU. y la UE.
Otras noticias • IA
Controversia por designación de Anthropic como riesgo de suministro
La designación de Anthropic como "riesgo de cadena de suministro" por el Departamento de Defensa de EE. UU. ha generado una fuerte reacción en la...
14.ai transforma el servicio al cliente con inteligencia artificial autónoma
14.ai, una startup respaldada por Y Combinator, está revolucionando el servicio al cliente mediante inteligencia artificial, reemplazando equipos tradicionales con soluciones autónomas. Su enfoque innovador...
Google y Airtel combaten el spam en mensajería RCS en India
Google y Airtel se unen en India para combatir el spam en la mensajería RCS, integrando un sistema de filtrado de spam a nivel de...
Controversia por acuerdo de OpenAI y Defensa de EE. UU
El acuerdo de OpenAI con el Departamento de Defensa de EE. UU. ha generado controversia por su rapidez y preocupaciones éticas sobre el uso de...
Claude supera a ChatGPT con enfoque ético en IA
Claude, el chatbot de Anthropic, ha superado a ChatGPT en popularidad, impulsado por un enfoque ético en su desarrollo. Las negociaciones con el Pentágono han...
OpenAI colabora con Defensa de EE. UU. en IA clasificada
OpenAI ha firmado un acuerdo con el Departamento de Defensa de EE. UU. para utilizar su IA en redes clasificadas, generando tensiones con Anthropic. A...
EE. UU. prohíbe productos de Anthropic por ética en IA
El presidente de EE. UU. ha ordenado a las agencias federales cesar el uso de productos de Anthropic tras un conflicto por la ética en...
Trump y Anthropic enfrentan debate ético sobre inteligencia artificial
El enfrentamiento entre Donald Trump y Anthropic ha generado un intenso debate sobre el uso ético de la inteligencia artificial en la defensa. Trump prohibió...
Lo más reciente
- 1
Cursor alcanza 2.000 millones en ingresos anuales con innovación
- 2
Desinstalaciones de ChatGPT aumentan por asociación con Defensa
- 3
App Nearby Glasses detecta gafas que graban sin permiso
- 4
Stripe facilita la monetización de startups de IA con nueva función
- 5
Juicio en Los Ángeles evalúa responsabilidad de Instagram en salud mental
- 6
Fusión de Paramount y Warner Bros. transforma el panorama mediático
- 7
Claude supera a ChatGPT por su ética y responsabilidad

