Google y Microsoft admiten errores en sus chatbots impulsados por GenAI
En una reciente polémica, los chatbots de Google y Microsoft, Gemini y Copilot respectivamente, han demostrado tener fallos al proporcionar información incorrecta sobre el resultado del Super Bowl de 2024. Estos chatbots, alimentados por modelos de inteligencia artificial conocidos como GenAI, han generado estadísticas ficticias y han afirmado que el partido ya se ha celebrado, lo que ha generado confusión entre los usuarios.
Estadísticas inventadas y resultados contradictorios
Según un hilo de Reddit, Gemini ha respondido preguntas sobre el Super Bowl LVIII como si el juego ya hubiera concluido. Además, ha ofrecido estadísticas detalladas sobre el rendimiento de los jugadores, atribuyendo a Patrick Mahomes, mariscal de campo de los Kansas Chiefs, 286 yardas de carrera, dos touchdowns y una intercepción. Estas cifras contrastan con las 253 yardas de carrera y un touchdown atribuidas a Brock Purdy, mariscal de campo de los 49ers de San Francisco.
Por otro lado, Copilot, el chatbot de Microsoft, también ha afirmado que el partido ha terminado y ha proporcionado una cita errónea que indica que los 49ers ganaron el partido con un marcador final de 24-21. Estos errores han llevado a los usuarios a cuestionar la precisión de los chatbots impulsados por GenAI.
Limitaciones de los modelos de GenAI
Estos incidentes ponen de manifiesto las limitaciones de los modelos de inteligencia artificial como GenAI. Estos modelos no poseen una inteligencia real y su funcionamiento se basa en el análisis de patrones y probabilidades. A partir de un gran número de ejemplos, como textos extraídos de la web, los modelos aprenden a determinar la probabilidad de que ocurra cierta información en función del contexto.
Aunque esta aproximación basada en la probabilidad funciona bien a gran escala, no garantiza la veracidad de la información generada. Los modelos de lenguaje pueden producir texto gramaticalmente correcto pero sin sentido, o incluso difundir información falsa debido a inexactitudes en los datos de entrenamiento.
Admisión de errores por parte de Google y Microsoft
Tanto Google como Microsoft reconocen que sus aplicaciones basadas en GenAI no son perfectas y están sujetas a cometer errores. Sin embargo, estas admisiones se encuentran en letras pequeñas y pueden pasar desapercibidas para los usuarios.
Si bien el caso del Super Bowl falso puede parecer inofensivo, es un recordatorio de la necesidad de verificar las declaraciones realizadas por los chatbots de GenAI. Estos chatbots carecen de malicia y no comprenden el concepto de verdad o falsedad. Simplemente han aprendido a asociar ciertas palabras o frases con conceptos específicos, incluso si esas asociaciones no son precisas.
En conclusión, los incidentes protagonizados por Gemini y Copilot demuestran la importancia de no depositar una confianza ciega en los chatbots impulsados por GenAI. Aunque estos modelos de inteligencia artificial han avanzado significativamente, todavía tienen limitaciones y pueden generar información errónea. Por lo tanto, es fundamental que los usuarios verifiquen la información proporcionada por estos chatbots y no la den por sentada.
Otras noticias • IA
Imágenes sintéticas desnudas amenazan privacidad y seguridad personal
La proliferación de imágenes sintéticas desnudas plantea serios desafíos de privacidad y seguridad, especialmente en casos de pornografía de venganza. Microsoft ha colaborado con StopNCII...
Cosmos Institute lanza iniciativas para una IA humanista y ética
El Cosmos Institute busca transformar la inteligencia artificial mediante un enfoque humanista, creando el Human-Centered AI Lab en Oxford y la Cosmos Fellowship. También lanzan...
Canva eleva precios y usuarios critican pérdida de accesibilidad
Canva ha aumentado drásticamente los precios de sus planes, especialmente para Canva Teams, justificándolo por la inversión en inteligencia artificial. Este cambio ha generado descontento...
Google refuerza IA y plataformas para combatir desinformación electoral
Google implementa restricciones en su inteligencia artificial generativa para evitar la desinformación durante las elecciones presidenciales de EE. UU. Además, mejora su motor de búsqueda...
LAION presenta Re-LAION-5B para combatir contenido ilegal y NSFW
LAION ha lanzado Re-LAION-5B, un conjunto de datos depurado de enlaces a material de abuso sexual infantil y contenido NSFW. Este esfuerzo responde a recomendaciones...
Gmail integra Gemini para mejorar gestión de correos electrónicos
Gmail ha integrado el asistente de inteligencia artificial Gemini, permitiendo a los usuarios hacer preguntas sobre sus correos electrónicos y recibir resúmenes. Esta función, disponible...
Reliance Industries impulsa inteligencia artificial con nuevos centros de datos
Reliance Industries, liderada por Mukesh Ambani, apuesta por la inteligencia artificial con la creación de centros de datos en Gujarat y el desarrollo de Jio...
Incertidumbre en OpenAI por falta de anuncios de Converge 2
El programa de aceleración Converge 2 de OpenAI ha generado incertidumbre por la falta de comunicación sobre las startups seleccionadas. A diferencia de su primera...
Lo más reciente
- 1
Starliner regresa exitosamente de la ISS tras misión exitosa
- 2
Warp enfrenta críticas por comentarios racistas de un vinculado
- 3
Byju's enfrenta crisis tras renuncia de auditor BDO
- 4
Ciberataque interrumpe servicios de TfL y genera preocupación pública
- 5
Meta debe permitir interoperabilidad entre WhatsApp y otras apps
- 6
Lanzamiento del cohete New Glenn se pospone hasta 2025
- 7
Eagles y Packers enfrentan retos en partido histórico en Brasil