Errónea | IA

Chatbots de Google y Microsoft generan información incorrecta sobre Super Bowl 2024

Google y Microsoft admiten errores en sus chatbots impulsados por GenAI

En una reciente polémica, los chatbots de Google y Microsoft, Gemini y Copilot respectivamente, han demostrado tener fallos al proporcionar información incorrecta sobre el resultado del Super Bowl de 2024. Estos chatbots, alimentados por modelos de inteligencia artificial conocidos como GenAI, han generado estadísticas ficticias y han afirmado que el partido ya se ha celebrado, lo que ha generado confusión entre los usuarios.

Estadísticas inventadas y resultados contradictorios

Según un hilo de Reddit, Gemini ha respondido preguntas sobre el Super Bowl LVIII como si el juego ya hubiera concluido. Además, ha ofrecido estadísticas detalladas sobre el rendimiento de los jugadores, atribuyendo a Patrick Mahomes, mariscal de campo de los Kansas Chiefs, 286 yardas de carrera, dos touchdowns y una intercepción. Estas cifras contrastan con las 253 yardas de carrera y un touchdown atribuidas a Brock Purdy, mariscal de campo de los 49ers de San Francisco.

Por otro lado, Copilot, el chatbot de Microsoft, también ha afirmado que el partido ha terminado y ha proporcionado una cita errónea que indica que los 49ers ganaron el partido con un marcador final de 24-21. Estos errores han llevado a los usuarios a cuestionar la precisión de los chatbots impulsados por GenAI.

Limitaciones de los modelos de GenAI

Estos incidentes ponen de manifiesto las limitaciones de los modelos de inteligencia artificial como GenAI. Estos modelos no poseen una inteligencia real y su funcionamiento se basa en el análisis de patrones y probabilidades. A partir de un gran número de ejemplos, como textos extraídos de la web, los modelos aprenden a determinar la probabilidad de que ocurra cierta información en función del contexto.

Aunque esta aproximación basada en la probabilidad funciona bien a gran escala, no garantiza la veracidad de la información generada. Los modelos de lenguaje pueden producir texto gramaticalmente correcto pero sin sentido, o incluso difundir información falsa debido a inexactitudes en los datos de entrenamiento.

Admisión de errores por parte de Google y Microsoft

Tanto Google como Microsoft reconocen que sus aplicaciones basadas en GenAI no son perfectas y están sujetas a cometer errores. Sin embargo, estas admisiones se encuentran en letras pequeñas y pueden pasar desapercibidas para los usuarios.

Si bien el caso del Super Bowl falso puede parecer inofensivo, es un recordatorio de la necesidad de verificar las declaraciones realizadas por los chatbots de GenAI. Estos chatbots carecen de malicia y no comprenden el concepto de verdad o falsedad. Simplemente han aprendido a asociar ciertas palabras o frases con conceptos específicos, incluso si esas asociaciones no son precisas.

En conclusión, los incidentes protagonizados por Gemini y Copilot demuestran la importancia de no depositar una confianza ciega en los chatbots impulsados por GenAI. Aunque estos modelos de inteligencia artificial han avanzado significativamente, todavía tienen limitaciones y pueden generar información errónea. Por lo tanto, es fundamental que los usuarios verifiquen la información proporcionada por estos chatbots y no la den por sentada.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Lanzamiento

Ex cofundador de OpenAI lanza Safe Superintelligence Inc. en Palo Alto

Ilya Sutskever, ex cofundador de OpenAI, ha lanzado Safe Superintelligence Inc. (SSI) con un enfoque en la seguridad de la IA. La empresa, con sede...

Redes

Snap presenta modelo de difusión de imágenes en tiempo real

Snap ha presentado un modelo de difusión de imágenes en tiempo real para dispositivos que genera experiencias de realidad aumentada vívidas. También ha lanzado herramientas...

Innovación

DeepMind crea tecnología V2A para bandas sonoras automáticas en videos

DeepMind, laboratorio de IA de Google, desarrolla tecnología V2A para generar bandas sonoras automáticas para videos. La herramienta sincroniza música, efectos de sonido y diálogos...

Innovación

Perplexity y Tako revolucionan búsqueda con resultados visuales directos

Perplexity mejora su motor de búsqueda con resultados visuales directos para consultas factuales como el tiempo y la conversión de divisas. La startup colabora con...

Tecnología

TikTok presenta avatares de IA generativa para creadores y marcas

TikTok presenta avatares de IA generativa para creadores y marcas, incluyendo avatares personalizados y de stock, así como una herramienta de doblaje de IA para...

Éxito

Tempus, empresa de pruebas genómicas debuta con éxito en Nasdaq

Tempus, empresa de pruebas genómicas fundada por Eric Lefkosky, debutó en Nasdaq con éxito a pesar de una valoración reducida. Se enfoca en inteligencia artificial...

Nombramiento

Paul Nakasone se une al consejo de OpenAI por ciberseguridad

El exjefe de la NSA, Paul Nakasone, se unirá al consejo de OpenAI para aportar su experiencia en seguridad y protección. Su incorporación refleja el...

Fraude

Accionistas de Tesla demandan a Elon Musk por desviar recursos

Accionistas de Tesla demandan a Elon Musk por iniciar xAI y desviar talento y recursos de la empresa hacia la nueva startup, violando sus deberes...