IA | Imágenes

Google suspende generación de imágenes de personas por inexactitudes históricas

Google suspende temporalmente la generación de imágenes de personas con su herramienta Gemini AI

Google ha anunciado que ha suspendido temporalmente la capacidad de Gemini, su suite de modelos AI generativos emblemáticos, para generar imágenes de personas mientras trabaja en la actualización del modelo para mejorar la precisión histórica de las salidas.

En una publicación en la plataforma de redes sociales X, la empresa anunció lo que describió como una "pausa" en la generación de imágenes de personas, escribiendo que está trabajando para abordar "problemas recientes" relacionados con inexactitudes históricas. "Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y lanzaremos una versión mejorada pronto", añadió.

Críticas y ridículo por imágenes incongruentes generadas por Gemini AI

Google lanzó la herramienta de generación de imágenes Gemini a principios de este mes. Sin embargo, ejemplos de ella generando imágenes incongruentes de personas históricas han estado circulando en las redes sociales en los últimos días, como imágenes de los Padres Fundadores de EE. UU. representados como indígenas americanos, negros o asiáticos, lo que ha llevado a críticas e incluso burlas.

Escribiendo en una publicación en LinkedIn, el capitalista de riesgo con sede en París, Michael Jackson, se unió hoy a las críticas, calificando la IA de Google como "una parodia DEI sin sentido" (DEI significa 'Diversidad, Equidad e Inclusión'). En una publicación anterior en X ayer, Google confirmó que era "consciente" de que la IA estaba produciendo "inexactitudes en algunas representaciones de generación de imágenes históricas", agregando en un comunicado: "Estamos trabajando para mejorar este tipo de representaciones de inmediato. La generación de imágenes Al de Gemini produce una amplia gama de personas, lo cual generalmente es algo bueno porque la gente de todo el mundo la usa. Pero está fallando aquí".

Críticas anteriores a herramientas AI generativas de Google

Las herramientas AI generativas producen resultados basados en datos de entrenamiento y otros parámetros, como los pesos del modelo. Estas herramientas han enfrentado críticas más a menudo por producir resultados sesgados de manera más estereotipada, como imágenes de mujeres sexualizadas o al responder a indicaciones de roles laborales de alto estatus con imágenes de hombres blancos.

Una herramienta AI de clasificación de imágenes anterior creada por Google causó indignación en 2015 cuando clasificó incorrectamente a hombres negros como gorilas. La empresa prometió solucionar el problema, pero, como informó Wired unos años después, su "solución" fue simplemente bloquear la tecnología para que no reconociera gorilas en absoluto.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Inversión estratégica

Meta invierte 14.3 mil millones en Scale AI para potenciar IA

Meta ha invertido 14.3 mil millones de dólares en Scale AI, adquiriendo un 49% de la empresa. Esta colaboración busca reforzar la posición de Meta...

Inversión significativa

Meta invierte 14.300 millones en Scale AI para etiquetado

Scale AI ha recibido una inversión de 14.300 millones de dólares de Meta, valorando la startup en 29.000 millones. Esta colaboración busca mejorar la calidad...

Privacidad comprometida

Meta AI genera inquietudes por riesgos de privacidad y seguridad

La aplicación Meta AI ha generado preocupaciones sobre la privacidad, permitiendo la divulgación involuntaria de información sensible. A pesar de su popularidad, la falta de...

Robo comercial

Tesla demanda a exingeniero por robo de secretos comerciales

Tesla ha demandado a su exingeniero Zhongjie “Jay” Li por presunto robo de secretos comerciales relacionados con su robot Optimus. Li, que fundó la startup...

Innovaciones decepcionantes

Apple lanza innovaciones en IA pero decepciona con Siri

Apple ha presentado innovaciones en inteligencia artificial, como "Visual Intelligence" para análisis de imágenes, "Workout Buddy" como asistente de ejercicio, y traducción en tiempo real....

Juguetes interactivos

Mattel y OpenAI revolucionan juguetes con inteligencia artificial interactiva

Mattel se asocia con OpenAI para integrar inteligencia artificial en sus juguetes, buscando crear experiencias interactivas y personalizadas. Esta colaboración, centrada en la seguridad y...

Contenido inapropiado

Meta demanda a Joy Timeline HK por generar imágenes inapropiadas

Meta ha demandado a Joy Timeline HK por la app Crush AI, que genera imágenes de desnudos sin consentimiento. La empresa busca frenar anuncios inapropiados...

Mejora creativa

Apple mejora Image Playground con ChatGPT para potenciar creatividad

Image Playground de Apple ha evolucionado tras críticas iniciales, incorporando ChatGPT para mejorar la calidad de las imágenes y ofrecer estilos variados. La actualización, prevista...