Imágenes | IA

Google suspende generación de imágenes de personas por inexactitudes históricas

Google suspende temporalmente la generación de imágenes de personas con su herramienta Gemini AI

Google ha anunciado que ha suspendido temporalmente la capacidad de Gemini, su suite de modelos AI generativos emblemáticos, para generar imágenes de personas mientras trabaja en la actualización del modelo para mejorar la precisión histórica de las salidas.

En una publicación en la plataforma de redes sociales X, la empresa anunció lo que describió como una "pausa" en la generación de imágenes de personas, escribiendo que está trabajando para abordar "problemas recientes" relacionados con inexactitudes históricas. "Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y lanzaremos una versión mejorada pronto", añadió.

Críticas y ridículo por imágenes incongruentes generadas por Gemini AI

Google lanzó la herramienta de generación de imágenes Gemini a principios de este mes. Sin embargo, ejemplos de ella generando imágenes incongruentes de personas históricas han estado circulando en las redes sociales en los últimos días, como imágenes de los Padres Fundadores de EE. UU. representados como indígenas americanos, negros o asiáticos, lo que ha llevado a críticas e incluso burlas.

Escribiendo en una publicación en LinkedIn, el capitalista de riesgo con sede en París, Michael Jackson, se unió hoy a las críticas, calificando la IA de Google como "una parodia DEI sin sentido" (DEI significa 'Diversidad, Equidad e Inclusión'). En una publicación anterior en X ayer, Google confirmó que era "consciente" de que la IA estaba produciendo "inexactitudes en algunas representaciones de generación de imágenes históricas", agregando en un comunicado: "Estamos trabajando para mejorar este tipo de representaciones de inmediato. La generación de imágenes Al de Gemini produce una amplia gama de personas, lo cual generalmente es algo bueno porque la gente de todo el mundo la usa. Pero está fallando aquí".

Críticas anteriores a herramientas AI generativas de Google

Las herramientas AI generativas producen resultados basados en datos de entrenamiento y otros parámetros, como los pesos del modelo. Estas herramientas han enfrentado críticas más a menudo por producir resultados sesgados de manera más estereotipada, como imágenes de mujeres sexualizadas o al responder a indicaciones de roles laborales de alto estatus con imágenes de hombres blancos.

Una herramienta AI de clasificación de imágenes anterior creada por Google causó indignación en 2015 cuando clasificó incorrectamente a hombres negros como gorilas. La empresa prometió solucionar el problema, pero, como informó Wired unos años después, su "solución" fue simplemente bloquear la tecnología para que no reconociera gorilas en absoluto.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Transformación

La IA revoluciona redes sociales, plantea retos de privacidad ética

La inteligencia artificial ha transformado las redes sociales, mejorando la interacción y personalización a través de asistentes virtuales y herramientas creativas. Sin embargo, surgen preocupaciones...

Inquietud

Preocupaciones sobre privacidad en el uso de biometría escolar

El uso de tecnología biométrica en escuelas, como el reconocimiento facial y huellas dactilares, genera preocupaciones sobre privacidad y consentimiento. Es esencial que las instituciones...

Revolución

La inteligencia artificial transforma el diseño gráfico y plantea desafíos

La inteligencia artificial está revolucionando el diseño gráfico, optimizando procesos creativos y facilitando la generación de imágenes. Aunque potencia la creatividad humana, plantea desafíos éticos...

Revolución

La IA generativa transforma empresas con innovación y sostenibilidad

La IA generativa está revolucionando el mundo empresarial al permitir la creación de contenido original, mejorar la personalización y optimizar procesos. Aunque presenta desafíos en...

Mejora

Samsung potencia su inteligencia artificial con Oxford Semantic Technologies

Samsung ha adquirido Oxford Semantic Technologies para mejorar su inteligencia artificial con grafos de conocimiento. La startup británica ofrece un motor de razonamiento de IA...

Innovación

Microsoft revoluciona diseño con app Designer en iOS y Android

Microsoft lanza la aplicación Designer para iOS y Android, que permite a los usuarios crear imágenes y diseños con indicaciones de texto. También ofrece edición...

Indagación

Investigación en UK por contratación de equipo de Inflection AI por Microsoft

La Autoridad de Competencia y Mercados del Reino Unido está investigando la contratación por parte de Microsoft del equipo de Inflection AI, lo que podría...

Innovación

La IA generativa es clave para el éxito empresarial actual

La inteligencia artificial generativa es crucial en el mundo empresarial actual, ya que puede mejorar la experiencia del usuario y conducir a mejores métricas comerciales....