Google refuerza su algoritmo ante preocupaciones por deepfakes

La proliferación de deepfakes en la red

La llegada de la inteligencia artificial ha revolucionado muchos aspectos de nuestra vida cotidiana, pero también ha traído consigo desafíos significativos. Uno de los fenómenos más preocupantes en el ámbito digital son los deepfakes, especialmente aquellos que involucran contenido pornográfico. La mayoría de los deepfakes que circulan en internet son imágenes o vídeos de carácter sexual no consensuados, lo que plantea serias cuestiones éticas y legales. Según un informe de Home Security Heroes, el 98% de todos los vídeos deepfake en línea son pornográficos. Esta situación se ha visto agravada por el fácil acceso a herramientas de inteligencia artificial generativa, que han incrementado la cantidad de deepfakes en un asombroso 550% entre 2019 y 2023.

La lucha contra los deepfakes no consensuales

A pesar de la alarmante proliferación de este tipo de contenido, las leyes que abordan los deepfakes no consensuales están todavía rezagadas, sobre todo en Estados Unidos. Sin embargo, la situación está empezando a mejorar gracias a la implementación de nuevas herramientas en Google Search. Google ha realizado cambios significativos en su algoritmo de búsqueda para combatir el contenido pornográfico deepfake, con el objetivo de reducir su visibilidad en los resultados de búsqueda. Además, han establecido un procedimiento acelerado para procesar solicitudes de eliminación de estos contenidos, lo que facilita que las personas afectadas puedan actuar.

Cómo solicitar la eliminación de un deepfake

Si alguien se encuentra en la situación de tener que solicitar la eliminación de un deepfake no consensual, el proceso ha sido simplificado a través de un formulario web específico. Este formulario permite a las personas afectadas reportar contenido que les perjudica directamente, ya sea una página web, imagen o vídeo. Es importante tener en cuenta que existe un formulario diferente para el contenido relacionado con el abuso sexual infantil. Para que el contenido sea eliminado, debe cumplir con ciertos criterios establecidos por Google.

Las condiciones para que un contenido sea considerado para su eliminación son claras. El contenido debe ser desnudo, íntimo o sexualmente explícito y distribuido sin permiso, o debe representar falsamente a la persona en una situación sexual o asociarla incorrectamente con la prostitución. Al completar el formulario, se debe seleccionar la opción correspondiente que refleje la naturaleza del contenido que se desea eliminar.

Proceso de solicitud y seguimiento

Una vez que se ha enviado la solicitud, el solicitante recibe una confirmación automática por correo electrónico. Google revisará la solicitud y, en algunos casos, puede pedir información adicional, como más URLs que respalden la solicitud. Es crucial que los solicitantes estén preparados para proporcionar toda la información necesaria para respaldar su caso, ya que esto puede determinar el éxito de la eliminación del contenido.

Si la solicitud es denegada, existe la opción de volver a enviarla con materiales de apoyo adicionales. Google ha señalado que, cuando se logra eliminar contenido de pornografía deepfake no consensual, sus sistemas también intentarán filtrar resultados explícitos en búsquedas futuras relacionadas con esa persona. Esto implica que, si una imagen es eliminada bajo las políticas de Google, sus sistemas buscarán y eliminarán cualquier duplicado que puedan encontrar.

Protección y privacidad en el entorno digital

La implementación de estas herramientas por parte de Google es un paso positivo en la dirección correcta para proteger a las personas de los efectos dañinos de los deepfakes. Estos esfuerzos buscan ofrecer una mayor tranquilidad a quienes temen que contenido similar pueda aparecer en el futuro, permitiendo a las personas recuperar un cierto control sobre su imagen y reputación en línea. Google ha declarado que han desarrollado capacidades similares para abordar otros tipos de imágenes no consensuales, lo que refuerza la importancia de estas nuevas medidas.

Sin embargo, el camino hacia una mayor protección es largo. La velocidad a la que se desarrolla la tecnología de deepfake exige una respuesta igualmente rápida y efectiva por parte de los legisladores y las plataformas digitales. Es fundamental que se establezcan leyes más robustas y efectivas para abordar la creación y distribución de deepfakes no consensuales, así como un enfoque más proactivo en la educación sobre los riesgos asociados con estas tecnologías.

El impacto de los deepfakes en la vida de las personas puede ser devastador, y la necesidad de soluciones eficaces es más urgente que nunca. Con cada nuevo avance en inteligencia artificial, es esencial que las plataformas y los legisladores se mantengan a la vanguardia para garantizar un entorno digital más seguro y responsable.