Seguridad | Deepfakes preocupantes

Google refuerza su algoritmo ante preocupaciones por deepfakes

La proliferación de deepfakes en la red

La llegada de la inteligencia artificial ha revolucionado muchos aspectos de nuestra vida cotidiana, pero también ha traído consigo desafíos significativos. Uno de los fenómenos más preocupantes en el ámbito digital son los deepfakes, especialmente aquellos que involucran contenido pornográfico. La mayoría de los deepfakes que circulan en internet son imágenes o vídeos de carácter sexual no consensuados, lo que plantea serias cuestiones éticas y legales. Según un informe de Home Security Heroes, el 98% de todos los vídeos deepfake en línea son pornográficos. Esta situación se ha visto agravada por el fácil acceso a herramientas de inteligencia artificial generativa, que han incrementado la cantidad de deepfakes en un asombroso 550% entre 2019 y 2023.

La lucha contra los deepfakes no consensuales

A pesar de la alarmante proliferación de este tipo de contenido, las leyes que abordan los deepfakes no consensuales están todavía rezagadas, sobre todo en Estados Unidos. Sin embargo, la situación está empezando a mejorar gracias a la implementación de nuevas herramientas en Google Search. Google ha realizado cambios significativos en su algoritmo de búsqueda para combatir el contenido pornográfico deepfake, con el objetivo de reducir su visibilidad en los resultados de búsqueda. Además, han establecido un procedimiento acelerado para procesar solicitudes de eliminación de estos contenidos, lo que facilita que las personas afectadas puedan actuar.

Cómo solicitar la eliminación de un deepfake

Si alguien se encuentra en la situación de tener que solicitar la eliminación de un deepfake no consensual, el proceso ha sido simplificado a través de un formulario web específico. Este formulario permite a las personas afectadas reportar contenido que les perjudica directamente, ya sea una página web, imagen o vídeo. Es importante tener en cuenta que existe un formulario diferente para el contenido relacionado con el abuso sexual infantil. Para que el contenido sea eliminado, debe cumplir con ciertos criterios establecidos por Google.

Las condiciones para que un contenido sea considerado para su eliminación son claras. El contenido debe ser desnudo, íntimo o sexualmente explícito y distribuido sin permiso, o debe representar falsamente a la persona en una situación sexual o asociarla incorrectamente con la prostitución. Al completar el formulario, se debe seleccionar la opción correspondiente que refleje la naturaleza del contenido que se desea eliminar.

Proceso de solicitud y seguimiento

Una vez que se ha enviado la solicitud, el solicitante recibe una confirmación automática por correo electrónico. Google revisará la solicitud y, en algunos casos, puede pedir información adicional, como más URLs que respalden la solicitud. Es crucial que los solicitantes estén preparados para proporcionar toda la información necesaria para respaldar su caso, ya que esto puede determinar el éxito de la eliminación del contenido.

Si la solicitud es denegada, existe la opción de volver a enviarla con materiales de apoyo adicionales. Google ha señalado que, cuando se logra eliminar contenido de pornografía deepfake no consensual, sus sistemas también intentarán filtrar resultados explícitos en búsquedas futuras relacionadas con esa persona. Esto implica que, si una imagen es eliminada bajo las políticas de Google, sus sistemas buscarán y eliminarán cualquier duplicado que puedan encontrar.

Protección y privacidad en el entorno digital

La implementación de estas herramientas por parte de Google es un paso positivo en la dirección correcta para proteger a las personas de los efectos dañinos de los deepfakes. Estos esfuerzos buscan ofrecer una mayor tranquilidad a quienes temen que contenido similar pueda aparecer en el futuro, permitiendo a las personas recuperar un cierto control sobre su imagen y reputación en línea. Google ha declarado que han desarrollado capacidades similares para abordar otros tipos de imágenes no consensuales, lo que refuerza la importancia de estas nuevas medidas.

Sin embargo, el camino hacia una mayor protección es largo. La velocidad a la que se desarrolla la tecnología de deepfake exige una respuesta igualmente rápida y efectiva por parte de los legisladores y las plataformas digitales. Es fundamental que se establezcan leyes más robustas y efectivas para abordar la creación y distribución de deepfakes no consensuales, así como un enfoque más proactivo en la educación sobre los riesgos asociados con estas tecnologías.

El impacto de los deepfakes en la vida de las personas puede ser devastador, y la necesidad de soluciones eficaces es más urgente que nunca. Con cada nuevo avance en inteligencia artificial, es esencial que las plataformas y los legisladores se mantengan a la vanguardia para garantizar un entorno digital más seguro y responsable.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • Seguridad

Vulnerabilidad cibernética

Ciberataque al Co-op revela vulnerabilidad en comercio minorista británico

El ciberataque al Co-op ha expuesto la vulnerabilidad del comercio minorista en el Reino Unido, afectando a 6,5 millones de clientes. La falta de ciberseguridad...

Privacidad comprometida

Malware chino Massistant amenaza la privacidad de usuarios móviles

El malware Massistant, utilizado por las autoridades chinas, permite extraer datos de teléfonos móviles confiscados, planteando serias preocupaciones sobre la privacidad. Su instalación es sencilla...

Cibercrimen creciente

Exsoldado detenido por extorsión cibernética en telecomunicaciones

Cameron John Wagenius, exsoldado estadounidense, fue detenido por infiltrarse en empresas de telecomunicaciones y extorsionarlas con datos robados. Su caso resalta la creciente amenaza del...

Ciberseguridad desequilibrada

Trump destina 1.000 millones a ciberofensivas y genera críticas

La administración Trump destina 1.000 millones de dólares a operaciones cibernéticas ofensivas, generando críticas por recortes en ciberdefensa. Legisladores y expertos advierten sobre la falta...

Ciberataque sanitario

Ciberataque a Episource expone datos de 5.4 millones de pacientes

Un ciberataque a Episource ha comprometido la información personal y médica de más de 5.4 millones de pacientes en EE. UU. Este incidente resalta las...

Dilemas éticos

Paragon enfrenta dilemas éticos tras escándalo de software espía

Paragon, empresa de software espía, enfrenta dilemas éticos tras su escándalo en Italia y un contrato con ICE. La presión internacional por el respeto a...

Críticas seguridad

Bitchat de Dorsey enfrenta críticas por inseguridad y vulnerabilidades

El lanzamiento de Bitchat por Jack Dorsey ha generado críticas por la falta de pruebas de seguridad y vulnerabilidades en su diseño. Aunque promete mensajería...

Intercambio SIM

Protege tu número de teléfono del ataque de SIM swapping

El intercambio de SIM es un ataque que permite a hackers tomar control de tu número de teléfono, comprometiendo cuentas y datos personales. Para protegerte,...