IA | Deepfakes preocupaciones

Avance de deepfakes genera preocupaciones éticas y riesgos de fraude

La llegada de OmniHuman-1: Un avance preocupante en la tecnología de deepfakes

La tecnología de deepfakes ha avanzado a pasos agigantados en los últimos años, permitiendo a los usuarios manipular vídeos de una manera que antes se consideraba ciencia ficción. La reciente presentación del sistema de inteligencia artificial OmniHuman-1 por parte de ByteDance, la empresa matriz de TikTok, ha elevado este fenómeno a un nuevo nivel. Este sistema no solo promete generar vídeos deepfake con un realismo asombroso, sino que también plantea serias preocupaciones sobre su uso indebido en el futuro.

La evolución de los deepfakes ha sido marcada por el progreso constante en la capacidad de las máquinas para aprender y replicar características humanas. Sin embargo, muchos de los deepfakes que han inundado Internet hasta ahora han dejado una sensación de inquietud, un “valle inquietante” donde lo artificial es fácilmente identificable. OmniHuman-1, según los investigadores de ByteDance, podría ser la solución a este dilema, produciendo resultados que parecen cada vez más auténticos.

Las capacidades de OmniHuman-1

Una de las características más impresionantes de OmniHuman-1 es su capacidad para generar vídeos a partir de una sola imagen de referencia y un clip de audio. Este enfoque simplificado significa que, con tan solo un par de elementos, el sistema puede crear un vídeo convincente de una persona haciendo o diciendo algo que nunca ocurrió. Los ejemplos proporcionados por ByteDance incluyen actuaciones ficticias de celebridades y conferencias TED que nunca tuvieron lugar, todos con un nivel de realismo que podría confundir incluso a los más escépticos.

Se ha demostrado que OmniHuman-1 es capaz de modificar no solo el contenido, sino también los movimientos corporales de los individuos en los vídeos, lo que abre un abanico de posibilidades en la creación de contenido audiovisual.

Sin embargo, a pesar de su potencial, los investigadores advierten que la calidad de la imagen de referencia puede afectar significativamente el resultado. Las imágenes de baja calidad pueden resultar en vídeos que no cumplen con las expectativas de realismo. Además, el sistema aún enfrenta dificultades con ciertas posturas y movimientos, lo que sugiere que, aunque es un avance, no es infalible.

Implicaciones éticas y sociales

La llegada de OmniHuman-1 y tecnologías similares no es solo un tema de interés tecnológico; también plantea preguntas profundas sobre la ética y la responsabilidad. La facilidad con la que se pueden crear deepfakes realistas plantea serios riesgos en términos de desinformación y fraude. En un contexto donde la manipulación de la información es cada vez más común, el potencial de este tipo de herramientas para influir en la opinión pública es alarmante.

El año pasado, el uso de deepfakes en la política se disparó, como se evidenció en varios incidentes alrededor del mundo. En Taiwán, se distribuyeron audios manipulados que hacían parecer que un político apoyaba a un candidato pro-China. En Moldavia, un vídeo deepfake mostró a la presidenta Maia Sandu renunciando, mientras que en Sudáfrica, un deepfake de Eminem apoyando a un partido de oposición circuló antes de las elecciones. Estas situaciones evidencian cómo los deepfakes pueden ser utilizados para desestabilizar democracias y manipular elecciones.

Un auge en los delitos financieros

Además de su uso en la política, los deepfakes también están siendo empleados en delitos financieros. Las estafas que utilizan vídeos falsificados de celebridades o ejecutivos empresariales han aumentado, llevando a los consumidores a caer en trampas que les prometen inversiones fraudulentas. Según un informe de Deloitte, se estima que el contenido generado por inteligencia artificial ha contribuido a pérdidas de más de 12 mil millones de dólares en fraudes solo en 2023, con proyecciones que podrían alcanzar los 40 mil millones de dólares en los Estados Unidos para 2027.

La combinación de la tecnología de deepfakes con la ingeniería social ha creado un caldo de cultivo perfecto para el fraude. Las empresas y los individuos están cada vez más expuestos a los riesgos de ser engañados por contenidos falsos.

La dificultad para detectar deepfakes se ha convertido en un problema crítico. A pesar de que algunas plataformas sociales y motores de búsqueda han implementado medidas para limitar la difusión de este tipo de contenido, la cantidad de vídeos manipulados sigue creciendo de manera alarmante. En una encuesta reciente realizada por la empresa de verificación de identidad Jumio, el 60% de los encuestados admitió haber encontrado un deepfake en el último año, y un 72% expresó su preocupación por ser engañados por este tipo de contenido en su vida diaria.

La respuesta legislativa

Ante el auge de los deepfakes y sus implicaciones, muchos en la comunidad de inteligencia artificial han comenzado a abogar por una regulación más estricta. En febrero pasado, cientos de expertos firmaron una carta abierta pidiendo que se establezcan normas claras para el uso de deepfakes. Sin embargo, en Estados Unidos, donde aún no existe una ley federal que criminalice los deepfakes, más de diez estados han promulgado estatutos contra la suplantación asistida por inteligencia artificial.

California, por ejemplo, está en proceso de implementar una ley que permitiría a los jueces ordenar la eliminación de deepfakes y podría imponer sanciones económicas a quienes los difundan. Esta legislación, aunque aún está en pausa, podría sentar un precedente importante en la lucha contra el uso indebido de esta tecnología.

El futuro de los deepfakes

El futuro de los deepfakes es incierto y está lleno de posibilidades, tanto positivas como negativas. Por un lado, la capacidad de crear contenido audiovisual de alta calidad podría revolucionar la industria del entretenimiento, la educación y la comunicación. Sin embargo, el lado oscuro de esta tecnología no debe subestimarse. La posibilidad de que los deepfakes se utilicen para desinformar, manipular y engañar sigue siendo una preocupación constante.

A medida que la tecnología avanza, también lo hacen las herramientas para detectarla. La comunidad de investigadores y desarrolladores trabaja incansablemente para encontrar métodos efectivos para identificar deepfakes y mitigar su impacto en la sociedad. Sin embargo, el juego del gato y el ratón entre quienes crean estos contenidos y quienes intentan detectarlos está lejos de terminar.

La introducción de sistemas como OmniHuman-1 resalta la necesidad urgente de un debate sobre la ética en el uso de la inteligencia artificial. La capacidad de crear representaciones fidedignas de personas plantea cuestiones sobre la privacidad, el consentimiento y la manipulación de la realidad. A medida que estas tecnologías continúan evolucionando, es imperativo que se establezcan marcos legales y éticos que regulen su uso y protejan a los individuos y la sociedad en su conjunto.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Robótica inteligente

Apple explora robótica para un futuro hogar inteligente

Apple está incursionando en la robótica, explorando tanto robots humanoides como no humanoides. Aunque aún se encuentra en etapas iniciales, la compañía prioriza la percepción...

Ciberseguridad fortalecida

Drata compra SafeBase por 250 millones y refuerza ciberseguridad

Drata ha adquirido SafeBase por 250 millones de dólares, fortaleciendo su posición en el sector de la ciberseguridad. Esta unión busca automatizar el cumplimiento normativo...

Automatización SaaS

Suger recibe 15 millones para revolucionar ventas de software SaaS

Suger, fundada por Jon Yoo y Chengjun Yuan, automatiza el proceso de listado de software SaaS en mercados en la nube, facilitando ventas más eficientes....

Revolución legal

La IA transforma el sector legal y mejora la eficiencia

La inteligencia artificial está revolucionando el sector legal, con un aumento significativo en su adopción por despachos y abogados internos. Empresas como SpotDraft destacan por...

Consumo energético

Estudio revela bajo consumo energético de ChatGPT pero advierte retos

Un estudio de Epoch AI revela que el consumo energético de ChatGPT es de aproximadamente 0.3 vatios-hora por consulta, mucho menos de lo estimado. A...

Sostenibilidad tecnológica

Microsoft impulsa sostenibilidad en tecnología con energías renovables

La sostenibilidad se ha vuelto esencial en el sector tecnológico, con empresas como Microsoft liderando la transición energética mediante la adquisición de energías renovables y...

Innovación tecnológica

YouTube impulsa inteligencia artificial para revolucionar contenido y creadores

YouTube, bajo la dirección de Neal Mohan, apuesta por la inteligencia artificial para transformar la creación y consumo de contenido. La plataforma implementará herramientas de...

Automatización accesible

Pinkfish revoluciona la automatización empresarial con soluciones accesibles

La automatización es esencial para las empresas, pero su implementación enfrenta desafíos significativos. Pinkfish, una startup fundada por Charayna Kannan, ofrece soluciones accesibles para automatizar...