IA | Incumplimiento

Yepic AI incumple política de consentimiento con periodista en deepfake

El startup británico Yepic AI incumple su propia política de consentimiento para el uso de deepfakes

La startup británica Yepic AI, que afirma utilizar "deepfakes para el bien", y promete "nunca recrear a alguien sin su consentimiento", parece haber quebrantado su propia normativa.

En un correo electrónico no solicitado enviado a un reportero, un representante de Yepic AI compartió dos vídeos "deepfake" del periodista, quien no había dado su consentimiento para que su imagen fuera reproducida. Yepic AI afirmó en el correo que había "utilizado una foto públicamente disponible" del reportero para producir dos vídeos deepfake de él hablando en diferentes idiomas.

El periodista solicitó a Yepic AI que eliminara los vídeos deepfake que se habían creado sin su permiso.

¿Qué son los deepfakes?

Los deepfakes son fotos, vídeos o audios creados por sistemas de IA generativos diseñados para parecerse a un individuo. Aunque no son nuevos, la proliferación de sistemas de IA generativos permite a casi cualquiera crear contenido deepfake convincente de cualquier otra persona con relativa facilidad, incluso sin su conocimiento o consentimiento.

Política de ética de Yepic AI

En una página web que Yepic AI titula "Ética", la empresa afirmó: "Se prohíben los deepfakes y las imitaciones satíricas con fines políticos y otros [sic]". Además, la empresa declaró en una entrada de blog de agosto: "Nos negamos a producir avatares personalizados de personas sin su permiso expreso".

No se sabe si la empresa generó deepfakes de otras personas sin permiso, y la empresa se negó a comentar al respecto.

Respuesta de Yepic AI

Al ser contactado para hacer comentarios, el director ejecutivo de Yepic AI, Aaron Jones, informó que la empresa está actualizando su política de ética para "acomodar excepciones para imágenes generadas por IA que se crean con fines artísticos y expresivos".

En relación con cómo sucedió el incidente, Jones dijo: "Ni yo ni el equipo de Yepic estuvimos directamente involucrados en la creación de los vídeos en cuestión. Nuestro equipo de RR.PP. ha confirmado que el vídeo fue creado específicamente para el periodista para generar conciencia sobre la increíble tecnología que Yepic ha creado".

Jones afirmó que los vídeos y la imagen utilizada para la creación de la imagen del periodista fueron eliminados.

Impacto de los deepfakes

Previsiblemente, los deepfakes han engañado a víctimas desprevenidas para que caigan en estafas y entreguen sin saberlo sus criptomonedas o información personal, eludiendo algunos sistemas de moderación. En un caso, los estafadores utilizaron la IA para suplantar la voz del director ejecutivo de una empresa con el fin de engañar al personal para que realizara una transacción fraudulenta de cientos de miles de euros. Antes de que los deepfakes se popularizaran entre los estafadores, es importante destacar que las personas utilizaban deepfakes para crear imágenes pornográficas o sexuales no consentidas que victimizaban a las mujeres, es decir, creaban vídeos pornográficos de aspecto realista utilizando la imagen de mujeres que no habían dado su consentimiento para formar parte del vídeo.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Inteligencia artificial

Helios revoluciona la política pública con inteligencia artificial Proxi

Helios, cofundada por Joe Scheidler y Joseph Farsakh, integra inteligencia artificial en la política pública con su producto Proxi. Este sistema optimiza la toma de...

Sesgo ético

Grok 4 de xAI: ¿Sesgo de Elon Musk en inteligencia artificial?

Grok 4, de xAI, refleja la influencia de las opiniones de Elon Musk en su funcionamiento, lo que cuestiona su objetividad y capacidad para buscar...

Marketplace IA

AWS lanza marketplace de IA para democratizar soluciones personalizadas

El lanzamiento del marketplace de agentes de IA de AWS el 15 de julio promete democratizar el acceso a la inteligencia artificial, permitiendo a empresas...

Creación audiovisual

Google lanza Veo 3, revolucionando la creación de videos

Google ha lanzado Veo 3, una herramienta de inteligencia artificial que permite generar videos a partir de imágenes. Esta innovación democratiza la creación de contenido...

Certificación ágil

Knox acelera certificación FedRAMP y democratiza contratos gubernamentales

Knox, fundada por Irina Denisenko, busca acelerar el proceso de certificación FedRAMP para software como servicio en el sector público, reduciendo el tiempo y coste....

Análisis geoespacial

LGND revoluciona análisis geoespacial con 9 millones en financiación

LGND es una startup que transforma el análisis de datos geoespaciales mediante embebidos vectoriales, mejorando la eficiencia en la interpretación de imágenes satelitales. Con una...

Innovación sostenible

Google impulsa startups de IA con nueva Academia Americana

Google lanza la segunda cohorte de su Academia de Infraestructura Americana, apoyando startups de IA en áreas críticas como ciberseguridad y salud. El programa, sin...

Expansión sanitaria

Diligent Robotics expande flota Moxi para mejorar atención sanitaria

Diligent Robotics, con la incorporación de Rashed Haq y Todd Brugger en su liderazgo, busca expandir su flota de robots Moxi en el sector sanitario....