El startup británico Yepic AI incumple su propia política de consentimiento para el uso de deepfakes
La startup británica Yepic AI, que afirma utilizar "deepfakes para el bien", y promete "nunca recrear a alguien sin su consentimiento", parece haber quebrantado su propia normativa.
En un correo electrónico no solicitado enviado a un reportero, un representante de Yepic AI compartió dos vídeos "deepfake" del periodista, quien no había dado su consentimiento para que su imagen fuera reproducida. Yepic AI afirmó en el correo que había "utilizado una foto públicamente disponible" del reportero para producir dos vídeos deepfake de él hablando en diferentes idiomas.
El periodista solicitó a Yepic AI que eliminara los vídeos deepfake que se habían creado sin su permiso.
¿Qué son los deepfakes?
Los deepfakes son fotos, vídeos o audios creados por sistemas de IA generativos diseñados para parecerse a un individuo. Aunque no son nuevos, la proliferación de sistemas de IA generativos permite a casi cualquiera crear contenido deepfake convincente de cualquier otra persona con relativa facilidad, incluso sin su conocimiento o consentimiento.
Política de ética de Yepic AI
En una página web que Yepic AI titula "Ética", la empresa afirmó: "Se prohíben los deepfakes y las imitaciones satíricas con fines políticos y otros [sic]". Además, la empresa declaró en una entrada de blog de agosto: "Nos negamos a producir avatares personalizados de personas sin su permiso expreso".
No se sabe si la empresa generó deepfakes de otras personas sin permiso, y la empresa se negó a comentar al respecto.
Respuesta de Yepic AI
Al ser contactado para hacer comentarios, el director ejecutivo de Yepic AI, Aaron Jones, informó que la empresa está actualizando su política de ética para "acomodar excepciones para imágenes generadas por IA que se crean con fines artísticos y expresivos".
En relación con cómo sucedió el incidente, Jones dijo: "Ni yo ni el equipo de Yepic estuvimos directamente involucrados en la creación de los vídeos en cuestión. Nuestro equipo de RR.PP. ha confirmado que el vídeo fue creado específicamente para el periodista para generar conciencia sobre la increíble tecnología que Yepic ha creado".
Jones afirmó que los vídeos y la imagen utilizada para la creación de la imagen del periodista fueron eliminados.
Impacto de los deepfakes
Previsiblemente, los deepfakes han engañado a víctimas desprevenidas para que caigan en estafas y entreguen sin saberlo sus criptomonedas o información personal, eludiendo algunos sistemas de moderación. En un caso, los estafadores utilizaron la IA para suplantar la voz del director ejecutivo de una empresa con el fin de engañar al personal para que realizara una transacción fraudulenta de cientos de miles de euros. Antes de que los deepfakes se popularizaran entre los estafadores, es importante destacar que las personas utilizaban deepfakes para crear imágenes pornográficas o sexuales no consentidas que victimizaban a las mujeres, es decir, creaban vídeos pornográficos de aspecto realista utilizando la imagen de mujeres que no habían dado su consentimiento para formar parte del vídeo.
Otras noticias • IA
Meta acelera innovación en IA pese a críticas éticas
Meta busca superar a competidores en inteligencia artificial, como OpenAI, a través de la rápida innovación, pero enfrenta críticas por prácticas éticamente cuestionables, especialmente en...
Inteligencia artificial transforma podcasts con interacciones dinámicas y éticas
La inteligencia artificial está revolucionando los podcasts con herramientas como NotebookLM, que permiten interacciones más dinámicas. La nueva función "Modo Interactivo" facilita la participación de...
OpenAI nombra a Adebayo Ogunlesi en su junta directiva
OpenAI ha nombrado a Adebayo Ogunlesi, ejecutivo de BlackRock, como nuevo miembro de su junta directiva. Su experiencia en finanzas y compromiso con la ética...
Pryce Yebesi lanza Open Ledger para optimizar contabilidad empresarial
Pryce Yebesi, tras vender su empresa Utopia Labs a Coinbase, lanza Open Ledger, una plataforma de contabilidad automatizada. Su objetivo es ayudar a las empresas...
Apple se une a consorcio para desarrollar estándar UALink
Apple se une al Ultra Accelerator Link Consortium para desarrollar UALink, un estándar de conectividad para chips de IA en centros de datos. Esta colaboración...
ChatGPT introduce gestión de tareas y recordatorios personalizados
OpenAI ha lanzado una función de gestión de tareas en ChatGPT, permitiendo a los usuarios establecer recordatorios personalizados. Esta innovación mejora la interacción con la...
Biden impulsa centros de datos de IA con energías renovables
La orden ejecutiva de Biden permite a empresas de IA construir centros de datos en terrenos federales, exigiendo el uso de energías renovables. Esta estrategia...
Startups impulsan computación cuántica para revolucionar la tecnología
La computación cuántica, impulsada por startups como SEEQC, promete transformar la industria tecnológica al mejorar la eficiencia del procesamiento de datos. La colaboración con grandes...
Lo más reciente
- 1
Ciberataque a Change Healthcare compromete 100 millones de registros médicos
- 2
LinkedIn lanza herramientas de IA para mejorar búsqueda de empleo
- 3
Microsoft lanza Copilot Chat para democratizar IA en empresas
- 4
Hinge lanza IA para mejorar perfiles de citas y conexiones
- 5
Explode: la app que envía mensajes efímeros en iMessage
- 6
Synthesia transforma la comunicación empresarial con avatares de IA
- 7
Nelly revoluciona la atención sanitaria con su plataforma digital