El startup británico Yepic AI incumple su propia política de consentimiento para el uso de deepfakes
La startup británica Yepic AI, que afirma utilizar "deepfakes para el bien", y promete "nunca recrear a alguien sin su consentimiento", parece haber quebrantado su propia normativa.
En un correo electrónico no solicitado enviado a un reportero, un representante de Yepic AI compartió dos vídeos "deepfake" del periodista, quien no había dado su consentimiento para que su imagen fuera reproducida. Yepic AI afirmó en el correo que había "utilizado una foto públicamente disponible" del reportero para producir dos vídeos deepfake de él hablando en diferentes idiomas.
El periodista solicitó a Yepic AI que eliminara los vídeos deepfake que se habían creado sin su permiso.
¿Qué son los deepfakes?
Los deepfakes son fotos, vídeos o audios creados por sistemas de IA generativos diseñados para parecerse a un individuo. Aunque no son nuevos, la proliferación de sistemas de IA generativos permite a casi cualquiera crear contenido deepfake convincente de cualquier otra persona con relativa facilidad, incluso sin su conocimiento o consentimiento.
Política de ética de Yepic AI
En una página web que Yepic AI titula "Ética", la empresa afirmó: "Se prohíben los deepfakes y las imitaciones satíricas con fines políticos y otros [sic]". Además, la empresa declaró en una entrada de blog de agosto: "Nos negamos a producir avatares personalizados de personas sin su permiso expreso".
No se sabe si la empresa generó deepfakes de otras personas sin permiso, y la empresa se negó a comentar al respecto.
Respuesta de Yepic AI
Al ser contactado para hacer comentarios, el director ejecutivo de Yepic AI, Aaron Jones, informó que la empresa está actualizando su política de ética para "acomodar excepciones para imágenes generadas por IA que se crean con fines artísticos y expresivos".
En relación con cómo sucedió el incidente, Jones dijo: "Ni yo ni el equipo de Yepic estuvimos directamente involucrados en la creación de los vídeos en cuestión. Nuestro equipo de RR.PP. ha confirmado que el vídeo fue creado específicamente para el periodista para generar conciencia sobre la increíble tecnología que Yepic ha creado".
Jones afirmó que los vídeos y la imagen utilizada para la creación de la imagen del periodista fueron eliminados.
Impacto de los deepfakes
Previsiblemente, los deepfakes han engañado a víctimas desprevenidas para que caigan en estafas y entreguen sin saberlo sus criptomonedas o información personal, eludiendo algunos sistemas de moderación. En un caso, los estafadores utilizaron la IA para suplantar la voz del director ejecutivo de una empresa con el fin de engañar al personal para que realizara una transacción fraudulenta de cientos de miles de euros. Antes de que los deepfakes se popularizaran entre los estafadores, es importante destacar que las personas utilizaban deepfakes para crear imágenes pornográficas o sexuales no consentidas que victimizaban a las mujeres, es decir, creaban vídeos pornográficos de aspecto realista utilizando la imagen de mujeres que no habían dado su consentimiento para formar parte del vídeo.
Otras noticias • IA
Microsoft prohíbe DeepSeek por preocupaciones de seguridad y desinformación
Microsoft ha prohibido el uso de la aplicación DeepSeek entre sus empleados debido a preocupaciones sobre la seguridad de datos y la desinformación, especialmente por...
OpenAI integra ChatGPT con GitHub para mejorar productividad de desarrolladores
OpenAI ha integrado ChatGPT con GitHub, permitiendo a los desarrolladores interactuar con su código de manera más eficiente. Esta herramienta mejora la productividad al facilitar...
Google lanza caché implícito en API Gemini para ahorrar costos
Google ha introducido el "caché implícito" en su API Gemini, permitiendo ahorros de hasta el 75% en costos de uso de IA. Esta funcionalidad automática...
Google refuerza la seguridad de Chrome con inteligencia artificial
Google ha mejorado la seguridad de Chrome con inteligencia artificial, implementando Gemini Nano para detectar estafas en tiempo real y ofreciendo protección avanzada contra phishing....
Clay alcanza valoración de 1.5 mil millones con cultura colaborativa
Clay, una startup de automatización de ventas, ha crecido rápidamente, alcanzando una valoración de 1.5 mil millones de dólares. Su enfoque en la participación de...
Inteligencia artificial revoluciona comercio electrónico con nuevas herramientas
La inteligencia artificial está transformando el comercio electrónico, como demuestra la herramienta "Enhance My Listing" de Amazon, que optimiza listados de productos. Aunque ofrece eficiencia,...
Concisión en IA aumenta riesgo de respuestas incorrectas según estudio
Un estudio de Giskard revela que la concisión en las respuestas de IA puede aumentar la probabilidad de "alucinaciones" o información incorrecta. Esto plantea un...
Fidji Simo es la nueva CEO de Aplicaciones en OpenAI
Fidji Simo asume como nueva CEO de Aplicaciones en OpenAI, destacando su experiencia en monetización y desarrollo de productos. Su liderazgo promete impulsar la innovación...
Lo más reciente
- 1
Google I/O 2024: Innovaciones en IA y Android 16 anunciadas
- 2
Moviefone se reinventa con nueva app y "Moviefone TV"
- 3
DOL cierra investigación a Scale AI sobre contratistas independientes
- 4
Epic Games y Spotify desafían a Apple con pagos directos
- 5
Rippling recauda 450 millones y alcanza valoración de 16.800 millones
- 6
Startups se reinventan ante adquisiciones y desafíos financieros
- 7
SoundCloud permite uso de contenido para entrenar IA sin compensación