El startup británico Yepic AI incumple su propia política de consentimiento para el uso de deepfakes
La startup británica Yepic AI, que afirma utilizar "deepfakes para el bien", y promete "nunca recrear a alguien sin su consentimiento", parece haber quebrantado su propia normativa.
En un correo electrónico no solicitado enviado a un reportero, un representante de Yepic AI compartió dos vídeos "deepfake" del periodista, quien no había dado su consentimiento para que su imagen fuera reproducida. Yepic AI afirmó en el correo que había "utilizado una foto públicamente disponible" del reportero para producir dos vídeos deepfake de él hablando en diferentes idiomas.
El periodista solicitó a Yepic AI que eliminara los vídeos deepfake que se habían creado sin su permiso.
¿Qué son los deepfakes?
Los deepfakes son fotos, vídeos o audios creados por sistemas de IA generativos diseñados para parecerse a un individuo. Aunque no son nuevos, la proliferación de sistemas de IA generativos permite a casi cualquiera crear contenido deepfake convincente de cualquier otra persona con relativa facilidad, incluso sin su conocimiento o consentimiento.
Política de ética de Yepic AI
En una página web que Yepic AI titula "Ética", la empresa afirmó: "Se prohíben los deepfakes y las imitaciones satíricas con fines políticos y otros [sic]". Además, la empresa declaró en una entrada de blog de agosto: "Nos negamos a producir avatares personalizados de personas sin su permiso expreso".
No se sabe si la empresa generó deepfakes de otras personas sin permiso, y la empresa se negó a comentar al respecto.
Respuesta de Yepic AI
Al ser contactado para hacer comentarios, el director ejecutivo de Yepic AI, Aaron Jones, informó que la empresa está actualizando su política de ética para "acomodar excepciones para imágenes generadas por IA que se crean con fines artísticos y expresivos".
En relación con cómo sucedió el incidente, Jones dijo: "Ni yo ni el equipo de Yepic estuvimos directamente involucrados en la creación de los vídeos en cuestión. Nuestro equipo de RR.PP. ha confirmado que el vídeo fue creado específicamente para el periodista para generar conciencia sobre la increíble tecnología que Yepic ha creado".
Jones afirmó que los vídeos y la imagen utilizada para la creación de la imagen del periodista fueron eliminados.
Impacto de los deepfakes
Previsiblemente, los deepfakes han engañado a víctimas desprevenidas para que caigan en estafas y entreguen sin saberlo sus criptomonedas o información personal, eludiendo algunos sistemas de moderación. En un caso, los estafadores utilizaron la IA para suplantar la voz del director ejecutivo de una empresa con el fin de engañar al personal para que realizara una transacción fraudulenta de cientos de miles de euros. Antes de que los deepfakes se popularizaran entre los estafadores, es importante destacar que las personas utilizaban deepfakes para crear imágenes pornográficas o sexuales no consentidas que victimizaban a las mujeres, es decir, creaban vídeos pornográficos de aspecto realista utilizando la imagen de mujeres que no habían dado su consentimiento para formar parte del vídeo.
Otras noticias • IA
California aprueba leyes estrictas para regular inteligencia artificial y deepfakes
California ha aprobado leyes estrictas sobre la inteligencia artificial, incluyendo regulaciones sobre deepfakes en elecciones y el uso de réplicas digitales de actores. Estas medidas...
Intel reestructura fundición en busca de agilidad y reducción de costes
Intel está reestructurando su división de fundición, convirtiéndola en una subsidiaria independiente para mejorar su agilidad. La compañía ha pausado proyectos en Europa y busca...
Typeface adquiere Treat y Narrato para potenciar su innovación
Typeface, startup de inteligencia artificial generativa, ha adquirido Treat y Narrato para fortalecer su oferta de productos y mejorar la personalización en la creación de...
Meta oculta etiqueta de contenido editado por IA en menú
Meta ha cambiado la etiqueta de contenido editado por IA, ocultándola en el menú del post, mientras que el contenido generado completamente por IA seguirá...
Google presenta "Audio Overview" para resumir documentos con IA
Google ha lanzado "Audio Overview" en NotebookLM, una función que permite escuchar resúmenes de documentos mediante anfitriones virtuales de inteligencia artificial. Aunque está en fase...
Mistral lanza Pixtral 12B, innovador modelo multimodal de IA
Mistral ha lanzado Pixtral 12B, su primer modelo multimodal con 12 mil millones de parámetros, capaz de procesar texto e imágenes. Disponible para pruebas en...
Apple decepciona con IA que no innova en iPhone 16
La inteligencia artificial de Apple ha decepcionado al no ofrecer funciones realmente innovadoras. Aunque mejora la privacidad y accesibilidad, sus capacidades son similares a herramientas...
Apple despierta expectativas con inteligencia artificial para iPhone 16
Apple ha generado expectación con su inteligencia artificial, prevista para el iPhone 16. Aunque promete innovaciones, su implementación gradual y limitaciones regionales podrían afectar las...
Lo más reciente
- 1
Motional cambia CEO en medio de desafíos financieros y reestructuración
- 2
Veo revoluciona YouTube con vídeos cortos y funciones innovadoras
- 3
YouTube presenta "Comunidades" para fortalecer la interacción con suscriptores
- 4
Fisker promete cubrir costos de reparación tras recall crítico
- 5
HTC presenta Vive Focus Vision, auricular de realidad mixta asequible
- 6
Amazon nombra a Samir Kumar director de consumo en India
- 7
Snapchat lanza herramientas para creadores y potencia la interacción