IA | Incumplimiento

Yepic AI incumple política de consentimiento con periodista en deepfake

El startup británico Yepic AI incumple su propia política de consentimiento para el uso de deepfakes

La startup británica Yepic AI, que afirma utilizar "deepfakes para el bien", y promete "nunca recrear a alguien sin su consentimiento", parece haber quebrantado su propia normativa.

En un correo electrónico no solicitado enviado a un reportero, un representante de Yepic AI compartió dos vídeos "deepfake" del periodista, quien no había dado su consentimiento para que su imagen fuera reproducida. Yepic AI afirmó en el correo que había "utilizado una foto públicamente disponible" del reportero para producir dos vídeos deepfake de él hablando en diferentes idiomas.

El periodista solicitó a Yepic AI que eliminara los vídeos deepfake que se habían creado sin su permiso.

¿Qué son los deepfakes?

Los deepfakes son fotos, vídeos o audios creados por sistemas de IA generativos diseñados para parecerse a un individuo. Aunque no son nuevos, la proliferación de sistemas de IA generativos permite a casi cualquiera crear contenido deepfake convincente de cualquier otra persona con relativa facilidad, incluso sin su conocimiento o consentimiento.

Política de ética de Yepic AI

En una página web que Yepic AI titula "Ética", la empresa afirmó: "Se prohíben los deepfakes y las imitaciones satíricas con fines políticos y otros [sic]". Además, la empresa declaró en una entrada de blog de agosto: "Nos negamos a producir avatares personalizados de personas sin su permiso expreso".

No se sabe si la empresa generó deepfakes de otras personas sin permiso, y la empresa se negó a comentar al respecto.

Respuesta de Yepic AI

Al ser contactado para hacer comentarios, el director ejecutivo de Yepic AI, Aaron Jones, informó que la empresa está actualizando su política de ética para "acomodar excepciones para imágenes generadas por IA que se crean con fines artísticos y expresivos".

En relación con cómo sucedió el incidente, Jones dijo: "Ni yo ni el equipo de Yepic estuvimos directamente involucrados en la creación de los vídeos en cuestión. Nuestro equipo de RR.PP. ha confirmado que el vídeo fue creado específicamente para el periodista para generar conciencia sobre la increíble tecnología que Yepic ha creado".

Jones afirmó que los vídeos y la imagen utilizada para la creación de la imagen del periodista fueron eliminados.

Impacto de los deepfakes

Previsiblemente, los deepfakes han engañado a víctimas desprevenidas para que caigan en estafas y entreguen sin saberlo sus criptomonedas o información personal, eludiendo algunos sistemas de moderación. En un caso, los estafadores utilizaron la IA para suplantar la voz del director ejecutivo de una empresa con el fin de engañar al personal para que realizara una transacción fraudulenta de cientos de miles de euros. Antes de que los deepfakes se popularizaran entre los estafadores, es importante destacar que las personas utilizaban deepfakes para crear imágenes pornográficas o sexuales no consentidas que victimizaban a las mujeres, es decir, creaban vídeos pornográficos de aspecto realista utilizando la imagen de mujeres que no habían dado su consentimiento para formar parte del vídeo.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Regulaciones AI

California aprueba leyes estrictas para regular inteligencia artificial y deepfakes

California ha aprobado leyes estrictas sobre la inteligencia artificial, incluyendo regulaciones sobre deepfakes en elecciones y el uso de réplicas digitales de actores. Estas medidas...

Reestructuración estratégica

Intel reestructura fundición en busca de agilidad y reducción de costes

Intel está reestructurando su división de fundición, convirtiéndola en una subsidiaria independiente para mejorar su agilidad. La compañía ha pausado proyectos en Europa y busca...

Adquisiciones estratégicas

Typeface adquiere Treat y Narrato para potenciar su innovación

Typeface, startup de inteligencia artificial generativa, ha adquirido Treat y Narrato para fortalecer su oferta de productos y mejorar la personalización en la creación de...

Transparencia confusa

Meta oculta etiqueta de contenido editado por IA en menú

Meta ha cambiado la etiqueta de contenido editado por IA, ocultándola en el menú del post, mientras que el contenido generado completamente por IA seguirá...

Resumen auditivo

Google presenta "Audio Overview" para resumir documentos con IA

Google ha lanzado "Audio Overview" en NotebookLM, una función que permite escuchar resúmenes de documentos mediante anfitriones virtuales de inteligencia artificial. Aunque está en fase...

Modelo multimodal

Mistral lanza Pixtral 12B, innovador modelo multimodal de IA

Mistral ha lanzado Pixtral 12B, su primer modelo multimodal con 12 mil millones de parámetros, capaz de procesar texto e imágenes. Disponible para pruebas en...

Desilusión tecnológica

Apple decepciona con IA que no innova en iPhone 16

La inteligencia artificial de Apple ha decepcionado al no ofrecer funciones realmente innovadoras. Aunque mejora la privacidad y accesibilidad, sus capacidades son similares a herramientas...

Expectación moderada

Apple despierta expectativas con inteligencia artificial para iPhone 16

Apple ha generado expectación con su inteligencia artificial, prevista para el iPhone 16. Aunque promete innovaciones, su implementación gradual y limitaciones regionales podrían afectar las...