YouTube obliga a creadores a revelar contenido generado por IA

YouTube adapta sus políticas para la próxima oleada de vídeos de IA

YouTube ahora está requiriendo a los creadores que revelen a los espectadores cuando el contenido realista fue creado con IA, anunció la compañía el lunes. La plataforma está introduciendo una nueva herramienta en Creator Studio que requerirá a los creadores revelar cuando el contenido que los espectadores podrían confundir con una persona, lugar o evento real fue creado con medios alterados o sintéticos, incluida la IA generativa.

La nueva política tiene como objetivo prevenir que los usuarios sean engañados creyendo que un vídeo creado sintéticamente es real, ya que las nuevas herramientas de IA generativa están dificultando la diferenciación entre lo real y lo falso. El lanzamiento llega en un momento en que los expertos han advertido que la IA y los deepfakes representarán un riesgo notable durante las próximas elecciones presidenciales de EE. UU.

YouTube dice que la nueva política no requiere que los creadores revelen contenido claramente irreal o animado, como alguien montando un unicornio por un mundo fantástico. Tampoco requiere que los creadores revelen contenido que haya utilizado IA generativa para asistencia en la producción, como generar guiones o subtítulos automáticos.

En cambio, YouTube se está centrando en vídeos que utilizan el parecido de una persona realista. Por ejemplo, los creadores tendrán que revelar cuando han alterado digitalmente el contenido para "reemplazar el rostro de una persona por el de otra o generar sintéticamente la voz de una persona para narrar un vídeo", según YouTube.

También tendrán que revelar contenido que altere las imágenes de eventos o lugares reales, como hacer que parezca que un edificio real se incendió. Los creadores también tendrán que revelar cuando hayan generado escenas realistas de eventos ficticios importantes, como un tornado acercándose a un pueblo real.

YouTube dice que la mayoría de los vídeos mostrarán una etiqueta en la descripción ampliada, pero para vídeos que traten temas más sensibles como la salud o las noticias, la compañía mostrará una etiqueta más prominente en el propio vídeo.

Los espectadores comenzarán a ver las etiquetas en todos los formatos de YouTube en las próximas semanas, comenzando con la aplicación móvil de YouTube y pronto en escritorio y TV. YouTube planea considerar medidas de cumplimiento para los creadores que consistentemente elijan no usar las etiquetas.

La compañía dice que añadirá etiquetas en algunos casos cuando un creador no haya añadido una por sí mismo, especialmente si el contenido tiene el potencial de confundir o engañar a las personas.