Artistas lanzan herramienta para proteger sus obras del uso no autorizado por parte de IA generativa
En un intento por proteger sus obras de arte del uso no autorizado por parte de modelos de inteligencia artificial (IA) generativa, artistas y activistas han lanzado una serie de herramientas diseñadas para modificar las imágenes y evitar que sean utilizadas en el entrenamiento de estos modelos.
Una de estas herramientas es Nightshade, lanzada recientemente, que realiza cambios sutiles en los píxeles de una imagen para engañar a los modelos de IA y hacerles creer que la imagen representa algo diferente de lo que realmente es. Otra herramienta llamada Kin.art utiliza la segmentación de imágenes y la aleatorización de etiquetas para interferir en el proceso de entrenamiento de los modelos.
La herramienta de Kin.art fue desarrollada en colaboración con Flor Ronsmans De Vry, cofundadora de Kin.art, una plataforma de gestión de encargos artísticos. Según Ronsmans De Vry, los modelos de IA generativa se entrenan utilizando conjuntos de datos de imágenes etiquetadas para aprender las asociaciones entre conceptos escritos e imágenes. Al modificar ya sea la imagen o las etiquetas asociadas a una obra de arte, se dificulta el uso de esa obra en el entrenamiento de los modelos.
"El diseño de un entorno en el que el arte tradicional y el arte generativo puedan coexistir se ha convertido en uno de los principales desafíos a los que se enfrenta la industria del arte", afirmó Ronsmans De Vry en una entrevista. "Creemos que esto comienza desde un enfoque ético del entrenamiento de la IA, donde se respeten los derechos de los artistas".
La herramienta de Kin.art se presenta como una solución superior a otras existentes, ya que no requiere modificar criptográficamente las imágenes, lo que puede resultar costoso. Sin embargo, Ronsmans De Vry señala que también se puede combinar con otros métodos como protección adicional.
Aunque la herramienta de Kin.art es gratuita, los artistas deben cargar sus obras en la plataforma de cartera de Kin.art para poder utilizarla. La idea detrás de esto es que la herramienta dirija a los artistas hacia los servicios de comisiones artísticas de pago de Kin.art, su principal fuente de ingresos.
Sin embargo, Ronsmans De Vry asegura que el esfuerzo de Kin.art es en su mayoría filantrópico y que planean ofrecer la herramienta a terceros en el futuro. "Después de probar nuestra solución en nuestra propia plataforma, planeamos ofrecerla como un servicio para permitir que cualquier pequeño sitio web y gran plataforma proteja fácilmente sus datos del uso no autorizado", afirmó.
La protección de los datos en la era de la IA se ha vuelto más importante que nunca, especialmente para aquellas plataformas que necesitan proporcionar servicios públicos y no pueden bloquear el acceso a usuarios no autorizados. Es en este punto donde soluciones como la de Kin.art pueden marcar la diferencia.
Con el lanzamiento de estas herramientas, los artistas tienen una nueva forma de proteger sus obras de arte del uso no autorizado por parte de los modelos de IA generativa. A medida que avanza la tecnología, es probable que surjan más soluciones para abordar este problema y garantizar que los derechos de los artistas sean respetados en el campo de la inteligencia artificial.
Otras noticias • IA
Imágenes sintéticas desnudas amenazan privacidad y seguridad personal
La proliferación de imágenes sintéticas desnudas plantea serios desafíos de privacidad y seguridad, especialmente en casos de pornografía de venganza. Microsoft ha colaborado con StopNCII...
Cosmos Institute lanza iniciativas para una IA humanista y ética
El Cosmos Institute busca transformar la inteligencia artificial mediante un enfoque humanista, creando el Human-Centered AI Lab en Oxford y la Cosmos Fellowship. También lanzan...
Canva eleva precios y usuarios critican pérdida de accesibilidad
Canva ha aumentado drásticamente los precios de sus planes, especialmente para Canva Teams, justificándolo por la inversión en inteligencia artificial. Este cambio ha generado descontento...
Google refuerza IA y plataformas para combatir desinformación electoral
Google implementa restricciones en su inteligencia artificial generativa para evitar la desinformación durante las elecciones presidenciales de EE. UU. Además, mejora su motor de búsqueda...
LAION presenta Re-LAION-5B para combatir contenido ilegal y NSFW
LAION ha lanzado Re-LAION-5B, un conjunto de datos depurado de enlaces a material de abuso sexual infantil y contenido NSFW. Este esfuerzo responde a recomendaciones...
Gmail integra Gemini para mejorar gestión de correos electrónicos
Gmail ha integrado el asistente de inteligencia artificial Gemini, permitiendo a los usuarios hacer preguntas sobre sus correos electrónicos y recibir resúmenes. Esta función, disponible...
Reliance Industries impulsa inteligencia artificial con nuevos centros de datos
Reliance Industries, liderada por Mukesh Ambani, apuesta por la inteligencia artificial con la creación de centros de datos en Gujarat y el desarrollo de Jio...
Incertidumbre en OpenAI por falta de anuncios de Converge 2
El programa de aceleración Converge 2 de OpenAI ha generado incertidumbre por la falta de comunicación sobre las startups seleccionadas. A diferencia de su primera...
Lo más reciente
- 1
Byju's enfrenta crisis tras renuncia de auditor BDO
- 2
Ciberataque interrumpe servicios de TfL y genera preocupación pública
- 3
Meta debe permitir interoperabilidad entre WhatsApp y otras apps
- 4
Lanzamiento del cohete New Glenn se pospone hasta 2025
- 5
Eagles y Packers enfrentan retos en partido histórico en Brasil
- 6
Thunder Power Holdings enfrenta crisis financiera y cargos criminales
- 7
Karo simplifica la gestión de tareas para grupos y empresas