DeepMind lanza una herramienta de marca de agua para imágenes generadas por IA
DeepMind, la división de investigación de IA de Google, en colaboración con Google Cloud, está lanzando una herramienta para marcar con agua e identificar imágenes generadas por inteligencia artificial (IA). Sin embargo, sólo se pueden marcar las imágenes creadas por el propio modelo generador de imágenes de Google.
La herramienta, llamada SynthID y disponible en beta para algunos usuarios de Vertex AI, la plataforma de Google para crear aplicaciones y modelos de IA, inserta una marca de agua digital directamente en los píxeles de una imagen. Esto hace que sea prácticamente imperceptible para el ojo humano, pero detectable por un algoritmo. SynthID sólo admite Imagen, el modelo de texto a imagen de Google, que está disponible exclusivamente en Vertex AI.
Una forma de prevenir la desinformación
En el pasado, Google había anunciado que insertaría metadatos para señalar los medios visuales creados por modelos de IA generativos. SynthID va un paso más allá de esto.
"Si bien la IA generativa puede liberar un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, tanto intencional como involuntariamente", escribe DeepMind en una entrada de blog. "Ser capaz de identificar contenido generado por IA es fundamental para empoderar a las personas con el conocimiento de cuándo están interactuando con medios generados, y para ayudar a prevenir la propagación de la desinformación".
El potencial de SynthID
DeepMind asegura que SynthID, que desarrolló en colaboración con Google Research, el equipo de I+D de Google, permanece en su lugar incluso después de modificaciones como añadir filtros, cambiar los colores y comprimir imágenes al máximo. La herramienta utiliza dos modelos de IA, uno para marcar con agua y otro para identificar, que fueron entrenados juntos en un conjunto "diverso" de imágenes, dice DeepMind.
SynthID no puede identificar imágenes con marca de agua con un 100% de confianza. Pero la herramienta distingue entre instancias donde una imagen podría contener una marca de agua versus una imagen que es muy probable que contenga una.
"SynthID no es infalible contra manipulaciones de imágenes extremas, pero sí ofrece un enfoque técnico prometedor para empoderar a las personas y a las organizaciones para trabajar con contenido generado por IA de manera responsable", escribe DeepMind en la entrada del blog. "Esta herramienta también podría evolucionar junto con otros modelos y modalidades de IA más allá de la imaginería, como el audio, el vídeo y el texto".
La necesidad de una norma común para las marcas de agua
Las técnicas de marca de agua para el arte generativo no son nuevas. Imatag, una startup francesa lanzada en 2020, ofrece una herramienta de marca de agua que asegura no se ve afectada por el cambio de tamaño, recorte, edición o compresión de imágenes, similar a SynthID. Otra empresa, Steg.AI, utiliza un modelo de IA para aplicar marcas de agua que sobreviven al cambio de tamaño y otras ediciones.
Pero la presión está aumentando en las empresas tecnológicas para proporcionar una forma de dejar claro que las obras fueron generadas por IA.
Recientemente, la Administración de Ciberespacio de China emitió regulaciones que exigen que los vendedores de IA generativa marquen el contenido generado, incluyendo generadores de texto e imagen, sin afectar el uso del usuario. Y en recientes audiencias del comité del Senado de EE.UU., la senadora Kyrsten Sinema (I-AZ) destacó la necesidad de transparencia en la IA generativa, incluyendo el uso de marcas de agua.
Pero hasta ahora, una norma común de marca de agua, tanto para crear marcas de agua como para detectarlas, ha demostrado ser esquiva.
DeepMind dice que está considerando hacer que SynthID esté disponible para terceros en un futuro próximo. Pero si las terceras partes, especialmente aquellas que desarrollan generadores de imágenes de IA de código abierto, que carecen de muchas de las salvaguardas en los generadores protegidos por una API, adoptarán la tecnología es otra cuestión completamente diferente.
Otras noticias • IA
Dudas sobre Sam Altman y la ética en OpenAI
La comparecencia de Sam Altman ante el Congreso ha generado dudas sobre su relación con OpenAI, especialmente tras revelaciones sobre su participación a través de...
Boon revoluciona la logística con inteligencia artificial y financiación
Boon, una startup fundada por Deepti Yenireddy, busca transformar la logística mediante inteligencia artificial, optimizando procesos y aumentando la eficiencia. Con 20,5 millones de dólares...
Stem AI busca alinear inteligencia artificial con ética humana
Stem AI, cofundada por Emmett Shear, busca alinear la inteligencia artificial con el comportamiento humano y la ética. Con el respaldo de Andreessen Horowitz, la...
TuSimple se convierte en CreateAI y se enfoca en videojuegos
TuSimple se transforma en CreateAI, abandonando el desarrollo de camiones autónomos para centrarse en la animación y videojuegos. A pesar de controversias sobre prácticas de...
Anysphere recauda 100 millones y alcanza valoración de 2.600 millones
Anysphere, creador de Cursor, ha recaudado 100 millones de dólares en financiación, alcanzando una valoración de 2.600 millones. Su modelo freemium y asociaciones con empresas...
Instagram introduce herramientas de edición de vídeo con IA
Instagram lanzará nuevas herramientas de edición impulsadas por inteligencia artificial que permitirán a los creadores personalizar sus vídeos mediante comandos de texto. Estas innovaciones buscan...
Google lanza Gemini 2.0 para revolucionar la inteligencia artificial
Google ha presentado el modelo Gemini 2.0 Flash Thinking Experimental, que promete avanzar en el razonamiento y la comprensión multimodal de la IA. Aunque enfrenta...
BlueQubit revoluciona la computación cuántica con su plataforma QSaaS
BlueQubit, una startup de San Francisco, lidera la integración de la computación cuántica en aplicaciones reales a través de su plataforma QSaaS. Fundada por alumni...
Lo más reciente
- 1
PearAI demuestra resiliencia y éxito en el emprendimiento tecnológico
- 2
Startups se adaptan a sostenibilidad y cambios en financiación
- 3
NHTSA propone marco para vehículos autónomos, ¿seguridad garantizada?
- 4
Google Gemini se expande a 40 idiomas para investigadores globales
- 5
Inteligencia artificial impulsa oportunidades y diversidad en startups
- 6
ERV impulsa tecnologías limpias y sostenibles en el sector energético
- 7
Uzbekistán lidera la banca digital con innovación y tecnología