Meta lanza plataforma IA generativa para crear imágenes desde descripciones

Meta lanza una nueva experiencia de IA generativa llamada "Imagine with Meta"

La empresa Meta no quiere quedarse atrás en la carrera de la inteligencia artificial y ha lanzado una nueva experiencia de IA generativa en la web llamada "Imagine with Meta". Esta plataforma permite a los usuarios crear imágenes describiéndolas en lenguaje natural.

Similar a otras herramientas como DALL-E de OpenAI, Midjourney y Stable Diffusion, "Imagine with Meta" utiliza el modelo de generación de imágenes Emu de Meta para crear imágenes de alta resolución a partir de indicaciones de texto. Por el momento, la plataforma es gratuita para los usuarios en Estados Unidos y genera cuatro imágenes por indicación.

En una publicación de blog, Meta afirma que ha recibido comentarios positivos de los usuarios sobre cómo utilizan "Imagine", la función de generación de imágenes de texto a imagen de Meta AI, para crear contenido divertido y creativo en chats. Ahora, Meta ha decidido expandir el acceso a "Imagine" fuera de los chats, permitiendo a los usuarios crear imágenes gratuitas en la web.

Preocupaciones sobre la seguridad y transparencia de "Imagine with Meta"

Sin embargo, las herramientas de generación de imágenes de Meta han generado polémica en el pasado debido a problemas de sesgo racial (como el generador de pegatinas de IA de Meta). Ante esto, surge la pregunta de si "Imagine with Meta" cuenta con salvaguardias para evitar que se repitan este tipo de incidentes. Aunque no se nos dio la oportunidad de probar la herramienta antes de su lanzamiento, estaremos atentos mientras "Imagine with Meta" llega a más usuarios.

Aunque al principio no estarán activos, Meta ha prometido añadir marcas de agua al contenido generado por "Imagine with Meta" en las próximas semanas para aumentar la transparencia y trazabilidad. Estas marcas de agua, que son invisibles, serán generadas con un modelo de IA y detectables con un modelo correspondiente, según Meta. No se ha mencionado si el modelo de detección se hará público en algún momento.

El aumento de la presión sobre las empresas tecnológicas para garantizar la transparencia

El uso de técnicas de marca de agua para el arte generativo no es algo nuevo. Empresas como Imatag y Steg.AI ya ofrecen herramientas de marca de agua que aseguran no verse afectadas por cambios en el tamaño, recortes, ediciones o compresión de imágenes. Además, gigantes tecnológicos como Microsoft y Google han adoptado estándares y tecnologías basadas en IA para la marca de agua. Shutterstock y Midjourney también han acordado directrices para incluir marcadores que indiquen que su contenido fue creado por una herramienta de IA generativa.

Sin embargo, la presión sobre las empresas tecnológicas está aumentando para que sea más claro cuando una obra ha sido generada por IA, especialmente en vista de la proliferación de Deepfakes durante la guerra de Gaza y las imágenes de abuso infantil generadas por IA que eluden los filtros.

Recientemente, la Administración del Ciberespacio de China emitió regulaciones que exigen a los proveedores de IA generativa marcar el contenido generado, incluyendo generadores de texto e imágenes, sin afectar el uso por parte de los usuarios. En las audiencias recientes del comité del Senado de Estados Unidos, la senadora Kyrsten Sinema (I-AZ) hizo hincapié en la necesidad de transparencia en la IA generativa, incluyendo el uso de marcas de agua.

En resumen, Meta ha lanzado "Imagine with Meta", una nueva experiencia de IA generativa que permite a los usuarios crear imágenes a partir de descripciones en lenguaje natural. Aunque Meta promete añadir marcas de agua para aumentar la transparencia, la presión sobre las empresas tecnológicas para garantizar la transparencia en el arte generativo está en aumento.