Imagen falsa de explosión en Pentágono se difunde en Twitter: peligros de IA y verificación pagada

El peligro de la combinación entre verificación pagada y inteligencia artificial generativa se hace cada vez más evidente. En la mañana del lunes, una imagen aparentemente generada por inteligencia artificial de una explosión en el Pentágono circuló por internet, a pesar de que el evento nunca ocurrió.

Verificación pagada y AI generativa, una combinación peligrosa

En aproximadamente media hora, la imagen apareció en una cuenta verificada de Twitter llamada "Bloomberg Feed", que fácilmente podría ser confundida con una cuenta afiliada real de Bloomberg, especialmente porque tenía una marca azul. Esa cuenta ha sido suspendida desde entonces. La red de noticias controlada por el estado ruso, RT, también compartió la imagen, según capturas de pantalla que los usuarios capturaron antes de que el tweet fuera eliminado. Varias cuentas de Twitter con cientos de miles de seguidores, como DeItaone, OSINTdefender y Whale Chart, la compartieron. Incluso una red de televisión india informó sobre la falsa explosión en el Pentágono. No está claro de inmediato dónde se originó esta imagen y noticia falsa.

Esta no es la primera vez que una imagen falsa ha engañado con éxito a Internet, pero las apuestas son más altas cuando el evento falso es una explosión en un edificio gubernamental de EE. UU., en lugar del Papa usando un abrigo Balenciaga. Algunos han informado que la imagen falsa podría estar relacionada con un movimiento de 25 puntos básicos del S&P 500, pero la caída no duró mucho y no hay forma de demostrar que fue completamente el resultado de esta broma. El incidente plantea la pregunta de cómo la inteligencia artificial generativa podría usarse para manipular el mercado de valores en el futuro. Después de todo, Reddit lo hizo.

La verificación de Twitter de Elon Musk

La desinformación es un problema tan antiguo como Internet, pero el crecimiento simultáneo de la inteligencia artificial generativa y el cambio en el sistema de verificación de Twitter hace que el terreno sea especialmente fértil. Desde el principio, el plan del dueño de Twitter, Elon Musk, de eliminar el estatus de verificación existente de sus cuentas y permitir que cualquiera pague por el símbolo ha sido un desastre. Incluso si sabemos que las marcas azules ya no indican legitimidad, es difícil romper un hábito visual que hemos cultivado durante casi 15 años: si ves una cuenta llamada "Bloomberg Feed" que tiene una marca azul publicando sobre un ataque en el Pentágono, es probable que estés predispuesto a pensar que es real. A medida que se vuelve cada vez más difícil detectar imágenes falsas, solo continuaremos viendo informes de noticias falsas como este en el futuro.

Es importante destacar la necesidad de una mayor regulación y supervisión de las cuentas verificadas y la información que comparten en línea. La combinación de verificación pagada y inteligencia artificial generativa ha demostrado ser peligrosa y puede ser explotada fácilmente por personas malintencionadas. Además, se necesita educar a los usuarios sobre cómo detectar noticias falsas y no confiar en la verificación como la única forma de determinar la legitimidad de una cuenta o información. La tecnología avanza rápidamente y debemos asegurarnos de que nuestras prácticas y políticas también evolucionen para proteger a los usuarios y la integridad de la información en línea.