IA | Desinformación política

OpenAI desmantela cuentas iraníes de desinformación en EE.UU

Contexto de la influencia en redes sociales

La utilización de herramientas de inteligencia artificial para manipular la opinión pública no es un fenómeno nuevo, pero su evolución ha llevado a la creación de operaciones más sofisticadas y encubiertas. Recientemente, OpenAI ha tomado medidas contra un grupo de cuentas de ChatGPT que se vinculaban a una operación de influencia iraní, centrada en la generación de contenido relacionado con las elecciones presidenciales de EE.UU. Este tipo de actividades pone de relieve la creciente preocupación sobre cómo las tecnologías emergentes pueden ser explotadas para desinformar y polarizar a la sociedad.

La operación Storm-2035

Según un informe de OpenAI, la investigación sobre estas cuentas se benefició de un análisis realizado por Microsoft, que identificó al grupo como Storm-2035. Este nombre evoca una estructura organizada que ha estado operando desde 2020, utilizando diversas tácticas para influir en el electorado estadounidense. La estrategia no se limita a promover una agenda política específica, sino que busca sembrar la discordia y el conflicto, utilizando mensajes polarizadores que tocan temas sensibles como los derechos LGBTQ y el conflicto Israel-Hamas.

Microsoft también detalló que Storm-2035 opera múltiples sitios que imitan medios de comunicación, dirigidos a captar la atención de votantes en ambos extremos del espectro político. Este enfoque dual tiene como objetivo dividir aún más a la sociedad estadounidense, creando un ambiente de confrontación y desconfianza. Las plataformas de redes sociales se convierten en un campo de batalla donde la verdad se diluye entre rumores y afirmaciones engañosas.

Generación de contenido con ChatGPT

OpenAI reveló que el grupo utilizó su herramienta de inteligencia artificial para redactar artículos y comentarios políticos, algunos de los cuales incluían afirmaciones falsas y provocativas. Por ejemplo, un artículo sostenía que "X censura los tuits de Trump", algo que no se sostiene a la luz de la realidad. Este tipo de contenido no solo engaña a los lectores, sino que también puede incitar a la acción, como se vio en algunos de los tuits que se compartieron.

El uso de ChatGPT para generar contenido a gran escala es un claro ejemplo de cómo la inteligencia artificial puede ser mal utilizada. Las cuentas de Storm-2035 en redes sociales como X e Instagram publicaron comentarios reescritos por ChatGPT, que distorsionaban la realidad y contribuían a la narrativa de desinformación. Este fenómeno subraya la necesidad urgente de establecer controles y regulaciones sobre el uso de tecnologías de IA en contextos políticos.

La respuesta de OpenAI y el panorama actual

OpenAI ha adoptado un enfoque proactivo para contrarrestar estas operaciones, adoptando una estrategia similar a un "whack-a-mole", donde van eliminando cuentas a medida que aparecen. Sin embargo, la rapidez con la que estas cuentas se crean y desaparecen plantea preguntas sobre la eficacia a largo plazo de estas medidas. La naturaleza rápida y económica de estas operaciones, alimentadas por herramientas de IA, sugiere que es probable que veamos un aumento en tales incidentes a medida que se acerquen las elecciones.

A pesar de las acciones de OpenAI, el impacto de Storm-2035 parece haber sido limitado, ya que la mayoría de sus publicaciones en redes sociales recibieron pocos o ningún "me gusta", compartidos o comentarios. Esto puede ser un reflejo de la saturación del mercado de la desinformación, donde los usuarios están cada vez más cansados de las tácticas engañosas y buscan fuentes de información más fiables.

Implicaciones para el futuro de las elecciones

La utilización de inteligencia artificial en campañas de desinformación no es solo un problema para OpenAI o Microsoft, sino que plantea desafíos más amplios para la democracia y la integridad electoral. Con la llegada de las elecciones, la posibilidad de que grupos similares a Storm-2035 intenten influir en la opinión pública a través de la desinformación es un riesgo real. La proliferación de este tipo de contenido puede erosionar la confianza del público en las instituciones democráticas y dificultar el debate civil.

Además, la capacidad de estos grupos para adaptarse rápidamente y crear nuevas cuentas plantea un dilema significativo para las plataformas de redes sociales. Las empresas deben encontrar formas efectivas de identificar y desmantelar estas operaciones antes de que puedan causar un daño considerable. Esto requerirá una colaboración más estrecha entre las plataformas de tecnología, los gobiernos y las organizaciones de la sociedad civil.

La intersección de la inteligencia artificial y la política es un campo en constante evolución. Con cada nuevo avance tecnológico, surgen nuevas oportunidades para la manipulación y la desinformación. Es fundamental que se implementen estrategias efectivas para abordar estos desafíos y proteger la integridad de los procesos democráticos en todo el mundo.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Innovación ética

Meta acelera innovación en IA pese a críticas éticas

Meta busca superar a competidores en inteligencia artificial, como OpenAI, a través de la rápida innovación, pero enfrenta críticas por prácticas éticamente cuestionables, especialmente en...

Revolución podcasts

Inteligencia artificial transforma podcasts con interacciones dinámicas y éticas

La inteligencia artificial está revolucionando los podcasts con herramientas como NotebookLM, que permiten interacciones más dinámicas. La nueva función "Modo Interactivo" facilita la participación de...

Nuevo miembro

OpenAI nombra a Adebayo Ogunlesi en su junta directiva

OpenAI ha nombrado a Adebayo Ogunlesi, ejecutivo de BlackRock, como nuevo miembro de su junta directiva. Su experiencia en finanzas y compromiso con la ética...

Contabilidad automatizada

Pryce Yebesi lanza Open Ledger para optimizar contabilidad empresarial

Pryce Yebesi, tras vender su empresa Utopia Labs a Coinbase, lanza Open Ledger, una plataforma de contabilidad automatizada. Su objetivo es ayudar a las empresas...

Conectividad IA

Apple se une a consorcio para desarrollar estándar UALink

Apple se une al Ultra Accelerator Link Consortium para desarrollar UALink, un estándar de conectividad para chips de IA en centros de datos. Esta colaboración...

Gestión tareas

ChatGPT introduce gestión de tareas y recordatorios personalizados

OpenAI ha lanzado una función de gestión de tareas en ChatGPT, permitiendo a los usuarios establecer recordatorios personalizados. Esta innovación mejora la interacción con la...

Sostenibilidad tecnológica

Biden impulsa centros de datos de IA con energías renovables

La orden ejecutiva de Biden permite a empresas de IA construir centros de datos en terrenos federales, exigiendo el uso de energías renovables. Esta estrategia...

Transformación tecnológica

Startups impulsan computación cuántica para revolucionar la tecnología

La computación cuántica, impulsada por startups como SEEQC, promete transformar la industria tecnológica al mejorar la eficiencia del procesamiento de datos. La colaboración con grandes...