Desinformación por IA en elecciones 2023 fue menor de lo esperado

La evolución de la desinformación en la era de la inteligencia artificial

A medida que nos adentramos en una nueva era tecnológica, la preocupación por el uso de la inteligencia artificial (IA) en la manipulación de la información y la interferencia en los procesos democráticos ha cobrado relevancia. A principios de año, el mundo se mostró inquieto ante la posibilidad de que las herramientas de IA generativa fueran utilizadas para propagar desinformación durante las elecciones en diversas partes del globo. Sin embargo, a finales del mismo año, una de las principales plataformas de redes sociales ha compartido sus hallazgos, sugiriendo que los temores sobre el impacto de la IA en las elecciones no se materializaron de la manera que muchos habían anticipado.

La respuesta de Meta a la desinformación

Meta, la empresa matriz de Facebook, Instagram y Threads, ha presentado un análisis detallado sobre el impacto de la IA generativa en las elecciones celebradas en varios países, incluyendo Estados Unidos, Bangladesh, Indonesia, India, Pakistán, y varias naciones europeas. En un comunicado oficial, la compañía ha afirmado que aunque se detectaron algunos casos confirmados o sospechosos de uso de IA para la desinformación, el volumen de estos casos se mantuvo bajo. “Nuestras políticas y procesos existentes resultaron ser suficientes para reducir el riesgo en torno al contenido generado por IA,” afirmaron en su blog.

Durante el periodo electoral de las elecciones más significativas, Meta reportó que el contenido relacionado con la IA, que fue verificado por sus sistemas de control, representó menos del 1% de toda la desinformación detectada. Este dato sugiere que, a pesar de la creciente sofisticación de las herramientas de IA, su uso para fines malintencionados no ha alcanzado los niveles alarmantes que muchos expertos habían previsto.

El análisis de Meta incluye elecciones en países de gran relevancia política, como Estados Unidos y Brasil, donde la desinformación puede tener un impacto significativo en la opinión pública.

Herramientas para la prevención de deepfakes

Una de las medidas más destacadas implementadas por Meta fue el uso de su generador de imágenes, Imagine AI, que bloqueó más de 590,000 solicitudes para crear imágenes de figuras políticas como el presidente electo Trump y la vicepresidenta Harris. Este esfuerzo fue parte de un intento por prevenir la creación de deepfakes relacionados con las elecciones, que podrían haber influido en la percepción pública de los candidatos. “La prevención de la creación de contenido engañoso fue una de nuestras prioridades en la antesala de las elecciones,” mencionaron desde la compañía.

A pesar de estos esfuerzos, Meta también destacó que las redes de cuentas coordinadas que buscaban difundir propaganda o desinformación lograron únicamente “ganancias incrementales en productividad y generación de contenido utilizando IA”. Esto indica que, aunque algunas herramientas de IA se utilizaron para intentar manipular la información, la efectividad de estas tácticas fue limitada.

Estrategias de detección y eliminación de operaciones encubiertas

La estrategia de Meta se centra en analizar el comportamiento de las cuentas, más que en el contenido que publican. Esto significa que la compañía se enfoca en desmantelar las redes que intentan influir de manera encubierta en las opiniones públicas, sin importar si el contenido que generan fue creado con inteligencia artificial. A lo largo del año, Meta ha eliminado alrededor de 20 operaciones de influencia encubierta en todo el mundo, buscando prevenir la interferencia extranjera en los procesos electorales.

“La mayoría de las redes que interrumpimos no contaban con audiencias auténticas y algunas de ellas utilizaron 'me gusta' y seguidores falsos para parecer más populares de lo que realmente eran,” explicó la empresa. Esta afirmación subraya la importancia de identificar y neutralizar las estrategias que utilizan actores malintencionados para manipular la opinión pública.

La comparación con otras plataformas

En su análisis, Meta también aprovechó para señalar que otras plataformas no han tenido el mismo éxito en la gestión de la desinformación. En particular, mencionaron que los videos falsos relacionados con las elecciones estadounidenses, vinculados a operaciones de influencia de origen ruso, se publicaron frecuentemente en X y Telegram. Esta observación plantea preguntas sobre la efectividad de las políticas de moderación de contenido en plataformas que, a menudo, son criticadas por su falta de transparencia y control.

La comparación entre plataformas pone de relieve la necesidad de una estrategia unificada y robusta para combatir la desinformación en línea, especialmente en un contexto electoral.

Mirando hacia el futuro

Con el cierre de un año marcado por tensiones políticas y el avance de la tecnología, Meta ha manifestado su intención de seguir revisando sus políticas. “A medida que hacemos un balance de lo que hemos aprendido durante este año extraordinario, seguiremos revisando nuestras políticas y anunciaremos cualquier cambio en los próximos meses,” prometieron. Esta declaración refleja un compromiso por parte de la compañía para adaptarse a un panorama en constante evolución, donde la IA y la desinformación continúan siendo temas candentes.

La evolución de la tecnología y su intersección con la política no es un fenómeno nuevo, pero la velocidad con la que estas herramientas se desarrollan y se integran en la vida cotidiana de los ciudadanos plantea retos sin precedentes. Las elecciones son un terreno fértil para la desinformación, y la capacidad de las plataformas para gestionar este fenómeno es fundamental para la salud de las democracias en todo el mundo.

La responsabilidad de las plataformas tecnológicas

La responsabilidad de las plataformas tecnológicas en la lucha contra la desinformación se ha vuelto un tema de debate constante. Las grandes empresas tecnológicas se enfrentan a la presión de garantizar que sus plataformas no sean utilizadas para propagar contenido engañoso, y este desafío es aún más crítico durante los periodos electorales. La experiencia de Meta este año puede servir como un estudio de caso para otras plataformas que buscan implementar medidas efectivas para controlar la desinformación.

La necesidad de un enfoque proactivo es evidente. La desinformación no solo afecta la percepción pública, sino que también puede tener consecuencias reales en los resultados electorales y en la confianza de los ciudadanos en el proceso democrático. A medida que la tecnología avanza, las plataformas deben estar preparadas para adaptarse y evolucionar en su lucha contra la manipulación informativa.

Conclusiones provisionales

El panorama de la desinformación y el uso de la inteligencia artificial es un tema complejo que seguirá siendo objeto de estudio y análisis. Los esfuerzos de Meta para controlar la propagación de la desinformación a través de IA generativa son un paso en la dirección correcta, pero la batalla está lejos de terminar. Las plataformas deben seguir innovando y fortaleciendo sus políticas para hacer frente a un entorno en el que la desinformación puede ser fácilmente diseminada.

La colaboración entre plataformas, gobiernos y expertos en tecnología y comunicación será esencial para abordar este desafío global. La desinformación no conoce fronteras, y su impacto puede ser devastador si no se toman medidas adecuadas. En este contexto, la responsabilidad de las plataformas tecnológicas no solo se limita a su éxito empresarial, sino que también abarca su papel en la preservación de la integridad democrática.