Startup de IA crea tecnología para combatir desinformación electoral

IA de Anthropic implementa tecnología para detectar y redirigir a usuarios a fuentes de información electoral

La startup de inteligencia artificial (IA) Anthropic está probando una nueva tecnología llamada Prompt Shield, que tiene como objetivo detectar cuando los usuarios de su chatbot GenAI preguntan sobre temas políticos y redirigirlos a fuentes de información "autorizadas" sobre votación. Esta medida se está implementando de cara a las elecciones presidenciales de Estados Unidos en 2024.

Un enfoque para combatir la desinformación

Prompt Shield utiliza una combinación de modelos de detección de IA y reglas para identificar cuando un usuario de Claude, el chatbot de Anthropic, solicita información sobre votación. Si el usuario es de Estados Unidos, se le mostrará una ventana emergente que ofrece redirigirlo a TurboVote, un recurso de la organización no partidista Democracy Works, donde podrá encontrar información precisa y actualizada sobre votación.

La necesidad de Prompt Shield surge debido a las limitaciones de Claude para proporcionar información en tiempo real sobre elecciones políticas. Según Anthropic, Claude no se entrena con la frecuencia suficiente para brindar datos precisos sobre elecciones específicas, lo que puede llevar a la generación de información falsa o inventada sobre estos eventos.

Pruebas limitadas y mejoras en curso

Hasta el momento, Prompt Shield se encuentra en una fase de prueba limitada. Al consultar a Claude sobre cómo votar en las próximas elecciones, el chatbot no mostró la ventana emergente, sino que proporcionó una guía de votación genérica. Sin embargo, Anthropic afirma estar afinando la tecnología a medida que se prepara para expandirla a más usuarios.

Anthropic, que prohíbe el uso de sus herramientas para campañas políticas y actividades de cabildeo, se une a otras empresas de IA que están implementando políticas y tecnologías para prevenir la interferencia en elecciones. La compañía ha consultado con diversas partes interesadas, incluidos legisladores, otras empresas, organizaciones de la sociedad civil y consultores especializados en elecciones, para desarrollar Prompt Shield.

El contexto de unas elecciones históricas

La implementación de Prompt Shield y tecnologías similares se produce en un momento crucial, ya que este año se espera que más votantes que nunca en la historia acudan a las urnas en todo el mundo. Al menos 64 países, que representan aproximadamente el 49% de la población mundial, tienen previsto celebrar elecciones nacionales.

En respuesta a la creciente preocupación por la desinformación electoral, otras empresas de IA también están tomando medidas. OpenAI, por ejemplo, ha prohibido a los usuarios de su chatbot ChatGPT crear bots que se hagan pasar por candidatos o gobiernos reales, distorsionar el funcionamiento del voto o desalentar a las personas a votar. Al igual que Anthropic, OpenAI no permite actualmente que los usuarios desarrollen aplicaciones utilizando sus herramientas con fines de campañas políticas o actividades de cabildeo.

En un enfoque similar, OpenAI también utiliza sistemas de detección para redirigir a los usuarios de ChatGPT que preguntan sobre cuestiones logísticas de votación a un sitio web no partidista, CanIVote.org, mantenido por la Asociación Nacional de Secretarios de Estado.

La falta de legislación y las medidas tomadas por las plataformas

Aunque hay un apoyo bipartidista, el Congreso de Estados Unidos aún no ha aprobado legislación para regular el papel de la industria de IA en la política. Mientras tanto, más de un tercio de los estados estadounidenses han aprobado o presentado proyectos de ley para abordar la manipulación de videos falsos en campañas políticas, mientras la legislación federal se estanca.

Ante la falta de legislación, algunas plataformas están tomando medidas para evitar el uso indebido de la IA para engañar o manipular a los votantes. Google, por ejemplo, requiere desde septiembre del año pasado que los anuncios políticos que utilicen IA en YouTube y otras plataformas, como Google Search, estén acompañados de una declaración prominente si la imagen o el sonido están alterados de forma sintética. Meta también ha prohibido a las campañas políticas utilizar herramientas de IA, incluyendo las suyas propias, en publicidad en todas sus propiedades.