IA | Innovación

Startup de IA crea tecnología para combatir desinformación electoral

IA de Anthropic implementa tecnología para detectar y redirigir a usuarios a fuentes de información electoral

La startup de inteligencia artificial (IA) Anthropic está probando una nueva tecnología llamada Prompt Shield, que tiene como objetivo detectar cuando los usuarios de su chatbot GenAI preguntan sobre temas políticos y redirigirlos a fuentes de información "autorizadas" sobre votación. Esta medida se está implementando de cara a las elecciones presidenciales de Estados Unidos en 2024.

Un enfoque para combatir la desinformación

Prompt Shield utiliza una combinación de modelos de detección de IA y reglas para identificar cuando un usuario de Claude, el chatbot de Anthropic, solicita información sobre votación. Si el usuario es de Estados Unidos, se le mostrará una ventana emergente que ofrece redirigirlo a TurboVote, un recurso de la organización no partidista Democracy Works, donde podrá encontrar información precisa y actualizada sobre votación.

La necesidad de Prompt Shield surge debido a las limitaciones de Claude para proporcionar información en tiempo real sobre elecciones políticas. Según Anthropic, Claude no se entrena con la frecuencia suficiente para brindar datos precisos sobre elecciones específicas, lo que puede llevar a la generación de información falsa o inventada sobre estos eventos.

Pruebas limitadas y mejoras en curso

Hasta el momento, Prompt Shield se encuentra en una fase de prueba limitada. Al consultar a Claude sobre cómo votar en las próximas elecciones, el chatbot no mostró la ventana emergente, sino que proporcionó una guía de votación genérica. Sin embargo, Anthropic afirma estar afinando la tecnología a medida que se prepara para expandirla a más usuarios.

Anthropic, que prohíbe el uso de sus herramientas para campañas políticas y actividades de cabildeo, se une a otras empresas de IA que están implementando políticas y tecnologías para prevenir la interferencia en elecciones. La compañía ha consultado con diversas partes interesadas, incluidos legisladores, otras empresas, organizaciones de la sociedad civil y consultores especializados en elecciones, para desarrollar Prompt Shield.

El contexto de unas elecciones históricas

La implementación de Prompt Shield y tecnologías similares se produce en un momento crucial, ya que este año se espera que más votantes que nunca en la historia acudan a las urnas en todo el mundo. Al menos 64 países, que representan aproximadamente el 49% de la población mundial, tienen previsto celebrar elecciones nacionales.

En respuesta a la creciente preocupación por la desinformación electoral, otras empresas de IA también están tomando medidas. OpenAI, por ejemplo, ha prohibido a los usuarios de su chatbot ChatGPT crear bots que se hagan pasar por candidatos o gobiernos reales, distorsionar el funcionamiento del voto o desalentar a las personas a votar. Al igual que Anthropic, OpenAI no permite actualmente que los usuarios desarrollen aplicaciones utilizando sus herramientas con fines de campañas políticas o actividades de cabildeo.

En un enfoque similar, OpenAI también utiliza sistemas de detección para redirigir a los usuarios de ChatGPT que preguntan sobre cuestiones logísticas de votación a un sitio web no partidista, CanIVote.org, mantenido por la Asociación Nacional de Secretarios de Estado.

La falta de legislación y las medidas tomadas por las plataformas

Aunque hay un apoyo bipartidista, el Congreso de Estados Unidos aún no ha aprobado legislación para regular el papel de la industria de IA en la política. Mientras tanto, más de un tercio de los estados estadounidenses han aprobado o presentado proyectos de ley para abordar la manipulación de videos falsos en campañas políticas, mientras la legislación federal se estanca.

Ante la falta de legislación, algunas plataformas están tomando medidas para evitar el uso indebido de la IA para engañar o manipular a los votantes. Google, por ejemplo, requiere desde septiembre del año pasado que los anuncios políticos que utilicen IA en YouTube y otras plataformas, como Google Search, estén acompañados de una declaración prominente si la imagen o el sonido están alterados de forma sintética. Meta también ha prohibido a las campañas políticas utilizar herramientas de IA, incluyendo las suyas propias, en publicidad en todas sus propiedades.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Energía nuclear

Meta apuesta por energía nuclear para sus centros de datos

Meta está impulsando la energía nuclear para sus centros de datos, buscando añadir entre 1 y 4 gigavatios de capacidad en EE.UU. La empresa muestra...

Eficiencia optimizada

Inteligencia artificial generativa optimiza costos y mejora eficiencia empresarial

La inteligencia artificial generativa se ha convertido en una herramienta clave para las empresas, optimizando costos y mejorando la eficiencia. Estrategias como el caching y...

Mundos 3D

DeepMind lanza Genie 2, IA que crea mundos 3D jugables

DeepMind ha presentado Genie 2, un modelo de IA capaz de crear mundos 3D jugables a partir de imágenes y descripciones textuales. Aunque promete revolucionar...

Censura ética

Inteligencia artificial en China: rendimiento y críticas por censura

La inteligencia artificial en China destaca por su rendimiento, pero enfrenta críticas por la censura y el control de la información. Modelos como QwQ-32B evitan...

Protección privacidad

ChatGPT evita responder sobre nombres para proteger la privacidad

Un fenómeno en ChatGPT ha llevado a la IA a no responder sobre el nombre "David Mayer", creando especulaciones. Otros nombres también causan fallos, sugiriendo...

Verificación automática

AWS lanza herramientas para combatir alucinaciones en IA

AWS ha lanzado Automated Reasoning checks para combatir las alucinaciones en IA, permitiendo validar respuestas mediante una "verdad base". Aunque se presenta como pionero, otras...

Modelos generativos

AWS lanza Nova, revolucionando la inteligencia artificial generativa

Amazon Web Services ha lanzado Nova, una familia de modelos de inteligencia artificial generativa que incluye herramientas para texto, imágenes y vídeos. Con un enfoque...

Innovación ética

Clarifai lanza plataforma de IA para optimizar costos y eficiencia

Clarifai ha evolucionado de su enfoque inicial en visión por ordenador y proyectos militares a desarrollar herramientas de IA para empresas y gobiernos. Su nueva...