IA | Innovación

Startup de IA crea tecnología para combatir desinformación electoral

IA de Anthropic implementa tecnología para detectar y redirigir a usuarios a fuentes de información electoral

La startup de inteligencia artificial (IA) Anthropic está probando una nueva tecnología llamada Prompt Shield, que tiene como objetivo detectar cuando los usuarios de su chatbot GenAI preguntan sobre temas políticos y redirigirlos a fuentes de información "autorizadas" sobre votación. Esta medida se está implementando de cara a las elecciones presidenciales de Estados Unidos en 2024.

Un enfoque para combatir la desinformación

Prompt Shield utiliza una combinación de modelos de detección de IA y reglas para identificar cuando un usuario de Claude, el chatbot de Anthropic, solicita información sobre votación. Si el usuario es de Estados Unidos, se le mostrará una ventana emergente que ofrece redirigirlo a TurboVote, un recurso de la organización no partidista Democracy Works, donde podrá encontrar información precisa y actualizada sobre votación.

La necesidad de Prompt Shield surge debido a las limitaciones de Claude para proporcionar información en tiempo real sobre elecciones políticas. Según Anthropic, Claude no se entrena con la frecuencia suficiente para brindar datos precisos sobre elecciones específicas, lo que puede llevar a la generación de información falsa o inventada sobre estos eventos.

Pruebas limitadas y mejoras en curso

Hasta el momento, Prompt Shield se encuentra en una fase de prueba limitada. Al consultar a Claude sobre cómo votar en las próximas elecciones, el chatbot no mostró la ventana emergente, sino que proporcionó una guía de votación genérica. Sin embargo, Anthropic afirma estar afinando la tecnología a medida que se prepara para expandirla a más usuarios.

Anthropic, que prohíbe el uso de sus herramientas para campañas políticas y actividades de cabildeo, se une a otras empresas de IA que están implementando políticas y tecnologías para prevenir la interferencia en elecciones. La compañía ha consultado con diversas partes interesadas, incluidos legisladores, otras empresas, organizaciones de la sociedad civil y consultores especializados en elecciones, para desarrollar Prompt Shield.

El contexto de unas elecciones históricas

La implementación de Prompt Shield y tecnologías similares se produce en un momento crucial, ya que este año se espera que más votantes que nunca en la historia acudan a las urnas en todo el mundo. Al menos 64 países, que representan aproximadamente el 49% de la población mundial, tienen previsto celebrar elecciones nacionales.

En respuesta a la creciente preocupación por la desinformación electoral, otras empresas de IA también están tomando medidas. OpenAI, por ejemplo, ha prohibido a los usuarios de su chatbot ChatGPT crear bots que se hagan pasar por candidatos o gobiernos reales, distorsionar el funcionamiento del voto o desalentar a las personas a votar. Al igual que Anthropic, OpenAI no permite actualmente que los usuarios desarrollen aplicaciones utilizando sus herramientas con fines de campañas políticas o actividades de cabildeo.

En un enfoque similar, OpenAI también utiliza sistemas de detección para redirigir a los usuarios de ChatGPT que preguntan sobre cuestiones logísticas de votación a un sitio web no partidista, CanIVote.org, mantenido por la Asociación Nacional de Secretarios de Estado.

La falta de legislación y las medidas tomadas por las plataformas

Aunque hay un apoyo bipartidista, el Congreso de Estados Unidos aún no ha aprobado legislación para regular el papel de la industria de IA en la política. Mientras tanto, más de un tercio de los estados estadounidenses han aprobado o presentado proyectos de ley para abordar la manipulación de videos falsos en campañas políticas, mientras la legislación federal se estanca.

Ante la falta de legislación, algunas plataformas están tomando medidas para evitar el uso indebido de la IA para engañar o manipular a los votantes. Google, por ejemplo, requiere desde septiembre del año pasado que los anuncios políticos que utilicen IA en YouTube y otras plataformas, como Google Search, estén acompañados de una declaración prominente si la imagen o el sonido están alterados de forma sintética. Meta también ha prohibido a las campañas políticas utilizar herramientas de IA, incluyendo las suyas propias, en publicidad en todas sus propiedades.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Adquisición estratégica

Coralogix adquiere Aporia y potencia su inteligencia artificial

Coralogix ha adquirido Aporia, fortaleciendo su oferta en inteligencia artificial y supervisión de sistemas. Esta integración permite a las empresas gestionar eficazmente sus cargas de...

Crecimiento notable

Startups de IA en Europa duplican valor y generan empleo

Las startups de inteligencia artificial en Europa están en auge, representando el 25% de la financiación de capital de riesgo. A pesar de la percepción...

Inteligencia artificial

Sriram Krishnan se une a la Casa Blanca en IA

Sriram Krishnan ha sido nombrado asesor senior de políticas de inteligencia artificial en la Casa Blanca, destacando la importancia de la IA para la economía...

Acceso democratizado

Google Gemini se expande a 40 idiomas para investigadores globales

Google ha ampliado su herramienta Gemini a 40 nuevos idiomas, permitiendo un asistente de investigación más accesible. Este avance enfrenta desafíos de precisión y verificación...

Dudas éticas

Dudas sobre Sam Altman y la ética en OpenAI

La comparecencia de Sam Altman ante el Congreso ha generado dudas sobre su relación con OpenAI, especialmente tras revelaciones sobre su participación a través de...

Logística inteligente

Boon revoluciona la logística con inteligencia artificial y financiación

Boon, una startup fundada por Deepti Yenireddy, busca transformar la logística mediante inteligencia artificial, optimizando procesos y aumentando la eficiencia. Con 20,5 millones de dólares...

Ética tecnológica

Stem AI busca alinear inteligencia artificial con ética humana

Stem AI, cofundada por Emmett Shear, busca alinear la inteligencia artificial con el comportamiento humano y la ética. Con el respaldo de Andreessen Horowitz, la...

Cambio enfoque

TuSimple se convierte en CreateAI y se enfoca en videojuegos

TuSimple se transforma en CreateAI, abandonando el desarrollo de camiones autónomos para centrarse en la animación y videojuegos. A pesar de controversias sobre prácticas de...