IA de Anthropic implementa tecnología para detectar y redirigir a usuarios a fuentes de información electoral
La startup de inteligencia artificial (IA) Anthropic está probando una nueva tecnología llamada Prompt Shield, que tiene como objetivo detectar cuando los usuarios de su chatbot GenAI preguntan sobre temas políticos y redirigirlos a fuentes de información "autorizadas" sobre votación. Esta medida se está implementando de cara a las elecciones presidenciales de Estados Unidos en 2024.
Un enfoque para combatir la desinformación
Prompt Shield utiliza una combinación de modelos de detección de IA y reglas para identificar cuando un usuario de Claude, el chatbot de Anthropic, solicita información sobre votación. Si el usuario es de Estados Unidos, se le mostrará una ventana emergente que ofrece redirigirlo a TurboVote, un recurso de la organización no partidista Democracy Works, donde podrá encontrar información precisa y actualizada sobre votación.
La necesidad de Prompt Shield surge debido a las limitaciones de Claude para proporcionar información en tiempo real sobre elecciones políticas. Según Anthropic, Claude no se entrena con la frecuencia suficiente para brindar datos precisos sobre elecciones específicas, lo que puede llevar a la generación de información falsa o inventada sobre estos eventos.
Pruebas limitadas y mejoras en curso
Hasta el momento, Prompt Shield se encuentra en una fase de prueba limitada. Al consultar a Claude sobre cómo votar en las próximas elecciones, el chatbot no mostró la ventana emergente, sino que proporcionó una guía de votación genérica. Sin embargo, Anthropic afirma estar afinando la tecnología a medida que se prepara para expandirla a más usuarios.
Anthropic, que prohíbe el uso de sus herramientas para campañas políticas y actividades de cabildeo, se une a otras empresas de IA que están implementando políticas y tecnologías para prevenir la interferencia en elecciones. La compañía ha consultado con diversas partes interesadas, incluidos legisladores, otras empresas, organizaciones de la sociedad civil y consultores especializados en elecciones, para desarrollar Prompt Shield.
El contexto de unas elecciones históricas
La implementación de Prompt Shield y tecnologías similares se produce en un momento crucial, ya que este año se espera que más votantes que nunca en la historia acudan a las urnas en todo el mundo. Al menos 64 países, que representan aproximadamente el 49% de la población mundial, tienen previsto celebrar elecciones nacionales.
En respuesta a la creciente preocupación por la desinformación electoral, otras empresas de IA también están tomando medidas. OpenAI, por ejemplo, ha prohibido a los usuarios de su chatbot ChatGPT crear bots que se hagan pasar por candidatos o gobiernos reales, distorsionar el funcionamiento del voto o desalentar a las personas a votar. Al igual que Anthropic, OpenAI no permite actualmente que los usuarios desarrollen aplicaciones utilizando sus herramientas con fines de campañas políticas o actividades de cabildeo.
En un enfoque similar, OpenAI también utiliza sistemas de detección para redirigir a los usuarios de ChatGPT que preguntan sobre cuestiones logísticas de votación a un sitio web no partidista, CanIVote.org, mantenido por la Asociación Nacional de Secretarios de Estado.
La falta de legislación y las medidas tomadas por las plataformas
Aunque hay un apoyo bipartidista, el Congreso de Estados Unidos aún no ha aprobado legislación para regular el papel de la industria de IA en la política. Mientras tanto, más de un tercio de los estados estadounidenses han aprobado o presentado proyectos de ley para abordar la manipulación de videos falsos en campañas políticas, mientras la legislación federal se estanca.
Ante la falta de legislación, algunas plataformas están tomando medidas para evitar el uso indebido de la IA para engañar o manipular a los votantes. Google, por ejemplo, requiere desde septiembre del año pasado que los anuncios políticos que utilicen IA en YouTube y otras plataformas, como Google Search, estén acompañados de una declaración prominente si la imagen o el sonido están alterados de forma sintética. Meta también ha prohibido a las campañas políticas utilizar herramientas de IA, incluyendo las suyas propias, en publicidad en todas sus propiedades.
Otras noticias • IA
Meta apuesta por energía nuclear para sus centros de datos
Meta está impulsando la energía nuclear para sus centros de datos, buscando añadir entre 1 y 4 gigavatios de capacidad en EE.UU. La empresa muestra...
Inteligencia artificial generativa optimiza costos y mejora eficiencia empresarial
La inteligencia artificial generativa se ha convertido en una herramienta clave para las empresas, optimizando costos y mejorando la eficiencia. Estrategias como el caching y...
DeepMind lanza Genie 2, IA que crea mundos 3D jugables
DeepMind ha presentado Genie 2, un modelo de IA capaz de crear mundos 3D jugables a partir de imágenes y descripciones textuales. Aunque promete revolucionar...
Inteligencia artificial en China: rendimiento y críticas por censura
La inteligencia artificial en China destaca por su rendimiento, pero enfrenta críticas por la censura y el control de la información. Modelos como QwQ-32B evitan...
ChatGPT evita responder sobre nombres para proteger la privacidad
Un fenómeno en ChatGPT ha llevado a la IA a no responder sobre el nombre "David Mayer", creando especulaciones. Otros nombres también causan fallos, sugiriendo...
AWS lanza herramientas para combatir alucinaciones en IA
AWS ha lanzado Automated Reasoning checks para combatir las alucinaciones en IA, permitiendo validar respuestas mediante una "verdad base". Aunque se presenta como pionero, otras...
AWS lanza Nova, revolucionando la inteligencia artificial generativa
Amazon Web Services ha lanzado Nova, una familia de modelos de inteligencia artificial generativa que incluye herramientas para texto, imágenes y vídeos. Con un enfoque...
Clarifai lanza plataforma de IA para optimizar costos y eficiencia
Clarifai ha evolucionado de su enfoque inicial en visión por ordenador y proyectos militares a desarrollar herramientas de IA para empresas y gobiernos. Su nueva...
Lo más reciente
- 1
Jared Isaacman liderará la NASA hacia una nueva era espacial
- 2
Cleerly revoluciona detección cardíaca con inteligencia artificial y escáneres
- 3
El PRESS Act enfrenta incertidumbre pese a apoyo bipartidista
- 4
Inteligencia artificial transforma empresas con éxito en atención al cliente
- 5
New Majority Ventures busca $100 mil millones para emprendedores subrepresentados
- 6
Heirloom Carbon recauda 150 millones para combatir el calentamiento global
- 7
AWS invierte 100 millones para mejorar educación digital inclusiva