Alianza | IA

Empresas tecnológicas se unen para combatir deepfakes electorales

Empresas tecnológicas se comprometen a luchar contra los deepfakes relacionados con las elecciones

Varias empresas tecnológicas han anunciado su compromiso de combatir los deepfakes relacionados con las elecciones, en medio de una creciente presión por parte de los responsables políticos. Microsoft, Meta, Google, Amazon, Adobe e IBM, entre otros, han firmado un acuerdo en la Conferencia de Seguridad de Múnich en el que expresan su intención de adoptar un marco común para responder a los deepfakes generados por inteligencia artificial (IA) con la intención de engañar a los votantes. Además, otras trece empresas, incluyendo startups de IA como OpenAI, Anthropic, Inflection AI, ElevenLabs y Stability AI, y plataformas de redes sociales como X (anteriormente conocida como Twitter), TikTok y Snap, se han unido a la firma del acuerdo. También han participado en el acuerdo la empresa de chips Arm y las empresas de seguridad McAfee y TrendMicro.

Detección y etiquetado de deepfakes políticos

Las empresas firmantes del acuerdo han anunciado que utilizarán métodos para detectar y etiquetar deepfakes políticos engañosos cuando sean creados y distribuidos en sus plataformas. Además, compartirán las mejores prácticas entre ellas y proporcionarán "respuestas rápidas y proporcionadas" cuando los deepfakes comiencen a difundirse. Estas empresas también han destacado la importancia de prestar especial atención al contexto al responder a los deepfakes, con el objetivo de "[proteger] la expresión educativa, documental, artística, satírica y política", al mismo tiempo que mantienen la transparencia con los usuarios sobre sus políticas en relación con el contenido electoral engañoso.

Un acuerdo sin mucho poder

Aunque algunas críticas podrían decir que el acuerdo carece de poder y no es más que un gesto simbólico, ya que sus medidas son voluntarias, su importancia radica en la muestra de cautela por parte del sector tecnológico ante la posibilidad de regulaciones relacionadas con las elecciones. Este año, el 49% de la población mundial acudirá a las urnas en elecciones nacionales.

Brad Smith, vicepresidente de Microsoft, ha declarado en un comunicado de prensa que "no hay forma de que el sector tecnológico pueda proteger las elecciones por sí solo de este nuevo tipo de abuso electoral". Smith también ha señalado la necesidad de una acción multilateral en el futuro y ha destacado que "es evidente que la protección de las elecciones requerirá que todos trabajemos juntos".

Acciones para combatir los deepfakes

En los Estados Unidos, no existe una ley federal que prohíba los deepfakes, ya sean relacionados con las elecciones o no. Sin embargo, diez estados en todo el país han promulgado leyes que los criminalizan, siendo Minnesota el primero en apuntar a los deepfakes utilizados en campañas políticas.

A nivel federal, las agencias han tomado medidas de aplicación de la ley para combatir la difusión de los deepfakes. La Comisión Federal de Comercio (FTC) ha anunciado esta semana que está buscando modificar una norma existente que prohíbe la suplantación de empresas o agencias gubernamentales para incluir a todos los consumidores, incluidos los políticos. Además, la Comisión Federal de Comunicaciones (FCC) ha tomado medidas para ilegalizar las llamadas robóticas de voz generadas por IA reinterpretando una norma que prohíbe el spam de mensajes de voz artificiales y pregrabados.

En la Unión Europea, el AI Act de la UE requeriría que todo el contenido generado por IA se etiquete claramente como tal. La UE también está utilizando su Ley de Servicios Digitales para obligar a la industria tecnológica a frenar los deepfakes en diversas formas.

El aumento de los deepfakes y la preocupación pública

A pesar de los esfuerzos por combatirlos, los deepfakes continúan proliferando. Según datos de Clarity, una empresa de detección de deepfakes, el número de deepfakes creados ha aumentado un 900% interanual.

El mes pasado, se produjeron llamadas robóticas con la voz del presidente de los Estados Unidos, Joe Biden, que intentaban desalentar a las personas a votar en las elecciones primarias de New Hampshire. Además, en noviembre, justo días antes de las elecciones en Eslovaquia, se utilizaron grabaciones de audio generadas por IA para suplantar a un candidato liberal, en las que se discutían planes para aumentar los precios de la cerveza y manipular las elecciones.

En una encuesta reciente de YouGov, el 85% de los estadounidenses afirmaron estar muy preocupados o algo preocupados por la difusión de deepfakes de video y audio engañosos. Además, una encuesta del Centro de Investigación de Asuntos Públicos de The Associated Press-NORC reveló que casi el 60% de los adultos piensan que las herramientas de IA aumentarán la difusión de información falsa y engañosa durante el ciclo electoral de 2024 en los Estados Unidos.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Innovación

Apple revoluciona mercado con Apple Intelligence en WWDC 2024

Apple ha anunciado en la WWDC 2024 su incursión en el mercado de la inteligencia artificial con Apple Intelligence. Se esperan mejoras en iOS 18...

Actualización

Apple revoluciona iOS 18 con "Apple Intelligence" y funciones innovadoras

Apple ha presentado "Apple Intelligence" en iOS 18, permitiendo a los usuarios crear imágenes de IA personalizadas en sus conversaciones. También se incluyen funciones como...

Tecnología

Apple revoluciona desarrollo con IA en su Conferencia Mundial

Apple ha presentado nuevas herramientas de inteligencia artificial para desarrolladores en su Conferencia Mundial de Desarrolladores. Los SDK de Apple se han actualizado con nuevas...

Innovación

Apple sorprende con iOS 18: inteligencia artificial y rediseño completo

Apple revela detalles de iOS 18 en la WWDC, con enfoque en inteligencia artificial, personalización de iconos, actualización del centro de control, nuevas API, mejoras...

Tecnología

Apple presenta nueva IA en conferencia, mejorando privacidad y renovando Siri

Apple se prepara para revelar su nueva inteligencia artificial en la Worldwide Developers Conference, enfocándose en mejorar la fiabilidad, priorizar la privacidad y renovar a...

Gratis

Meta anuncia funciones de IA para WhatsApp Business sin coste

Meta ha anunciado nuevas funciones de IA para WhatsApp Business, como la creación de anuncios de clic para WhatsApp y respuestas automáticas a consultas frecuentes....

Regulaciones

Nuevas directrices de Google Play para aplicaciones de IA

Google ha emitido nuevas directrices para desarrolladores de aplicaciones de IA en Google Play, con el objetivo de evitar contenido inapropiado y prohibido. Se requiere...

Inteligencia

Google crea SurfPerch, herramienta IA para conservación de arrecifes de coral

Google ha desarrollado SurfPerch, una herramienta de IA para ayudar a biólogos marinos a comprender mejor la salud de los arrecifes de coral. Utilizando colaboración...