IA | Urgente

Fiscales instan al Congreso a combatir abuso infantil deepfake

Los Fiscales Generales de los 50 estados de los Estados Unidos, más 4 territorios, han enviado una carta instando al Congreso a tomar medidas contra el material de abuso sexual infantil (CSAM) facilitado por la Inteligencia Artificial (IA).

Una nueva frontera de abuso

"Si bien los delitos en Internet contra los niños ya están siendo activamente perseguidos, nos preocupa que la IA esté creando una nueva frontera de abuso que dificulta aún más esta persecución", dice la carta.

En efecto, la IA facilita más que nunca a los actores malintencionados la creación de imágenes de deepfake, que representan de manera realista a personas en escenarios falsos. A veces, los resultados son benignos, como cuando se engañó a Internet para creer que el Papa tenía un abrigo de Balenciaga. Pero en los peores casos, como señalan los Fiscales Generales, esta tecnología puede ser utilizada para facilitar el abuso.

Los riesgos de las imágenes sexualizadas

"Ya sean físicamente abusados o no los niños que aparecen en las fotografías fuente para los deepfakes, la creación y circulación de imágenes sexualizadas que representan a niños reales amenaza el bienestar físico, psicológico y emocional de los niños que son víctimas de ella, así como el de sus padres", se lee en la carta.

Los firmantes instan al Congreso a establecer un comité para investigar soluciones para abordar los riesgos del CSAM generado por la IA, y luego ampliar las leyes existentes contra el CSAM para cubrir explícitamente el CSAM generado por la IA.

Falta de protecciones legales

Los deepfakes de IA sexualmente explotadores y no consensuados ya proliferan en línea, pero existen pocas protecciones legales para las víctimas de este material. Nueva York, California, Virginia y Georgia tienen leyes que prohíben la difusión de deepfakes de IA sexualmente explotadores, y en 2019, Texas se convirtió en el primer estado en prohibir el uso de deepfakes de IA para influir en las elecciones políticas. Aunque las principales plataformas sociales prohíben este contenido, puede pasar desapercibido. En marzo, una aplicación que pretendía "intercambiar cualquier cara" en videos sugerentes publicó más de 230 anuncios en Facebook, Instagram y Messenger; Meta eliminó los anuncios una vez que fueron notificados por la periodista de NBC News Kat Tenbarge.

Medidas en el extranjero

En el extranjero, los legisladores europeos están tratando de trabajar con otros países para ratificar un Código de Conducta de IA, pero las negociaciones aún están en proceso.

Cuestiones éticas en torno al arte AI

"Deepfakes para todos: el modelo de arte de IA sin censura plantea preguntas éticas". Este avance de la IA plantea cuestiones éticas significativas y la necesidad de regulaciones más estrictas para proteger a las personas, especialmente a los niños, de posibles abusos.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Apoyo ético

Empleados de OpenAI y Google DeepMind respaldan demanda de Anthropic

Más de 30 empleados de OpenAI y Google DeepMind apoyan a Anthropic en su demanda contra el DOD, que la etiquetó como un "riesgo para...

Desarrollo optimizado

Inteligencia artificial transforma desarrollo de software y mejora calidad

La inteligencia artificial está revolucionando el desarrollo de software, acelerando la producción pero planteando desafíos en calidad. Herramientas como Code Review de Anthropic optimizan la...

Adquisición estratégica

OpenAI adquiere Promptfoo para fortalecer la seguridad de IA

OpenAI ha adquirido Promptfoo, una startup de seguridad de IA, para integrar su tecnología en OpenAI Frontier. Esta adquisición busca mejorar la seguridad de los...

Demanda ética

Anthropic demanda al DOD por restricciones en colaboración gubernamental

Anthropic ha demandado al Departamento de Defensa por ser etiquetada como riesgo para la cadena de suministro, impidiendo su colaboración con el gobierno. La empresa...

Colaboración robótica

Neura Robotics y Qualcomm unen fuerzas para revolucionar la robótica

La colaboración entre Neura Robotics y Qualcomm destaca la importancia de unir fuerzas en el desarrollo de soluciones robóticas avanzadas. Esta alianza, centrada en la...

Valoración elevada

Nscale, respaldada por Nvidia, alcanza valoración de 14.600 millones

Nscale, respaldada por Nvidia, alcanza una valoración de 14.600 millones de dólares gracias a su estrategia de integración vertical y financiación significativa. Con proyectos ambiciosos...

Regulación ética

Expertos piden regulación ética para una inteligencia artificial segura

La "Declaración Pro-Humana" aboga por una regulación responsable de la inteligencia artificial (IA) para evitar su uso perjudicial. Reúne a expertos de diversas ideologías, enfatizando...

Renuncia ética

Caitlin Kalinowski renuncia a OpenAI por preocupaciones éticas

Caitlin Kalinowski, ejecutiva de OpenAI, renunció por preocupaciones éticas tras un acuerdo controvertido con el Pentágono sobre el uso de IA en defensa. Su decisión...