Los Fiscales Generales de los 50 estados de los Estados Unidos, más 4 territorios, han enviado una carta instando al Congreso a tomar medidas contra el material de abuso sexual infantil (CSAM) facilitado por la Inteligencia Artificial (IA).
Una nueva frontera de abuso
"Si bien los delitos en Internet contra los niños ya están siendo activamente perseguidos, nos preocupa que la IA esté creando una nueva frontera de abuso que dificulta aún más esta persecución", dice la carta.
En efecto, la IA facilita más que nunca a los actores malintencionados la creación de imágenes de deepfake, que representan de manera realista a personas en escenarios falsos. A veces, los resultados son benignos, como cuando se engañó a Internet para creer que el Papa tenía un abrigo de Balenciaga. Pero en los peores casos, como señalan los Fiscales Generales, esta tecnología puede ser utilizada para facilitar el abuso.
Los riesgos de las imágenes sexualizadas
"Ya sean físicamente abusados o no los niños que aparecen en las fotografías fuente para los deepfakes, la creación y circulación de imágenes sexualizadas que representan a niños reales amenaza el bienestar físico, psicológico y emocional de los niños que son víctimas de ella, así como el de sus padres", se lee en la carta.
Los firmantes instan al Congreso a establecer un comité para investigar soluciones para abordar los riesgos del CSAM generado por la IA, y luego ampliar las leyes existentes contra el CSAM para cubrir explícitamente el CSAM generado por la IA.
Falta de protecciones legales
Los deepfakes de IA sexualmente explotadores y no consensuados ya proliferan en línea, pero existen pocas protecciones legales para las víctimas de este material. Nueva York, California, Virginia y Georgia tienen leyes que prohíben la difusión de deepfakes de IA sexualmente explotadores, y en 2019, Texas se convirtió en el primer estado en prohibir el uso de deepfakes de IA para influir en las elecciones políticas. Aunque las principales plataformas sociales prohíben este contenido, puede pasar desapercibido. En marzo, una aplicación que pretendía "intercambiar cualquier cara" en videos sugerentes publicó más de 230 anuncios en Facebook, Instagram y Messenger; Meta eliminó los anuncios una vez que fueron notificados por la periodista de NBC News Kat Tenbarge.
Medidas en el extranjero
En el extranjero, los legisladores europeos están tratando de trabajar con otros países para ratificar un Código de Conducta de IA, pero las negociaciones aún están en proceso.
Cuestiones éticas en torno al arte AI
"Deepfakes para todos: el modelo de arte de IA sin censura plantea preguntas éticas". Este avance de la IA plantea cuestiones éticas significativas y la necesidad de regulaciones más estrictas para proteger a las personas, especialmente a los niños, de posibles abusos.
Otras noticias • IA
Google I/O 2026 revoluciona la búsqueda con asistentes proactivos
Google I/O 2026 presentó agentes de información que transforman la búsqueda en asistentes proactivos, actualizando a los usuarios sobre intereses sin búsquedas repetidas. Con una...
Gmail Live transforma la gestión de correos con inteligencia artificial
Gmail Live, anunciado por Google, permite a los usuarios interactuar con su bandeja de entrada de forma conversacional, facilitando la búsqueda de información. Esta funcionalidad,...
El juicio de Musk revela tensiones en IA y ética
El juicio de Elon Musk contra OpenAI y Microsoft reveló tensiones sobre el uso de fondos destinados a la investigación de inteligencia artificial. El jurado...
Inteligencia artificial transforma imágenes y desafía la autenticidad
La inteligencia artificial ha revolucionado la creación de imágenes, planteando desafíos de autenticidad y desinformación. OpenAI y Google han implementado medidas como C2PA y SynthID...
Google lanza Antigravity 2.0 para potenciar la codificación AI
Google ha lanzado Antigravity 2.0, una herramienta de codificación que mejora la interacción con la inteligencia artificial. Incorpora múltiples agentes, comandos de voz, una nueva...
Google Workspace añade comandos por voz para mejorar productividad
Google Workspace incorpora comandos por voz en aplicaciones como Docs, Keep y Gmail, mejorando la productividad y la experiencia del usuario. Esta innovación facilita la...
Google lanza Gemini Spark, asistente de IA para productividad
Google ha presentado Gemini Spark, un asistente personal de IA que integra datos de usuarios y herramientas de Google Workspace. Su capacidad para interactuar por...
Google lanza Universal Cart para revolucionar las compras en línea
Google ha lanzado Universal Cart, una plataforma que centraliza la gestión de compras en línea, integrándose con Google Wallet y el Agent Payments Protocol (AP2)....
Lo más reciente
- 1
YouTube lanza herramientas de IA para búsquedas y creación de contenido
- 2
Google lanza gafas inteligentes con audio y comandos de voz
- 3
Google lanza Antigravity 2.0 con innovaciones para desarrolladores
- 4
Google I/O revoluciona el comercio digital con IA y pagos automáticos
- 5
Google mejora Gemini con "Daily Brief" y Gemini Spark
- 6
Google lanza Pics, la app que democratiza el diseño gráfico
- 7
Ex hacker lanza plataforma de IA contra ataques de phishing

