Los Fiscales Generales de los 50 estados de los Estados Unidos, más 4 territorios, han enviado una carta instando al Congreso a tomar medidas contra el material de abuso sexual infantil (CSAM) facilitado por la Inteligencia Artificial (IA).
Una nueva frontera de abuso
"Si bien los delitos en Internet contra los niños ya están siendo activamente perseguidos, nos preocupa que la IA esté creando una nueva frontera de abuso que dificulta aún más esta persecución", dice la carta.
En efecto, la IA facilita más que nunca a los actores malintencionados la creación de imágenes de deepfake, que representan de manera realista a personas en escenarios falsos. A veces, los resultados son benignos, como cuando se engañó a Internet para creer que el Papa tenía un abrigo de Balenciaga. Pero en los peores casos, como señalan los Fiscales Generales, esta tecnología puede ser utilizada para facilitar el abuso.
Los riesgos de las imágenes sexualizadas
"Ya sean físicamente abusados o no los niños que aparecen en las fotografías fuente para los deepfakes, la creación y circulación de imágenes sexualizadas que representan a niños reales amenaza el bienestar físico, psicológico y emocional de los niños que son víctimas de ella, así como el de sus padres", se lee en la carta.
Los firmantes instan al Congreso a establecer un comité para investigar soluciones para abordar los riesgos del CSAM generado por la IA, y luego ampliar las leyes existentes contra el CSAM para cubrir explícitamente el CSAM generado por la IA.
Falta de protecciones legales
Los deepfakes de IA sexualmente explotadores y no consensuados ya proliferan en línea, pero existen pocas protecciones legales para las víctimas de este material. Nueva York, California, Virginia y Georgia tienen leyes que prohíben la difusión de deepfakes de IA sexualmente explotadores, y en 2019, Texas se convirtió en el primer estado en prohibir el uso de deepfakes de IA para influir en las elecciones políticas. Aunque las principales plataformas sociales prohíben este contenido, puede pasar desapercibido. En marzo, una aplicación que pretendía "intercambiar cualquier cara" en videos sugerentes publicó más de 230 anuncios en Facebook, Instagram y Messenger; Meta eliminó los anuncios una vez que fueron notificados por la periodista de NBC News Kat Tenbarge.
Medidas en el extranjero
En el extranjero, los legisladores europeos están tratando de trabajar con otros países para ratificar un Código de Conducta de IA, pero las negociaciones aún están en proceso.
Cuestiones éticas en torno al arte AI
"Deepfakes para todos: el modelo de arte de IA sin censura plantea preguntas éticas". Este avance de la IA plantea cuestiones éticas significativas y la necesidad de regulaciones más estrictas para proteger a las personas, especialmente a los niños, de posibles abusos.
Otras noticias • IA
UiPath adquiere Peak.ai para fortalecer su inteligencia artificial empresarial
UiPath ha adquirido Peak.ai, una startup especializada en inteligencia artificial para la toma de decisiones empresariales. Esta compra busca expandir su oferta y enfrentar la...
Fraude en Singapur: contrabando de chips de Nvidia y polémica
Un caso de fraude en Singapur involucra el contrabando de chips de Nvidia, con tres acusados enfrentando cargos por defraudar a grandes empresas. La decisión...
Lip-Bu Tan asume liderazgo en Intel para revitalizar la compañía
La llegada de Lip-Bu Tan como CEO de Intel promete revitalizar la compañía tras los desafíos de su predecesor, Pat Gelsinger. Con un enfoque en...
Dario Amodei advierte sobre espionaje industrial en inteligencia artificial
Dario Amodei, CEO de Anthropic, alerta sobre el espionaje industrial en el sector de la inteligencia artificial, especialmente por parte de China. Propone una colaboración...
Browser Use revoluciona la interacción de IA con páginas web
Browser Use, creado por Gregor Zunic y Magnus Müller, ha ganado popularidad al facilitar la interacción de agentes de IA con páginas web. Su éxito,...
Nvidia GTC 2025: Innovaciones en IA y computación acelerada
La Conferencia GTC 2025 de Nvidia, que se celebra en San José, promete innovaciones en inteligencia artificial y computación acelerada. Jensen Huang presentará la serie...
Browser Use quintuplica descargas gracias a la popularidad de Manus
Browser Use ha experimentado un crecimiento explosivo, quintuplicando sus descargas tras la popularidad de Manus. Esta herramienta facilita la interacción de la inteligencia artificial con...
Snapchat revoluciona la creación de contenido con Lentes AI
Snapchat ha lanzado Lentes de video generativos basados en inteligencia artificial, mejorando la experiencia del usuario y fomentando la creatividad. Con un enfoque en la...
Lo más reciente
- 1
Energía geotérmica: Fervo Energy impulsa la sostenibilidad energética
- 2
Google revoluciona videojuegos con SDK y nuevas innovaciones
- 3
Google lanza Gemini, un chatbot personalizable que preocupa por privacidad
- 4
Spotify lanza programa de audiolibros para autores emergentes
- 5
Xbox lanza Copilot for Gaming, revolucionando la experiencia de juego
- 6
ClickUp lanza calendario renovado con IA para mejorar productividad
- 7
Skich Store revoluciona juegos móviles con enfoque social innovador