Los Fiscales Generales de los 50 estados de los Estados Unidos, más 4 territorios, han enviado una carta instando al Congreso a tomar medidas contra el material de abuso sexual infantil (CSAM) facilitado por la Inteligencia Artificial (IA).
Una nueva frontera de abuso
"Si bien los delitos en Internet contra los niños ya están siendo activamente perseguidos, nos preocupa que la IA esté creando una nueva frontera de abuso que dificulta aún más esta persecución", dice la carta.
En efecto, la IA facilita más que nunca a los actores malintencionados la creación de imágenes de deepfake, que representan de manera realista a personas en escenarios falsos. A veces, los resultados son benignos, como cuando se engañó a Internet para creer que el Papa tenía un abrigo de Balenciaga. Pero en los peores casos, como señalan los Fiscales Generales, esta tecnología puede ser utilizada para facilitar el abuso.
Los riesgos de las imágenes sexualizadas
"Ya sean físicamente abusados o no los niños que aparecen en las fotografías fuente para los deepfakes, la creación y circulación de imágenes sexualizadas que representan a niños reales amenaza el bienestar físico, psicológico y emocional de los niños que son víctimas de ella, así como el de sus padres", se lee en la carta.
Los firmantes instan al Congreso a establecer un comité para investigar soluciones para abordar los riesgos del CSAM generado por la IA, y luego ampliar las leyes existentes contra el CSAM para cubrir explícitamente el CSAM generado por la IA.
Falta de protecciones legales
Los deepfakes de IA sexualmente explotadores y no consensuados ya proliferan en línea, pero existen pocas protecciones legales para las víctimas de este material. Nueva York, California, Virginia y Georgia tienen leyes que prohíben la difusión de deepfakes de IA sexualmente explotadores, y en 2019, Texas se convirtió en el primer estado en prohibir el uso de deepfakes de IA para influir en las elecciones políticas. Aunque las principales plataformas sociales prohíben este contenido, puede pasar desapercibido. En marzo, una aplicación que pretendía "intercambiar cualquier cara" en videos sugerentes publicó más de 230 anuncios en Facebook, Instagram y Messenger; Meta eliminó los anuncios una vez que fueron notificados por la periodista de NBC News Kat Tenbarge.
Medidas en el extranjero
En el extranjero, los legisladores europeos están tratando de trabajar con otros países para ratificar un Código de Conducta de IA, pero las negociaciones aún están en proceso.
Cuestiones éticas en torno al arte AI
"Deepfakes para todos: el modelo de arte de IA sin censura plantea preguntas éticas". Este avance de la IA plantea cuestiones éticas significativas y la necesidad de regulaciones más estrictas para proteger a las personas, especialmente a los niños, de posibles abusos.
Otras noticias • IA
Congreso decide futuro del Instituto de Seguridad de la IA
Estados Unidos enfrenta un momento crítico en la regulación de la inteligencia artificial con el Instituto de Seguridad de la IA (AISI). Su futuro depende...
Highlight transforma la productividad con su innovadora app AI
Highlight, una nueva startup independiente tras separarse de Medal, está revolucionando la productividad con su aplicación que integra inteligencia artificial. Permite a los usuarios interactuar...
Startup Socket fortalece la seguridad en la cadena de suministro
La cadena de suministro de software enfrenta crecientes riesgos, especialmente por la dependencia de componentes de código abierto. Socket, una startup innovadora, ofrece herramientas para...
Inteligencia artificial transforma la medicina y mejora atención al paciente
La inteligencia artificial está revolucionando la medicina al mejorar la eficiencia de los médicos y transformar la experiencia del paciente. Startups y grandes empresas como...
La inteligencia artificial revoluciona la banca minorista y enfrenta retos
La inteligencia artificial está transformando los servicios bancarios minoristas mediante la automatización de procesos, personalización de la experiencia del cliente y detección de fraudes. Aunque...
Retos legales de la inteligencia artificial en derechos de autor
La inteligencia artificial plantea retos en propiedad intelectual, especialmente en derechos de autor. Las startups deben comprender la complejidad legal al generar contenido, evitando infracciones...
Grok de xAI revoluciona la creación de contenido adaptable
Grok, desarrollado por xAI, es un modelo generativo de IA que crea contenido de texto adaptable a diferentes estilos. Su API permite a los desarrolladores...
Mujeres en IA: clave para la sostenibilidad energética y equidad
La inteligencia artificial (IA) impulsa la sostenibilidad en el sector energético, optimizando recursos y reduciendo desperdicios. Las mujeres desempeñan un papel crucial en este ámbito,...
Lo más reciente
- 1
eVTOLs autorizados en EE. UU. transforman la movilidad urbana
- 2
Fintechs innovadoras transforman la banca y apoyan a PYMES
- 3
LinkedIn enfrenta crisis de confianza tras caída de seguidores
- 4
Furno transforma la producción de cemento con micro-hornos ecológicos
- 5
SEC multa a empresas por engaños tras brecha de SolarWinds
- 6
Foursquare cierra City Guides y se enfoca en Swarm
- 7
Ciberataque masivo redirige usuarios a sitios de juego fraudulentos