Expertos en inteligencia artificial piden regulación estricta de deepfakes
Cientos en la comunidad de inteligencia artificial han firmado una carta abierta pidiendo una regulación estricta de las suplantaciones generadas por IA, o deepfakes. Aunque esto es poco probable que genere una legislación real (a pesar del nuevo grupo de trabajo de la Cámara), actúa como un indicador de cómo se inclinan los expertos sobre este tema controvertido.
La carta, firmada por más de 500 personas en y adyacentes al campo de la IA en el momento de su publicación, declara que "Los deepfakes son una amenaza creciente para la sociedad, y los gobiernos deben imponer obligaciones en toda la cadena de suministro para detener la proliferación de deepfakes".
Llamamiento a la criminalización total de los materiales de abuso sexual infantil deepfake (CSAM, también conocido como pornografía infantil) independientemente de si las figuras representadas son reales o ficticias. Se piden sanciones penales en cualquier caso en el que alguien cree o difunda deepfakes perjudiciales. Y se insta a los desarrolladores a evitar que se creen deepfakes perjudiciales utilizando sus productos en primer lugar, con sanciones si sus medidas preventivas son inadecuadas.
Entre los firmantes más destacados de la carta se encuentran:
- Jaron Lanier
- Frances Haugen
- Stuart Russell
- Andrew Yang
- Marietje Schaake
- Steven Pinker
- Gary Marcus
- Oren Etzioni
- Genevieve Smith
- Yoshua Bengio
- Dan Hendrycks
- Tim Wu
También están presentes cientos de académicos de todo el mundo y de diversas disciplinas. En caso de que te interese, una persona de OpenAI firmó, un par de Google Deepmind, y ninguno en el momento de la publicación de Anthropic, Amazon, Apple o Microsoft (excepto Lanier, cuya posición allí es no estándar). Curiosamente, están clasificados en la carta por "Notabilidad".
Propuesta de la UE para criminalizar el abuso sexual infantil generado por IA y deepfakes
Quizás sea la disposición de la UE para deliberar y seguir adelante lo que ha activado a estos investigadores, creadores y ejecutivos a hablar.
O quizás sea la marcha lenta de KOSA hacia la aceptación, y su falta de protección para este tipo de abuso.
O quizás sea la amenaza de (como ya hemos visto) las llamadas de estafa generadas por IA que podrían influir en las elecciones o engañar a personas ingenuas para que les quiten su dinero.
O quizás sea el anuncio del grupo de trabajo de ayer sin una agenda en particular más que quizás escribir un informe sobre cuáles podrían ser algunas amenazas basadas en IA y cómo podrían estar restringidas legislativamente.
Como puedes ver, no faltan razones para que aquellos en la comunidad de IA estén aquí agitando los brazos y diciendo "¿quizás deberíamos, ya sabes, hacer algo?!".
Llamadas generadas por IA de Biden a través de una empresa de telecomunicaciones sombría y una empresa 'Life Corporation' de Texas
Otras noticias • IA
Imágenes sintéticas desnudas amenazan privacidad y seguridad personal
La proliferación de imágenes sintéticas desnudas plantea serios desafíos de privacidad y seguridad, especialmente en casos de pornografía de venganza. Microsoft ha colaborado con StopNCII...
Cosmos Institute lanza iniciativas para una IA humanista y ética
El Cosmos Institute busca transformar la inteligencia artificial mediante un enfoque humanista, creando el Human-Centered AI Lab en Oxford y la Cosmos Fellowship. También lanzan...
Canva eleva precios y usuarios critican pérdida de accesibilidad
Canva ha aumentado drásticamente los precios de sus planes, especialmente para Canva Teams, justificándolo por la inversión en inteligencia artificial. Este cambio ha generado descontento...
Google refuerza IA y plataformas para combatir desinformación electoral
Google implementa restricciones en su inteligencia artificial generativa para evitar la desinformación durante las elecciones presidenciales de EE. UU. Además, mejora su motor de búsqueda...
LAION presenta Re-LAION-5B para combatir contenido ilegal y NSFW
LAION ha lanzado Re-LAION-5B, un conjunto de datos depurado de enlaces a material de abuso sexual infantil y contenido NSFW. Este esfuerzo responde a recomendaciones...
Gmail integra Gemini para mejorar gestión de correos electrónicos
Gmail ha integrado el asistente de inteligencia artificial Gemini, permitiendo a los usuarios hacer preguntas sobre sus correos electrónicos y recibir resúmenes. Esta función, disponible...
Reliance Industries impulsa inteligencia artificial con nuevos centros de datos
Reliance Industries, liderada por Mukesh Ambani, apuesta por la inteligencia artificial con la creación de centros de datos en Gujarat y el desarrollo de Jio...
Incertidumbre en OpenAI por falta de anuncios de Converge 2
El programa de aceleración Converge 2 de OpenAI ha generado incertidumbre por la falta de comunicación sobre las startups seleccionadas. A diferencia de su primera...
Lo más reciente
- 1
Starliner regresa exitosamente de la ISS tras misión exitosa
- 2
Warp enfrenta críticas por comentarios racistas de un vinculado
- 3
Byju's enfrenta crisis tras renuncia de auditor BDO
- 4
Ciberataque interrumpe servicios de TfL y genera preocupación pública
- 5
Meta debe permitir interoperabilidad entre WhatsApp y otras apps
- 6
Lanzamiento del cohete New Glenn se pospone hasta 2025
- 7
Eagles y Packers enfrentan retos en partido histórico en Brasil