IA | Control

Expertos piden regulación estricta de deepfakes para proteger sociedad

Expertos en inteligencia artificial piden regulación estricta de deepfakes

Cientos en la comunidad de inteligencia artificial han firmado una carta abierta pidiendo una regulación estricta de las suplantaciones generadas por IA, o deepfakes. Aunque esto es poco probable que genere una legislación real (a pesar del nuevo grupo de trabajo de la Cámara), actúa como un indicador de cómo se inclinan los expertos sobre este tema controvertido.

La carta, firmada por más de 500 personas en y adyacentes al campo de la IA en el momento de su publicación, declara que "Los deepfakes son una amenaza creciente para la sociedad, y los gobiernos deben imponer obligaciones en toda la cadena de suministro para detener la proliferación de deepfakes".

Llamamiento a la criminalización total de los materiales de abuso sexual infantil deepfake (CSAM, también conocido como pornografía infantil) independientemente de si las figuras representadas son reales o ficticias. Se piden sanciones penales en cualquier caso en el que alguien cree o difunda deepfakes perjudiciales. Y se insta a los desarrolladores a evitar que se creen deepfakes perjudiciales utilizando sus productos en primer lugar, con sanciones si sus medidas preventivas son inadecuadas.

Entre los firmantes más destacados de la carta se encuentran:

  • Jaron Lanier
  • Frances Haugen
  • Stuart Russell
  • Andrew Yang
  • Marietje Schaake
  • Steven Pinker
  • Gary Marcus
  • Oren Etzioni
  • Genevieve Smith
  • Yoshua Bengio
  • Dan Hendrycks
  • Tim Wu

También están presentes cientos de académicos de todo el mundo y de diversas disciplinas. En caso de que te interese, una persona de OpenAI firmó, un par de Google Deepmind, y ninguno en el momento de la publicación de Anthropic, Amazon, Apple o Microsoft (excepto Lanier, cuya posición allí es no estándar). Curiosamente, están clasificados en la carta por "Notabilidad".

Propuesta de la UE para criminalizar el abuso sexual infantil generado por IA y deepfakes

Quizás sea la disposición de la UE para deliberar y seguir adelante lo que ha activado a estos investigadores, creadores y ejecutivos a hablar.

O quizás sea la marcha lenta de KOSA hacia la aceptación, y su falta de protección para este tipo de abuso.

O quizás sea la amenaza de (como ya hemos visto) las llamadas de estafa generadas por IA que podrían influir en las elecciones o engañar a personas ingenuas para que les quiten su dinero.

O quizás sea el anuncio del grupo de trabajo de ayer sin una agenda en particular más que quizás escribir un informe sobre cuáles podrían ser algunas amenazas basadas en IA y cómo podrían estar restringidas legislativamente.

Como puedes ver, no faltan razones para que aquellos en la comunidad de IA estén aquí agitando los brazos y diciendo "¿quizás deberíamos, ya sabes, hacer algo?!".

Llamadas generadas por IA de Biden a través de una empresa de telecomunicaciones sombría y una empresa 'Life Corporation' de Texas


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Dudas éticas

Dudas sobre Sam Altman y la ética en OpenAI

La comparecencia de Sam Altman ante el Congreso ha generado dudas sobre su relación con OpenAI, especialmente tras revelaciones sobre su participación a través de...

Logística inteligente

Boon revoluciona la logística con inteligencia artificial y financiación

Boon, una startup fundada por Deepti Yenireddy, busca transformar la logística mediante inteligencia artificial, optimizando procesos y aumentando la eficiencia. Con 20,5 millones de dólares...

Ética tecnológica

Stem AI busca alinear inteligencia artificial con ética humana

Stem AI, cofundada por Emmett Shear, busca alinear la inteligencia artificial con el comportamiento humano y la ética. Con el respaldo de Andreessen Horowitz, la...

Cambio enfoque

TuSimple se convierte en CreateAI y se enfoca en videojuegos

TuSimple se transforma en CreateAI, abandonando el desarrollo de camiones autónomos para centrarse en la animación y videojuegos. A pesar de controversias sobre prácticas de...

Financiación exitosa

Anysphere recauda 100 millones y alcanza valoración de 2.600 millones

Anysphere, creador de Cursor, ha recaudado 100 millones de dólares en financiación, alcanzando una valoración de 2.600 millones. Su modelo freemium y asociaciones con empresas...

Edición inteligente

Instagram introduce herramientas de edición de vídeo con IA

Instagram lanzará nuevas herramientas de edición impulsadas por inteligencia artificial que permitirán a los creadores personalizar sus vídeos mediante comandos de texto. Estas innovaciones buscan...

Avance IA

Google lanza Gemini 2.0 para revolucionar la inteligencia artificial

Google ha presentado el modelo Gemini 2.0 Flash Thinking Experimental, que promete avanzar en el razonamiento y la comprensión multimodal de la IA. Aunque enfrenta...

Computación cuántica

BlueQubit revoluciona la computación cuántica con su plataforma QSaaS

BlueQubit, una startup de San Francisco, lidera la integración de la computación cuántica en aplicaciones reales a través de su plataforma QSaaS. Fundada por alumni...