Más de 70 expertos en IA piden una mayor apertura en el desarrollo de la inteligencia artificial
En un momento en el que el Reino Unido reunió a algunos de los líderes corporativos y políticos más importantes del mundo en Bletchley Park para la Cumbre de Seguridad de la IA, más de 70 firmantes pusieron su nombre en una carta en la que pedían un enfoque más abierto en el desarrollo de la IA.
La carta, publicada por Mozilla, señala: "Estamos en un momento crítico en la gobernanza de la IA. Para mitigar los daños actuales y futuros de los sistemas de IA, debemos abrazar la apertura, la transparencia y el amplio acceso. Esto debe ser una prioridad global".
El debate sobre la apertura frente a la propiedad ha sido un tema importante en la revolución de la IA, al igual que en el ámbito del software en general en las últimas décadas. El científico jefe de IA de Meta, la empresa matriz de Facebook, Yann Lecun, criticó los esfuerzos de algunas empresas, incluyendo OpenAI y DeepMind de Google, por asegurar "el control regulatorio de la industria de la IA" al hacer lobby en contra de la investigación y desarrollo de IA abierta.
Lecun escribió: "Si sus campañas de miedo tienen éxito, inevitablemente resultarán en lo que usted y yo identificaríamos como una catástrofe: un pequeño número de empresas controlarán la IA".
Este tema sigue presente en los esfuerzos de gobernanza que surgen de la Orden Ejecutiva del presidente Biden y de la Cumbre de Seguridad de la IA organizada por el Reino Unido esta semana. Por un lado, los líderes de las grandes empresas de IA advierten sobre las amenazas existenciales que plantea la IA, argumentando que la IA de código abierto puede ser manipulada por actores malintencionados para crear armas químicas con mayor facilidad, por ejemplo. Por otro lado, los argumentos en contra sostienen que este alarmismo solo busca concentrar el control en manos de unas pocas empresas proteccionistas.
Control propietario
La verdad probablemente sea algo más matizada que eso, pero es en ese contexto que decenas de personas han firmado una carta abierta hoy, pidiendo más apertura.
La carta afirma: "Sí, los modelos de IA de acceso abierto conllevan riesgos y vulnerabilidades: los modelos de IA pueden ser utilizados por actores maliciosos o desplegados por desarrolladores mal preparados. Sin embargo, una y otra vez hemos visto que lo mismo ocurre con las tecnologías propietarias, y que aumentar el acceso y la supervisión pública hace que la tecnología sea más segura, no más peligrosa. La idea de que el control estricto y propietario de los modelos de IA fundamentales es el único camino para protegernos de daños a gran escala en la sociedad es, en el mejor de los casos, ingenua y, en el peor, peligrosa".
El reconocido investigador de IA, Lecun, quien se unió a Meta hace 10 años, agregó su nombre a la carta, junto con otros nombres destacados como Andrew Ng, cofundador de Google Brain y Coursera; Julien Chaumond, cofundador y CTO de Hugging Face; y el reconocido tecnólogo Brian Behlendorf de la Fundación Linux.
La carta identifica específicamente tres áreas principales en las que la apertura puede ayudar al desarrollo seguro de la IA, incluyendo permitir una mayor investigación y colaboración independiente, aumentar la supervisión y la rendición de cuentas públicas y reducir las barreras de entrada para nuevos participantes en el campo de la IA.
"La historia nos muestra que apresurarnos hacia el tipo equivocado de regulación puede llevar a concentraciones de poder que perjudican la competencia y la innovación", señala la carta. "Los modelos abiertos pueden informar un debate abierto y mejorar la formulación de políticas. Si nuestros objetivos son la seguridad, la protección y la rendición de cuentas, entonces la apertura y la transparencia son ingredientes esenciales para lograrlos".
Otras noticias • IA
Anysphere lanza suscripción premium Ultra para herramienta Cursor
Anysphere ha lanzado un plan de suscripción premium, Ultra, para su herramienta Cursor, que ofrece un uso intensivo de modelos de IA por 200 dólares...
Sword Health recauda 40 millones y se valora en 4 mil millones
Sword Health, una startup de salud digital, ha recaudado 40 millones de dólares, elevando su valoración a 4 mil millones. Su CEO, Virgílio Bento, planea...
Clay, startup de ventas valorada en 3.000 millones, crece
Clay, una startup de automatización de ventas valorada en 3.000 millones de dólares, ha atraído inversión significativa y permite a sus empleados vender acciones. Con...
Nueva York impulsa la RAISE Act para regular la IA
La RAISE Act de Nueva York establece estándares de seguridad y transparencia para la IA avanzada, buscando prevenir desastres. A diferencia de la fallida legislación...
Google presenta Audio Overviews para resúmenes de búsquedas en audio
Google lanza Audio Overviews, una función experimental que ofrece resúmenes en audio de búsquedas, utilizando inteligencia artificial. Esta innovación busca facilitar el acceso a la...
Meta invierte 14.3 mil millones en Scale AI para potenciar IA
Meta ha invertido 14.3 mil millones de dólares en Scale AI, adquiriendo un 49% de la empresa. Esta colaboración busca reforzar la posición de Meta...
Meta invierte 14.300 millones en Scale AI para etiquetado
Scale AI ha recibido una inversión de 14.300 millones de dólares de Meta, valorando la startup en 29.000 millones. Esta colaboración busca mejorar la calidad...
Meta AI genera inquietudes por riesgos de privacidad y seguridad
La aplicación Meta AI ha generado preocupaciones sobre la privacidad, permitiendo la divulgación involuntaria de información sensible. A pesar de su popularidad, la falta de...
Lo más reciente
- 1
Meta ofrece hasta 100 millones por talento en IA
- 2
Fiesta de Cluely se vuelve viral y termina cerrada por policía
- 3
Juegos clásicos revelan capacidades y limitaciones de la inteligencia artificial
- 4
Tesla lidera el mercado de vehículos eléctricos en EE.UU
- 5
EE. UU. y OpenAI firman contrato de 200 millones en IA
- 6
Hackeo de Banco Sepah intensifica guerra cibernética Israel-Irán
- 7
Applied Intuition recauda 600 millones y alcanza 15.000 millones