Empresas líderes en IA se comprometen a garantizar seguridad y transparencia ante Orden Ejecutiva

Las empresas de IA se comprometen voluntariamente a garantizar la seguridad y transparencia

El avance de la inteligencia artificial (IA) ha llevado a la preocupación de que esta tecnología pueda salirse de control. Ante esto, la administración de Biden ha logrado obtener compromisos voluntarios de siete de los mayores desarrolladores de IA para perseguir objetivos compartidos de seguridad y transparencia antes de emitir una Orden Ejecutiva planeada.

Empresas como OpenAI, Anthropic, Google, Inflection, Microsoft, Meta y Amazon son las compañías que participan en este acuerdo no vinculante, y enviarán representantes a la Casa Blanca para reunirse con el presidente Biden hoy.

Es importante aclarar que no se propone ninguna regla o aplicación obligatoria aquí, los compromisos acordados son puramente voluntarios. Sin embargo, aunque ninguna agencia gubernamental responsabilizará a una empresa si incumple algunos de estos compromisos, es probable que se conviertan en un asunto de registro público.

Compromisos acordados por las empresas

Las siete empresas, junto con otras que pueden unirse más adelante, se han comprometido a lo siguiente:

1. Pruebas de seguridad internas y externas de los sistemas de IA antes de su lanzamiento, incluyendo pruebas de "red teaming" adversarias realizadas por expertos externos a la empresa.
2. Compartir información sobre los riesgos de la IA y las técnicas de mitigación con el gobierno, la academia y la "sociedad civil", como la prevención de "jailbreaking".
3. Invertir en ciberseguridad y salvaguardias contra amenazas internas para proteger los datos privados de los modelos, como los pesos. Esto es importante no solo para proteger la propiedad intelectual, sino también porque un lanzamiento prematuro podría representar una oportunidad para actores malintencionados.
4. Facilitar el descubrimiento y reporte de vulnerabilidades por parte de terceros, por ejemplo, mediante programas de recompensas por errores o análisis de expertos en el campo.
5. Desarrollar marcas de agua robustas u otra forma de marcar el contenido generado por IA.
6. Informar sobre las "capacidades, limitaciones y áreas de uso apropiado e inapropiado" de los sistemas de IA. Sin embargo, obtener una respuesta clara sobre este punto puede resultar complicado.
7. Priorizar la investigación sobre riesgos sociales, como el sesgo sistemático o los problemas de privacidad.
8. Desarrollar y desplegar la IA "para ayudar a abordar los mayores desafíos de la sociedad", como la prevención del cáncer y el cambio climático. Sin embargo, en una conferencia de prensa se señaló que no se está haciendo un seguimiento de la huella de carbono de los modelos de IA.

Aunque los compromisos anteriores son voluntarios, es fácil imaginar que la amenaza de una Orden Ejecutiva está presente para fomentar el cumplimiento. Por ejemplo, si algunas empresas no permiten pruebas de seguridad externas de sus modelos antes de su lanzamiento, la Orden Ejecutiva podría incluir una directiva que instruya a la Comisión Federal de Comercio a examinar de cerca los productos de IA que afirmen tener una seguridad sólida. (Ya existe una Orden Ejecutiva que exige a las agencias estar atentas al sesgo en el desarrollo y uso de la IA).

La Casa Blanca busca liderar el camino en el desarrollo de la IA

La Casa Blanca está claramente ansiosa por adelantarse a esta próxima gran ola tecnológica, habiendo sido sorprendida en cierta medida por las capacidades disruptivas de las redes sociales. Tanto el presidente como el vicepresidente se han reunido con líderes de la industria y han solicitado asesoramiento sobre una estrategia nacional de IA, además de dedicar una gran cantidad de financiación a nuevos centros y programas de investigación en IA. Por supuesto, el aparato nacional de ciencia e investigación está mucho más avanzado que ellos, como muestra este informe de desafíos y oportunidades de investigación altamente completo (aunque necesariamente ligeramente desactualizado) del Departamento de Energía y los Laboratorios Nacionales.