Líderes mundiales promueven colaboración en seguridad de la IA

Colaboración global para mitigar los riesgos de la IA: la Declaración de Bletchley

Hoy, en la Cumbre de Seguridad de la IA en Bletchley Park, Reino Unido, varios líderes mundiales en inteligencia artificial se unieron para expresar su preferencia por la colaboración en lugar de la competencia en la mitigación de riesgos. La ministra de tecnología del Reino Unido, Michelle Donelan, anunció un nuevo documento de política llamado Declaración de Bletchley, que busca alcanzar un consenso global sobre cómo abordar los riesgos que plantea la IA en la actualidad y en el futuro a medida que se desarrolla. Además, Donelan anunció que la cumbre se convertirá en un evento regular, con una próxima reunión programada en Corea dentro de seis meses y otra en Francia seis meses después.

Un enfoque centrado en el ser humano y responsable

El documento publicado hoy se centra en principios generales para el desarrollo seguro y responsable de la IA. "Para lograr esto, afirmamos que, para el bien de todos, la IA debe ser diseñada, desarrollada, implementada y utilizada de manera segura, de modo que sea centrada en el ser humano, confiable y responsable", señala el documento. También se hace hincapié en los modelos de lenguaje grandes que están siendo desarrollados por empresas como OpenAI, Meta y Google, y en las amenazas específicas que podrían plantear para un mal uso.

El documento destaca los riesgos de seguridad que surgen en la "frontera" de la IA, refiriéndose a los modelos de IA de propósito general altamente capaces, incluidos los modelos fundamentales, que podrían realizar una amplia variedad de tareas, así como la IA estrecha específica relevante que podría causar daño y superar las capacidades de los modelos más avanzados de la actualidad.

Institutos de seguridad de IA en Estados Unidos y el Reino Unido

En el evento, la secretaria de Comercio de Estados Unidos, Gina Raimondo, anunció la creación de un nuevo instituto de seguridad de IA que estará bajo el Departamento de Comercio y específicamente bajo el Instituto Nacional de Normas y Tecnología (NIST, por sus siglas en inglés). El objetivo de esta organización será trabajar en estrecha colaboración con otros grupos de seguridad de IA establecidos por otros gobiernos, incluido el Instituto de Seguridad que el Reino Unido también planea establecer.

Raimondo destacó la importancia de la alineación de políticas en todo el mundo y la necesidad de colaboración entre los institutos para lograr este objetivo. "Tenemos que ponernos a trabajar y, entre nuestros institutos, tenemos que ponernos a trabajar para lograr la alineación de políticas en todo el mundo", afirmó Raimondo.

Líderes políticos promueven la inclusividad y la responsabilidad

La inauguración de la cumbre contó con la presencia de líderes políticos de las principales economías del mundo, así como representantes de países en desarrollo. Wu Zhaohui, vice ministro de Ciencia y Tecnología de China; Vera Jourova, vicepresidenta de la Comisión Europea para Valores y Transparencia; Rajeev Chandrasekhar, ministro de Estado de Electrónica e Información Tecnológica de la India; Omar Sultan al Olama, ministro de Estado de Inteligencia Artificial de los Emiratos Árabes Unidos; y Bosun Tijani, ministro de Tecnología de Nigeria, hablaron sobre la importancia de la inclusividad y la responsabilidad en el desarrollo de la IA.

Sin embargo, a pesar de las buenas intenciones expresadas en la cumbre, aún queda por ver cómo se implementarán estos principios y cómo se abordarán los desafíos que plantea la IA. Ian Hogarth, fundador, inversor e ingeniero, quien preside el grupo de trabajo de IA fundamental del gobierno del Reino Unido y ha tenido un papel importante en la organización de esta conferencia, expresó su preocupación por el ritmo acelerado del desarrollo de la IA y la necesidad de salvaguardar la sociedad. Hogarth enfatizó la importancia de abordar los riesgos de manera empírica y rigurosa y destacó la importancia de las decisiones y acciones tomadas en los próximos días.

En resumen, la Declaración de Bletchley y la cumbre de seguridad de la IA marcan un paso importante hacia la colaboración global en la mitigación de riesgos de la IA. Los líderes mundiales han expresado su compromiso con un enfoque centrado en el ser humano y responsable en el desarrollo de la IA, y se han anunciado iniciativas concretas, como la creación de institutos de seguridad de IA en Estados Unidos y el Reino Unido. Sin embargo, queda por ver cómo se implementarán estos principios y cómo se abordarán los desafíos prácticos y éticos que plantea la IA en el futuro.