Colaboración | IA

Líderes mundiales promueven colaboración en seguridad de la IA

Colaboración global para mitigar los riesgos de la IA: la Declaración de Bletchley

Hoy, en la Cumbre de Seguridad de la IA en Bletchley Park, Reino Unido, varios líderes mundiales en inteligencia artificial se unieron para expresar su preferencia por la colaboración en lugar de la competencia en la mitigación de riesgos. La ministra de tecnología del Reino Unido, Michelle Donelan, anunció un nuevo documento de política llamado Declaración de Bletchley, que busca alcanzar un consenso global sobre cómo abordar los riesgos que plantea la IA en la actualidad y en el futuro a medida que se desarrolla. Además, Donelan anunció que la cumbre se convertirá en un evento regular, con una próxima reunión programada en Corea dentro de seis meses y otra en Francia seis meses después.

Un enfoque centrado en el ser humano y responsable

El documento publicado hoy se centra en principios generales para el desarrollo seguro y responsable de la IA. "Para lograr esto, afirmamos que, para el bien de todos, la IA debe ser diseñada, desarrollada, implementada y utilizada de manera segura, de modo que sea centrada en el ser humano, confiable y responsable", señala el documento. También se hace hincapié en los modelos de lenguaje grandes que están siendo desarrollados por empresas como OpenAI, Meta y Google, y en las amenazas específicas que podrían plantear para un mal uso.

El documento destaca los riesgos de seguridad que surgen en la "frontera" de la IA, refiriéndose a los modelos de IA de propósito general altamente capaces, incluidos los modelos fundamentales, que podrían realizar una amplia variedad de tareas, así como la IA estrecha específica relevante que podría causar daño y superar las capacidades de los modelos más avanzados de la actualidad.

Institutos de seguridad de IA en Estados Unidos y el Reino Unido

En el evento, la secretaria de Comercio de Estados Unidos, Gina Raimondo, anunció la creación de un nuevo instituto de seguridad de IA que estará bajo el Departamento de Comercio y específicamente bajo el Instituto Nacional de Normas y Tecnología (NIST, por sus siglas en inglés). El objetivo de esta organización será trabajar en estrecha colaboración con otros grupos de seguridad de IA establecidos por otros gobiernos, incluido el Instituto de Seguridad que el Reino Unido también planea establecer.

Raimondo destacó la importancia de la alineación de políticas en todo el mundo y la necesidad de colaboración entre los institutos para lograr este objetivo. "Tenemos que ponernos a trabajar y, entre nuestros institutos, tenemos que ponernos a trabajar para lograr la alineación de políticas en todo el mundo", afirmó Raimondo.

Líderes políticos promueven la inclusividad y la responsabilidad

La inauguración de la cumbre contó con la presencia de líderes políticos de las principales economías del mundo, así como representantes de países en desarrollo. Wu Zhaohui, vice ministro de Ciencia y Tecnología de China; Vera Jourova, vicepresidenta de la Comisión Europea para Valores y Transparencia; Rajeev Chandrasekhar, ministro de Estado de Electrónica e Información Tecnológica de la India; Omar Sultan al Olama, ministro de Estado de Inteligencia Artificial de los Emiratos Árabes Unidos; y Bosun Tijani, ministro de Tecnología de Nigeria, hablaron sobre la importancia de la inclusividad y la responsabilidad en el desarrollo de la IA.

Sin embargo, a pesar de las buenas intenciones expresadas en la cumbre, aún queda por ver cómo se implementarán estos principios y cómo se abordarán los desafíos que plantea la IA. Ian Hogarth, fundador, inversor e ingeniero, quien preside el grupo de trabajo de IA fundamental del gobierno del Reino Unido y ha tenido un papel importante en la organización de esta conferencia, expresó su preocupación por el ritmo acelerado del desarrollo de la IA y la necesidad de salvaguardar la sociedad. Hogarth enfatizó la importancia de abordar los riesgos de manera empírica y rigurosa y destacó la importancia de las decisiones y acciones tomadas en los próximos días.

En resumen, la Declaración de Bletchley y la cumbre de seguridad de la IA marcan un paso importante hacia la colaboración global en la mitigación de riesgos de la IA. Los líderes mundiales han expresado su compromiso con un enfoque centrado en el ser humano y responsable en el desarrollo de la IA, y se han anunciado iniciativas concretas, como la creación de institutos de seguridad de IA en Estados Unidos y el Reino Unido. Sin embargo, queda por ver cómo se implementarán estos principios y cómo se abordarán los desafíos prácticos y éticos que plantea la IA en el futuro.


Flowers
Publicidad


Otras noticias • IA

Exclusivo

Elon Musk lanza chatbot 'Grok' solo para suscriptores Premium+ de X

Elon Musk anuncia el lanzamiento de su chatbot 'Grok' exclusivamente para sus suscriptores Premium+ de X la próxima semana. Esto ha generado expectación y preocupación...

Innovación

Neuralink recauda $43 millones para revolucionar la interacción cerebral

La compañía Neuralink, fundada por Elon Musk, ha recaudado $43 millones adicionales en financiación de riesgo. Neuralink desarrolla chips implantables capaces de leer las ondas...

Garantizado

Baidu asegura abastecimiento de chips de IA para Ernie Bot

Baidu afirma tener suficientes chips de IA para continuar el desarrollo de Ernie Bot durante los próximos años, a pesar de la prohibición de exportación...

Avanzado

Google mejora chatbot Bard AI para responder preguntas específicas en YouTube

Google ha anunciado que su chatbot Bard AI ahora puede responder preguntas específicas sobre videos de YouTube. Anteriormente, solo se podía buscar videos específicos, pero...

Innovación

Osium AI revoluciona la ciencia de materiales con inteligencia artificial

La startup francesa Osium AI utiliza inteligencia artificial para acelerar la investigación y desarrollo en ciencia de materiales. Su tecnología permite predecir propiedades físicas de...

Reanudación

Sam Altman regresa como CEO de OpenAI tras crisis corporativa

Sam Altman ha sido reinstaurado como CEO de OpenAI después de una crisis de gobierno corporativo. Aunque el proceso fue caótico, se espera que OpenAI...

Reincorporación

Sam Altman vuelve a OpenAI como CEO tras despido sorprendente

Sam Altman regresará como CEO de OpenAI después de ser despedido la semana pasada. La compañía ha alcanzado un acuerdo en principio y está reformando...

Competencia

Anthropic lanza Claude 2.1, rivalizando con GPT de OpenAI

Anthropic ha lanzado Claude 2.1, una mejora en su modelo de lenguaje de IA que rivaliza con la serie GPT de OpenAI. Las mejoras incluyen...