Colaboración global para mitigar los riesgos de la IA: la Declaración de Bletchley
Hoy, en la Cumbre de Seguridad de la IA en Bletchley Park, Reino Unido, varios líderes mundiales en inteligencia artificial se unieron para expresar su preferencia por la colaboración en lugar de la competencia en la mitigación de riesgos. La ministra de tecnología del Reino Unido, Michelle Donelan, anunció un nuevo documento de política llamado Declaración de Bletchley, que busca alcanzar un consenso global sobre cómo abordar los riesgos que plantea la IA en la actualidad y en el futuro a medida que se desarrolla. Además, Donelan anunció que la cumbre se convertirá en un evento regular, con una próxima reunión programada en Corea dentro de seis meses y otra en Francia seis meses después.
Un enfoque centrado en el ser humano y responsable
El documento publicado hoy se centra en principios generales para el desarrollo seguro y responsable de la IA. "Para lograr esto, afirmamos que, para el bien de todos, la IA debe ser diseñada, desarrollada, implementada y utilizada de manera segura, de modo que sea centrada en el ser humano, confiable y responsable", señala el documento. También se hace hincapié en los modelos de lenguaje grandes que están siendo desarrollados por empresas como OpenAI, Meta y Google, y en las amenazas específicas que podrían plantear para un mal uso.
El documento destaca los riesgos de seguridad que surgen en la "frontera" de la IA, refiriéndose a los modelos de IA de propósito general altamente capaces, incluidos los modelos fundamentales, que podrían realizar una amplia variedad de tareas, así como la IA estrecha específica relevante que podría causar daño y superar las capacidades de los modelos más avanzados de la actualidad.
Institutos de seguridad de IA en Estados Unidos y el Reino Unido
En el evento, la secretaria de Comercio de Estados Unidos, Gina Raimondo, anunció la creación de un nuevo instituto de seguridad de IA que estará bajo el Departamento de Comercio y específicamente bajo el Instituto Nacional de Normas y Tecnología (NIST, por sus siglas en inglés). El objetivo de esta organización será trabajar en estrecha colaboración con otros grupos de seguridad de IA establecidos por otros gobiernos, incluido el Instituto de Seguridad que el Reino Unido también planea establecer.
Raimondo destacó la importancia de la alineación de políticas en todo el mundo y la necesidad de colaboración entre los institutos para lograr este objetivo. "Tenemos que ponernos a trabajar y, entre nuestros institutos, tenemos que ponernos a trabajar para lograr la alineación de políticas en todo el mundo", afirmó Raimondo.
Líderes políticos promueven la inclusividad y la responsabilidad
La inauguración de la cumbre contó con la presencia de líderes políticos de las principales economías del mundo, así como representantes de países en desarrollo. Wu Zhaohui, vice ministro de Ciencia y Tecnología de China; Vera Jourova, vicepresidenta de la Comisión Europea para Valores y Transparencia; Rajeev Chandrasekhar, ministro de Estado de Electrónica e Información Tecnológica de la India; Omar Sultan al Olama, ministro de Estado de Inteligencia Artificial de los Emiratos Árabes Unidos; y Bosun Tijani, ministro de Tecnología de Nigeria, hablaron sobre la importancia de la inclusividad y la responsabilidad en el desarrollo de la IA.
Sin embargo, a pesar de las buenas intenciones expresadas en la cumbre, aún queda por ver cómo se implementarán estos principios y cómo se abordarán los desafíos que plantea la IA. Ian Hogarth, fundador, inversor e ingeniero, quien preside el grupo de trabajo de IA fundamental del gobierno del Reino Unido y ha tenido un papel importante en la organización de esta conferencia, expresó su preocupación por el ritmo acelerado del desarrollo de la IA y la necesidad de salvaguardar la sociedad. Hogarth enfatizó la importancia de abordar los riesgos de manera empírica y rigurosa y destacó la importancia de las decisiones y acciones tomadas en los próximos días.
En resumen, la Declaración de Bletchley y la cumbre de seguridad de la IA marcan un paso importante hacia la colaboración global en la mitigación de riesgos de la IA. Los líderes mundiales han expresado su compromiso con un enfoque centrado en el ser humano y responsable en el desarrollo de la IA, y se han anunciado iniciativas concretas, como la creación de institutos de seguridad de IA en Estados Unidos y el Reino Unido. Sin embargo, queda por ver cómo se implementarán estos principios y cómo se abordarán los desafíos prácticos y éticos que plantea la IA en el futuro.
Otras noticias • IA
Elon Musk lanza chatbot 'Grok' solo para suscriptores Premium+ de X
Elon Musk anuncia el lanzamiento de su chatbot 'Grok' exclusivamente para sus suscriptores Premium+ de X la próxima semana. Esto ha generado expectación y preocupación...
Neuralink recauda $43 millones para revolucionar la interacción cerebral
La compañía Neuralink, fundada por Elon Musk, ha recaudado $43 millones adicionales en financiación de riesgo. Neuralink desarrolla chips implantables capaces de leer las ondas...
Baidu asegura abastecimiento de chips de IA para Ernie Bot
Baidu afirma tener suficientes chips de IA para continuar el desarrollo de Ernie Bot durante los próximos años, a pesar de la prohibición de exportación...
Google mejora chatbot Bard AI para responder preguntas específicas en YouTube
Google ha anunciado que su chatbot Bard AI ahora puede responder preguntas específicas sobre videos de YouTube. Anteriormente, solo se podía buscar videos específicos, pero...
Osium AI revoluciona la ciencia de materiales con inteligencia artificial
La startup francesa Osium AI utiliza inteligencia artificial para acelerar la investigación y desarrollo en ciencia de materiales. Su tecnología permite predecir propiedades físicas de...
Sam Altman regresa como CEO de OpenAI tras crisis corporativa
Sam Altman ha sido reinstaurado como CEO de OpenAI después de una crisis de gobierno corporativo. Aunque el proceso fue caótico, se espera que OpenAI...
Sam Altman vuelve a OpenAI como CEO tras despido sorprendente
Sam Altman regresará como CEO de OpenAI después de ser despedido la semana pasada. La compañía ha alcanzado un acuerdo en principio y está reformando...
Anthropic lanza Claude 2.1, rivalizando con GPT de OpenAI
Anthropic ha lanzado Claude 2.1, una mejora en su modelo de lenguaje de IA que rivaliza con la serie GPT de OpenAI. Las mejoras incluyen...
Lo más reciente
- 1
FEBE Ventures lanza segundo fondo de inversión de $75 millones
- 2
Uber y taxistas negros de Londres se unen por beneficios exclusivos
- 3
Polestar lanza "Truth Bot" en Twitter para combatir desinformación climática
- 4
Tier Mobility anuncia despidos para reducir costos y alcanzar rentabilidad
- 5
Amazon lanza "Guardrails for Amazon Bedrock" para controlar lenguaje AI
- 6
Amazon presenta chips personalizados para IA con mejor rendimiento y eficiencia
- 7
Apple Music Replay no logra superar experiencia personalizada de Spotify