El Reino Unido lanza el Instituto de Seguridad de IA para probar la seguridad de la inteligencia artificial emergente
El Reino Unido ha dado un paso importante hacia el establecimiento de su liderazgo en la política de inteligencia artificial (IA) al lanzar el Instituto de Seguridad de IA. Este instituto, que se describe como un "centro global con sede en el Reino Unido y encargado de probar la seguridad de los tipos emergentes de IA", fue anunciado formalmente por el primer ministro Rishi Sunak. La creación de este instituto es el resultado de la labor realizada por el grupo de trabajo de IA de Frontier AI, establecido por el Reino Unido en junio para preparar la Cumbre de Seguridad de IA que se celebró esta semana.
Liderazgo y financiación del Instituto de Seguridad de IA
El Instituto de Seguridad de IA estará dirigido por Ian Hogarth, quien también presidió el grupo de trabajo de Frontier AI. Uno de los líderes más destacados en el campo de la IA, Yoshio Bengio, será el encargado de producir el primer informe del instituto. Aunque no se ha revelado la cantidad exacta de financiación que el gobierno proporcionará al instituto, se espera que las principales empresas de IA respalden esta iniciativa. Sin embargo, aún no está claro si se espera que las empresas contribuyan económicamente al instituto.
La Declaración de Bletchley y el compromiso de evaluación de riesgos
El anuncio del Instituto de Seguridad de IA coincide con la firma de la Declaración de Bletchley por parte de los países participantes en la cumbre. Esta declaración establece el compromiso de realizar pruebas conjuntas y evaluar los riesgos de las tecnologías de IA de vanguardia, como los modelos de lenguaje avanzados. El primer ministro Sunak enfatizó la importancia de realizar pruebas de seguridad antes de lanzar nuevos modelos de IA, y señaló que hasta ahora solo las empresas desarrolladoras han llevado a cabo estas pruebas.
El debate sobre la regulación de la IA
El Reino Unido ha resistido hasta ahora la implementación de regulaciones específicas para la IA, tanto a nivel de plataformas como de aplicaciones específicas. Algunos críticos argumentan que sin regulaciones efectivas, los conceptos de seguridad y evaluación de riesgos carecen de sentido. Sin embargo, Sunak defendió la postura del gobierno al afirmar que es demasiado pronto para implementar regulaciones, ya que la tecnología de IA está evolucionando rápidamente y es necesario comprender completamente sus implicaciones antes de legislar.
Reuniones en la Cumbre de Seguridad de IA
En la segunda jornada de la cumbre, se llevaron a cabo reuniones bilaterales con la presidenta de la Comisión Europea, Ursula von der Leyen, y el secretario general de las Naciones Unidas, António Guterres. Además, se realizaron dos sesiones plenarias a puerta cerrada, en las que participaron destacados líderes de la industria de la IA y representantes gubernamentales. Sin embargo, la falta de transparencia en estas sesiones plenarias ha generado críticas, ya que los periodistas no tuvieron acceso a las discusiones.
La ausencia de China y Elon Musk
Aunque China fue invitada durante el primer día de la cumbre, no participó en las sesiones plenarias a puerta cerrada. Además, Elon Musk, propietario de X.ai, no estuvo presente en las reuniones de hoy. Sin embargo, está programado que Musk tenga una charla con el primer ministro Sunak esta noche en su plataforma social, aunque no se espera que sea una transmisión en vivo.
Con el establecimiento del Instituto de Seguridad de IA, el Reino Unido busca posicionarse como líder en la formulación de políticas de IA y garantizar la seguridad de las tecnologías emergentes. A medida que avanza en esta dirección, el gobierno británico tendrá que abordar cuestiones clave, como la financiación del instituto y la necesidad de regulaciones efectivas para garantizar la seguridad y evaluar los riesgos asociados con la IA.
Otras noticias • IA
Sam Altman vuelve a ser CEO de OpenAI y nombra nueva junta directiva
Sam Altman ha sido restituido como CEO de OpenAI y ha nombrado una nueva junta directiva. Altman anunció que Mira Murati regresará como CTO y...
See Together cierra ronda de financiación de $102.5 millones
La startup See Together cierra una ronda de financiación de $102.5 millones liderada por Kleiner Perkins. La empresa se dedica a crear infraestructuras de desarrollo...
Amazon lanza Titan Image Generator, creación de imágenes personalizadas
Amazon ha lanzado Titan Image Generator, una herramienta de generación de imágenes con inteligencia artificial que permite crear y personalizar imágenes a partir de descripciones...
Amazon AWS lanza SageMaker HyperPod, revolucionario servicio de entrenamiento de modelos de lenguaje
Amazon AWS ha lanzado SageMaker HyperPod, un nuevo servicio diseñado para entrenar y ajustar modelos de lenguaje de gran tamaño. HyperPod permite crear un clúster...
Pinterest lanza herramienta de búsqueda inclusiva con inteligencia artificial
Pinterest ha lanzado una nueva herramienta que permite a los usuarios filtrar búsquedas por diferentes tipos de cuerpo. Utilizando tecnología de tipo de cuerpo basada...
Amazon lanza "Guardrails for Amazon Bedrock" para controlar lenguaje AI
Amazon ha anunciado una nueva herramienta llamada "Guardrails for Amazon Bedrock" que permite controlar los modelos de lenguaje en aplicaciones de inteligencia artificial. Esto ayuda...
Amazon presenta chips personalizados para IA con mejor rendimiento y eficiencia
Amazon ha presentado en su conferencia re:Invent nuevos chips personalizados para inteligencia artificial. El AWS Trainium2 ofrece un rendimiento hasta 4 veces mejor y una...
Elon Musk lanza chatbot 'Grok' solo para suscriptores Premium+ de X
Elon Musk anuncia el lanzamiento de su chatbot 'Grok' exclusivamente para sus suscriptores Premium+ de X la próxima semana. Esto ha generado expectación y preocupación...
Lo más reciente
- 1
Flow48 recauda $25 millones para expandir modelo de financiamiento basado en ingresos en MENA
- 2
Microsoft se prepara para lanzar tienda móvil de Xbox
- 3
Elon Musk se disculpa y promete cambiar tras controversias
- 4
Capsule revoluciona el consumo de noticias con inteligencia artificial
- 5
Juez federal bloquea prohibición de TikTok en Montana por inconstitucionalidad
- 6
Telegram mejora funciones de canales para competir con WhatsApp
- 7
Anduril presenta Roadrunner, el dron autónomo de combate aéreo