El Frontier Model Forum anuncia un fondo de $10 millones para la investigación de modelos de IA
El Frontier Model Forum, un organismo de la industria centrado en estudiar modelos de IA "pioneros" como GPT-4 y ChatGPT, anunció hoy que destinará $10 millones a un nuevo fondo para avanzar en la investigación de herramientas para "probar y evaluar los modelos de IA más capaces".
Apoyo a la investigación
El fondo, según el Frontier Model Forum, cuyos miembros incluyen a Anthropic, Google, Microsoft y OpenAI, apoyará a investigadores afiliados a instituciones académicas, instituciones de investigación y startups, con financiamiento inicial tanto del Frontier Model Forum como de sus socios filantrópicos, la Fundación Patrick J. McGovern, la Fundación David y Lucile Packard, el ex CEO de Google, Eric Schmidt, y el multimillonario estonio Jaan Tallinn.
El Instituto Meridian, una organización sin ánimo de lucro con sede en Washington, D.C., administrará el fondo y lanzará una convocatoria para un número no especificado de propuestas "en los próximos meses", según indica el Frontier Model Forum. El trabajo del instituto contará con el apoyo de un comité asesor de expertos externos, expertos de empresas de IA y "personas con experiencia en concesión de subvenciones", añade el Frontier Model Forum, sin especificar quiénes son exactamente esos expertos e individuos ni el tamaño del comité asesor en cuestión.
El valor del fondo y las comparaciones con otros
Aunque $10 millones no son poca cosa (más precisamente, son $10 millones en promesas; la Fundación David y Lucile Packard aún no ha comprometido formalmente el financiamiento), en el contexto de la investigación de seguridad de la IA, parece bastante conservador, al menos en comparación con lo que los miembros del Frontier Model Forum han gastado en sus esfuerzos comerciales.
Solo este año, Anthropic recaudó miles de millones de dólares de Amazon para desarrollar un asistente de IA de próxima generación, tras una inversión de $300 millones de Google. Microsoft prometió $10 mil millones a OpenAI, y OpenAI, cuyos ingresos anuales superan los $1 mil millones, está en conversaciones para vender acciones que podrían elevar su valoración a hasta $90 mil millones.
El fondo también es pequeño en comparación con otras subvenciones de seguridad de la IA. Open Philanthropy, la fundación de donaciones e investigación cofundada por el fundador de Facebook, Dustin Moskovitz, ha donado aproximadamente $307 millones para la seguridad de la IA, según un análisis en el blog Less Wrong. El Fondo de Supervivencia y Florecimiento, una corporación de beneficio público financiada principalmente por Tallinn, ha donado alrededor de $30 millones a proyectos de seguridad de la IA. Y la Fundación Nacional de Ciencias de Estados Unidos ha anunciado que invertirá $20 millones en investigación de seguridad de la IA en los próximos dos años, con el apoyo parcial de subvenciones de Open Philanthropy.
El costo de desarrollar modelos de IA
Los investigadores de seguridad de la IA no necesariamente estarán entrenando modelos de nivel GPT-4 desde cero. Pero incluso los modelos más pequeños y menos capaces que puedan desear probar serían costosos de desarrollar con la tecnología actual, con costos que van desde cientos de miles de dólares hasta millones. Esto no incluye otros gastos generales, como los salarios para pagar a los investigadores. (Los científicos de datos no son baratos).
El Frontier Model Forum alude a un fondo más grande en el futuro. Si eso se materializa, podría tener la oportunidad de impulsar la investigación de seguridad de la IA, siempre y cuando confiemos en que los patrocinadores decididamente con fines de lucro del fondo se abstengan de ejercer una influencia indebida sobre la investigación. Pero, de cualquier manera que lo veamos, la cantidad inicial parece demasiado limitada para lograr mucho.
Otras noticias • IA
Sam Altman vuelve a ser CEO de OpenAI y nombra nueva junta directiva
Sam Altman ha sido restituido como CEO de OpenAI y ha nombrado una nueva junta directiva. Altman anunció que Mira Murati regresará como CTO y...
See Together cierra ronda de financiación de $102.5 millones
La startup See Together cierra una ronda de financiación de $102.5 millones liderada por Kleiner Perkins. La empresa se dedica a crear infraestructuras de desarrollo...
Amazon lanza Titan Image Generator, creación de imágenes personalizadas
Amazon ha lanzado Titan Image Generator, una herramienta de generación de imágenes con inteligencia artificial que permite crear y personalizar imágenes a partir de descripciones...
Amazon AWS lanza SageMaker HyperPod, revolucionario servicio de entrenamiento de modelos de lenguaje
Amazon AWS ha lanzado SageMaker HyperPod, un nuevo servicio diseñado para entrenar y ajustar modelos de lenguaje de gran tamaño. HyperPod permite crear un clúster...
Pinterest lanza herramienta de búsqueda inclusiva con inteligencia artificial
Pinterest ha lanzado una nueva herramienta que permite a los usuarios filtrar búsquedas por diferentes tipos de cuerpo. Utilizando tecnología de tipo de cuerpo basada...
Amazon lanza "Guardrails for Amazon Bedrock" para controlar lenguaje AI
Amazon ha anunciado una nueva herramienta llamada "Guardrails for Amazon Bedrock" que permite controlar los modelos de lenguaje en aplicaciones de inteligencia artificial. Esto ayuda...
Amazon presenta chips personalizados para IA con mejor rendimiento y eficiencia
Amazon ha presentado en su conferencia re:Invent nuevos chips personalizados para inteligencia artificial. El AWS Trainium2 ofrece un rendimiento hasta 4 veces mejor y una...
Elon Musk lanza chatbot 'Grok' solo para suscriptores Premium+ de X
Elon Musk anuncia el lanzamiento de su chatbot 'Grok' exclusivamente para sus suscriptores Premium+ de X la próxima semana. Esto ha generado expectación y preocupación...
Lo más reciente
- 1
Apple lanza actualizaciones de seguridad para proteger a sus usuarios
- 2
Bluesky implementa herramientas de seguridad para moderar contenido ofensivo
- 3
Startups utilizan inteligencia artificial para conservar bosques y generar beneficios
- 4
Flow48 recauda $25 millones para expandir modelo de financiamiento basado en ingresos en MENA
- 5
Microsoft se prepara para lanzar tienda móvil de Xbox
- 6
Elon Musk se disculpa y promete cambiar tras controversias
- 7
Capsule revoluciona el consumo de noticias con inteligencia artificial