Inversión | IA

Frontier Model Forum destina $10 millones a investigación de IA

El Frontier Model Forum anuncia un fondo de $10 millones para la investigación de modelos de IA

El Frontier Model Forum, un organismo de la industria centrado en estudiar modelos de IA "pioneros" como GPT-4 y ChatGPT, anunció hoy que destinará $10 millones a un nuevo fondo para avanzar en la investigación de herramientas para "probar y evaluar los modelos de IA más capaces".

Apoyo a la investigación

El fondo, según el Frontier Model Forum, cuyos miembros incluyen a Anthropic, Google, Microsoft y OpenAI, apoyará a investigadores afiliados a instituciones académicas, instituciones de investigación y startups, con financiamiento inicial tanto del Frontier Model Forum como de sus socios filantrópicos, la Fundación Patrick J. McGovern, la Fundación David y Lucile Packard, el ex CEO de Google, Eric Schmidt, y el multimillonario estonio Jaan Tallinn.

El Instituto Meridian, una organización sin ánimo de lucro con sede en Washington, D.C., administrará el fondo y lanzará una convocatoria para un número no especificado de propuestas "en los próximos meses", según indica el Frontier Model Forum. El trabajo del instituto contará con el apoyo de un comité asesor de expertos externos, expertos de empresas de IA y "personas con experiencia en concesión de subvenciones", añade el Frontier Model Forum, sin especificar quiénes son exactamente esos expertos e individuos ni el tamaño del comité asesor en cuestión.

El valor del fondo y las comparaciones con otros

Aunque $10 millones no son poca cosa (más precisamente, son $10 millones en promesas; la Fundación David y Lucile Packard aún no ha comprometido formalmente el financiamiento), en el contexto de la investigación de seguridad de la IA, parece bastante conservador, al menos en comparación con lo que los miembros del Frontier Model Forum han gastado en sus esfuerzos comerciales.

Solo este año, Anthropic recaudó miles de millones de dólares de Amazon para desarrollar un asistente de IA de próxima generación, tras una inversión de $300 millones de Google. Microsoft prometió $10 mil millones a OpenAI, y OpenAI, cuyos ingresos anuales superan los $1 mil millones, está en conversaciones para vender acciones que podrían elevar su valoración a hasta $90 mil millones.

El fondo también es pequeño en comparación con otras subvenciones de seguridad de la IA. Open Philanthropy, la fundación de donaciones e investigación cofundada por el fundador de Facebook, Dustin Moskovitz, ha donado aproximadamente $307 millones para la seguridad de la IA, según un análisis en el blog Less Wrong. El Fondo de Supervivencia y Florecimiento, una corporación de beneficio público financiada principalmente por Tallinn, ha donado alrededor de $30 millones a proyectos de seguridad de la IA. Y la Fundación Nacional de Ciencias de Estados Unidos ha anunciado que invertirá $20 millones en investigación de seguridad de la IA en los próximos dos años, con el apoyo parcial de subvenciones de Open Philanthropy.

El costo de desarrollar modelos de IA

Los investigadores de seguridad de la IA no necesariamente estarán entrenando modelos de nivel GPT-4 desde cero. Pero incluso los modelos más pequeños y menos capaces que puedan desear probar serían costosos de desarrollar con la tecnología actual, con costos que van desde cientos de miles de dólares hasta millones. Esto no incluye otros gastos generales, como los salarios para pagar a los investigadores. (Los científicos de datos no son baratos).

El Frontier Model Forum alude a un fondo más grande en el futuro. Si eso se materializa, podría tener la oportunidad de impulsar la investigación de seguridad de la IA, siempre y cuando confiemos en que los patrocinadores decididamente con fines de lucro del fondo se abstengan de ejercer una influencia indebida sobre la investigación. Pero, de cualquier manera que lo veamos, la cantidad inicial parece demasiado limitada para lograr mucho.


Flowers
Publicidad


Otras noticias • IA

Regreso

Sam Altman vuelve a ser CEO de OpenAI y nombra nueva junta directiva

Sam Altman ha sido restituido como CEO de OpenAI y ha nombrado una nueva junta directiva. Altman anunció que Mira Murati regresará como CTO y...

Financiamiento

See Together cierra ronda de financiación de $102.5 millones

La startup See Together cierra una ronda de financiación de $102.5 millones liderada por Kleiner Perkins. La empresa se dedica a crear infraestructuras de desarrollo...

Innovación

Amazon lanza Titan Image Generator, creación de imágenes personalizadas

Amazon ha lanzado Titan Image Generator, una herramienta de generación de imágenes con inteligencia artificial que permite crear y personalizar imágenes a partir de descripciones...

Innovador

Amazon AWS lanza SageMaker HyperPod, revolucionario servicio de entrenamiento de modelos de lenguaje

Amazon AWS ha lanzado SageMaker HyperPod, un nuevo servicio diseñado para entrenar y ajustar modelos de lenguaje de gran tamaño. HyperPod permite crear un clúster...

Revolucionario

Pinterest lanza herramienta de búsqueda inclusiva con inteligencia artificial

Pinterest ha lanzado una nueva herramienta que permite a los usuarios filtrar búsquedas por diferentes tipos de cuerpo. Utilizando tecnología de tipo de cuerpo basada...

Control

Amazon lanza "Guardrails for Amazon Bedrock" para controlar lenguaje AI

Amazon ha anunciado una nueva herramienta llamada "Guardrails for Amazon Bedrock" que permite controlar los modelos de lenguaje en aplicaciones de inteligencia artificial. Esto ayuda...

Tecnología

Amazon presenta chips personalizados para IA con mejor rendimiento y eficiencia

Amazon ha presentado en su conferencia re:Invent nuevos chips personalizados para inteligencia artificial. El AWS Trainium2 ofrece un rendimiento hasta 4 veces mejor y una...

Exclusivo

Elon Musk lanza chatbot 'Grok' solo para suscriptores Premium+ de X

Elon Musk anuncia el lanzamiento de su chatbot 'Grok' exclusivamente para sus suscriptores Premium+ de X la próxima semana. Esto ha generado expectación y preocupación...