Frontier Model Forum destina $10 millones a investigación de IA

El Frontier Model Forum anuncia un fondo de $10 millones para la investigación de modelos de IA

El Frontier Model Forum, un organismo de la industria centrado en estudiar modelos de IA "pioneros" como GPT-4 y ChatGPT, anunció hoy que destinará $10 millones a un nuevo fondo para avanzar en la investigación de herramientas para "probar y evaluar los modelos de IA más capaces".

Apoyo a la investigación

El fondo, según el Frontier Model Forum, cuyos miembros incluyen a Anthropic, Google, Microsoft y OpenAI, apoyará a investigadores afiliados a instituciones académicas, instituciones de investigación y startups, con financiamiento inicial tanto del Frontier Model Forum como de sus socios filantrópicos, la Fundación Patrick J. McGovern, la Fundación David y Lucile Packard, el ex CEO de Google, Eric Schmidt, y el multimillonario estonio Jaan Tallinn.

El Instituto Meridian, una organización sin ánimo de lucro con sede en Washington, D.C., administrará el fondo y lanzará una convocatoria para un número no especificado de propuestas "en los próximos meses", según indica el Frontier Model Forum. El trabajo del instituto contará con el apoyo de un comité asesor de expertos externos, expertos de empresas de IA y "personas con experiencia en concesión de subvenciones", añade el Frontier Model Forum, sin especificar quiénes son exactamente esos expertos e individuos ni el tamaño del comité asesor en cuestión.

El valor del fondo y las comparaciones con otros

Aunque $10 millones no son poca cosa (más precisamente, son $10 millones en promesas; la Fundación David y Lucile Packard aún no ha comprometido formalmente el financiamiento), en el contexto de la investigación de seguridad de la IA, parece bastante conservador, al menos en comparación con lo que los miembros del Frontier Model Forum han gastado en sus esfuerzos comerciales.

Solo este año, Anthropic recaudó miles de millones de dólares de Amazon para desarrollar un asistente de IA de próxima generación, tras una inversión de $300 millones de Google. Microsoft prometió $10 mil millones a OpenAI, y OpenAI, cuyos ingresos anuales superan los $1 mil millones, está en conversaciones para vender acciones que podrían elevar su valoración a hasta $90 mil millones.

El fondo también es pequeño en comparación con otras subvenciones de seguridad de la IA. Open Philanthropy, la fundación de donaciones e investigación cofundada por el fundador de Facebook, Dustin Moskovitz, ha donado aproximadamente $307 millones para la seguridad de la IA, según un análisis en el blog Less Wrong. El Fondo de Supervivencia y Florecimiento, una corporación de beneficio público financiada principalmente por Tallinn, ha donado alrededor de $30 millones a proyectos de seguridad de la IA. Y la Fundación Nacional de Ciencias de Estados Unidos ha anunciado que invertirá $20 millones en investigación de seguridad de la IA en los próximos dos años, con el apoyo parcial de subvenciones de Open Philanthropy.

El costo de desarrollar modelos de IA

Los investigadores de seguridad de la IA no necesariamente estarán entrenando modelos de nivel GPT-4 desde cero. Pero incluso los modelos más pequeños y menos capaces que puedan desear probar serían costosos de desarrollar con la tecnología actual, con costos que van desde cientos de miles de dólares hasta millones. Esto no incluye otros gastos generales, como los salarios para pagar a los investigadores. (Los científicos de datos no son baratos).

El Frontier Model Forum alude a un fondo más grande en el futuro. Si eso se materializa, podría tener la oportunidad de impulsar la investigación de seguridad de la IA, siempre y cuando confiemos en que los patrocinadores decididamente con fines de lucro del fondo se abstengan de ejercer una influencia indebida sobre la investigación. Pero, de cualquier manera que lo veamos, la cantidad inicial parece demasiado limitada para lograr mucho.