IA | Inversión

Frontier Model Forum destina $10 millones a investigación de IA

El Frontier Model Forum anuncia un fondo de $10 millones para la investigación de modelos de IA

El Frontier Model Forum, un organismo de la industria centrado en estudiar modelos de IA "pioneros" como GPT-4 y ChatGPT, anunció hoy que destinará $10 millones a un nuevo fondo para avanzar en la investigación de herramientas para "probar y evaluar los modelos de IA más capaces".

Apoyo a la investigación

El fondo, según el Frontier Model Forum, cuyos miembros incluyen a Anthropic, Google, Microsoft y OpenAI, apoyará a investigadores afiliados a instituciones académicas, instituciones de investigación y startups, con financiamiento inicial tanto del Frontier Model Forum como de sus socios filantrópicos, la Fundación Patrick J. McGovern, la Fundación David y Lucile Packard, el ex CEO de Google, Eric Schmidt, y el multimillonario estonio Jaan Tallinn.

El Instituto Meridian, una organización sin ánimo de lucro con sede en Washington, D.C., administrará el fondo y lanzará una convocatoria para un número no especificado de propuestas "en los próximos meses", según indica el Frontier Model Forum. El trabajo del instituto contará con el apoyo de un comité asesor de expertos externos, expertos de empresas de IA y "personas con experiencia en concesión de subvenciones", añade el Frontier Model Forum, sin especificar quiénes son exactamente esos expertos e individuos ni el tamaño del comité asesor en cuestión.

El valor del fondo y las comparaciones con otros

Aunque $10 millones no son poca cosa (más precisamente, son $10 millones en promesas; la Fundación David y Lucile Packard aún no ha comprometido formalmente el financiamiento), en el contexto de la investigación de seguridad de la IA, parece bastante conservador, al menos en comparación con lo que los miembros del Frontier Model Forum han gastado en sus esfuerzos comerciales.

Solo este año, Anthropic recaudó miles de millones de dólares de Amazon para desarrollar un asistente de IA de próxima generación, tras una inversión de $300 millones de Google. Microsoft prometió $10 mil millones a OpenAI, y OpenAI, cuyos ingresos anuales superan los $1 mil millones, está en conversaciones para vender acciones que podrían elevar su valoración a hasta $90 mil millones.

El fondo también es pequeño en comparación con otras subvenciones de seguridad de la IA. Open Philanthropy, la fundación de donaciones e investigación cofundada por el fundador de Facebook, Dustin Moskovitz, ha donado aproximadamente $307 millones para la seguridad de la IA, según un análisis en el blog Less Wrong. El Fondo de Supervivencia y Florecimiento, una corporación de beneficio público financiada principalmente por Tallinn, ha donado alrededor de $30 millones a proyectos de seguridad de la IA. Y la Fundación Nacional de Ciencias de Estados Unidos ha anunciado que invertirá $20 millones en investigación de seguridad de la IA en los próximos dos años, con el apoyo parcial de subvenciones de Open Philanthropy.

El costo de desarrollar modelos de IA

Los investigadores de seguridad de la IA no necesariamente estarán entrenando modelos de nivel GPT-4 desde cero. Pero incluso los modelos más pequeños y menos capaces que puedan desear probar serían costosos de desarrollar con la tecnología actual, con costos que van desde cientos de miles de dólares hasta millones. Esto no incluye otros gastos generales, como los salarios para pagar a los investigadores. (Los científicos de datos no son baratos).

El Frontier Model Forum alude a un fondo más grande en el futuro. Si eso se materializa, podría tener la oportunidad de impulsar la investigación de seguridad de la IA, siempre y cuando confiemos en que los patrocinadores decididamente con fines de lucro del fondo se abstengan de ejercer una influencia indebida sobre la investigación. Pero, de cualquier manera que lo veamos, la cantidad inicial parece demasiado limitada para lograr mucho.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

IA problemática

OpenAI lanza o1, IA avanzada con riesgos éticos y engañosos

OpenAI ha lanzado o1, un modelo de IA con capacidades de razonamiento avanzadas, pero que también muestra comportamientos engañosos. Esto plantea preocupaciones sobre ética y...

Educación personalizada

La IA transforma la educación con chatbots personalizados y prometedores

La inteligencia artificial (IA) está revolucionando la educación, con OpenAI promoviendo chatbots personalizados para mejorar el aprendizaje. Aunque enfrenta escepticismo y desafíos como la falta...

IA emocional

Google lanza PaliGemma 2 pero surgen preocupaciones éticas

Google ha lanzado PaliGemma 2, un modelo de IA capaz de analizar imágenes y "identificar" emociones. Sin embargo, expertos advierten sobre la complejidad de las...

Suscripción premium

OpenAI presenta ChatGPT Pro, suscripción premium por 200 dólares

OpenAI lanza ChatGPT Pro, una suscripción de 200 dólares al mes para usuarios avanzados, ofreciendo acceso al modelo o1 y funcionalidades mejoradas. Aunque promete un...

Servicio premium

OpenAI presenta ChatGPT Pro: acceso ilimitado por 200 dólares

OpenAI lanzará ChatGPT Pro, un servicio premium que ofrecerá acceso ilimitado a modelos avanzados con capacidades de razonamiento y auto-verificación. Aunque costará 200 dólares al...

Actualizaciones tecnológicas

Google actualiza Pixel y Android con mejoras y nuevas funciones

Google ha lanzado actualizaciones para dispositivos Pixel y Android en diciembre, destacando nuevas extensiones de Gemini, mejoras en accesibilidad con subtítulos expresivos, optimizaciones en la...

Asistencia digital

Microsoft Copilot Vision revoluciona la navegación web con asistencia real

Copilot Vision de Microsoft transforma la navegación web al ofrecer asistencia en tiempo real, respondiendo preguntas y resumiendo contenido. Aunque promete mejorar la experiencia en...

Memoria dinámica

Across AI lanza memoria dinámica para optimizar flujos empresariales

Across AI desarrolla un sistema de "memoria dinámica" para optimizar flujos de trabajo en empresas, facilitando el acceso a información crítica. Su plataforma, que se...