Meta lanza comunidad de investigación en IA para abordar privacidad y seguridad de modelos de lenguaje

Meta lanza la Open Innovation AI Research Community para fomentar la colaboración en la investigación de IA

La empresa Meta está tomando medidas para mantenerse relevante en el campo en constante crecimiento de la inteligencia artificial (IA). Para ello, ha lanzado una nueva organización llamada Open Innovation AI Research Community, cuyo objetivo es fomentar la "transparencia, innovación y colaboración" entre los investigadores de IA.

Enfoque inicial en la privacidad y seguridad de los modelos de lenguaje La comunidad se centrará inicialmente en la privacidad, seguridad y protección de los modelos de lenguaje de gran tamaño, como el ChatGPT de OpenAI. También se espera que aporte ideas para el perfeccionamiento de los modelos de IA y establezca una agenda para futuras investigaciones. Meta afirma que espera que sus propios investigadores participen en la organización, pero que la Open Innovation AI Research Community será "liderada por los miembros", y que el grupo de I+D de IA de Meta, Meta AI, solo actuará como "facilitador".

Meta describe en una publicación de blog que el grupo se convertirá en una "comunidad de práctica" que promoverá los modelos de fundación de código abierto a gran escala, donde los socios podrán colaborar y participar entre sí, compartir conocimientos y plantear preguntas sobre cómo construir modelos de fundación responsables y seguros. También acelerarán la formación de la próxima generación de investigadores.

Talleres y directrices para el desarrollo de modelos de código abierto responsables Meta tiene la intención de patrocinar una serie de talleres centrados en "preguntas críticas de investigación abierta" y en "el desarrollo de directrices para el desarrollo y la publicación responsable de modelos de código abierto". Sin embargo, más allá de eso, los detalles siguen siendo vagos. Meta indica que la Open Innovation AI Research Community podría tener eventualmente un sitio web, canales sociales para colaborar y envío de investigaciones a conferencias académicas, pero no se compromete a nada de esto.

Financiación por parte de los miembros de la comunidad Se supone que los miembros de la Open Innovation AI Research Community serán responsables de financiar su propio trabajo. Meta no indicó que destinará capital o recursos informáticos para los esfuerzos del grupo, probablemente para evitar la percepción de influencia indebida. Pero esto supone un reto, dado los altos gastos asociados a la investigación en IA.

Cuestionando la sinceridad y dedicación de Meta La Open Innovation AI Research Community parece ser más un acto de relaciones públicas por parte de una empresa que ha coqueteado repetidamente con la controversia en lo que respecta a la IA. El año pasado, Meta se vio obligada a retirar una demostración de IA después de que generara literatura científica racista e inexacta. Informes han caracterizado al equipo de ética de IA de Meta como poco efectivo y las herramientas contra el sesgo de IA que ha lanzado como "completamente insuficientes". Además, académicos han acusado a Meta de agravar las desigualdades socioeconómicas en sus algoritmos de publicidad y de mostrar un sesgo contra los usuarios negros en sus sistemas de moderación automatizada.

¿Cambiará la Open Innovation AI Research Community esta situación? Parece poco probable. Meta anima a "profesores de universidades acreditadas" con "experiencia relevante en IA" a participar, pero uno se pregunta por qué lo harían, considerando la cantidad de comunidades de investigación de aprendizaje automático abiertas no afiliadas a ninguna empresa tecnológica importante.

Plazo de solicitud hasta el 10 de septiembre Meta ha establecido el plazo de solicitud para la Open Innovation AI Research Community hasta el 10 de septiembre. Afirma que da la bienvenida a solicitantes de "diversas disciplinas de investigación" y con "capacidades técnicas para llevar a cabo investigaciones", y que más de un participante de la misma universidad puede presentar solicitud.