IA | Transparencia

AI2 lanza Dolma, conjunto de datos gratuito para fomentar transparencia en la investigación de IA

Miles de autores firman una carta instando a los creadores de IA a dejar de robar libros

La importancia de la transparencia en los conjuntos de datos de IA

Los modelos de lenguaje como GPT-4 y Claude son poderosos y útiles, pero los datos en los que se entrenan son un secreto muy bien guardado. El Instituto Allen de Inteligencia Artificial (AI2) tiene como objetivo revertir esta tendencia con un nuevo y enorme conjunto de datos de texto que es gratuito y está abierto a la inspección.

Dolma, como se llama el conjunto de datos, está destinado a ser la base del modelo de lenguaje abierto planificado por el grupo de investigación, conocido como OLMo (Dolma es la abreviatura de "Data to feed OLMo's Appetite"). Según los investigadores de AI2, si el modelo está destinado a ser utilizado y modificado de forma gratuita por la comunidad de investigación de IA, también debería serlo el conjunto de datos que utilizan para crearlo.

El problema de la opacidad en los conjuntos de datos de IA

Aunque empresas como OpenAI y Meta publican algunas de las estadísticas vitales de los conjuntos de datos que utilizan para construir sus modelos de lenguaje, mucha de esa información se trata como propiedad exclusiva. Aparte de las consecuencias conocidas de desalentar el escrutinio y la mejora a gran escala, se especula que este enfoque cerrado se debe a que los datos no se obtuvieron de manera ética o legal: por ejemplo, que se incluyeron copias pirateadas de libros de muchos autores.

La iniciativa de AI2 para fomentar la transparencia

AI2 está desarrollando Dolma como una alternativa a esta opacidad. En un gráfico creado por AI2, se puede observar que los modelos más grandes y recientes solo proporcionan parte de la información que un investigador probablemente querría conocer sobre un conjunto de datos determinado. ¿Qué información se eliminó y por qué? ¿Qué se consideró texto de alta o baja calidad? ¿Se eliminaron adecuadamente los detalles personales?

AI2 y su modelo de lenguaje optimizado para la ciencia

Dolma de AI2 no es el primer intento de crear un conjunto de datos abierto, pero es el más grande hasta ahora (3 mil millones de tokens, una medida nativa de IA para el volumen de contenido) y, según afirman, el más sencillo en términos de uso y permisos. Utiliza la "Licencia ImpACT para artefactos de riesgo medio", de la cual se pueden ver los detalles aquí. Básicamente, requiere que los usuarios potenciales de Dolma:

  • Proporcionen información de contacto y casos de uso previstos.
  • Revelen cualquier creación derivada de Dolma.
  • Distribuyan esas creaciones derivadas bajo la misma licencia.
  • Se comprometan a no aplicar Dolma a áreas prohibidas, como la vigilancia o la desinformación.

Para aquellos que se preocupan de que, a pesar de los mejores esfuerzos de AI2, algunos de sus datos personales hayan llegado a la base de datos, hay un formulario de solicitud de eliminación disponible aquí. Es para casos específicos, no solo una solicitud general de "no me uses".

Acceso a Dolma y su importancia para la comunidad de investigación de IA

Si todo esto te parece bien, el acceso a Dolma está disponible a través de Hugging Face. AI2 espera que este enfoque abierto y transparente fomente la colaboración y el avance en el campo de la IA, alentando a otros a seguir su ejemplo y a proporcionar conjuntos de datos abiertos y accesibles para la comunidad de investigación.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Música transformada

Google lanza Lyria 3 Pro, revolucionando la creación musical

La inteligencia artificial está transformando la música con el lanzamiento de Lyria 3 Pro de Google, que permite crear pistas más largas y personalizadas. Esta...

Regulación necesaria

Políticos proponen moratoria a centros de datos por IA

La expansión de centros de datos en EE.UU. genera preocupación sobre la regulación de la inteligencia artificial. Políticos como Bernie Sanders y Alexandria Ocasio-Cortez proponen...

Lucha bots

Reddit refuerza medidas contra bots para proteger autenticidad

Reddit está intensificando su lucha contra los bots en su plataforma, implementando verificaciones de cuentas sospechosas y utilizando herramientas de identificación. Este enfoque busca mantener...

Reuniones eficientes

Granola recauda 125 millones y alcanza valoración de 1.500 millones

Granola, una startup que transforma la gestión de reuniones, ha recaudado 125 millones de dólares en una ronda Serie C, elevando su valoración a 1.500...

Inteligencia artificial

Meta integra IA en Facebook e Instagram para compras mejoradas

Meta ha anunciado la integración de inteligencia artificial en Facebook e Instagram para mejorar la experiencia de compra. Esto incluye resúmenes de opiniones de productos...

Cierre ético

OpenAI cierra Sora tras problemas éticos y baja en descargas

OpenAI cerró Sora, una app social que prometía revolucionar la interacción con contenido generado por IA, tras enfrentar problemas éticos y una caída drástica en...

Ciberseguridad innovadora

Databricks recauda 5.000 millones para innovar en ciberseguridad

Databricks ha recaudado 5.000 millones de dólares para expandirse en ciberseguridad con Lakewatch, una solución que combina analítica de datos e inteligencia artificial. La empresa...

Control artístico

Spotify protege a artistas con nueva función de revisión musical

Spotify ha introducido la función “Protección de Perfil de Artista” para permitir a los músicos revisar y aprobar las canciones atribuidas a ellos, en respuesta...