Transparencia | IA

AI2 lanza Dolma, conjunto de datos gratuito para fomentar transparencia en la investigación de IA

Miles de autores firman una carta instando a los creadores de IA a dejar de robar libros

La importancia de la transparencia en los conjuntos de datos de IA

Los modelos de lenguaje como GPT-4 y Claude son poderosos y útiles, pero los datos en los que se entrenan son un secreto muy bien guardado. El Instituto Allen de Inteligencia Artificial (AI2) tiene como objetivo revertir esta tendencia con un nuevo y enorme conjunto de datos de texto que es gratuito y está abierto a la inspección.

Dolma, como se llama el conjunto de datos, está destinado a ser la base del modelo de lenguaje abierto planificado por el grupo de investigación, conocido como OLMo (Dolma es la abreviatura de "Data to feed OLMo's Appetite"). Según los investigadores de AI2, si el modelo está destinado a ser utilizado y modificado de forma gratuita por la comunidad de investigación de IA, también debería serlo el conjunto de datos que utilizan para crearlo.

El problema de la opacidad en los conjuntos de datos de IA

Aunque empresas como OpenAI y Meta publican algunas de las estadísticas vitales de los conjuntos de datos que utilizan para construir sus modelos de lenguaje, mucha de esa información se trata como propiedad exclusiva. Aparte de las consecuencias conocidas de desalentar el escrutinio y la mejora a gran escala, se especula que este enfoque cerrado se debe a que los datos no se obtuvieron de manera ética o legal: por ejemplo, que se incluyeron copias pirateadas de libros de muchos autores.

La iniciativa de AI2 para fomentar la transparencia

AI2 está desarrollando Dolma como una alternativa a esta opacidad. En un gráfico creado por AI2, se puede observar que los modelos más grandes y recientes solo proporcionan parte de la información que un investigador probablemente querría conocer sobre un conjunto de datos determinado. ¿Qué información se eliminó y por qué? ¿Qué se consideró texto de alta o baja calidad? ¿Se eliminaron adecuadamente los detalles personales?

AI2 y su modelo de lenguaje optimizado para la ciencia

Dolma de AI2 no es el primer intento de crear un conjunto de datos abierto, pero es el más grande hasta ahora (3 mil millones de tokens, una medida nativa de IA para el volumen de contenido) y, según afirman, el más sencillo en términos de uso y permisos. Utiliza la "Licencia ImpACT para artefactos de riesgo medio", de la cual se pueden ver los detalles aquí. Básicamente, requiere que los usuarios potenciales de Dolma:

  • Proporcionen información de contacto y casos de uso previstos.
  • Revelen cualquier creación derivada de Dolma.
  • Distribuyan esas creaciones derivadas bajo la misma licencia.
  • Se comprometan a no aplicar Dolma a áreas prohibidas, como la vigilancia o la desinformación.

Para aquellos que se preocupan de que, a pesar de los mejores esfuerzos de AI2, algunos de sus datos personales hayan llegado a la base de datos, hay un formulario de solicitud de eliminación disponible aquí. Es para casos específicos, no solo una solicitud general de "no me uses".

Acceso a Dolma y su importancia para la comunidad de investigación de IA

Si todo esto te parece bien, el acceso a Dolma está disponible a través de Hugging Face. AI2 espera que este enfoque abierto y transparente fomente la colaboración y el avance en el campo de la IA, alentando a otros a seguir su ejemplo y a proporcionar conjuntos de datos abiertos y accesibles para la comunidad de investigación.


Flowers
Publicidad


Otras noticias • IA

Regreso

Sam Altman vuelve a ser CEO de OpenAI y nombra nueva junta directiva

Sam Altman ha sido restituido como CEO de OpenAI y ha nombrado una nueva junta directiva. Altman anunció que Mira Murati regresará como CTO y...

Financiamiento

See Together cierra ronda de financiación de $102.5 millones

La startup See Together cierra una ronda de financiación de $102.5 millones liderada por Kleiner Perkins. La empresa se dedica a crear infraestructuras de desarrollo...

Innovación

Amazon lanza Titan Image Generator, creación de imágenes personalizadas

Amazon ha lanzado Titan Image Generator, una herramienta de generación de imágenes con inteligencia artificial que permite crear y personalizar imágenes a partir de descripciones...

Innovador

Amazon AWS lanza SageMaker HyperPod, revolucionario servicio de entrenamiento de modelos de lenguaje

Amazon AWS ha lanzado SageMaker HyperPod, un nuevo servicio diseñado para entrenar y ajustar modelos de lenguaje de gran tamaño. HyperPod permite crear un clúster...

Revolucionario

Pinterest lanza herramienta de búsqueda inclusiva con inteligencia artificial

Pinterest ha lanzado una nueva herramienta que permite a los usuarios filtrar búsquedas por diferentes tipos de cuerpo. Utilizando tecnología de tipo de cuerpo basada...

Control

Amazon lanza "Guardrails for Amazon Bedrock" para controlar lenguaje AI

Amazon ha anunciado una nueva herramienta llamada "Guardrails for Amazon Bedrock" que permite controlar los modelos de lenguaje en aplicaciones de inteligencia artificial. Esto ayuda...

Tecnología

Amazon presenta chips personalizados para IA con mejor rendimiento y eficiencia

Amazon ha presentado en su conferencia re:Invent nuevos chips personalizados para inteligencia artificial. El AWS Trainium2 ofrece un rendimiento hasta 4 veces mejor y una...

Exclusivo

Elon Musk lanza chatbot 'Grok' solo para suscriptores Premium+ de X

Elon Musk anuncia el lanzamiento de su chatbot 'Grok' exclusivamente para sus suscriptores Premium+ de X la próxima semana. Esto ha generado expectación y preocupación...