IA | Equidad

OpenAI lanza "Data Partnerships" para combatir sesgos en IA

OpenAI anuncia colaboraciones para crear conjuntos de datos mejorados

OpenAI, la compañía de inteligencia artificial, ha anunciado su nuevo programa de colaboración con instituciones externas para construir conjuntos de datos públicos y privados para el entrenamiento de modelos de IA. Esta iniciativa, llamada "Data Partnerships", tiene como objetivo combatir los sesgos y las deficiencias en los conjuntos de datos utilizados actualmente, los cuales han demostrado ser problemáticos debido a su enfoque centrado en Estados Unidos y en el mundo occidental.

En un comunicado publicado en su blog, OpenAI explica que los conjuntos de datos utilizados para entrenar modelos de lenguaje como el Llama 2 de Meta contienen lenguaje tóxico y sesgos. Estos problemas se amplifican cuando los modelos de IA utilizan estos conjuntos de datos para generar respuestas y realizar tareas.

Para abordar esta problemática, OpenAI busca colaborar con organizaciones externas con el fin de construir conjuntos de datos mejorados. La compañía tiene como objetivo construir conjuntos de datos que reflejen la sociedad humana de manera más precisa y que sean accesibles a todos. Esto incluye datos en diferentes modalidades, como imágenes, audio y video, así como datos que expresen intenciones humanas a través de diferentes idiomas, temas y formatos.

OpenAI se compromete a trabajar con estas organizaciones para digitalizar los datos de entrenamiento, utilizando herramientas de reconocimiento óptico de caracteres y reconocimiento automático de voz. Además, se asegurarán de eliminar cualquier información sensible o personal de los conjuntos de datos, si es necesario.

La compañía planea crear dos tipos de conjuntos de datos: uno de código abierto, que estará disponible para que cualquiera lo utilice en el entrenamiento de modelos de IA, y otro conjunto de datos privados, diseñado para organizaciones que deseen mantener su información privada pero que deseen mejorar la comprensión de los modelos de IA de OpenAI en su dominio específico.

Hasta ahora, OpenAI ha trabajado con el Gobierno de Islandia y la empresa Miðeind ehf para mejorar la capacidad de GPT-4 para hablar islandés, y con el Free Law Project para mejorar la comprensión de documentos legales por parte de sus modelos.

En resumen, OpenAI busca colaborar con instituciones externas para crear conjuntos de datos más completos y libres de sesgos para el entrenamiento de modelos de IA. Si bien esta iniciativa es prometedora, queda por ver si OpenAI puede realmente superar los desafíos que han dificultado los esfuerzos anteriores en la construcción de conjuntos de datos.

Además, es importante que OpenAI sea transparente sobre el proceso y los desafíos que enfrenta en la creación de estos conjuntos de datos. También es necesario considerar las preocupaciones sobre la motivación comercial detrás de esta iniciativa, ya que OpenAI busca mejorar el rendimiento de sus propios modelos a expensas de otros sin ofrecer una compensación adecuada a los propietarios de los datos.

En definitiva, esta colaboración entre OpenAI y organizaciones externas podría ser un paso importante para mejorar la calidad y la equidad en los conjuntos de datos utilizados en la IA, pero también plantea preguntas sobre la ética y la justa compensación de los propietarios de los datos.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Transformación legal

Inteligencia artificial revoluciona el sector legal con Legora

La inteligencia artificial está transformando el sector legal, destacando la inversión de NVentures en Legora, una startup que optimiza el trabajo de abogados. La competencia...

Revolución automotriz

Google presenta Gemini, la IA que transformará la conducción

Google lanzará su sistema de IA, Gemini, en vehículos con Google integrado, mejorando la interacción entre conductores y coches. Con funciones como conversaciones en tiempo...

Diagnóstico prenatal

BioticsAI transforma diagnóstico prenatal con IA y FDA aprobada

BioticsAI, cofundada por Robhy Bustami, está revolucionando el diagnóstico prenatal mediante un copiloto de IA para ultrasonidos. Con la aprobación de la FDA, la empresa...

Desafíos éticos

Elon Musk revela desafíos éticos en distilación de IA

La distilación en inteligencia artificial, revelada por Elon Musk en un juicio contra OpenAI, plantea desafíos éticos y de competencia. Gigantes tecnológicos como OpenAI y...

Seguridad avanzada

OpenAI y Yubico lanzan llaves de seguridad para ChatGPT

OpenAI ha lanzado el sistema Advanced Account Security (AAS) en colaboración con Yubico, introduciendo llaves de seguridad para proteger cuentas de ChatGPT contra el phishing....

Cartera digital

Stripe lanza Link, cartera digital con inteligencia artificial integrada

Stripe ha lanzado Link, una cartera digital que integra inteligencia artificial para facilitar pagos y gestionar finanzas. Permite vincular múltiples métodos de pago, rastrear gastos...

Era publicitaria

Elon Musk transforma X con inteligencia artificial para anunciantes

Elon Musk impulsa a X (antes Twitter) hacia una nueva era publicitaria con un sistema basado en inteligencia artificial, buscando recuperar la confianza de los...

IA empresarial

Meta impulsa IA empresarial con herramientas gratuitas y monetización futura

Meta está revolucionando la inteligencia artificial en el ámbito empresarial, con un crecimiento notable en sus herramientas de IA y la adopción por pequeñas y...