IA | Alineación

OpenAI busca alinear sus modelos de IA con la humanidad

OpenAI crea un equipo para recopilar y codificar la opinión pública sobre sus modelos de IA

OpenAI busca la colaboración pública

OpenAI, la startup de inteligencia artificial, ha anunciado la creación de un nuevo equipo llamado Collective Alignment con el objetivo de recopilar y "codificar" la opinión pública sobre los comportamientos de sus modelos de IA. La empresa busca implementar ideas de la sociedad para asegurar que sus modelos futuros se alineen con los valores de la humanidad. En un comunicado, OpenAI señala que seguirá trabajando con asesores externos y equipos de subvención para incorporar prototipos que ayuden a dirigir sus modelos. Además, están reclutando a ingenieros de investigación con diversos perfiles técnicos para colaborar en este proyecto.

Un paso más en el programa público de OpenAI

Este nuevo equipo es una continuación del programa público de OpenAI, que fue lanzado en mayo pasado con el objetivo de financiar experimentos para establecer un "proceso democrático" que decida las reglas que deben seguir los sistemas de IA. La idea es apoyar a individuos, equipos y organizaciones en el desarrollo de pruebas de concepto que respondan preguntas sobre los límites y la gobernanza de la IA. En su comunicado, OpenAI destaca el trabajo realizado por los beneficiarios de las subvenciones, que incluye interfaces de video chat, plataformas para auditorías colaborativas de modelos de IA y enfoques para mapear creencias que puedan ajustar el comportamiento de los modelos. Todo el código utilizado por los beneficiarios ha sido hecho público, junto con resúmenes de cada propuesta y conclusiones generales.

La lucha contra la regulación

Aunque OpenAI ha intentado presentar este programa como independiente de sus intereses comerciales, resulta difícil de creer dado las críticas del CEO de OpenAI, Sam Altman, hacia la regulación en la Unión Europea y otros lugares. Altman, junto con el presidente Greg Brockman y el científico jefe Ilya Sutskever, ha argumentado repetidamente que la velocidad de innovación en IA es tan rápida que no podemos esperar que las autoridades existentes controlen adecuadamente la tecnología, de ahí la necesidad de la colaboración pública.

Mayor escrutinio regulatorio

OpenAI se encuentra bajo una creciente atención por parte de los reguladores, ya que enfrenta una investigación en el Reino Unido sobre su relación con su estrecho socio e inversor Microsoft. Recientemente, la startup buscó reducir su riesgo regulatorio en la Unión Europea en relación con la privacidad de los datos, aprovechando una subsidiaria con sede en Dublín para limitar la capacidad de ciertos organismos de control de privacidad en el bloque para actuar unilateralmente en caso de preocupaciones.

Esfuerzos para limitar el mal uso de la tecnología

Ayer, OpenAI anunció que está trabajando con organizaciones para limitar las formas en que su tecnología podría ser utilizada para influir en las elecciones de manera maliciosa. Los esfuerzos de la startup incluyen hacer más evidente cuando las imágenes son generadas por IA utilizando sus herramientas y desarrollar enfoques para identificar contenido generado incluso después de que las imágenes hayan sido modificadas. Estos esfuerzos están dirigidos a tranquilizar a los responsables políticos y demostrar que OpenAI está tomando medidas para evitar un mal uso de su tecnología.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Revolución tecnológica

Nvidia lanza DLSS 5, revolucionando gráficos y desarrollo de videojuegos

La presentación del DLSS 5 por Nvidia promete revolucionar los videojuegos mediante la inteligencia artificial, mejorando gráficos y reduciendo la carga computacional. Esta tecnología no...

Explotación infantil

Demanda a xAI revela explotación de menores por IA abusiva

La demanda contra xAI en California destaca la explotación de menores mediante IA que genera imágenes sexuales abusivas. Las demandantes exigen responsabilidad a la empresa...

Derechos autorales

Britannica demanda a OpenAI por uso indebido de artículos

La demanda de Britannica contra OpenAI por uso no autorizado de sus artículos para entrenar modelos de IA plantea serias cuestiones sobre derechos de autor...

Préstamos automotrices

Fuse revoluciona préstamos automotrices con inteligencia artificial y $25M

Fuse, fundada por Andres Klaric y Marc Escapa, moderniza el sistema de originación de préstamos automotrices utilizando inteligencia artificial. Con una financiación de 25 millones...

Inteligencia artificial

Nvidia GTC 2024: Innovaciones en inteligencia artificial y colaboración

La GTC de Nvidia, del 16 al 19 de marzo en San José, destaca la inteligencia artificial como protagonista, con innovaciones como la plataforma NemoClaw...

Defensa tecnológica

Ejército de EE. UU. firma contrato de 20.000 millones con Anduril

La firma de un contrato de diez años entre el Ejército de EE. UU. y la startup Anduril, valorado en 20.000 millones de dólares, destaca...

Reestructuración empresarial

xAI de Elon Musk se reestructura ante desafíos del mercado

xAI, cofundada por Elon Musk, atraviesa una reestructuración significativa tras la salida de varios cofundadores. Musk busca revitalizar la empresa ante la competencia, mejorar herramientas...

Inteligencia artificial

Nyne revoluciona la IA para entender mejor a los consumidores

Nyne, cofundada por Michael y Emad Fanous, busca mejorar la comprensión de los consumidores por parte de la inteligencia artificial, utilizando datos de múltiples plataformas....