OpenAI crea un equipo para recopilar y codificar la opinión pública sobre sus modelos de IA
OpenAI busca la colaboración pública
OpenAI, la startup de inteligencia artificial, ha anunciado la creación de un nuevo equipo llamado Collective Alignment con el objetivo de recopilar y "codificar" la opinión pública sobre los comportamientos de sus modelos de IA. La empresa busca implementar ideas de la sociedad para asegurar que sus modelos futuros se alineen con los valores de la humanidad. En un comunicado, OpenAI señala que seguirá trabajando con asesores externos y equipos de subvención para incorporar prototipos que ayuden a dirigir sus modelos. Además, están reclutando a ingenieros de investigación con diversos perfiles técnicos para colaborar en este proyecto.
Un paso más en el programa público de OpenAI
Este nuevo equipo es una continuación del programa público de OpenAI, que fue lanzado en mayo pasado con el objetivo de financiar experimentos para establecer un "proceso democrático" que decida las reglas que deben seguir los sistemas de IA. La idea es apoyar a individuos, equipos y organizaciones en el desarrollo de pruebas de concepto que respondan preguntas sobre los límites y la gobernanza de la IA. En su comunicado, OpenAI destaca el trabajo realizado por los beneficiarios de las subvenciones, que incluye interfaces de video chat, plataformas para auditorías colaborativas de modelos de IA y enfoques para mapear creencias que puedan ajustar el comportamiento de los modelos. Todo el código utilizado por los beneficiarios ha sido hecho público, junto con resúmenes de cada propuesta y conclusiones generales.
La lucha contra la regulación
Aunque OpenAI ha intentado presentar este programa como independiente de sus intereses comerciales, resulta difícil de creer dado las críticas del CEO de OpenAI, Sam Altman, hacia la regulación en la Unión Europea y otros lugares. Altman, junto con el presidente Greg Brockman y el científico jefe Ilya Sutskever, ha argumentado repetidamente que la velocidad de innovación en IA es tan rápida que no podemos esperar que las autoridades existentes controlen adecuadamente la tecnología, de ahí la necesidad de la colaboración pública.
Mayor escrutinio regulatorio
OpenAI se encuentra bajo una creciente atención por parte de los reguladores, ya que enfrenta una investigación en el Reino Unido sobre su relación con su estrecho socio e inversor Microsoft. Recientemente, la startup buscó reducir su riesgo regulatorio en la Unión Europea en relación con la privacidad de los datos, aprovechando una subsidiaria con sede en Dublín para limitar la capacidad de ciertos organismos de control de privacidad en el bloque para actuar unilateralmente en caso de preocupaciones.
Esfuerzos para limitar el mal uso de la tecnología
Ayer, OpenAI anunció que está trabajando con organizaciones para limitar las formas en que su tecnología podría ser utilizada para influir en las elecciones de manera maliciosa. Los esfuerzos de la startup incluyen hacer más evidente cuando las imágenes son generadas por IA utilizando sus herramientas y desarrollar enfoques para identificar contenido generado incluso después de que las imágenes hayan sido modificadas. Estos esfuerzos están dirigidos a tranquilizar a los responsables políticos y demostrar que OpenAI está tomando medidas para evitar un mal uso de su tecnología.
Otras noticias • IA
Debate ético sobre IA: innovación versus responsabilidad en tecnología
Las comparaciones entre modelos de inteligencia artificial, como Google Gemini y Claude de Anthropic, suscitan debates éticos sobre su uso y evaluación. La presión del...
Coralogix adquiere Aporia y potencia su inteligencia artificial
Coralogix ha adquirido Aporia, fortaleciendo su oferta en inteligencia artificial y supervisión de sistemas. Esta integración permite a las empresas gestionar eficazmente sus cargas de...
Startups de IA en Europa duplican valor y generan empleo
Las startups de inteligencia artificial en Europa están en auge, representando el 25% de la financiación de capital de riesgo. A pesar de la percepción...
Sriram Krishnan se une a la Casa Blanca en IA
Sriram Krishnan ha sido nombrado asesor senior de políticas de inteligencia artificial en la Casa Blanca, destacando la importancia de la IA para la economía...
Google Gemini se expande a 40 idiomas para investigadores globales
Google ha ampliado su herramienta Gemini a 40 nuevos idiomas, permitiendo un asistente de investigación más accesible. Este avance enfrenta desafíos de precisión y verificación...
Dudas sobre Sam Altman y la ética en OpenAI
La comparecencia de Sam Altman ante el Congreso ha generado dudas sobre su relación con OpenAI, especialmente tras revelaciones sobre su participación a través de...
Boon revoluciona la logística con inteligencia artificial y financiación
Boon, una startup fundada por Deepti Yenireddy, busca transformar la logística mediante inteligencia artificial, optimizando procesos y aumentando la eficiencia. Con 20,5 millones de dólares...
Stem AI busca alinear inteligencia artificial con ética humana
Stem AI, cofundada por Emmett Shear, busca alinear la inteligencia artificial con el comportamiento humano y la ética. Con el respaldo de Andreessen Horowitz, la...
Lo más reciente
- 1
AI SDRs en auge, pero persiste escepticismo sobre su eficacia
- 2
DeepSeek V3 transforma la inteligencia artificial con 671 mil millones
- 3
Fundadores de startups deben priorizar educación financiera y prudencia
- 4
GV invierte más de 10.000 millones en 800 startups
- 5
Salarios en startups: transparencia y cultura inclusiva son esenciales
- 6
Onyx Motorbikes renace con Tim Seward y 100 RCR eléctricas
- 7
CredibleX capta 55 millones para financiar PYMEs en MENA