La creación de un nuevo paradigma en la inteligencia artificial
En un momento en el que la inteligencia artificial (IA) está en el centro del debate público, el Cosmos Institute ha decidido dar un paso al frente con una propuesta que busca transformar la manera en que se desarrolla y se utiliza esta tecnología. “Cultivar una nueva generación de tecnólogos y emprendedores equipados con un profundo pensamiento filosófico” es el objetivo principal de esta organización sin ánimo de lucro, cuyos miembros fundadores incluyen a figuras destacadas como Jack Clark, cofundador de Anthropic, y Brendan McCord, extecnólogo del Departamento de Defensa de EE.UU.
Un laboratorio centrado en el ser humano
Uno de los proyectos más ambiciosos que el Cosmos Institute ha anunciado es la creación de un laboratorio de IA en la Universidad de Oxford, conocido como el Human-Centered AI Lab o “HAI Lab”. Este laboratorio estará liderado por el filósofo Philipp Koralus, también miembro fundador del Instituto. “Traducir los principios filosóficos del florecimiento humano en software de código abierto y sistemas de IA” es una de las metas que se han propuesto. Aunque la idea suena prometedora, el detalle de lo que realmente implica esta traducción no está del todo claro.
La esencia de este laboratorio radica en fomentar el desarrollo de tecnologías de IA que respeten la dignidad humana y que eviten la promoción de disrupciones dañinas, como la automatización que puede llevar a la pérdida de empleos. Este es un objetivo ambicioso, que sin duda representará un reto para los investigadores y desarrolladores involucrados en el HAI Lab.
La creación de la Cosmos Fellowship
Además del laboratorio, el Cosmos Institute ha anunciado la creación de la Cosmos Fellowship, un programa que comenzará con un grupo de cuatro becados. Estos becados tendrán la oportunidad de trabajar en el HAI Lab o en otras instituciones asociadas durante un período que puede oscilar entre un trimestre y un año. “Explorar la intersección de la experiencia en IA y la profunda visión filosófica” es la premisa bajo la cual los becados colaborarán con mentores del Instituto y llevarán a cabo proyectos independientes. Este enfoque promete ser un crisol de ideas innovadoras que podrían influir en el futuro de la IA.
Inversiones en ideas provocadoras
El Cosmos Institute no solo se limita a la investigación y la formación; también ha lanzado Cosmos Ventures, una organización de capital de riesgo que apoyará “prototipos provocativos, ensayos y proyectos creativos que exploren preguntas fundamentales sobre la filosofía de la tecnología”, según McCord. Este enfoque tiene como objetivo financiar proyectos que puedan ir desde ideas nuevas hasta iniciativas ya existentes, siempre que generen un “entregable importante” en un plazo de tres meses.
Con un enfoque de “bajo coste operativo”, Cosmos Ventures se inspira en Emergent Ventures, un proyecto de otro miembro del Instituto, Tyler Cowen. Las inversiones oscilarán entre 1.000 y 10.000 dólares por proyecto, lo que permite una flexibilidad considerable para los emprendedores que buscan explorar nuevas fronteras en el ámbito de la IA.
Un reto ético en la inteligencia artificial
No es la primera vez que se intenta avanzar hacia una visión más ética y humanista de la IA. Organizaciones como OpenAI, que se fundaron con la misión de llevar los beneficios de la IA avanzada a toda la humanidad, han enfrentado críticas por desmantelar equipos de seguridad completos. Anthropic, la empresa de Jack Clark, también ha cambiado su postura en relación con las regulaciones de IA y ha sido acusada de extraer datos sin el consentimiento de los usuarios. Este contexto plantea un interrogante sobre si el Cosmos Institute podrá realmente sostener su compromiso con la ética en un entorno donde la presión por resultados rápidos puede llevar a decisiones cuestionables.
La filosofía detrás de la aceleración
McCord ha definido la visión del Instituto como una forma de “aceleracionismo”, que sostiene que el futuro no está predeterminado y que, por lo tanto, la humanidad es responsable de su propio destino. Este enfoque implica que debemos construir una IA que fomente la curiosidad y la participación activa, especialmente en áreas críticas como la educación y la medicina. “Defendemos una IA que descentralice el poder y permita soluciones desde abajo hacia arriba”, afirma McCord, subrayando la importancia de que las comunidades tengan voz en la creación de una sociedad más rica y diversa.
Estas posiciones son, sin duda, admirables y pueden representar un cambio de paradigma en la forma en que se aborda el desarrollo de la inteligencia artificial. Sin embargo, queda por ver si el Cosmos Institute podrá mantener su integridad ante las tentaciones que suelen acompañar a la búsqueda de poder, influencia y recursos financieros.
Otras noticias • IA
OpenAI lanza o1, IA avanzada con riesgos éticos y engañosos
OpenAI ha lanzado o1, un modelo de IA con capacidades de razonamiento avanzadas, pero que también muestra comportamientos engañosos. Esto plantea preocupaciones sobre ética y...
La IA transforma la educación con chatbots personalizados y prometedores
La inteligencia artificial (IA) está revolucionando la educación, con OpenAI promoviendo chatbots personalizados para mejorar el aprendizaje. Aunque enfrenta escepticismo y desafíos como la falta...
Google lanza PaliGemma 2 pero surgen preocupaciones éticas
Google ha lanzado PaliGemma 2, un modelo de IA capaz de analizar imágenes y "identificar" emociones. Sin embargo, expertos advierten sobre la complejidad de las...
OpenAI presenta ChatGPT Pro, suscripción premium por 200 dólares
OpenAI lanza ChatGPT Pro, una suscripción de 200 dólares al mes para usuarios avanzados, ofreciendo acceso al modelo o1 y funcionalidades mejoradas. Aunque promete un...
OpenAI presenta ChatGPT Pro: acceso ilimitado por 200 dólares
OpenAI lanzará ChatGPT Pro, un servicio premium que ofrecerá acceso ilimitado a modelos avanzados con capacidades de razonamiento y auto-verificación. Aunque costará 200 dólares al...
Google actualiza Pixel y Android con mejoras y nuevas funciones
Google ha lanzado actualizaciones para dispositivos Pixel y Android en diciembre, destacando nuevas extensiones de Gemini, mejoras en accesibilidad con subtítulos expresivos, optimizaciones en la...
Microsoft Copilot Vision revoluciona la navegación web con asistencia real
Copilot Vision de Microsoft transforma la navegación web al ofrecer asistencia en tiempo real, respondiendo preguntas y resumiendo contenido. Aunque promete mejorar la experiencia en...
Across AI lanza memoria dinámica para optimizar flujos empresariales
Across AI desarrolla un sistema de "memoria dinámica" para optimizar flujos de trabajo en empresas, facilitando el acceso a información crítica. Su plataforma, que se...
Lo más reciente
- 1
Dispositivos IoT transforman ciberseguridad y plantean nuevos desafíos éticos
- 2
Elon Musk se convierte en mayor donante político para 2024
- 3
Nowadays revoluciona la planificación de eventos con inteligencia artificial
- 4
Meta lanza Llama 3.3 70B, rendimiento mejorado a menor costo
- 5
Google Photos presenta "Recap 2024" con resúmenes anuales personalizados
- 6
TikTok podría ser prohibido en EE.UU. tras fallo judicial
- 7
Heartcore Capital lanza Fondo V de 180 millones de euros