Cosmos Institute lanza iniciativas para una IA humanista y ética

La creación de un nuevo paradigma en la inteligencia artificial

En un momento en el que la inteligencia artificial (IA) está en el centro del debate público, el Cosmos Institute ha decidido dar un paso al frente con una propuesta que busca transformar la manera en que se desarrolla y se utiliza esta tecnología. “Cultivar una nueva generación de tecnólogos y emprendedores equipados con un profundo pensamiento filosófico” es el objetivo principal de esta organización sin ánimo de lucro, cuyos miembros fundadores incluyen a figuras destacadas como Jack Clark, cofundador de Anthropic, y Brendan McCord, extecnólogo del Departamento de Defensa de EE.UU.

Un laboratorio centrado en el ser humano

Uno de los proyectos más ambiciosos que el Cosmos Institute ha anunciado es la creación de un laboratorio de IA en la Universidad de Oxford, conocido como el Human-Centered AI Lab o “HAI Lab”. Este laboratorio estará liderado por el filósofo Philipp Koralus, también miembro fundador del Instituto. “Traducir los principios filosóficos del florecimiento humano en software de código abierto y sistemas de IA” es una de las metas que se han propuesto. Aunque la idea suena prometedora, el detalle de lo que realmente implica esta traducción no está del todo claro.

La esencia de este laboratorio radica en fomentar el desarrollo de tecnologías de IA que respeten la dignidad humana y que eviten la promoción de disrupciones dañinas, como la automatización que puede llevar a la pérdida de empleos. Este es un objetivo ambicioso, que sin duda representará un reto para los investigadores y desarrolladores involucrados en el HAI Lab.

La creación de la Cosmos Fellowship

Además del laboratorio, el Cosmos Institute ha anunciado la creación de la Cosmos Fellowship, un programa que comenzará con un grupo de cuatro becados. Estos becados tendrán la oportunidad de trabajar en el HAI Lab o en otras instituciones asociadas durante un período que puede oscilar entre un trimestre y un año. “Explorar la intersección de la experiencia en IA y la profunda visión filosófica” es la premisa bajo la cual los becados colaborarán con mentores del Instituto y llevarán a cabo proyectos independientes. Este enfoque promete ser un crisol de ideas innovadoras que podrían influir en el futuro de la IA.

Inversiones en ideas provocadoras

El Cosmos Institute no solo se limita a la investigación y la formación; también ha lanzado Cosmos Ventures, una organización de capital de riesgo que apoyará “prototipos provocativos, ensayos y proyectos creativos que exploren preguntas fundamentales sobre la filosofía de la tecnología”, según McCord. Este enfoque tiene como objetivo financiar proyectos que puedan ir desde ideas nuevas hasta iniciativas ya existentes, siempre que generen un “entregable importante” en un plazo de tres meses.

Con un enfoque de “bajo coste operativo”, Cosmos Ventures se inspira en Emergent Ventures, un proyecto de otro miembro del Instituto, Tyler Cowen. Las inversiones oscilarán entre 1.000 y 10.000 dólares por proyecto, lo que permite una flexibilidad considerable para los emprendedores que buscan explorar nuevas fronteras en el ámbito de la IA.

Un reto ético en la inteligencia artificial

No es la primera vez que se intenta avanzar hacia una visión más ética y humanista de la IA. Organizaciones como OpenAI, que se fundaron con la misión de llevar los beneficios de la IA avanzada a toda la humanidad, han enfrentado críticas por desmantelar equipos de seguridad completos. Anthropic, la empresa de Jack Clark, también ha cambiado su postura en relación con las regulaciones de IA y ha sido acusada de extraer datos sin el consentimiento de los usuarios. Este contexto plantea un interrogante sobre si el Cosmos Institute podrá realmente sostener su compromiso con la ética en un entorno donde la presión por resultados rápidos puede llevar a decisiones cuestionables.

La filosofía detrás de la aceleración

McCord ha definido la visión del Instituto como una forma de “aceleracionismo”, que sostiene que el futuro no está predeterminado y que, por lo tanto, la humanidad es responsable de su propio destino. Este enfoque implica que debemos construir una IA que fomente la curiosidad y la participación activa, especialmente en áreas críticas como la educación y la medicina. “Defendemos una IA que descentralice el poder y permita soluciones desde abajo hacia arriba”, afirma McCord, subrayando la importancia de que las comunidades tengan voz en la creación de una sociedad más rica y diversa.

Estas posiciones son, sin duda, admirables y pueden representar un cambio de paradigma en la forma en que se aborda el desarrollo de la inteligencia artificial. Sin embargo, queda por ver si el Cosmos Institute podrá mantener su integridad ante las tentaciones que suelen acompañar a la búsqueda de poder, influencia y recursos financieros.