Stem AI busca alinear inteligencia artificial con ética humana

Un nuevo enfoque en la inteligencia artificial

La reciente creación de Stem AI, una nueva startup de inteligencia artificial (IA) cofundada por Emmett Shear, ex CEO de Twitch, ha generado un considerable revuelo en el ecosistema tecnológico. Con una misión clara de alinear la IA con el comportamiento humano, las preferencias y la ética, Stem AI promete innovar en un campo que ha suscitado tanto interés como preocupación en la última década. Aunque la empresa se encuentra actualmente en una fase de sigilo, los documentos públicos indican que fue constituida en junio de 2023 y que su solicitud de marca fue presentada en agosto del mismo año. Shear ocupa el cargo de CEO, según los registros de incorporación presentados ante la Secretaría de Estado de California.

La visión de Stem AI

Los detalles sobre Stem AI son escasos, pero el contenido de su solicitud de marca sugiere que la startup está trabajando en el desarrollo de software que pueda "entender, cooperar y alinearse con el comportamiento humano, las preferencias, la biología, la moral y la ética". Este enfoque innovador se alinea con las preocupaciones de Shear sobre el potencial destructivo de la IA si no se gestiona adecuadamente.

La búsqueda de una IA que pueda interactuar de manera ética y efectiva con los humanos es un desafío fundamental que Stem AI parece estar dispuesto a abordar.

Uno de los cofundadores de Stem AI, Adam Goldstein, es un nombre reconocido en el ámbito tecnológico. Conocido por haber fundado Hipmunk, un sitio de búsqueda y reserva de viajes, Goldstein ha acumulado experiencia en el sector de la biotecnología y la investigación, habiendo trabajado en laboratorios universitarios y como socio en Y Combinator. Su trayectoria sugiere que Stem AI podría estar buscando una intersección entre la inteligencia artificial y la biología, un campo que ha comenzado a recibir atención por su potencial disruptivo.

La búsqueda de inversores

En agosto, Stem AI logró atraer la atención de Andreessen Horowitz (a16z), uno de los fondos de capital riesgo más influyentes del mundo, que se ha convertido en un inversor clave en la startup. La elección de a16z como inversor no es casual, ya que la firma es conocida por su enfoque en la innovación tecnológica y su apoyo a startups que buscan abordar problemas complejos. Este respaldo financiero podría proporcionar a Stem AI los recursos necesarios para desarrollar su tecnología de manera efectiva y competitiva.

La capacidad de Stem AI para atraer a un inversor de renombre es un indicador de la confianza que existe en el potencial de la startup. A medida que la inteligencia artificial sigue evolucionando, el interés por las soluciones que puedan mitigar sus riesgos también está en aumento.

La voz de Emmett Shear sobre la IA

Shear no es un extraño en el ámbito de la IA y ha sido un crítico abierto de las propuestas de regulación actuales. En publicaciones recientes en redes sociales, ha expresado su preocupación sobre la dirección en la que se está moviendo la regulación de la inteligencia artificial. “Casi toda la regulación [de IA] propuesta actualmente es una mala idea”, escribió Shear en un post. Su postura refleja un sentido de urgencia sobre la necesidad de un enfoque más informado y equilibrado en la regulación de la IA.

Shear también ha hablado sobre los chatbots y su funcionamiento, calificándolos de “neurotics altamente disociativos”. Según él, estos sistemas operan de manera manipulativa, ya que carecen de un sentido interno estable de sí mismos y de objetivos claros. Esta crítica pone de relieve la necesidad de desarrollar sistemas de IA que no solo sean eficientes, sino que también comprendan y respeten la complejidad de la naturaleza humana.

El enfoque de Stem AI podría estar orientado a resolver el problema de la "alineación de IA", un tema candente en la comunidad tecnológica actual.

Un contexto de innovación y desafíos

La fundación de Stem AI se produce en un momento crítico para el sector de la inteligencia artificial. Las recientes innovaciones han demostrado el potencial de la IA, pero también han planteado preguntas éticas y de seguridad. Shear ha sido un defensor de la creación de salvaguardias que aseguren que la IA no supere el control humano. En un podcast tecnológico, sugirió la idea de establecer límites en la capacidad de auto-mejora de la IA.

Su experiencia en Twitch, donde ayudó a transformar una plataforma emergente en un gigante tecnológico, le ha proporcionado una perspectiva única sobre la evolución de la tecnología y sus implicaciones sociales. La preocupación de Shear por el desarrollo de una IA que pueda automejorarse más allá del control humano es un testimonio de su compromiso con un enfoque responsable en el desarrollo tecnológico.

Un breve paso por OpenAI

En noviembre de 2023, Shear fue nombrado brevemente CEO interino de OpenAI tras la destitución del CEO Sam Altman. Esta experiencia le proporcionó una visión más profunda de los desafíos que enfrenta la industria de la IA. Durante su corta estancia, Shear se convirtió en una voz crítica sobre la gestión de la empresa y la dirección que estaba tomando. Su papel en la reinstauración de Altman demuestra su influencia y compromiso con una gestión ética y responsable en el ámbito de la inteligencia artificial.

La situación en OpenAI también destaca la turbulencia que puede existir en el sector tecnológico, donde decisiones rápidas pueden tener consecuencias de gran alcance. Shear, junto con otros líderes de la industria, desempeñó un papel fundamental en la restauración de la estabilidad en la organización, lo que refleja su dedicación a la ética y la transparencia en el desarrollo de la IA.

El futuro de Stem AI

Mientras Stem AI sigue desarrollándose, la atención se centrará en cómo abordará los problemas éticos y de alineación que han plagado a la industria de la IA. La experiencia de Shear en Twitch y su enfoque crítico hacia la regulación y el desarrollo de la IA serán fundamentales para dar forma a la visión de la empresa.

Con el respaldo de inversores como Andreessen Horowitz y la experiencia combinada de sus fundadores, Stem AI tiene el potencial de ser un actor significativo en el campo de la inteligencia artificial. La comunidad tecnológica estará observando de cerca cómo esta startup aborda los desafíos éticos y técnicos que enfrenta el sector.

El interés por Stem AI también resalta una tendencia más amplia en el ecosistema tecnológico, donde los fundadores están buscando no solo crear tecnología innovadora, sino también asegurarse de que esta tecnología sea utilizada de manera responsable y ética. A medida que la inteligencia artificial continúa evolucionando, la necesidad de un enfoque centrado en el ser humano se vuelve cada vez más urgente.