Lanzamiento | IA

Ex cofundador de OpenAI lanza Safe Superintelligence Inc. en Palo Alto

Sutskever lanza Safe Superintelligence Inc.

Ilya Sutskever, uno de los cofundadores de OpenAI, ha lanzado una nueva empresa, Safe Superintelligence Inc. (SSI), tan solo un mes después de abandonar formalmente OpenAI.

Sutskever, que fue científico jefe de OpenAI durante mucho tiempo, fundó SSI junto al ex socio de Y Combinator Daniel Gross y al ex ingeniero de OpenAI Daniel Levy.

Enfoque en la seguridad de la IA

En OpenAI, Sutskever fue fundamental en los esfuerzos de la compañía para mejorar la seguridad de la IA con la llegada de sistemas de IA "superinteligentes", un área en la que trabajó junto a Jan Leike, quien co-lideró el equipo de Superalineación de OpenAI. Sin embargo, tanto Sutskever como Leike abandonaron la compañía dramáticamente en mayo después de desavenencias con el liderazgo de OpenAI sobre cómo abordar la seguridad de la IA. Leike ahora lidera un equipo en la tienda de IA rival Anthropic.

Sutskever ha estado arrojando luz sobre los aspectos más complejos de la seguridad de la IA desde hace mucho tiempo. En una publicación de blog publicada en 2023, Sutskever, escribiendo con Leike, predijo que la IA con inteligencia que supera la de los humanos podría llegar en la próxima década y que, cuando lo haga, no necesariamente será benévola, lo que requerirá investigación sobre formas de controlarla y restringirla.

Compromiso con la causa

Está tan comprometido como siempre con la causa hoy en día. El miércoles por la tarde, un tweet anunciando la formación de la nueva empresa de Sutskever afirma que: "SSI es nuestra misión, nuestro nombre y toda nuestra hoja de ruta de productos, porque es nuestro único enfoque. Nuestro equipo, inversores y modelo de negocio están alineados para lograr SSI. Abordamos la seguridad y las capacidades al mismo tiempo, como problemas técnicos que se resuelven mediante avances revolucionarios en ingeniería y ciencia".

Modelo de negocio

Hablando con Bloomberg sobre la nueva empresa en mayor detalle, Sutskever declinó discutir su situación de financiación o valoración.

Más evidente es que, a diferencia de OpenAI, que se lanzó originalmente como una organización sin ánimo de lucro en 2015, luego se reestructuró cuando las enormes sumas de dinero necesarias para su potencia informática se hicieron más evidentes, SSI se está diseñando desde cero como una entidad con fines de lucro. A juzgar por el interés en la IA y las credenciales específicas del equipo, es posible que pronto esté ahogada en capital. "De todos los problemas a los que nos enfrentamos", dice Gross a Bloomberg, "recaudar capital no va a ser uno de ellos".

Expansión internacional

SSI tiene oficinas en Palo Alto y Tel Aviv, donde actualmente está reclutando talento técnico.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Etiquetas

Vimeo exige etiquetas para contenido generado por inteligencia artificial

Vimeo implementa etiquetas para contenido generado por IA, requiriendo que los creadores informen cuando se haya creado contenido realista con IA. Las actualizaciones en los...

Smartwatch

Samsung presenta Galaxy Ring, anillo inteligente de salud y fitness

Samsung lanza el Galaxy Ring, su primer anillo inteligente de salud y fitness, que ofrece seguimiento de sueño y actividad física sin pantalla. Con una...

Inteligencia

Anthropic revoluciona prompts en IA con nuevas herramientas automatizadas

Anthropic ha lanzado nuevas herramientas en su plataforma Console para ayudar a los desarrolladores a mejorar la eficacia de los prompts en sus aplicaciones de...

Innovación

Etsy implementa etiquetas de "participación humana" y función AI 'Gift Mode'

Etsy refuerza sus políticas para clasificar productos en su plataforma, introduciendo etiquetas que indican el nivel de "participación humana" en la creación de los artículos....

Innovación

Quora revoluciona chatbots con función Previews para aplicaciones interactivas

Quora lanza Previews, una función para crear aplicaciones interactivas en chatbots como Claude y GPT-4o. Permite visualizaciones de datos, juegos y más. A pesar de...

Innovación

Tembo lidera revolución en gestión de bases de datos

Tembo es una startup que lidera la revolución en gestión de bases de datos, ofreciendo una plataforma para implementar versiones de Postgres en entornos en...

Innovación

Pestle revoluciona la cocina con inteligencia artificial en Instagram

La app de recetas Pestle utiliza inteligencia artificial para importar recetas de Instagram Reels, agilizando el proceso de almacenamiento. La función permite guardar recetas casi...

Antibots

Cloudflare lanza herramienta gratuita para combatir bots de IA

Cloudflare lanza una herramienta gratuita para combatir bots de IA que escanean sitios web en busca de datos. La herramienta ajusta modelos de detección de...