IA | Lanzamiento

Ex cofundador de OpenAI lanza Safe Superintelligence Inc. en Palo Alto

Sutskever lanza Safe Superintelligence Inc.

Ilya Sutskever, uno de los cofundadores de OpenAI, ha lanzado una nueva empresa, Safe Superintelligence Inc. (SSI), tan solo un mes después de abandonar formalmente OpenAI.

Sutskever, que fue científico jefe de OpenAI durante mucho tiempo, fundó SSI junto al ex socio de Y Combinator Daniel Gross y al ex ingeniero de OpenAI Daniel Levy.

Enfoque en la seguridad de la IA

En OpenAI, Sutskever fue fundamental en los esfuerzos de la compañía para mejorar la seguridad de la IA con la llegada de sistemas de IA "superinteligentes", un área en la que trabajó junto a Jan Leike, quien co-lideró el equipo de Superalineación de OpenAI. Sin embargo, tanto Sutskever como Leike abandonaron la compañía dramáticamente en mayo después de desavenencias con el liderazgo de OpenAI sobre cómo abordar la seguridad de la IA. Leike ahora lidera un equipo en la tienda de IA rival Anthropic.

Sutskever ha estado arrojando luz sobre los aspectos más complejos de la seguridad de la IA desde hace mucho tiempo. En una publicación de blog publicada en 2023, Sutskever, escribiendo con Leike, predijo que la IA con inteligencia que supera la de los humanos podría llegar en la próxima década y que, cuando lo haga, no necesariamente será benévola, lo que requerirá investigación sobre formas de controlarla y restringirla.

Compromiso con la causa

Está tan comprometido como siempre con la causa hoy en día. El miércoles por la tarde, un tweet anunciando la formación de la nueva empresa de Sutskever afirma que: "SSI es nuestra misión, nuestro nombre y toda nuestra hoja de ruta de productos, porque es nuestro único enfoque. Nuestro equipo, inversores y modelo de negocio están alineados para lograr SSI. Abordamos la seguridad y las capacidades al mismo tiempo, como problemas técnicos que se resuelven mediante avances revolucionarios en ingeniería y ciencia".

Modelo de negocio

Hablando con Bloomberg sobre la nueva empresa en mayor detalle, Sutskever declinó discutir su situación de financiación o valoración.

Más evidente es que, a diferencia de OpenAI, que se lanzó originalmente como una organización sin ánimo de lucro en 2015, luego se reestructuró cuando las enormes sumas de dinero necesarias para su potencia informática se hicieron más evidentes, SSI se está diseñando desde cero como una entidad con fines de lucro. A juzgar por el interés en la IA y las credenciales específicas del equipo, es posible que pronto esté ahogada en capital. "De todos los problemas a los que nos enfrentamos", dice Gross a Bloomberg, "recaudar capital no va a ser uno de ellos".

Expansión internacional

SSI tiene oficinas en Palo Alto y Tel Aviv, donde actualmente está reclutando talento técnico.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Dudas éticas

Dudas sobre Sam Altman y la ética en OpenAI

La comparecencia de Sam Altman ante el Congreso ha generado dudas sobre su relación con OpenAI, especialmente tras revelaciones sobre su participación a través de...

Logística inteligente

Boon revoluciona la logística con inteligencia artificial y financiación

Boon, una startup fundada por Deepti Yenireddy, busca transformar la logística mediante inteligencia artificial, optimizando procesos y aumentando la eficiencia. Con 20,5 millones de dólares...

Ética tecnológica

Stem AI busca alinear inteligencia artificial con ética humana

Stem AI, cofundada por Emmett Shear, busca alinear la inteligencia artificial con el comportamiento humano y la ética. Con el respaldo de Andreessen Horowitz, la...

Cambio enfoque

TuSimple se convierte en CreateAI y se enfoca en videojuegos

TuSimple se transforma en CreateAI, abandonando el desarrollo de camiones autónomos para centrarse en la animación y videojuegos. A pesar de controversias sobre prácticas de...

Financiación exitosa

Anysphere recauda 100 millones y alcanza valoración de 2.600 millones

Anysphere, creador de Cursor, ha recaudado 100 millones de dólares en financiación, alcanzando una valoración de 2.600 millones. Su modelo freemium y asociaciones con empresas...

Edición inteligente

Instagram introduce herramientas de edición de vídeo con IA

Instagram lanzará nuevas herramientas de edición impulsadas por inteligencia artificial que permitirán a los creadores personalizar sus vídeos mediante comandos de texto. Estas innovaciones buscan...

Avance IA

Google lanza Gemini 2.0 para revolucionar la inteligencia artificial

Google ha presentado el modelo Gemini 2.0 Flash Thinking Experimental, que promete avanzar en el razonamiento y la comprensión multimodal de la IA. Aunque enfrenta...

Computación cuántica

BlueQubit revoluciona la computación cuántica con su plataforma QSaaS

BlueQubit, una startup de San Francisco, lidera la integración de la computación cuántica en aplicaciones reales a través de su plataforma QSaaS. Fundada por alumni...