IA | Lanzamiento

Ex cofundador de OpenAI lanza Safe Superintelligence Inc. en Palo Alto

Sutskever lanza Safe Superintelligence Inc.

Ilya Sutskever, uno de los cofundadores de OpenAI, ha lanzado una nueva empresa, Safe Superintelligence Inc. (SSI), tan solo un mes después de abandonar formalmente OpenAI.

Sutskever, que fue científico jefe de OpenAI durante mucho tiempo, fundó SSI junto al ex socio de Y Combinator Daniel Gross y al ex ingeniero de OpenAI Daniel Levy.

Enfoque en la seguridad de la IA

En OpenAI, Sutskever fue fundamental en los esfuerzos de la compañía para mejorar la seguridad de la IA con la llegada de sistemas de IA "superinteligentes", un área en la que trabajó junto a Jan Leike, quien co-lideró el equipo de Superalineación de OpenAI. Sin embargo, tanto Sutskever como Leike abandonaron la compañía dramáticamente en mayo después de desavenencias con el liderazgo de OpenAI sobre cómo abordar la seguridad de la IA. Leike ahora lidera un equipo en la tienda de IA rival Anthropic.

Sutskever ha estado arrojando luz sobre los aspectos más complejos de la seguridad de la IA desde hace mucho tiempo. En una publicación de blog publicada en 2023, Sutskever, escribiendo con Leike, predijo que la IA con inteligencia que supera la de los humanos podría llegar en la próxima década y que, cuando lo haga, no necesariamente será benévola, lo que requerirá investigación sobre formas de controlarla y restringirla.

Compromiso con la causa

Está tan comprometido como siempre con la causa hoy en día. El miércoles por la tarde, un tweet anunciando la formación de la nueva empresa de Sutskever afirma que: "SSI es nuestra misión, nuestro nombre y toda nuestra hoja de ruta de productos, porque es nuestro único enfoque. Nuestro equipo, inversores y modelo de negocio están alineados para lograr SSI. Abordamos la seguridad y las capacidades al mismo tiempo, como problemas técnicos que se resuelven mediante avances revolucionarios en ingeniería y ciencia".

Modelo de negocio

Hablando con Bloomberg sobre la nueva empresa en mayor detalle, Sutskever declinó discutir su situación de financiación o valoración.

Más evidente es que, a diferencia de OpenAI, que se lanzó originalmente como una organización sin ánimo de lucro en 2015, luego se reestructuró cuando las enormes sumas de dinero necesarias para su potencia informática se hicieron más evidentes, SSI se está diseñando desde cero como una entidad con fines de lucro. A juzgar por el interés en la IA y las credenciales específicas del equipo, es posible que pronto esté ahogada en capital. "De todos los problemas a los que nos enfrentamos", dice Gross a Bloomberg, "recaudar capital no va a ser uno de ellos".

Expansión internacional

SSI tiene oficinas en Palo Alto y Tel Aviv, donde actualmente está reclutando talento técnico.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Caída notable

Caída en robótica en Norteamérica, pero sectores crecen

El mercado de robótica en América del Norte cayó un 7,5% en pedidos y un 6,8% en ingresos en la primera mitad de 2024, afectado...

Inteligencia artificial

Premio Nobel de Física 2024 para pioneros en inteligencia artificial

La Academia Sueca de Ciencias ha otorgado el Premio Nobel de Física 2024 a Geoff Hinton y John Hopfield por sus contribuciones a las redes...

Interacción eficiente

Gmail Q&A transforma gestión de correos con chatbot Gemini

Gmail Q&A, disponible para usuarios de iOS y Android, permite interactuar con el chatbot Gemini para gestionar correos electrónicos de manera eficiente. Aunque actualmente es...

Valoración elevada

ElevenLabs podría valer 3.000 millones en próxima financiación

ElevenLabs, startup especializada en inteligencia artificial para audio, podría alcanzar una valoración de 3.000 millones de dólares en su próxima ronda de financiación. Su innovación...

Investigación colaborativa

Alianza de IA invierte 40 millones para combatir el cáncer

La Alianza de IA contra el Cáncer, formada por instituciones médicas y grandes empresas tecnológicas, busca mejorar la investigación y tratamiento del cáncer mediante el...

Ética tecnológica

Durk Kingma se une a Anthropic para promover IA ética

Durk Kingma, cofundador de OpenAI, se une a Anthropic, destacando su interés por el desarrollo ético de la inteligencia artificial. Su experiencia en IA generativa...

Privacidad preocupante

Ray-Ban de Meta: preocupaciones por privacidad y uso de datos

Las gafas Ray-Ban de Meta, con cámara integrada, plantean preocupaciones sobre la privacidad y el uso de datos. La falta de transparencia de la empresa...

Recaudación significativa

11x.ai recauda 50 millones y se expande a recursos humanos

11x.ai, startup de bots de ventas impulsados por IA, ha recaudado 50 millones de dólares en una ronda Serie B, valorada en 350 millones. Con...