OpenAI’nın kurucu ortaklarından biri olan Ilya Sutskever, OpenAI’dan resmi olarak ayrıldıktan sadece bir ay sonra yeni bir şirket olan Safe Superintelligence Inc. (SSI) kurdu. Sutskever, OpenAI’nın uzun süreli baş bilim insanıydı ve SSI’yi eski Y Combinator ortağı Daniel Gross ve eski OpenAI mühendisi Daniel Levy ile birlikte kurdu.
OpenAI’de Sutskever, “süper zeki” yapay zeka sistemlerinin yükselişiyle ilgili AI güvenliğini geliştirme çabalarında önemli bir rol oynadı. Bu alanda Jan Leike ile birlikte çalıştı ve ikisi de AI güvenliği konusunda farklı yaklaşımlar nedeniyle Mayıs ayında OpenAI’den ayrıldı. Leike şu anda rakip AI şirketi Anthropic’te bir ekibin başında bulunuyor.
Sutskever, AI güvenliğinin daha karmaşık yönlerine uzun süredir ışık tutuyor. 2023 yılında Leike ile birlikte yayınladığı bir blog yazısında, insanların zekasını aşan bir AI’nın on yıl içinde gelebileceğini ve bu tür bir AI’nın her zaman iyi niyetli olmayabileceğini ve kontrol edilmesi gerektiğini öngördü.
Sutskever, Bloomberg ile yeni şirket hakkında şu ifadelere yer verdi; ”Süper zeka hedefine ulaşmak mümkün. Güvenli süper zeka (SSI) inşa etmek, zamanımızın en önemli teknik sorunudur. Dünyanın ilk doğrudan SSI laboratuvarını başlattık ve tek bir hedefimiz ve ürünümüz var: güvenli bir süper zeka. Adı Safe Superintelligence… SSI Inc. (@ssi) 19 Haziran 2024 Sutskever, bugün de aynı amaçla bağlı kalmış gibi görünüyor.”
Sutskever’ın yeni şirketinin oluşumunu duyuran tweetlerde ise şu ifadeler yer aldı; “SSI, misyonumuz, adımız ve tüm ürün yol haritamızdır, çünkü tek odak noktamız budur. Ekibimiz, yatırımcılarımız ve iş modelimiz SSI’yi başarmak için uyumlu. Güvenliği ve yetenekleri aynı anda ele alıyoruz, devrim niteliğinde mühendislik ve bilimsel çözümlerle çözülmesi gereken teknik sorunlar olarak. Yetenekleri mümkün olduğunca hızlı ilerletmeyi ve güvenliğimizin her zaman önde olmasını sağlamak istiyoruz. Bu şekilde huzur içinde ölçeklenebiliriz. Tek odak noktamız, yönetim yükünden veya ürün döngülerinden hiçbir şekilde sapmamızı sağlar ve iş modelimiz güvenlik, güvenlik ve ilerlemenin kısa vadeli ticari baskılardan izole olduğu anlamına gelir.”
Sutskever, Bloomberg ile yeni şirket hakkında daha fazla ayrıntı paylaştı, ancak finansman durumu veya değerlemesi hakkında konuşmayı reddetti. Açıkça görünen bir nokta, OpenAI’nın 2015 yılında kâr amacı gütmeyen bir kuruluş olarak başlaması ve daha sonra hesaplama gücü için gereken büyük miktardaki paranın daha açık hale gelmesiyle yeniden yapılandırılmasına karşılık, SSI’nin baştan aşağıya kâr amacı güden bir kuruluş olarak tasarlanıyor olmasıdır. AI ve ekibin referanslarına olan ilgiye bakılırsa, SSI’nin çok yakında sermaye ile boğulabileceği de muhtemel.
