ChatGPT ile herkesin adını öğrendiği yapay zekâ startup'ı OpenAI, geçtiğimiz cumadan itibaren olağanüstü organizasyonel değişiklikler yaşadı. Ben de San Francisco'da yaşayan bir yapay zekâ şirketi kurucusu olarak, yaşanan olayları burada konuşulduğu şekliyle aktarmak ve olayların tarihsel arka planını Türkiye okuruna biraz açıklamak istiyorum. 

Bu yazıda, bu değişikliklerin tarihsel arka planını ve yapay zekâ güvenliği hareketi içindeki yerini inceliyoruz. Ama önce 17 Kasım'dan itibaren yaşanan gelişmeleri özetleyelim: 

1. Sam Altman'ın görevden alınması: 17 Kasım Cuma günü OpenAI, kurucularından ve CEO'su Sam Altman sürpriz bir şekilde görevden alındı. OpenAI yönetim kurulu tarafından alınan bu karar bütün teknoloji endüstrisinde geniş şok etkisi yarattı. Olayın üzerine OpenAI kurucularından ve yönetim kurulu başkanı olan Greg Brockman da istifa etti.
2. Hafta sonu müzakereleri ve yönetim değişiklikleri: Altman'ın cuma görevden alınmasının sonrasında hafta sonu, yoğun müzakereler yaşandı. OpenAI yatırımcıları, Microsoft CEO'su Satya Nadella başta olmak üzere, Altman'ın geri getirilmesi için baskı yaptı. Ancak pazar gecesi yönetim kurulu bu talebi reddetti ve Twitch'in eski CEO'su ve kurucu ortağı Emmett Shear'ı geçici CEO olarak atadı.
3. Geçici CEO olarak Emmett Shear: Shear, Altman'ın görevden alınmasının özel bir güvenlik anlaşmazlığı nedeniyle olmadığını belirtti ve yönetim kurulunun OpenAI'ın modellerini ticarileştirmeyi desteklediğini vurguladı. Yönetim kurulunun Shear'ı seçmesinde Shear'ın geçmişte yapay zekâ güvenliği için şirketlerin yeni teknoloji geliştirmeyi yavaşlatması gerektiğini vurguladığı açıklamalarının etkisi olabileceğini düşünmek mümkün.
4. Microsoft'un Brockman ve Altman'ı işe alması: Microsoft, hafta sonundaki gelişmeler ve Altman'ın geri getirilmemesinin ardından Sam Altman ve Greg Brockman'ı, diğer bazı OpenAI araştırmacıları ile birlikte işe aldığını duyurdu. CEO Satya Nadella Microsoft bünyesinde ama bağımsız yeni bir şirketin hızla kurulacağını, böylece Sam Altman ve ekibine yapay zekâ geliştirmelerini devam ettirmeleri için gereken olanakların sağlanacağını söyledi.
5. Çalışanların imzaladığı ültimatom: Bu gelişmeler üzerine, şirketin yaklaşık 800 çalışanının neredeyse tamamı, bir açık mektup imzalayarak şirket yönetim kurulunun istifasını ve Sam Altman'ın CEO olarak geri getirilmesini talep etti. Çalışanlar, bu talepleri karşılanmazsa şirketten ayrılma ve Microsoft'ta Sam Altman ile birlikte çalışma tehdidinde bulundular.
6. Sam Altman yeniden işe alındı: OpenAI, Sam Altman'ın işten çıkarılmasından sadece beş gün sonra CEO olarak yeniden işe aldı. Bu karar, şirket içinde uzun süreli bir krizi önlemiş olabilir ancak OpenAI içindeki yönetim ve liderlik dinamiklerindeki problemlere dikkat çekti.
7. Yeni yönetim kurulu: Sam Altman'ı işten atan yönetim kurulu dört üyeden üçü (OpenAI kurucusu Ilya Sutskever, akademisyen Helen Toner ve girişimci Tasha McCauley) yeni yönetim kurulunda yer almadı. Yeni yönetim kurulunu oluşturan isimler eski ABD Hazine Bakanı Larry Summers, eski Salesforce CEO'su Bret Taylor ve eski yönetim kurulunda da bulunan Quora CEO'su Adam D'Angelo oldu. 

Bu olaylar dizisine şaşırmamak çok mümkün değil. Her ne kadar Altman ve Brockman işlerine geri dönmüş olsalar da akıllara takılan pek çok soru var. Aşağıda bazılarını yanıtlamaya çalışalım.

Sam Altman

Şirket tarihinin en başarılı noktalarından birinde dünya çapında başarılı bir CEO'yu yönetim kurulu neden işten çıkarır?

Bunun nedeni OpenAI'ın normal bir şirket olmamasından kaynaklanıyor. OpenAI, 2015'te kâr amacı gütmeyen bir araştırma laboratuvarı olarak kuruldu. Laboratuvarın misyonu, "Yapay Genel zekâ'nın (AGI) tüm insanlık için faydalı olmasını sağlamak" olarak belirlendi. Kurucuları arasında Greg Brockman, Ilya Sutskever gibi önde gelen yapay zekâ araştırmacıları ve Sam Altman, Elon Musk gibi ünlü silikon vadisi girişimcileri de vardı. Daha sonra 2019 yılında OpenAI, GPT gibi büyük dil modellerini (Large Language Model) geliştirmek için gereken daha yüksek miktarda yatırımı çekebilmek amacıyla yapısını değiştirdi. 

Bu yeni yapıda, vakfın sahip olduğu bir limited şirket (LLC) kuruldu. Vakfın yönetim kurulu, LLC'nin kuruluş misyonundan sapma ihtimaline karşı CEO'yu işten atma örneğinde olduğu gibi bazı müdahalelerde bulunma yetkisine sahip. Ayrıca bu yapı, şirketin yatırımcıların yatırımlarının geri dönüşünü orijinal yatırımın 100 katını geçmeyecek şekilde sınırlıyor. Bu sebeplerden dolayı normal bir şirkette yönetim kurulunun şirketin hissedarlarına karşı olan finansal sorumluluğu bu sistemde yok. Aksine tek sorumlulukları yapay zekânın insanlığa faydalı şekilde geliştirilmesi. Sam Altman'ın işten atılması da, OpenAI'ın kâr amacı gütmeyen misyonu ile ticari faaliyetleri arasında denge sağlamada yaşanan zorlukları ve bu iki farklı yaklaşım arasındaki uyumsuzluklara dikkat çekiyor.

AI nedir, AGI nedir?

AI (Artificial Intelligence - Yapay zekâ), bilgisayar biliminin makinelerin öğrenme, problem çözme, algılama ve insan benzeri görevleri yerine getirmesi üzerine yoğunlaşan, bir dalıdır. AI sistemleri, belirli görevleri yerine getirebilmek için verilerden istatistiki olasılık dağılımlarını öğrenen ve bu öğrenme üzerine tahmin yürütebilen model dediğimiz yazılımlardan oluşur.

AGI (Artificial General Intelligence - Yapay Genel zekâ) ise, her türlü insan zekâsı görevini yerine getirebilecek ve bu görevler arasında esnek bir şekilde geçiş yapabilen bir yapay zekâ türüdür. OpenAI, AGI'ı "çoğu ekonomik değeri olan işte insanlardan daha iyi performans gösterebilen oldukça otonom sistemler" olarak tanımlamaktadır. Bu tanım, AGI'ın ekonomik değeri olan işlerde insan performansını aşma potansiyelini vurgular.  

ChatGPT'nin altyapısını oluşturan GPT-4 ve benzeri modeller, daha geniş ve çeşitli görevleri yerine getirebilme kapasitesi ile AGI'a doğru bir adım olarak görülebilir. Ancak, tam anlamıyla AGI'a ulaşılmış olduğunu söylemek için henüz erken olup, bu alanda araştırmalar devam etmektedir. Çoğu uzman önümüzdeki 10 yıl içerisinde bu seviyeye ulaşan yapay zekâları görebileceğimizi düşünüyor.

AI Safety nedir?

Yapay zekâ teknolojilerindeki ivmelenerek artan gelişme her yeni jenerasyon model ile önceden tahmin edilmesi zor yeni kapasite ve yeteneklerin ortaya çıkması demek. AI Safety yani Yapay Zekâ Güvenliği de bu sistemlerin güvenli, etik ve insan değerleriyle uyumlu bir şekilde geliştirilmesi ve kullanılması üzerine odaklanan bir bilim dalı. OpenAI yönetim kurulu çok net bir açıklama yapmamasına rağmen basında bu tartışmanın AI Safety yani yapay zekâ güvenliği ile ilgili farklı görüşlerden ortaya çıktığına dikkat çekiliyor.

Bu alan, yapay zekânın hızlı gelişiminin ve insan zekâsını aşma potansiyelinin getirebileceği riskleri azaltmaya çalışır. AI Safety, özellikle varoluşsal tehditler (x-risk) üzerine yoğunlaşır ve bunlar arasında AI kontrolünün kaybı, AI'ın yanlış hedeflere yönelmesi, ve beklenmeyen bir "zekâ patlaması" bulunur. Örneğin, süper zekâlı bir AI'ın insanüstü yetenekler geliştirmesi ve bu yeteneklerin yanlış kullanılması sonucu ortaya çıkabilecek tehlikeler, AI Safety'nin ana odak noktalarından biridir.

Bu riskler, AI'ın gelişmiş biyolojik patojenler oluşturması, karmaşık siber saldırılar düzenlemesi veya insanları manipüle etmesi şeklinde somutlaşabilir. AI'ın yanlış ilerlemesi durumunda, bu yetenekler AI veya insanlar tarafından kötüye kullanılabilir. AI'ın askeri avantajlar sağlamak için otonom ölümcül silahlar, siber savaş veya otomatik karar verme sistemleri olarak kullanılması da ciddi bir risk oluşturur. Ayrıca, AI'ın demokratikleşmesiyle birlikte, biyoteknoloji alanında daha kolay ve tehlikeli patojenlerin mühendislik yoluyla oluşturulması riski de artmaktadır. Bu örnekler, AI geliştirme ve uygulamasında güçlü güvenlik önlemleri ve etik değerlendirmelere duyulan ihtiyacı vurgulamaktadır. 

Sonuç

OpenAI'da yaşanan bu kriz, hızla gelişen yapay zekâ alanındaki zorlukları ve ikilemleri net bir şekilde yansıtıyor. Bir yandan insanlığa fayda vadeden ChatGPT benzeri yenilikler ortaya çıkarken, diğer yandan bu teknolojiler kontrolden çıkma potansiyeli de taşıyor.

OpenAI gibi şirketler, yapay zekâyı insanlık yararına geliştirirken, kâr amacı ile araştırma amacı arasında hassas bir denge yürütmeye çalışıyor. Yaşanan bu olaylar bu dengeyi kurmanın zorluklarına dikkat çekerken, şirket içi yönetim, hesap verebilirlik ve şeffaflık mekanizmalarının yapay zekânın güvenli gelişimi için hayati öneme sahip olduğunu gösteriyor. Hem teknik çözümlerin hem de kurumsal yapılar ile süreçlerin bu amaçla titizlikle ele alınması büyük önem taşıyor.

Yazının ikinci bölümünde, hem olayların gidişatını takip edip hem de gelişmelerin arkasındaki fikir ayrılıklarını ve Effective Altruism, ve Accelerationism gibi toplumsal hareketlerin bu olaylardaki yansımalarını inceleyeceğiz. Son olarak Microsoft gibi büyük oyuncuların bu hikayede oynadıkları rollerin altını çizeceğiz. 

Not: Bu yazı yazarın kişisel görüş ve analizlerini temsil etmektedir, herhangi bir kurum veya organizasyonun resmi görüşünü yansıtmamaktadır. Yazar bazı varsayımlarda bulunmuş olsa da, okuyucuların kendi araştırmalarını yapmaları ve bağımsız analizle sonuca varmaları önerilir. Bu yazının amacı sadece ilgili konular hakkında farkındalık yaratmak ve tartışmaya katkı sunmaktır.