Ülkemizde neredeyse iki yüzyıldır "Sanat, sanat için midir?" diye yaptığımız tartışmanın yeni bir versiyonu var: "Yapay zekâ, yapay zekâ için midir?” Başka deyişle, yapay zekâ gelişmeleri insanlığın gelişmesine -yani halka- katkı vermek için mi yapılıyor? Ya da pata küte insanlığın iyiliği düşünülmeden sadece ticari kaygılarla mı yapılıyor?
Bu, OpenAI şirketinde iki hafta önce meydana gelen kaosun özeti.
Bağımsız teknoloji geliştirmenin merkezi olan ABD'de, (Çin'deki teknoloji geliştirmelerin bağımsız olmadığı önyargısına sahibim) yapay zekâcılar bugün iki farklı grup halinde tartışıyor. Bu iki gruptan biri yapay zekâ ile ortaya çıkmadı. Kökleri derinde. Diğeri ise zaten mevcut bir motivasyon ama yapay zekâ ile birlikte adı konulmuş bir eğilim haline geldi.
Aynı "Sanat, sanat için midir, halk için midir?" tartışması gibi. "Yapay zekâ" konusunda yoğunlaşmış tartışmanın bir tarafında "Etkili Faydacılar (Effective Altruism-EA)", diğer tarafında ise "Etkili Hızlanmacılar (e/acc Effective Accleration)" var. EA eski bir felsefe (Mesela Bob Geldoff'un We are the World konserleri), e/acc ise süre giden motivasyonun adı konulmuş şekli.
Bu yazıyı yapay zekâ yazısı olarak görmeyin. Bu, aslında bir yaşam ve dünyanın hali yazısı. Özellikle de Gazze faciası sürerken, dünya üzerine daha fazla düşünmemiz lazım.
Teknolojinin yaraladığı Kaczynski ve manifestosu
Bu iki karşıt felsefeyi anlatmadan önce, önce 10 Haziran 2023'te 81 yaşında ölen Theodore Kaczynski’yi analım. ABD'de 1978 ile 1995 arasındaki 17 yılda, modern teknolojiyi geliştirdiği ve bu yolla doğayı tahrip ettiğini iddia ettiği, kişi ve kuruluşlara gönderdiği bombalı paketlerle üç kişinin ölümüne, 23 kişinin yaralanmasına neden olmuştu. (Manhunt: UNABOMBER)
Gerçekte dâhi düzeyinde zeki olan Kaczynski'nin, sanayileşmeye ve endüstri toplumuna karşı çıkan ve doğayı hayatın odak noktasına yerleştiren bir anarşizm anlayışını savunan manifestosu, 22 Eylül 1995'te hem Washington Post hem de New York Times gazetelerinde yayımlanmıştı. Kaczynski henüz yakalanmamıştı ve bu manifesto yayınlanmazsa havaalanına bomba koyacağı tehdidi yapmış, yetkililer mecbur kalmıştı. Şimdi bu manifesto da tarihi bir belge niteliğinde.
Kaczynski'nin teknoloji düşmanlığının temelinde, orta/düşük gelir düzeyindeki bir aileden gelen (yani bazılarına göre “harcanabilir” insan) Kaczynski'nin, 16 yaşında müthiş bir matematik dehası olarak başarıyla kabul edildiği Harvard'da tabi tutulduğu CIA destekli "beyin yıkama" projesi sonrasında dengesini kaybetmesi ve ruh sağlığının yaralanması olduğu düşünülür.
Daron Acemoğlu: Yeni teknolojiler halkın yararına mı, halka karşı mı çalışıyor?
OpenAI kaosunun da bir süredir devam eden yapay zekâ tartışmalarının da özeti bu; teknoloji geliştirirken, insanlara zarar vermemeye dikkat edilecek mi? Yoksa bu teknolojiyi geliştirenler kendi hedefleri ile ilgiliyken, insanlara özen göstermiyor mu olacak?
Kaczynski olayındaki kendi hedefleri, diğer ülkelere karşı üste çıkmak için kullanılmak üzere beyin yıkama teknikleri araştırmaktı ve bu arada Kacynski gibi bir dehaya zarar vermek bile umurlarında değilmiş.
Yapay zekâda böyle bir hedef var mı henüz bilemiyoruz ama endişeliyiz. En azından ticari bir hedef olduğu düşüncesindeyiz. Yani insanlara aldırmayan bir ticari yaklaşım.
Ünlü ekonomist Daron Acemoğlu da Simon Johnson ile birlikte yazdıkları "Power & Progess - Our 1000 year struggle Over Technology & Prosperity" kitabında, geçmişteki teknolojik gelişmelerden kimin kazanç elde ettiğini ve bugün ekonomik ve politik olarak yapay zekâdan kimin yararlanabileceğini inceliyor ve “dijital dönüşümle her derdimizin biteceği türü” pompalamalara karşı şöyle diyor:
"Ne geleneksel dijital teknolojiler ne de yapay zekâ, sosyal etkileşim, uyum, esneklik ve iletişim içeren temel görevleri yerine getiremez."
Acemoğlu ve Johnson, yapay zekâ gelince işçi sayısının azaltılarak verimliliğin artacağı gibi düşüncelere karşı, örnek olarak, radyologlar benzeri tıp uzmanlarını ortadan kaldırmayı hedeflemek yerine, yapay zekâ araçlarının, sektördeki işçi sayısını azaltmadan, evde sağlık çalışanlarının yapabileceklerini genişletebileceğini ve hizmetlerini daha değerli hale getirebileceğini düşünüyor.
"Yeni teknolojiye ilişkin tartışmalar yalnızca yeni ürün ve algoritmaların parlaklığına değil, aynı zamanda bunların halk yararına mı yoksa halka karşı mı çalıştığına da odaklanmalıdır."
Etkili (e/acc) Hızlanma nedir?
Bu ön girişten sonra şimdi gelelim ilk akıma: “Etkili Hızlandırmacılık (ya da İvmelenme)”, yapay zekâdan esinlenen bir ideolojidir ve muhafazakar İngiliz filozof Nick Land'in kapitalizm ve toplumsal çöküş hakkındaki teorilerinden türetilmiştir. Yapay zekâ ve büyük dil modellerinin (LLM'ler) kıtlık sonrası teknolojik ütopyaya yol açacağı inancını savunmak için Nick Land'in hızlandırma teorilerinden yararlanan bir ideoloji ve harekettir.
Twitter'daki "/acc" topluluklarındaki ilk kamplar, Twitter'daki "sol/acc", "sağ/acc" ve "u/acc (koşulsuz/acc) ekiplerinden oluşuyordu. E/acc veya etkili hızlandırmacılığa bilinen en eski referans 31 Mayıs ve 1 Haziran 2022 tarihlerine aittir; Twitter kullanıcıları @zetular, @BasedBeff ve @creatine_cycle bunu kullandılar. Twitter'daki E/acc toplulukları öncelikle Twitter Alanlarında desteklendi ve e/acc manifestoları haber bülteni platformu Substack kullanılarak paylaşıldı. Söyledikleri şeyler şöyle;
"Etkili hızlandırmacılık, makine öğrenimi mühendislerinin, yapay zekânın güç hiyerarşisine, düzenleyiciler ve kontrolörler olarak dahil olmaya çalışan teknokratlardan ve otoriterlerden bıktığında elde ettiğiniz şeydir. Canavarın serbest bırakılmasına yardım edin veya yoldan çekilin. 1 Haziran 2022 03:20"
Swarthy isimli kullanıcı ise "hızlanmacılığı" kapitalizmin öz farkındalığı olarak tanımlayıp, “ancak başladı ve henüz bir şey görmedik” diye tanımladıktan sonra :
|
Etkili Faydacılık (EA) nedir?
Etkili faydacılık/fedakarlık (EA), aslında yeni bir şey değil. “Diğerkâmlık” olarak da Türkçeleştirilebilir. Yani, dünyadaki herkese mümkün olduğunca nasıl fayda sağlanacağını bulmak için kanıtları ve mantığı kullanmayı ve bu temelde harekete geçmeyi savunan 21. yüzyıldan kalma bir felsefi ve sosyal harekettir.
“Etkili Faydacılık (Fedakârlık)” felsefesine inanan insanlar genellikle ölçeği büyük, takip edilebilir ve ihmal edilmemesi gereken sorunları belirlemeye çalışırlar. Amaç, bir tek kişinin nerede en büyük etkiyi yaratabileceğini bulmak için mevcut çabalardaki en büyük boşlukları bulmaktır. Bu kriterlere uyan konulardan biri de salgınların önlenmesidir. Diğer bir konu terör saldırılarının engellenmesidir.
Yani yapay zekâdaki etkili faydacılık, Acemoğlu'nun bahsettiği gibi yapay zekâyı "nasıl işçi sayısını azaltırım" şeklinde değil, "nasıl insanlığa daha faydalı bir teknoloji geliştiririm" diye bakmayı gerektiriyor. Ama maalesef böyle düşünenler az. Bunu aşağıdaki grafikle gösterelim; yapay zekânın kapasitesini, yapabileceklerini arttırmak için çalışan araştırmacı sayısı 40 bin iken, yapay zekânın etiği gibi konularda çalışan sayısı sadece 300...
Buterin'in makalesi: Yapay zekâ bize düşman olursa, Mars bile güvenli olmayabilir
Ethereum'un ve kripto dünyasının dâhi yaratıcısı Vitalik Buterin, OPENAI kaosu konusunda önemli bir makale yazdı. Benim bu makaleyi yazmama da Buterin'in "Tekno-iyimserlik" başlıklı bu makalesi neden oldu. Buterin şöyle diyor:
“İklim değişikliği veya yapay bir salgının ya da nükleer savaşın en kötü senaryosu ne kadar zarara yol açsa da parçaları toparlayacak kadar uygarlık adası var. Ama süper zeki bir yapay zekâ, bize karşı gelmeye karar verirse, hayatta kalan kimse bırakmayabilir ve insanlığı tamamen sona erdirebilir. Mars bile güvenli olmayabilir.”
Amerikan silah endüstrisini ve ordusuna güvenmeyi eleştiren Buterin, toplumun kendisine düzenli olarak neye doğru hızlandığını sorması gerektiğini söyledi. Buterin, 21. yüzyılın insanlık için bin yıl boyunca insanlığın kaderini belirleyecek “önem yüzyılı” olabileceğini öne sürdü.
OpenAI kaosu
Anlayacağınız Sam Altman'ın kovulmasının arkasındaki olay; bu felsefe çatışmasıydı. Aslında Silikon Vadisi şu anda bu felsefe çatışmasını yaşıyor. Eski yönetimde etkili faydacılık üyeleri vardı.
Sam Altman'I kovan eski yönetim kurulunda, eski bir Facebook yöneticisi (D’angelo yeni kurulda da var), bir yapay zekâ araştırmacısı (Toner), bir teknoloji girişimcisi (McCauley) ve bir bilgisayar bilimcisi (Sutskever) bulunuyordu.
2015'te kâr amacı gütmeyen bir yapı olarak kurulan OpenAI'ın eski yönetim kurulunun asıl görevi, yatırımcıların çıkarlarını gözetmek değil, “güvenli ve tüm insanlığa fayda sağlayan” yapay zekâyı sürdürmek" olarak veriliyordu.
Avustralyalı Helen Toner halen GeorgeTown üniversite araştırma fonlarının direktörü olarak görevli. Etkili faydacılık felsefesine inanıyor. Mayısta yazdığı bir makale nedeniyle Sam Altman tarafından eleştirildi. Şimdi de Wall Street Journal'e verdiği röportajda, "Sam'i kovmamızdaki amacımız, OpenAI'yi güçlendirmek ve misyonunu daha başarılı bir şekilde gerçekleştirmesini sağlamaktı” dedi.
Toner, OpenAI'ın oldukça sıra dışı organizasyonuna ve kar amacı gütmeyen misyonunun (Yapay zekânın tüm insanlığa fayda sağlamasını sağlamanın) her şeyden önce geldiğine dikkat çekti. Toner, Altman'ın kovulmasına neden olan olayın belirli ayrıntılarını tartışmayı reddederken, Journal'a bunun yapay zekâ güvenliğiyle ilgili olmadığını, güven eksikliğiyle ilgili olduğunu söyledi.
Toner, OpenAI'nin kendi kendini yok etme potansiyelinin bile AGI'nin (Genel görevleri insanlardan daha iyi yerine getiren süper akıllı yapay zekâ için kullanılan terim) insanlığa fayda sağlamasını sağlama "misyonuyla uyumlu" olabileceği konusunda ısrar ederek Altman'ın kovulması olayını savundu ve Altman'ın adını anmadan şöyle bir tweet attı:
“OpenAI ekibine büyük saygım var ve onlara ve yeni gelen Adam, Bret ve Larry'li yönetim kuruluna en iyi dileklerimi sunuyorum. Çalışmalarıma yapay zekâ politikası, güvenlik ve emniyet odaklı devam edeceğim, dolayısıyla önümüzdeki yıllarda yollarımızın birçok kez kesişeceğini biliyorum."
Tasha McCauley de aynı şekilde "Etkili Faydacılık" üyesiydi. McCauley, robotik (elektrik) mühendisi ve bir teknoloji girişimcisi. 2014'ten beri Amerikalı aktör Joseph Gordon-Levitt'in eşi.
Altman'ın kovulmasını başlatan Sutskever ise yapay zekâ güvenliğine odaklanmış bir araştırmacı. Dolayısıyla o da Altman ile çelişiyor. CahtGPT modellerin arkasındaki mimarlardan birisi olarak biliniyor.
Bu makalede, OpenAI kaosu üzerinden, olan biteni anlatmaktan çok, teknolojinin gelişimi konusunda çatışan iki felsefeyi dile getirmeye çalıştım. Umarım bu makale ülkemizde de farkındalık yaratır ve tartışmaya başlarız. Dikkat ederseniz, "Etkili Hızlandırmacılık" meraklılarının çoğunlukta olduğu bir çağdayız ve Ama "Etkili Faydacılar" az sayıda da olsa varlar ve sesleri duyuluyor. Bizim de bu konuları tartışmaya başlamamız lazım. Çünkü muhalefeti ile iktidarı ile halkın değil, kendi menfaatlerini önde tutan post-truth bir siyaset grubu sayesinde, dijital uçurumun maalesef dibindeyiz. Belki "Etkili Faydacılar”a katkı yaparak, bu uçurumu yaratanların ülkemizden geri çekilmelerini sağlarız.
Füsun Nebil Kimdir?Füsun Sarp Nebil, İstanbul, Bakırköy'de doğdu. Eğitimini Çanakkale, İzmir ve İstanbul'da yaptı. Evli, 2 çocuk sahibidir. Denizcilik meraklısıdır (amatör kaptan). Master derecesini Istanbul Teknik Üniversitesi Nükleer Yüksek Mühendisliği bölümünden aldı (Şimdi Enerji Enstitüsü). THY, Nasas Alüminyum Fabrikası ve Alemdar Holding Grubunda çeşitli görevlerde bulundu. 1997 Türkiye'nin ilk ISP'lerinden Alnet'in Genel Müdürlüğüne getirildi. 1999 yılında turk- internet.com'un da dahil olduğu çeşitli siteleri yayınlayan Intervizyon Ltd. şirketini kurdu. Şirket halen Kadinvizyon.com gibi başka siteleri de yönetmektedir. 1998 - 2011 arasında Ulaştırma Bakanlığı tarafından kurulan İnternet Kurulu üyeliği yaptı. Devletin özel sektörü aldığı çeşitli komisyonlarda çalıştı. 2016'dan beri TOBB Telekom Meclisi üyesidir. Nebil, Eylül 2001 yılında Birleşmis Milletler tarafından Türkiye'den seçilen başarılı iş kadınları arasında yer aldı (UNECE INCLUDES 9 TURKISH BUSINESSWOMEN ON ITS LIST). 2010- 2013 arasında Türkiye Dijital Oyun Federasyonu Yönetim Kurulu Üyesi olarak görev yaptı. 2011 - 2015 arasında 4 yıl Eutelsat Avrupa TV Ödüllerinde Jüri Üyeliği görevi aldı. Türkiye İhracatçılar Merkezi dahil, çeşitli projelerde "Bilişim ve İletişim Sistemleri Danışmanlığı" vermektedir. Konusuyla ilgili olarak TV programlarına ya da konferanslara katılarak, konuşma yapmaktadır. Yazıları internet üzerinden turk- internet.com sitesinin yanısıra, yetkinreport.com, bilisimdergisi.org.tr, Boğaziçi Üniversitesi Mezunlar Derneği Dergisi, 21.Yüzyıl Türkiye Enstitüsü, Güncel Hukuk Dergisi, Ankara Baro Dergisi, journo.com, Tüketiciler Birliği Etikett gibi çeşitli ortamlarda yayımlanıyor. 2014 yılından beri T24'te yazıyor. Türk Telekom ve Turkcell konusunda araştırmaları ve uzmanlığı var. 2018 nisan ayında "Bitcoin ve Kripto Paralar" isimli ilk kitabı yayınlandı. Detaylı bilgi için https://wiki- turk.com/fusun- sarp- nebil/ adresine bakabilirsiniz. |