Yapay zekâ (YZ), önceki teknolojik dönüşüm dalgalarından çok farklı yeni bir teknolojik dalgaya işaret etmektedir. Dolayısıyla, sağladığı yararlar kadar yol açacağı riskleri anlamak etkilerini kontrol altına alabilmede önemli bir avantaj sağlayacaktır. Hızla YZ ekosistemi oluşurken toplumların ağırlıklı olarak faydalarına odaklanmaları bu sürecin yönetilmesindeki en büyük riski oluşturmaktadır. Gelinen noktada büyük dönüşümün ilk evrelerinde yol açtığı risklerin yavaş yavaş farkına varılması ve dile getirilmesi, tam dalga geldiğinde insanlığın neyle yüzleşebileceği ile ilgili tedirginliği artırmaya başlamıştır. Artık ülkeler YZ düzenlemeleri yapmaya başlamış ve özellikle çok uluslu önlemler alma girişimleri artmaya başlamıştır. Bu bağlamda, kendisi de YZ alanında çok önemli bir girişimci olan Mustafa Süleyman’ın ‘The Coming Wave: Technology, Power, and The Twenty-First Century’s Greatest Dilemna’ (Crown, New York, 2023) kitabı sorunları anlamaya ve çözümler üzerinde düşünmeye önemli katkı sağlıyor.

Mustafa Süleyman, öncelikle teknolojik dönüşümlerin tekrarlanan hikâyesine odaklanıyor. Bu bağlamda Süleyman, etkileri yaşamda yer bulan, geniş çapta yayıldıklarında dalgaya dönüşen ve yeni gelişmeleri tetikleyerek geleceğe aktarılan teknolojik dönüşümleri genel amaçlı teknolojiler olarak tanımlamaktadır (sh.27.) Örneğin elektriğin yayılması, sanayiyi, iletişimi ve günlük yaşamı köklü bir şekilde değiştirdi. Elektrik, fabrikaların çalışma şeklini, ulaşımın hızını ve modern yaşamın her alanını dönüştürdü. Bu teknolojinin yayılması, küresel ekonomiyi ve toplumu yeniden şekillendirdi, tıpkı matbaanın bilgiye erişimi dönüştürdüğü gibi. Elektriğin geniş çapta benimsenmesi, insanlık tarihinde bir dönüm noktası olarak kabul edilir ve bugün modern yaşamın temel taşıdır. Benzer şekilde matbaanın keşfi gibi büyük ölçekli bağlantılı yayılma, bilgiye erişimi radikal bir şekilde dönüştürdü ve kültürel, bilimsel ve sosyal gelişim üzerinde derin etkiler yarattı. Kitapların çoğalması, Rönesans, Aydınlanma ve modern bilimsel devrim gibi önemli hareketleri ateşledi. Teknolojinin bu tür hızlı ve geniş çaplı yayılmasının, toplumsal değişimin hızlandırıcısı olarak nasıl işlev gördüğünü gösteren güçlü bir örnek olarak Gutenberg matbaası, insanlık tarihinin dönüm noktalarından biri olarak kabul edilmektedir (sh.30.)

Her genel amaçlı teknolojik dalga bir öncekinden daha büyük ve kapsamlı hale gelmektedir. Süleyman’nın belirttiği gibi Uber, akıllı telefon olmadan mümkün olamazdı, akıllı telefonun varlığı GPS olmadan, GPS uydular olmadan, uydular roketler olmadan, roketler yanma teknikleri olmadan ve nihayetinde yanma teknikleri de ateş olmadan mümkün olmazdı (sh.31.) (sh.33-34.)

Mustafa Süleyman

Teknolojik dalgaların kontrol sorunu

Teknoloji tek taraflı, yani sadece faydaları olan bir hikâyeye sahip değildir. Dolayısıyla, kontrol ihtiyacı geçmişte Luddit’lerin tepkisinde olduğu gibi sosyoekonomik yapıda yol açtığı sonuçlara direnmek için ortaya çıkabildiği gibi günümüzde küreselleşen ölçekle çevre ve iklim değişikliği gibi küresel ölçekte yaşamı tehdit eden sorunlarla da ilişkili olabilmektedir (sh.46.) Bu bağlamda Süleyman, teknolojik dalgaların geçmişte farklı kültürel ve ekonomik bağlamlarda farklı kontrol mekanizmaları ile karşılaştıklarına değinmektedir. Örneğin Süleyman I. Elizabeth’in on altıncı yüzyılın sonlarında, loncaları rahatsız edebileceği gerekçesiyle yeni bir tür örgü makinesini reddettiğini belirterek loncaların Nürnberg, Danzig, Hollanda ve İngiltere'de yeni tür dokuma tezgâhlarını nasıl parçaladıklarına, Ludditler’in sanayi makinelerini parçalayıp yok etmek istediklerine değinir (sh. 39.) Bir başka deyişle, teknolojik dalgalara direnç, çoğu kez ideolojik yaklaşımlardan ziyade sosyoekonomik yapıda yol açabileceği sonuçları erken görmenin yol açtığı ani karşı koyma reflekslerinden kaynaklanmaktadır. Bu dirençler, yeni teknolojilerin mevcut sosyal ve ekonomik yapıları nasıl tehdit ettiğini ve bu tehditlerin insanların korkularını nasıl harekete geçirdiğini gösterir.

YZ teknolojik dalgasının dört temel özelliği

Süleyman, YZ teknolojisinin sadece bir teknoloji olmadığını, potansiyelleri göz önüne alındığında dönüştürücü bir meta-teknoloji olduğunu, bu nedenle de önceki teknolojik dalgalarla karşılaştırılamayacak dönüşümlere yol açabilme potansiyeline özellikle vurguda bulunmaktadır (sh.78.) Süleyman, yaklaşan YZ dalgasının dört temel özelliği olduğunu belirtmektedir: Asimetrik etkiye sahiptirler, hiper evrim geçirmekteler, çok amaçlı kullanılabilmekte ve daha önce deneyimlenmemiş bir özerkliğe sahip olmaktalar (sh.105.)

Asimetrik etki ve dijital feodalizm

Asimetrik etki, gücü merkezileştirmekten çok dağıtmakta ve kontrol edilebilirlikten uzaklaştırmaktadır. Asimetrik etki, ‘konvansiyonel olarak büyük olana karşı yeni olan küçüğe’ büyük bir avantaj sağlarken bu etkiye yol açan teknolojinin ucuz olması, bu teknolojileri kolay bir şekilde erişebilir kılmaktadır. Dolayısıyla, asimetrik etki kontrol edilebilirliği neredeyse imkânsız kılmaktadır. Asimetrik etki ile artık küçük grupların veya bireylerin büyük sonuçlar doğurması mümkün olabilmektedir. Benzer şekilde teknoloji şirketleri devletler karşısında önemli güç merkezleri olmaktadır. YZ alanında en büyük patent sayısına sahip olan şirketlerin IBM, Google, Intel, Microsoft, Bosch, Simens, Samsung, Baidu, Tencent, Huawei olması gelecek güç merkezleri hakkında yeterince bilgi vermektedir.

Bu yeni güç dinamiklerinden yararlananlar, hızla bu teknolojilerin sınırlarını zorlayarak daha fazla kontrol ve etki kazanabilirler. Mega şirketlerin küresel ölçekte artan gücü, devletler ve kurumlarla yeni bir dengeyi zorlamaktadır (sh.187-188). Bu yeni düzen, sermaye ve teknolojiyi elinde bulunduran az sayıda aktörün, toplumsal ve ekonomik ilişkilerde merkezi bir güç haline geldiği bir yapıya işaret etmektedir. Bu durum, toplumsal hiyerarşileri derinleştirerek yeni bir dijital feodalizm türü yaratabilir.  Gelen büyük dalga teknoloji ve sermaye yoğunlaşmasının ekonomik ve politik düzeni nasıl dönüştürebileceğine dair de güçlü bir sinyal vermektedir (sh. 191.)

Diğer taraftan, asimetrik etki sistemik zayıflıkları veya anlık hataları, bağlantılılık nedeniyle küresel ölçeğe taşıyabilmektedir. Örneğin, dijital dünyada, bir ulusal güvenlik açığının birkaç adımda küresel bir felakete dönüşebilmesinin önünde bir engel yoktur. Yaklaşan dalga ile bu tür tehditler çok daha karmaşık, güçlü ve potansiyel olarak daha yıkıcı hale gelebilir. Sistemin karmaşıklığı ve birbirine bağlılığı, olası zararları kontrol etmeyi çok daha zor hale getirmektedir (sh.107.)

Üssel gelişme ve çok amaçlı kullanım

Diğer taraftan bu dalgada YZ, biyoteknoloji, kuantum hesaplama ve diğer ileri teknolojiler öylesine hızla gelişmektedir ki, toplumun bu yeniliklere ayak uydurması ve gerekli düzenlemeleri yapması giderek zorlaşmaktadır. Standartların ve güvenlik protokollerinin, teknolojinin gelişim hızına yetişememesi riski hem sosyal hem de ekonomik açıdan büyük zorluklar doğurmaktadır.

En büyük risk, bu teknolojilerin çok amaçlı kullanıma uygunluğundan kaynaklanmaktadır. Örneğin, hastalıkların tedavisini hızlandırabilen teknolojinin aynı zamanda ölümcül bileşikler geliştirmek için de kullanılabilme potansiyeli özellikle ilaç keşfi ve benzeri bilimsel alanlardaki YZ tabanlı yeniliklerin potansiyel risklerinin büyüklüğüne işaret etmektedir. Aslında, çok amaçlı kullanım potansiyelinin artmasını bağlantılılığın küresel ölçeğe taşınmış olması desteklemektedir. Dolayısıyla, başlangıçta yaşamın belirli alanları için geliştirilmesine rağmen bir teknolojik bir uygulama, bağlantılar üzerinden çok farklı alanlarda radikal dönüşümleri tetikleyebilmekte ve uygulama alanını başlangıçta niyetlenenin ötesine genişletebilmektedir. Dolayısıyla bu belirsizlik, yeni teknolojilerin ne kadar esnek ve geniş çaplı kullanılabileceğine, bu da kontrol edilmesi daha zor ve riskli bir durum yarattığına işaret etmektedir (sh. 111.)

Otonom sistemler

Bir diğer önemli risk, yeni dalganın giderek insan kontrolünden çıkması ve özerklik kazanmasıdır. Tam otonomi, teknolojiyi basit bir araçtan, insan müdahalesi olmadan kendi kararlarını verebilen, kendi kendine hareket edebilen bir özerk sisteme dönüştürmektedir. Bu da geleneksel teknoloji anlayışımızı köklü bir şekilde değiştirmekte ve yeni etik, güvenlik ve kontrol sorunlarını gündeme getirmektedir. Eğer insanlar süreçten tamamen çıkarılırsa, sorumluluk kimde olacaktır? Otonom sistemlerin kararları nasıl kontrol edilecektir?

Dahası, Süleyman’ın değindiği gibi YZ sistemleri, otonom olarak internette hareket edip, veri toplayarak ve analiz yaparak kendi R&D (araştırma ve geliştirme) süreçlerini yönetebilir hale gelirlerse ne olacaktır? (sh. 115.) Bu sistemlerin kendi algoritmalarını geliştirme yeteneği, onların bağımsız bir şekilde karar vermelerini ve kendi kendine öğrenmelerini hızlandıracaktır. Bu, teknolojinin insanların müdahalesi olmadan kendi kendine evrim geçirdiği bir duruma yol açabilir. Bu durum, YZ’nın bir noktada tamamen insan müdahalesi olmaksızın kendi kararlarını alıp, kendi kendini geliştirebileceği anlamına gelir. Bu tür bir otonomi, bilim ve mühendislikte devrim niteliğinde ilerlemeler sağlarken, aynı zamanda beklenmedik sonuçlar, güvenlik tehditleri ve etik sorular da doğurabilecektir. İnsanlar bu süreci nasıl kontrol edecektir? Veya kontrol edebilecek midir? Örneğin, 2017 yılında İngiltere sağlık sistemini, Deutsche Bahn, Telefónica, FedEx, Hitachi ve hatta Çin Kamu Güvenliği Bakanlığı gibi kuruluşları felç eden WannaCry fidye yazılımı yeni dalgayla açıklarını sürekli kapatan bir otonom yazılım olduğunda 2017 yılındaki gibi kısa sürede kontrol altına alabilmek mümkün olabilir mi? (sh. 162-163.)

Süleyman, bu sorunları daha iyi anlamamız için Stuart Russell’ın ‘goril problemi’ yaklaşımına başvuruyor (sh.115). Goriller insanlardan daha güçlü olmalarına rağmen insanlar zekâları ile gorilleri kontrol altına alabilmektedir. Eğer yapay genel zekâ (YGZ) benzeri bir zekâ ortaya çıkarsa, bu güç dengesi değişebilir. Daha zeki bir varlık, kontrolü ele geçirebilir ve insanlar, tıpkı gorillerin kaderini yaşadığı gibi, kendi kontrol alanlarından çıkabilir. Bu, sadece teknolojik değil, aynı zamanda varoluşsal bir sorun yaratır. YGZ'nin doğası gereği, insanlar üzerindeki etkisi öngörülemez ve kontrol edilmesi zor olabilir. Bu nedenle, bu tür teknolojilerin geliştirilmesi ve kontrol edilmesi üzerine yapılan tartışmalar, şimdiye kadar gördüğümüz hiçbir şeye benzemeyen zorluklarla karşılaşacaktır.

Stuart Russell

Süleyman’ın yeni dalganın karakteristiklerini tanımlamada kullandığı bu dört temel özellik ayrık değildir ve sürekli birbirini besleyerek yeni dalganın karmaşıklığını artırmaktadır. Süleyman da bu dört özellikle karmaşıklığı sürekli artan yeni dalganın kontrol edilebilirliğini sağlamak için çok sayıda öneri sunsa da tam kontrolden şüphelidir. Kısaca, yeni teknoloji dalgası, sadece bireylerin ve toplumların yaşamlarını dönüştürmeyecek, ayrıca devletlerin yönetim kabiliyetini de test edecek ve bu süreçte güç dengelerini yeniden şekillendirecektir.