13 Temmuz 2016

Öldürücü robotlar çağı başladı mı?

Film sanırım artık yavaş yavaş bilim kurgu olmaktan çıkıp hayatın ta kendisi haline geliyor

Eskiden robotların filmlerini seyrederdik. En güzel örnekse Terminator serisi. Skynet adlı bir yapay zeka tarafından kontrol edilen, insanları öldürmeye ve ‘direnişi’ kırmaya programlanmış tamamen otonom robotik sistemlerle John Connor’un başını çektiği bir avuç insanın mücadelesini konu alan film sanırım artık yavaş yavaş bilim kurgu olmaktan çıkıp hayatın ta kendisi haline geliyor.

Şu bir gerçek: Gelecek insan-makina ilişkisinde. Özellikle karar alma süreçlerindeki insan makina ilişkisi ve insanlar tarafından verilen kararların ne kadarının makinalara devredileceği aslında teknik/verimlilik ile ilgili olduğu kadar siyasi, hukuki, hatta felsefik ve etik alanına da girmeye başladı. Karar alma süreçlerinde makinanın bağımsızlığı açısından insan-makina ilişkisi üç şekilde sınıflandırılıyor:

  1. Otonom olmayan robotik sistemler: Bu tarz robotik sistemler uzaktan insanlar tarafından kullanılıyor ve karar alma yetkisi tamamen insanların elinde.
     
  2. Yarı-otonom robotik sistemler: Bu tarz robotik sistemlerde hem makina yapay zekası hem de insanın karar alması ortak kullanılıyor. Örneğin havalandıktan sonra herhangi bir insanın karar alması olmaksızın hedef bölgesine giden, hedefi bulan ancak onu yok edecek füzeyi ateşlemek için hala bir insan parmağının tetiğe basmasını gerektiren bir İnsansız Hava Aracı (İHA) yarı-otonom bir robotik sistem.
     
  3. Tam Otonom robotik sistemler: Bu sistemlerin görev başlangıcından bitişine kadarki karar alma süreçlerine insan dahli söz konusu değil ve sistemin yapay zekası tüm kararları kendisi alıyor.
     

Sizce dünyada hali hazırda tam otonom bir robotik sistem var mı? Cevap evet. İngiliz BAE Systems şirketinin ürettiği Taranis İnsansız Hava Aracı (İHA). Taranis dünyada yerden kalkışından, görev bölgesine intikaline, görevin icrasından üsse dönüşüne kadar tüm süreçleri insan müdahalesi olmadan yapabilen ilk keşif/gözlem İHA’sı. Yani görev öncesi tüm yapması gerekenler yapay zekasına yükleniyor ve ‘insan eli değmeden’ o görevini yaparak dönüyor. Peki ya Taranis silahlı bir İHA olsa? Yani kendisine yeryüzünün herhangi bir yerinde herhangi birini ‘öldürme’ görevi verilse Taranis bunu yapabilir mi? Teknik olarak ‘Evet.’ Ama ya hukuki ve etik açıdan? Düşünün İngiltere’deki bir üsten havalanmadan önce Taranis’e Örneğin Kosova’daki ‘yüksek değerlikli hedefin’ biometrik bilgilerini yüklüyorsunuz  ve onu ‘küresel ava’ salıyorsunuz. Taranis kendi kendine hedef bölgesine gidiyor, hedefi ‘kesin sonuç yeri ve zamanında’ kıstırıyor ‘yok ediyor’ ve vukuatsız olarak üsse geri dönüyor. Sakın bilim kurgu sanmayın çünkü bu yazdıklarımın 3-5 yıla mümkün hale gelmesi bekleniyor. Peki Taranis’in küreselin herhangi bir yerinde herhangi bir insanı öldürmesi ‘suikast’ değil mi? Acaba yürütmenin başındaki siyasi karar alıcılar/büroratlar suikast emri verebilir mi yoksa olay bağımsız yargı veya yasamanın mı işi olmalı? Yani suçlu kişi yakalanmadan, kanun önüne çıkarılmadan ve hakkındaki hukuki hüküm yargıç tarafından yüzüne okunmadan bu tarz robotik sistemlerle hedeflenerek, öldürülebilir mi? Acaba ‘robotik sistemlerle suikast’ emri suçlu kişi yakalanmasına (ve dolayısı ile hakim önüne çıkarılmasına gerek kalmadan) sahadaki karar alıcı tarafından verilebilir mi? Taranis, Reaper, Predator, Heron gibi silahlı İHA’lara bakarsak bu sorunun cevabı teknik olarak ‘Evet.’

Aslında ABD’nin Dallas kentinde 5 polisin öldürüldüğü saldırı sonrası tam da bu 'etik' sorular gündeme geldi. Ülkede Afroamerikalıların polis şiddetine karşı gösteriler sürerken, kendisi Afganistan’da görev yapmış eski bir asker olan Micah Xavier Johnson’ın polislere ateş açtığı, 5 polisi öldürdüğü ve onlarcasını yaraladığı haberi gündeme bomba gibi düştü. Peki Johnson nasıl etkisiz hale getirildi? Johnson’un etrafı polislerle sarılmasına ve kaçma ihtimali çok düşük olmasına rağmen Johnson C4 patlayıcı taşıyan robotik bir sistem olan bir bomba arama robotu ile ‘uzaktan kumanda’ ile  havaya uçuruldu. İnsan hayatının ucuz olmadığı ABD’de suçlu bile olsa bir Amerikan vatandaşının hakim karşısına çıkarılmadan ‘suikast’ tarzı bir robotik sistem saldırısı ile ABD toprakları içinde öldürülmesi ülkede yoğun 'etik' tartışmalara sebep oldu. Böyle bir olay ABD’de ilk kez oluyor çünkü ABD’de polis ilk kez bir saldırganı öldürmek için robotik bir sistem kullandı. AP ajansına konuşan askeri uzmanlar, savaş bölgelerinde nadiren de olsa robotların düşmanı öldürmek için kullanıldığını söyledi. Dallas’ın Afroamerikalı emniyet müdürü David Brown “Bombalı robotu kullanmak dışında başka bir seçenek görmedik. Diğer seçenekler, polis memurlarını büyük tehlikeye sokacaktı” dedi.  Yani kendisine göre bu ölüm meşru bir ölümdü. Sizce Johnson’un bu şekilde öldürülmesi bir ‘suikast’ bir ‘yargısız infaz’ olarak nitelendirilebilir mi? Örneğin Johnson’un ailesi bu ölüm şekli ile ilgili hukuki bir süreç başlatsa sizce kimden davacı olmalılar? Robotu üreten şirketten mi, onu uzaktan komuta eden polisten mi yoksa emri veren emniyet müdüründen mi? Veya sorumu daha da karmaşıklaştırayım. Yakın gelecekte Taranis gibi tam otonom bir robotik sistemle ‘teknik bir hata’ sonucu yüksek değerlikli hedef yerine veya hedef yakınındaki bir ‘masum sivil’ öldürülse o masum sivilin yakınları sizce kimi mahkemeye verebilir? Sistem tam otonom olduğu için henüz görev başlamadan, görev anında ve sonrası insan müdahalesi yok. Sivilin de ölümü tamamen kaza diyelim. O halde hukuki sorumluluk kime ait: robotu tasarlayana mühendise mi, yapay zeka yazılımını yazan yazılımcıya mı, görev emrini imzalayan amire/komutana mı, robotun üsten çıkış iznini veren üs komutanına mı? Nerden baksanız karmaşık bir durum. Ama her geçen gün gerçekleşme olasılığı artıyor. Neden mi? Şu anda dünyada toplam 10 bine yakın mühendis ve yazılımcı harıl harıl tam otonom robotik sistemler geliştirmek için çalışıyor. En büyük müşterileri de tahmin edebileceğiniz gibi devletlerin istihbarat servisleri ve modern dünya orduları.

Şimdi tartışmayı biraz daha Türkiye’ye çekelim. Sizce Johnson’un öldürülmesinin bir benzeri Türkiye’de yaşansa örneğin. Yani Türkiye toprakları içinde ‘suçlu’, belki de onlarca kişiyi öldürmüş yüksek değerlikli bir hedef olan bir Türkiye vatandaşına bir robotik sistemle bir suikast (veya yargısız infaz) düzenlense sizin tepkiniz ne olur? ‘İyi olmuş’ deyip geçer misiniz yoksa tartışmayı biraz daha sürdürerek hukuki ve de ahlaki (etik) zeminde devam mı ettirirsiniz? Bu soru da kısa zamanda önem kazanacak çünkü Türkiye şu anda silahlı İHA kabiliyeti olan bir ülke olma yolunda hızla ilerliyor. Yakın zamanda Türkiye toprakları içinde ‘milli’ silahlı İHA’larımızın operasyonel görevlerle uçtuğunu göreceğiz. Peki bu silahlı İHA’ların terörle mücadelede de olsa Türkiye toprakları içinde ve Türkiye vatandaşlarına karşı kullanılması teknik olarak mümkün olsa da hukuken ve etik olarak da mümkün mü? Veya silahlı İHA alımı konusunda oldukça istekli olan Emniyet Genel Müdürlüğü X şehrinde banka soyup arabayla kaçarken iki de polis öldüren silahlı soygunculara karşı onları durdurmak (veya yok etmek) için silahlı İHA kullanabilir mi? Veya bir operasyondaki silahlı İHA’nın masum bir sivili öldürmesi sonrası cezai sorumluluk onu kullananda mı, emri veren komutan/amirde mi yoksa onu yapan mühendiste mi? Veya PKK’nın üst düzey lider kadrosuna yönelik tam otonom ‘suikast’ İHA’larını Kandil’e saldığımızı düşünün. Teknik olarak muhteşem neticeler alabilirsiniz ama ya hukuki ve etik açıdan bu doğru bir hal tarzı olur mu?

 İHA’lar olmak üzere robotik sistemler başta ABD, Çin, Almanya, İngiltere, Fransa, İsrail ve Rusya olmak üzere pek çok ülkenin dikkatini çekiyor. Örneğin, 2013 yılı itibariyle aktif olarak 23 ülkenin kullandığı İHA’lar, sınır güvenliği, hedef tespit ve takibi, keşif/gözetleme ve silahlı operasyonlar başta olmak üzere dünyanın pek çok yerinde kullanılmakta olup, İHA’larla ilgili küresel bütçe 2015 yılında 82 milyar dolara yükseldi. Peter W. Singer, durumu şu manidar cümlelerle özetliyor: “Beğenin ya da beğenmeyin İHA’lar artık askerlerin yerlerini alıyor ve sundukları düşük maliyetli çözümlerle Clausewitzçi paradigmayı ve savaşın geleneksel tanımlarını kökünden değiştiriyor.”

Sonuç olarak başta İHA’lar olmak üzere robotik sistemler askerî stratejinin ve kolluk hizmetlerinin geleneksel tanımlarını hayli zorluyor. Geleneksel anlamda strateji, “askerî yetenekleri, politikanın belirlediği stratejik hedeflere ulaşmak için en etkin şekilde kullanma sanatı” olarak tanımlanırken, İHA’ların ve diğer robotik sistemlerin askerî vasıta/araç olmayı çoktan aştığı görülüyor. Modern çatışma ortamlarında kendi gerçeklerini yaratan İHA’lar ve diğer robotik sistemler siyasi ve askerî karar alıcılara bu gerçeklikleri dayatmaya, yani “araç olmaktan çıkarak amaçlaşmaya” başlamış durumdalar. İHA’ların geleceğin muharebelerinde önemli bir kuvvet çarpanı olacağı kesin. Ancak yazının başında okuyucuya bırakılan ve oldukça derin bir etik boyut içeren soruya dönersek, İHA’ların bir yandan sunduğu çözümlerle stratejik karar alıcıların gözlerini kamaştırdığı, ancak diğer yandan yaratmış oldukları gerçeklik ile ilgili yoğun “etik” tartışmalara neden olduğunu söylemek pek de abartılı olmaz. Ünlü Fransız askerî filozof Paul Virilio’nun dediği gibi “İHA’lar çatışma ortamlarında tespit etme ile öldürme arasındaki zamanı öyle bir emmekte ki bu iki farklı eylemi tek bir eyleme dönüştürmekte, ikisi arasında değerlendirme yapmaya vakit bırakmamakta.

İHA’lar, muharebe sahasındaki hız ve tempo kavramlarına ilişkin geleneksel paradigmayı temelinden değiştiriyor. Hız ve “totaliter eğilimler” arasında pozitif bir ilişki olduğunu düşünen ve “Işık hızını demokratikleştirmek mümkün mü?” diye soran Virilio, aslında ışık hızındaki haberleşme ve yok etme yetenekleri ile çatışma alanlarında “zamanı emen” İHA’lar ve diğer robotik sistemler konusunda önemli bir tartışma zeminine de kapı aralıyor.   Umarım Türkiye’de de otonom olmayan, yarı-otonom ve tam otonom robotik sistemler konusunda teknoloji manyaklığı yanında sağlam hukuki, felsefik ve etik tartışmalar yaşanır. Çünkü araçlıktan çıkarak giderek ‘amaçlaşan’ ve kendi gerçekliğini üreten robotik sistemlerin ürettiği ölümcül güç ancak hukuk, felsefe ve ahlaki tartışmalarla ‘ehlilleştirilebilir’ ve ‘meşrulaştırılabilir.’

 

 

 

Yazarın Diğer Yazıları

Robot çağı jeopolitiği ve robotik askeri devrim

Modern dünya ordularının ve savunma sanayilerinin ‘teknoloji manyaklığı’nı ehlileştirmek için elimizde üç silah var: Siyaset, hukuk ve moral/etik

Suriye kuzeyinin PKK’nın dönüşümüne etkisi

YPG ile silahlı çatışmanın doğasının ve karakteristikleri, kesinlikle bundan önceki PKK ile gerçekleşenlere benzemeyecek

TSK’da Laiklik ve Hanımefendi’nin Şalı

"TSK’nın laiklik algısı ve dinle ilişkisi ne yazık ki sadece askeri değil aynı zamanda toplumu da tanımlayan sosyo-kültürel bir olgu"