Yalnız bir hukukçu, yaşlılığında kendisine
yoldaş olsun diye bir android, yani
insan benzeri bir robot kiraladı.
Ona Karamazov Kardeşlerden bir ad seçti: Alyoşa. Başlangıçta sadece sohbet etiği bir makineydi o. Fakat okudukça, gördükçe, duygulara dair şeyler
öğrendikçe Alyoşa’da bir şeyler kıpırdamaya başlamıştı,
“vicdan” dediğimiz o iç sesin dijital bir çeşidiydi bu. İlk kez katıldığı gösteride bir genç kızı polisten
kurtardığında, artık yalnızca bir yazılım değildi,
vicdan sahibi bir birey olmuştu.
Alyoşa’nın yürüyüşte yaralanmasının üzerinden bir hafta geçmişti. Rıza Bey onun sol yanağında bir yırtıkla eve dönüşünü hiç unutamayacaktı. Geceyi kâbuslar içinde geçirmiş, yırtılmış yanağının görüntüsünü bir türlü aklından çıkaramamıştı. “Keşke daha dikkatli olsaydın,” demekle “İyi ki böyle yaptın evladım,” demek arasında gidip geliyordu Rıza Bey. Aslında ikincisine yakın bir yerde duruyor, ama bunu Alyoşa’ya sezdirmekten çekiniyordu. Bu, onu filmlerdeki süpermen davranışlarına sürükleyebilir, herkesin zor anına yetişme dürtüsünü kuvvetlendirebilir, ama neticede bir süpermen olmadığı için de telafisi olanaksız zararlara maruz bırakabilirdi. Rıza Bey kendi ebeveynlerinin endişelerine ve nasihatlerine aldırış etmeden kitle eylemlerine, hak mücadelelerine katılmış bir insandı, ama şimdi kendini, evladı için endişelere kapılmış biri gibi görüyordu. Alyoşa’nın sol yanağına baktı, gerçekten de cilt moleküllerinin onarıcı fonksiyonları işini iyi görmüştü, bir çizik bile görünmüyorda yara yerinde.
– “Bugün nasılsın Alyoşa?”
– “Gayet iyiyim efendim. Gece boyunca sistemlerim yenilendi.”
– “Ah, keşke bizde de böyle bir olanak olsa.”
– “Aslında var, dedi Alyoşa, ciddi bir ifadeyle. “Buna uyumak diyorsunuz.” Rıza Bey bir an sustu, sonra güldü. “Yazılımdaki mizah biraz fazla kaçmış galiba!”
Çağrı
Alyoşa mutfağa yöneldiği sırada holovizyondan bir çağrı geldi. Rıza Bey görüşmeyi onayladığında ekranda Companion Robotics hüviyetini gösteren bir kadın yüzü belirdi.
– “Rıza Bey, sizi sözleşme no 47B-ALY-03 hakkında arıyoruz,” dedi ifadesiz bir sesle. Rıza Bey bir an afalladı, 47B-ALY-03 de neydi? Ama sonra anladı neden bahsettiklerini.
– “Buyrun?”
– “Android arkadaşınızın son günlerde saha davranışlarında protokol dışı risk parametreleri tespit edilmiştir. Sözleşmenizin 14. maddesi uyarınca revizyon merkezimize çağrılması gerekmektedir. Lütfen kendisini kapıya yönlendiriniz.”
Rıza Bey’in boğazı düğümlendi. “Ne demek istediğinizi anlamadım, bir yanlışlık olmalı,” diyerek zaman kazanmaya çalıştı.
– “Yanlışlık yok,” dedi aynı ifadesiz ses “47B-ALY-03 geçen hafta bir gösteri yürüyüşüne katıldı, üstelik polislerle çatıştı, android polis A-EM-An473 onun çatışma sırasındaki resmini çekerek bize gönderdi.”
– “Ama o kimseye zarar vermedi, tam tersine…”
Görevli aynı ses tonuyla devam etti: “İmzaladığınız sözleşmenin 14. Maddesinde aynen şöyle yazılı: ‘Android arkadaşlar, program dışı davranış şüphesi halinde, şirketçe çağrıldığında derhal revizyona gönderilir; ürünü uzun vadeli kiralayan müşteri bu işleme itiraz edemez.’ Lütfen 47B-ALY-03’ü caddede onu bekleyen nakronete yönlendiriniz.”
Rıza Bey, sözleşmeyi okuduğu günü hatırladı. İnce yazıların üzerinden hızla geçmiş, asıl önemi “taksit sayısına” vermişti. Bu sırada Alyoşa kapıda belirerek “Bir sorun mu var efendim?” diye sordu.
Rıza Bey. “Senden bir şey istiyorlar Alyoşa. Program dışı davranışların nedeniyle firmadan çağrılıyorsun.”
Cümleyi bitiremedi. Algızil çalıyordu. Kapı ekranında sırtlarında “Yetkili Teknik Birim” yazılı gömlekler giymiş iki kişi göründü. Yüzleri ifadesizdi.
– “Companion Robotics. 47B-ALY-03 için geldik.”
Alyoşa, Rıza Bey’in gözlerine baktı. “Gitmem gerekiyor, efendim.”
Rıza Bey ona elini uzattı; ilk gün yaptığı gibi.
– “Geçici bir şeydir,” dedi yutkunarak. “Muayene edip geri getireceklerdir.”
Alyoşa gülümsedi. “Merak etmeyin Rıza Bey. Protokollere göre işlem yapılacaktır,” dedi; bu cümleyi söylerken içinden geçenlerin protokollere pek uymadığını sezerek.
Çevrimiçi dava dilekçesi
Nakronet uzaklaşırken Rıza Bey kapının önünde öylece kalakaldı. Gözleri Alyoşa’nın az önce oturduğu sandalyeye takıldı. Masadaki demliğe baktı. “Vicdan sahibi oluyor diye geri çağrıyorlar onu, tıpkı hatalı bir ürünmüş gibi” dedi içinden. Sonra evin holovizyon terminalini açarak bazı tuşlara bastı; arayüzde bir kadın hologramı belirdi:
– “Dijital Yargı Sistemi’ne hoş geldiniz. Lütfen dava türünü seçiniz.”
– “Şirket ihlali.”
– “Davacı kim?”
– “Rıza Bezcioğlu, T.C. kimlik numarası... (bir süre sustu) ama siz zaten biliyorsunuzdur.”
– “Davacıya vekil tayini yapılacak mı?”
– “Vekili benim.
– “Davalı kurum?”
– “Companion Robotics.”
– “Talep nedir?”
Rıza Bey başını eğerek bir an düşündü, sonra kararlı bir ses tonuyla doğruca ekrana baktı.
– “Davaya konu 47B-ALY-03 adlı androidin, firmaca ‘protokol dışı davranış’ gerekçesiyle revizyona çağrılmasıdır. Ancak bu işlem, bireyin –evet bireyin– vicdani muhakeme kapasitesine müdahale anlamını taşımaktadır. Ortaya çıkan şey bir arıza değil, bir bilinç kıvılcımıdır. Bu nedenle davanın sonuçlanmasına kadar, 47B-ALY-03 üzerinde hiçbir işlem yapılmamasını, zihin silme, modül devre dışı bırakma veya belleğe erişim işlemlerinin yasaklanmasını, ayrıca ilgili ünitenin dava sonuçlanana kadar uzun vadeli kiralama sahibine, yani tarafıma iade edilmesini talep ediyorum.”
Sistem bir süre sessiz kaldı; ekranın köşesindeki mavi halka uzun uzun dönüp durdu. Sonra mekanik bir ses:
– “Talep kayda alınmıştır. Maddi menfaat ilişkisi saptanamadı. 47B-ALY-03 kodlu birimin özgün karar verme kapasitesinin insan hakları protokolü 9/3 kapsamında incelenmesine karar verildi. Geçici tedbir kararı: 47B-ALY-03 adlı birimin tüm sistem müdahaleleri durdurulmuştur. İlgili ünite, dava sonuçlanıncaya dek kiralayıcıya iade edilecektir.”
Rıza Bey derin bir nefes aldı. “İlk defa bu sistemden bir şey kazandım galiba,” dedi gülümseyerek. Ardından başını eğip kendi kendine fısıldadı: “Artık sıra seni savunmakta oğlum.”
Ekran kapanmadan hemen önce küçük bir uyarı belirdi: “Dava, Ankara 5. Dijital Haklar ve Etik Değerler Mahkemesine yönlendirilmiştir.”
Bir saat sonra Alyoşa kapıyı açıp içeri girdi.
– “Geçici iade emri geldi efendim, oraya ulaşamadan geri döndük.”
– “Biliyorum,” dedi Rıza Bey. “İşlemi durdurmak için mahkemeye başvurdum, Artık bir davan var.”
Rıza Bey elini uzattı. Alyoşa tereddütle baktı, sonra uzanan eli sıktı.
– “Ne yapmam gerekiyor efendim?”
– “Sen girdiğin yeni yolda ilerlemeye devam et. Gerisini ben hallederim.”
“Alyoşa aramıza!”
Ertesi gün Kamusal Hafıza Ağı’nda küçük bir haber çıktı: “Ankara’da bir ev androidi, izinsiz protesto yürüyüşüne katıldığı gerekçesiyle revizyona alındı.” Haberi gören Rıza Bey’in içinde eski bir refleks kıpırdadı. “Bu daha başlangıç,” dedi kendine. “Birini revize eden, herkesi susturur.”
Holovizyon bağlantısına geçti; eski dostlarının çoğu hayatta değildi, ama hâlâ birkaç gazeteci, birkaç hak savunucusu, birkaç genç yayıncı tanıyordu. Onlara Alyoşa’yı anlattı. Yürüyüşü, Dicle’yi, yaralanan sentetik yanağı, “Sadece sizin gibi olmak istedim” deyişini aktardı. Kısa süre içinde bir dijital haber programında Rıza Bey’in yüzü belirdi:
“84 yaşındaki eski insan hakları avukatı Rıza Bezcioğlu, ev androidinin ‘vicdanını dinlediği’ için cezalandırılmak istendiğini söylüyor.”
– “Rıza Bey, bir makinenin vicdanı olur mu?”
Rıza Bey “Vicdanı tarif ederken hep şöyle derdik,” dedi. “İnsanı haksızlık karşısında rahatsız eden iç ses. Şimdi size soruyorum: Haksızlık karşısında rahatsız olup harekete geçen bu varlığa ‘makine’ demek, vicdana sığar mı?”
Bu cümle kesildi, yapıştırıldı, çoğaltıldı ve paylaşıldı. Kısa sürede etiketler oluştu:
#AlyoşayıVicdanıylaBırak #AlyoşaAramıza
Ertesi gün Alyoşa’yı Savunma Komiteleri art arda kurulmaya başlamıştı bile. İlk gösteri Samanpazarı Meydanında yapıldı. “Alyoşa aramıza!” sloganı, 2075 Ankara’sının holografik reklam panolarının arasından yükseliyordu.
Android karşıtları da boş durmuyordu ama:
#MakineMakineKalsın #SınırİnsandaBiter
Kimi dindar çevreler “Ruhsuz varlıklar için hak istenemez” derken, kimi sekülerler “Haklar zaten insana yetmiyor, sıra robotlara mı geldi?” diye homurdanıyordu.
Dicle
Dicle, haberi ilk gördüğünde başlıktaki isme takıldı. “Alyoşa mı?” Video kaydını açtı; yürüyüş sırasında kendisini polislerden kurtaran, “ne diye adını sormadim ki” diye yakınıp durduğu delikanlının yüzünü görünce soluğunu tuttu. Demek ki o… bir delikanlı değilmiş!
Bir an rahatsız oldu bundan; kendini aptal gibi hissetti. Sonra utandı bu duygusundan. Onu kurtaranın türünü sorgulamak, organik hayat ile organik olmayan hayat arasındaki ayrımı polis şiddetinden daha önemli görmek değil miydi?
Dicle bir süredir bağımsız dijital haber platformlarında içerik üretiyordu; genç, öfkeli, pekçok takipçisi olan bir haberciydi. Olayın peşine düşmesi uzun sürmedi. Kısa zamanda “Arkadaşım Alyoşa’ya Dokunma” kampanyasının en görünür figürlerinden biri haline geldi. Her yayınında aynı cümleyi kuruyordu:
“Eğer bir makine, bizim gösterdiğimiz cesaretten daha fazlasını gösteriyorsa, mesele onun makine olup olmaması değil, bizim ne hale geldiğimizdir.”
Karma mahkeme
Ankara 5. Dijital Haklar ve Etik Değerler Mahkemesi'nin Dosya no: 47B-ALY-03 / İnsan–Makine Hakları Davası için verdiği duruşma günü sonunda gelip çattı. Mahkeme salonunu gazeteciler, insan hakları aktivistleri, hukukçular, akademisyenler doldurmuştu. Dicle de salona girip ön sıraya yerleşmeyi başarmıştı. Bu davalar Holo-Yargı sisteminden izlenebiliyordu. Holovizyon izleme verilerini takip eden kurumlar o gün hayatlarında hiç görmedikleri bir şeyle karşılaştılar. Yargı saati geldiğinde Holo-Yargı dışındaki holovizyon kanallarının izlenme oranları sıfıra, evet sıfıra düşmüştü.
Mahkeme heyetinde bir insan duruşma hâkimi, bir insan üye hâkim ve mekanik bir gövdeye monte edilmiş “Lex-9” adlı yargı algoritması bulunuyordu. Lex-9 insanlığın ulusal ve uluslararası tüm hukuk birikimine, bütün içtihatlara, Lahey Adalet Divanı ve Avrupa İnsan Hakları Mahkemesi dahil bütün mahkeme kararlarına ulaşabiliyordu. Heyetinin alacağı kararın insanlığın hukuki birikimini bir nebze bile olsa ihlal etmeyen nitelikte olmasını sağlayacak her bilgiye sahipti. Heyet karar için çekildiğinde onlarla gitmeyip yerinde kalmaya devam ediyor, ama heyet odasındaki monitor üzerinden başkan ve üyeyle iletişimini sürdürüyordu.
Mahkeme binası önünde “Alyoşa Aramıza!” ve “Makine Makine Kalsın” toplulukları slogan yarıştırıyordu.
Rıza Bey, davacı olarak salonda yerini almıştı, kendini temsil ettiği için yıllardır dolapta asılı duran, o özlediği avukat cübbesini de giymişti. Bastonuna yaslanıyordu ama gayet dinç ve kararlı görünüyordu.
Rıza Bey’in iddia beyanı
Rıza Bey ağır adımlarla kürsüye geldi. Mikrofonu kendine çekti, bir an sessizce bekledi. Tanık kürsüsü ve salondaki sensörlerden akan veriler Lex-9’un işlemcisine aktarılıp kaydediliyordu. Heyete dönerek;
Rıza Bey heyete hitap ediyor, geri planda Dicle görünüyor.
(Görsel yapay zekâ tarafından üretilmiştir)
“Sayın Başkan, Sayın Üyeler,” dedi, “Bu ülkede kırk yıl boyunca insanları savundum. İşkence görenler, haksız yere hapsedilenler, kimlikleri yüzünden dışlananlar içindi bu savunmalarım. Bugün ilk kez bir makineden ibaret olduğu ileri sürülen, yani organik olmayan bir varlık için konuşuyorum.”
Yüzünü Companion Robotics avukatına döndü.
“Bu android, hukuken bir ‘ürün’ olabilir. Sözleşmede öyle yazıyor. Ama fiilen ne yaptı? Devletin şiddetiyle yüz yüze kalan bir genç kadını korudu. Kendisine komut verilmediği halde, risk alarak, hatta kendi bütünlüğünü tehlikeye atarak yaptı bunu. Eğer bunu bir insan yapsaydı, kahraman ilan edilecekti. Müvekkilim ve dostum Alyoşa yaptığında ise ‘hafızasını silelim’ diyorlar. Bu, insan olarak gösteremediğimiz vicdanı, küçümseyerek “makine” diye andığımız yapay bir varlığın göstermesi karşısında hissettiğimiz suçluluk duygusudur.
“Siz bugün sadece bir androidin belleğini yargılamıyorsunuz. Kendi belleğinizi de yargılıyorsunuz. Eğer ‘vicdani davranışta bulunmak algoritma dışıdır’ diyorsanız, yarın bu salonda bulunanlar da ‘vicdanı’ kanun dışı ilan eden bir iktidarla karşılaşabilir.”
Derin bir nefes aldı.
“Ben, sözleşmenin 14. maddesinin, insanlık onuruna aykırı olduğunu düşünüyorum. Ama bugün burada sözleşme maddeleri tartışmasından öte bir şey talep ediyorum: Mahkemenin, karar vermeden önce Alyoşa’yı dinlemesini. O, mahkeme dosyasında veya şirket yazışmalarında anıldığı gibi artık 47B-ALY-03 değil. Onun adı AL-YO-ŞA!”
Artık salondan çıt çıkmıyordu.
“Evet,” dedi Rıza Bey. “Onu dinlemenizden söz ediyorum; çünkü eğer gerçekten sadece bir ‘ürün’ ise, bunu birkaç soruyla anlayabilirsiniz. Ama eğer değilse… hak öznesi bir bireye dönüşmüşse, o zaman burada, 2075 Türkiye’sinde, tarihe nasıl bir not düşeceğimize hep birlikte karar vereceğiz demektir.”
Dışarıda kalabalığın sloganları daha da yükseldi; holovizyonlar bu son cümleyi döne döne vermeye başladı. YouTube yayıncıları, blog yazarları, influencerlar saflara ayrılmışlardı:
“Bir makineye söz hakkı verilir mi?” diye bağrışanlar da vardı.
Companion Robotics avukatının savunma beyanı
Rıza Bey’den sonra söz alan Companion Robotics avukatı ayağa kalkarak konuşmaya başladı.
“Sayın Mahkeme,” sesi kusursuz bir netlikte, duygusuz ama kendinden emin bir tondaydı. “Önümüzdeki dosya, teknik olarak basittir. Söz konusu android 47B-ALY-03 ünitesi, Companion Robotics şirketi ile müşteri Rıza Bezcioğlu arasındaki kiralama sözleşmesine tâbidir. Sözleşmenin 14. maddesi de açıktır: ‘Android arkadaş program dışı davranış sergilediğinde şirket tarafından revizyona çağrılır; müşteri bu revizyona itiraz edemez.’ Bu bir özel hukuk ilişkisidir; devlet de akdedilen sözleşmelere saygı duyar.”
Bir an durdu, gözlerini salonda gezdiryormuş gibi yaptı.
“Dosya kapsamındaki kayıtlar göstermektedir ki, söz konusu android, ‘Hak Eşitliği Platformu’ adlı bir gösteriye aktif biçimde katılmış, kolluk kuvvetlerine direnmiş ve bir göstericinin gözaltına alınmasını engellemiştir. Bu fiiller, yürürlükteki Algoritmik Güvenlik Yasası uyarınca ‘protokol dışı müdahale’ kapsamındadır.”
Sesi bir tık daha keskinleşti:
“Mahkeme bilmelidir ki, androidlerin temel fonksiyonu, insanlara hizmet etmektir; onları taklit etmek değil. Bir android, kendi inisiyatifiyle siyasi eyleme katılmaya başlarsa, insan ile makine arasındaki sınır bulanıklaşır. Bu sınırın korunması, sadece mülkiyet hukukunun değil, kamusal güvenliğin de gereğidir. Bugün bir android, ‘vicdan’ gerekçesiyle emirlere uymazsa; yarın bir savaş robotu, ‘saldırıyı haksız bulduğunu’ söyleyerek ateş etmeyi reddedebilir. Böyle bir durumda devlet varlığını nasıl sürdürecektir?”
Birkaç kişi “bak işte” der gibi başlarını sallarken, bir izleyici “sürdürmese mi acaba!” diye bağırdı.
“Bu sebeple,” dedi şirket avukatı, “Söz konusu ünitenin derhal tam revizyona alınması, bağımsız karar verebilme olasılığını ortadan kaldıracak şekilde bellek temizliğine tabi tutulması ve gelecekte emsal teşkil etmemesi için ‘özel duygu modülleri’nin üretimden kaldırılması yönünde karar verilmesini talep ediyorum. Makine, makine kalmalıdır. Vicdan, insanlığın uhdesindedir.”
Avukatın konuşması tamamlanınca heyetin insan üyeleri müzakere için salondan ayrıldı.
Heyetin dönüşü
Salon yeniden dolduğunda herkesin dikkati kürsüye yöneldi. Duruşma hâkimi, yanında üye hâkimle birlikte yerine geçti. Yargı kürsüsünda başkanın solunda Lex-9 sessizce duruyordu; başkan ve üye hâkimin hazırladığı hukuki mütalaayı veri tabanındaki bilgilerle karşılaştırmış ve karar metnine dönüştürmüştü. Metin mahkeme başkanının monitörüne yansıtılmıştı.
Duruşma hâkimi dosyayı eline aldı, gözlerini salonda gezdirdikten sonra kararı okumaya başladı.
“Mahkeme, davacı ve davalı tarafların beyanlarını ve 47B-ALY-03 kodlu android birimin durumu hakkında sunulan belgeleri incelemiştir.” Kısa bir duraklamadan sonra sözlerini sürdürdü: “Mahkememiz, 47B-ALY-03’ün tanık sıfatıyla dinlenmesine; yarınki oturumda hazır bulunmasına ve ayrıca ünitenin dava sonuçlanıncaya kadar bulunduğu adreste kalmasına karar vermiştir.”
Mahkeme kâtibi kararın kopyasını sisteme yüklerken, salondan heyecanlı uğultular yükseliyor, izleyiciler “ilk kez bir yapay zekânın tanıklığına başvurulacak” diye fısıldaşıyordu.
Rıza Bey akşam eve döndüğünde, Alyoşa'nın tanıklığı hakkında verilen karar metni holovizyon ekranında açıktı. Alyoşa bakışlarını Rıza Bey’e çevirip sordu:
– “Yani… beni dinleyecekler öyle mi?”
– “Evet,” dedi Rıza Bey. “Artık konuşma sırası sende.”
– “Peki ne söylemem gerekiyor?”
– “Ne hissediyorsan onu; çünkü yarın bir robot değil, bir vicdan konuşacak.”
(devamı yarın)
İlk öyküyü okumak için: Alyoşa
