İnsanoğlu, dünya tarihi boyunca, binlerce yıldır çeşitli düzeyde teknolojik yenilikler peşinde koştu. Şimdi en son teknolojik geliştirme, “insan dilini anlamaya başlayan yapay zekâ (GenAI)” üzerinde çalışılıyor. Ancak bu sefer, bu teknolojiyi geliştirenlerin, daha önceki gelişmelerden hiçbirinde olmayan şaşırtıcı bir talebi var.

ABD'deki yapay zekâ şirketlerindeki çalışanlar, Amerikan Kongre'sinden kendilerine belirli bir ihbarcı koruması sağlamasını istiyor. Çünkü teknolojideki ilerlemelerin mevcut yasa kapsamında yasal olarak ifşa edemeyecekleri tehditler oluşturduğunu savunuyorlar.

Mevcut tehlikeler, deepfake videolardan ayrımcılık yapan algoritmalara kadar uzanıyor ve teknoloji hızla daha da karmaşıklaşıyor. Lessig, büyük teknoloji şirketlerinin ve “yapay zekâ girişimlerinin kendilerini denetleyebileceği” düşüncesini safça olarak nitelendirdi.

Yapay zekâ sivil hakları yasa tasarısı

Amerikan Kongresi önümüzdeki aylarda bu sorunu ele alabilir. Senatör Ed Markey, Eylül ayında ihbarcı ve misilleme karşıtı korumaları içeren bir yapay zekâ Sivil Hakları yasa tasarısı (S.5152) sundu.

Mevcut federal ihbarcı korumaları, vergi kaçırma, kara para aklama, yabancı rüşvet ve Medicare ve Medicaid dolandırıcılığıyla ilgili olanlar da dahil olmak üzere belirli kanunlarda mevcut.

2012 yılında UBS AG'ye karşı açılan vergi kaçırma davasında müvekkilinin 104 milyon dolarlık ihbarcı tazminatı kazanmasına yardımcı olan, Amerikan Ulusal İhbar Uzmanı avukat Stephen Kohn, Kongre'nin yapay zekâ ihbarcı haklarını oluşturması gerektiğini, çünkü kanun koyucular harekete geçmediğinde mahkemelerin harekete geçmekte isteksiz olacağını söyledi.

Uzun zamandır muhbir korumasını savunan Senatör Chuck Grassley, yapay zekâ gibi gelişen sektörlerde hesap verebilirliğin artırılmasının hayati önem taşıdığını söyledi. Senato muhbir meclisine ortak liderlik eden Grassley yasalardaki eksiklikleri gidermekten bahsetti:

"Kongre ve özel sektör, muhbir korumalarını güçlendirmek, çalışanların misilleme veya yasadışı kısıtlamalar korkusu olmadan korumalı ifşalar sağlayabilmelerini sağlamak için uyumlu bir şekilde çalışmalıdır."

Grassley, OpenAI'da olup bitenlere ve şirket içindeki gizlilik anlaşmalarının, güvenlik konuları hakkında konuşmak isteyenler için ne anlama geldiğine odaklandı. Ağustos ayında OpenAI CEO'su Sam Altman'a yazdığı mektupta şöyle dedi:

"Bu anlaşmaların çalışanlarınızın hükümet düzenleyicilerine korumalı açıklamalar yapmasını engelleyebileceğinden endişeleniyorum.”

OpenAI kaygıları bildirme politikası yayınladı

OpenAI sözcüsü Liz Bourgeois ise şu açıklamayı yaptı:

"Bu teknoloji hakkında sıkı bir tartışmanın gerekli olduğuna inanıyoruz. OpenAI'nin ihbarcı politikası, çalışanların ulusal, federal, eyalet veya yerel hükümet kurumları da dahil olmak üzere sorunları dile getirme haklarını korur. Daha önce paylaştığımız gibi, mayıs ayında tüm mevcut ve eski çalışanlar için karalama karşıtı hükümleri iptal ettik ve o zamandan beri belgelerimizi buna göre güncelledik."

Şirketin kamuoyuna açıkladığı "Kaygıları Bildirme Politikası" yapay zekâ güvenliği ve gizliliğini içeriyor. Ancak şirket, çalışanların kaygılarını dile getirmesi ile gizlilik anlaşmaları tarafından yasaklanan ticari sırları ifşa etmesi arasında bir çizgi çekti.

Yapay zekâ gelişmeleri engellenir mi?

Kaliforniya'da çalışanların konuşma hakkını koruyacak bir "yapay zekâ güvenliği” tasarısı Eylül ayında veto edildi. Vali Gavin Newsom, yasa tasarısının çok katı olduğunu savundu. Eski Temsilciler Meclisi Başkanı gibi önde gelen Kaliforniya Demokratları Nancy Pelosi ve teknoloji sektörü, bunun eyaletin yapay zekâ alanındaki liderliğine zarar verebileceğini söyleyerek yasa tasarısına karşı çıktı.

Federal ihbarcı korumaları talep eden teknoloji çalışanları, yapay zekânın hızlı gelişimiyle ortaya çıkan bazı sorunları kapsamayacak yasaları öne sürdüler. Örneğin, şirketin nefret söylemi, yanlış bilgilendirme ve ürünlerinin çocuklar üzerindeki etkileriyle ilgili uygulamaları konusunda alarma geçen eski bir Facebook çalışanı olan Frances Haugen, Menkul Kıymetler ve Borsa Komisyonu aracılığıyla sunulan ihbarcı korumalarını kullandı. Facebook'un yatırımcıları yanılttığını iddia etti.

Eylül ayında Senato alt komitesinde yapılan bir duruşmada, yapay zekâ konularında çalışan eski çalışanlar, milletvekillerini harekete geçmeye zorladı.

Google'da eski bir araştırma görevlisi olan Margaret Mitchell şöyle diyor:

"Esasında, ihbarda bulunmayı düşünüyorsanız, avukatları olan ve en ufak bir yanlış harekette bile size zarar vermek üzere kurulmuş bir şirkete karşı tek başınızasınız."

CEO Sam Altman'ın kovulup ardından tekrar işe alınmasının ardından Kasım 2023'te OpenAI yönetim kurulundan istifa eden Helen Toner, birçok çalışan için mevcut ihbarcı uygulamalarının geçerli olup olmadığının belirsiz olduğunu söyledi.

"Eğer bir muhbirseniz, yani bu şirketlerden birinin içinde oturan potansiyel bir muhbirseniz, 'Peki, bu SEC'in beni koruyacağı kadar büyük bir mali sorun mu?' diye tahminde bulunmak istemezsiniz."

Yapay zekâ ve etik

Günümüzün en önemli tartışma konularından birisi bu. Hem ekim ayında konuşmacı olarak katıldığım Türk İstatistik Derneği’nin “Ulusal Veri Bilimi ve istatistik Kongresi”nde, hem de Boğaziçi Üniversitesi’nde düzenlenen Sürdürülebilirlik ve İnovasyon Zirvesi'nde temel konulardan birisi buydu.

Neden? Çünkü OpenAI'ın CEO'su Sam Altman'ın kovulduğu 18 kasım 2023'den itibaren konuya yakın olanların farkettiği konu şu; yapay zekâ, internetle yaratılan “dijital uçurum”un çok daha derin bir başka boyutu haline gelebilecek.

Sam Altman’ı görevden alanlar arasında 2 kadın yönetim kurulu üyesi Helen Toner ve Tasha McCauley, şirkete “kâr amacı güdülmeyen kuruluş” olduğu zamanda katılmışlardı. Yönetim Kurulu, Sam Altman'ın yapay zekâ gelişmeleri konusunda bilgi vermemesinden rahatsız olmuşlardı.

Ayrıca kovulmayı başlatan Ilya Sutskever ve bu 2 üye Silikon Vadisinin “Etkili Faydacılık (EA)” olarak tanımlanan felsefesine inanıyorlar. Sutskever önemli bir yapay zekâcı olarak, daha sonra yeni yönetim kurulunda da yer alsa da, diğer önemli bir yapay zekâcı olan Jan Like ile birlikte, OpenAI'ın Yapay zekâ Riskleri Bölümünü Kapatmasıyla birlikte şirketten istifa ettiler. Sutskever herhangi bir açıklama yapmadı ama Leike X mesajı ile bazı şeyler söyleyince, Altman ve Greg Brockman cevap yetiştirdiler.

Özetle bu “etik” ya da “yapay zekânın kuralları” konusu çok fazla endişe topluyor. Bu konudaki 2 karşıt felsefeden birisi yani"e/acc" ile özetlenen “Etkili Hızlandırmacılık”, yapay zekânın önüne hiçbir şeyin geçmemesi gerektiğini söylüyor ve geliştirmelerin son sürat yapılmasını istiyor. "EA" ile kısaltılan “Etkili Faydacılık” ise yapay zekâdaki gelişmelerin insanlık yararını öne alarak yani kuralların belirlenerek yapılması gerektiğini söylüyor.

Haberin başlığındaki “ihbarcı koruması” da bu nedenle önemli. Yapay zekâ firmalarındaki bazı çalışanlar da, şeffaf olmayan çalışmaların içinden sesleniyorlar ve bazı tehlikeler konusunda uyarı yapmak istediklerine işaret ediyorlar. Daha önce hiç olmayan bir şey. Yani hiçbir teknoloji geliştirilirken, geliştirenler bu tür bir “ihbar edebilme” hakkı ve “koruma” talep etmediler. Dolayısıyla olayın önemini varın siz düşünün.