Deepfake teknolojisi: "İçerik üretiminin geleceği" neden bu kadar tartışma yaratıyor?

Birkaç ay önce, Güney Kore'de yaşayan milyonlarca izleyici, günlük haber bültenini izlemek için MBN kanalını açtı.

Saat başında, sunucu Kim Joo-Ha her akşam olduğu gibi ekrandaydı ve her akşam olduğu gibi sıra ile haberleri aktarmaya başladı. Haberler de 2020 yılına uygun şekilde, Covid-19 salgını ve yürütülen mücadeleye ilişkindi.

Ve fakat bu bülten, sıradan olmaktan çok uzaktı çünkü Kim Joo-Ha o anda ekranda değildi. Yerine 'deepfake' teknolojisi ile üretilmiş versiyonu haberleri aktarıyordu. Bilgisayarda üretilen bu 'sahte' sunucu, ses, mimik ve surat ifadelerini mükemmel bir şekilde kopyalamıştı.

İzleyicilere daha önce bu gösterinin yapılacağı uyarısı yapılmıştı. Sonrasında yapılan araştırma ise izleyicilerin farklı yorumları olduğunu gösterdi. Bazı kişiler, elde edilen gerçeklik karşısında şaşkınlıklarını dile getirirken bazıları da gerçek Kim Joo-Ha'nın işini kaybetme tehlikesi içinde olduğunu kaydetti.

MBN kanalı, bazı son dakika haberlerinde deepfake teknolojisini kullanmaya devam edeceklerini açıkladı. Bu teknolojiyi üretebilen şirketlerden Güney Koreli Moneybrain, Çin ve ABD'de yeni ortaklık imkanları için temaslar yapıldığını duyurdu.

Çoğu insanın aklında, deepfake teknolojisi denildiğinde ünlü isimlerle ilgili videolar geliyor. Geçen hafta, Tom Cruise'un tıpkısının yer aldığı sahte video TikTok uygulamasında yayınlandıktan sonra dünyada manşetlere çıktı.

Genel kullanımda olan deepfake ismi üzerindeki olumsuz çağrışımlara karşın (insanlar sahte kelimesi ile yan yana gelmek istemiyor), bu teknoloji giderek artan şekilde ticari amaçla kullanılıyor.

'Bu, içerik üretiminin geleceği'

Sektörel dilde, 'yapay zeka ile üretilmiş videolar' veya 'sentetik medya' adı ile anılan bu teknoloji, haber, eğlence ve eğitim alanlarında büyük ilgi görüyor. Bunda, teknolojinin her geçen gün daha fazla geliştirilmesinin de payı var.

Londra merkezli Synthesia firması bu teknolojiyi, şirket içi eğitim videolarında kullanılmak üzere pazarlıyor.

Firmanın kurucularından Victor Riparbelli, "Bu, içerik üretiminin geleceği" ifadesini kullanıyor.

Synthesia'nın sisteminde, farklı avatar seçenekleri bulunuyor ve bunlara söyletmek istediğiniz mesajı yazdığınızda karşılığını alabiliyorsunuz.

Riparbelli, küresel şirketlerin bu sayede, şirket için eğitimlerde kullanılmak üzere farklı dillerde videoları çok kolay şekilde hazırlayabileceğini söylüyor:

"Diyelim ki Kuzey Amerika'da 3 bin depo çalışanınız var. Bunlardan bazıları İngilizce konuşuyor ama bazıları İspanyolcaya daha hakim. Onlarla bilgi amaçlı iletişim kurmak istiyorsanız, dört sayfalık bir pdf dokümanını önlerine koymanız çok yararlı olmayacaktır. 3 dakikalık İngilizce ve İspanyolca bir video daha verimli olacaktır.

"Eğer o videoların her birini çekmek zorunda olsanız bu hem maliyet hem iş yükü açısından zorlayıcı olur. Biz artık bunu, düşük bir masrafla ve metin yazmak için gereken süre kadar zamanda yapabiliyoruz. Bu, teknolojinin bugün nasıl kullanıldığını örneklendiriyor."

Ancak bir yapay zeka teknolojileri firması olan Veritone'un yöneticisi Chad Steelberg, kötü amaçlı deepfake kullanımı endişesi nedeniyle, meşru kullanım amacıyla yatırım yapacak firmaların da geri çekildiğini kaydediyor.

Deepfake'in sermaye yatırımı sektöründe olumsuz bir çağrışımı olduğunu söyleyen Steelberg, "Bu şirketlerin ve yatırımcıların bu teknolojinin üzerine atlamasını önlemiş olsa da bu algının kırılmaya başladığını görüyoruz" dedi.

Bir başka yapay zeka teknolojisi firması olan Modulate'in yöneticisi Mike Papas da, deepfake ve etik üzerine büyük tartışmaların yapıldığını ve insanların bunun üzerinde düşündüğünü vurguluyor.

Papas, yatırımcıların güveninin, teknolojinin etik kullanımı üzerine yapılan çalışmalarla arttığını söylüyor.

"Deepfake hakkında ne yapmalı?"

Deepfake teknolojisi üzerine uzman olan hukuk profesörü Lilian Edwards ise konunun bir başka önemli açısına işaret ediyor; videoların haklarının kimde olduğu…

Edwards tespitini detaylandırıyor:

"Eğer, aktör Steve McQueen veya rap yıldızı Tupac'ın böyle bir videoda kullanılması durumunda, ailenin bundan gelir kazanma hakkı olup olmadığına dair bir tartışma sürüyor. Bu şu anda ülkeden ülkeye değişiyor"

Virginia Üniversitesi'nde etik alanında çalışan bir profesör olan Deborah Johnson yakın zaman önce "Deepfake hakkında ne yapmalı?" İsminde bir kitap kaleme aldı.

Ona göre, deepfake, kurumlara ve görsel tecrübeye olan güveni azaltan ve daha büyük bir problem olan 'yanlış bilgi üretimi' sorununun bir parçası.

"Artık gördüğümüze ve duyduğumuza güvenmiyoruz" diyen Deborah Johnson, deepfake teknolojisi kullanılan videoların, yayınlanmadan, sahte olduklarının belirtilmesi gerektiğini söylüyor. Johnson, bu şekilde izleyicilerin korunabileceğini belirtiyor.

Soykırımdan kurtulan biri ve arka planda avatarı

Oxford Üniversitesi'nden profesör Sandra Wachter da deepfake teknolojisinin öne geçtiği düşüncesini dile getiriyor:

"Eğer geçen haftaki Tom Cruise videosunu izlediyseniz, bu teknolojinin ne kadar ilerlediğini görebilirsiniz. Dört sene önceki Obama videosundan çok daha gerçekçiydi.

"Bu teknolojiden çok fazla korkmamalıyız ve dengeli bir şekilde yaklaşmalıyız. Evet, intikam pornosu gibi kötü ve tehlikeli şeylere karşı yasalarımız olmalı. Ama örneğin hiciv ya da ifade özgürlüğü bağlamında üretilen deepfake videolara karşı da kategorik bir yasak getirmemeliyiz. Giderek artan şekilde ticari olarak kullanılmaları, geleceğe dair umut veriyor."

Yapay zeka ile üretilen videoların eğitim amaçlı kullanıldığı örneklerden biri California Üniversitesi, Soykırım Vakfı tarafından uygulamaya konuldu. Soykırımdan kurtulan 55 binden fazla kişinin tanıklığını barındıran vakıf, deepfake teknolojisi ile ziyaretçilerle ile kurtulanları bir araya getiriyor.

Tanıklığın Boyutları isimli proje ile ziyaretçilerin sorduğu sorulara, soykırımdan kurtulan ve daha önce röportaj yapılmış kişiler tarafından anlık yanıtlar verilmesi sağlanıyor.

Veritone'un yöneticisi Chad Steelberg, gelecekte bu teknoloji kullanarak torunların kaybettikleri aile yakınları ile konuşmasının sağlanabileceğini söylüyor ve devam ediyor: "Bu toplum anlamında çığır açıcı."