13 Ekim 2024

Hopfield ve Hinton

Bunca görüş içinde değişmeyen tek şey, Hopfield ve Hinton'un şu an sahip olduğumuz teknolojilerin gelişmesini sağlayan işlere imza atarak insanlığa katkı sağlayan iki araştırmacı olduğu...

2024 Nobel Fizik Ödülü'nü "makine öğrenimi" çalışmalarından dolayı Hopfield ve Hinton kazandı

1896 yılında hayatını kaybeden İsveçli bilim insanı Alfred Nobel, 1895 yılında yazmış olduğu vasiyetinde, kendi ifadesiyle "insanlığa en büyük faydayı sağlayan" kişi/kişilere ödül verilmesi amacıyla kendi adına bir vakfın kurulması için servetinin büyük bir kısmını bağışlamıştı. Bu vasiyet üzerine oluşturulan ödül, bugün bilim dünyasının Oscar’ı olarak kabul edilebilecek olan Nobel Ödülü olarak adlandırılıyor.  Nobel’in vasiyeti üzerindeki yasal süreçler nedeniyle, bu ödül 1901 yılında fizik, kimya, tıp, edebiyat ve barış alanlarında ilk defa başlandı.

Nobel sadece ödül verilmesini değil, ödülleri kazanacakların belirlenme şeklini de vasiyetinde belirtmişti. (1969’dan itibaren ekonomi alanında da Nobel ödülü verilmeye başlandı.) Buna göre fizik ve kimya ödüllerinin İsveç Kraliyet Bilimler Akademisi tarafından verilmesi kararlaştırılırken, edebiyat ödülü İsveç Akademisi tarafından, fizyoloji veya tıp alanındaki ödüller ise Karolinska Enstitüsü tarafından verilmektedir. Nobel Barış Ödülü’nün ise, İsveç ile o dönem bir birlik içinde olan Norveç parlamentosu tarafından takdim edilmesi istenmiştir.

Her yıl Nobel’in ölüm yıldönümü olan 10 Aralık’ta düzenlenen törenle sahiplerine verilen Nobel Ödülü'nün 2024 yılı kazananları bu hafta içinde duyuruldu ve özellikle Fizik ödüllerinin açıklanmasıyla yine gündem oldu.

2024 yılı Fizik Ödülleri, yapay sinir ağları ve yapay öğrenmeyi mümkün kılan ve anlamayı sağlayan temel algoritmalar üzerine fizik disiplini bakış açısıyla yaptıkları çalışmalar nedeniyle, Princeton Üniversitesi’nden John Hopfield ve Toronto Üniversitesi’nden Geoffrey Hinton'a verildi. Ödülün “doğrudan” fizik ile ilgili bir çalışmaya verilmemesi de tartışmaları başlattı elbette.

Ödülü veren İsveç Kraliyet Bilimler Akademisi Nobel Fizik Komitesi Başkanı Ellen Moons, yapay zekânın Nobel Fizik Ödülü'ne layık görülecek bir alan gibi görünmese de öğrenme yeteneğine sahip sinir ağlarının keşfi ve bunların uygulamalarının fizik ile yakın ilişki içinde olan alanlarda büyük önem taşıdığını ifade etti. Ancak bu açıklama da tartışmaları sönümlendirmiş gibi görünmüyor, gözlemlediğim kadarıyla. Fakat yapay zekâ alanında çalışan bir araştırmacı olarak, bu ödülün beni mutlu ettiğini ve heyecanlandırdığını söylemeden edemeyeceğim.

Peki Hopfield ve Hinton neden bu ödülü almıştı? Hangi çalışmaları yapay zekâ alanında bu denli çığır açtı?

1982 yılında fizik bilimse altyapısına sahip bir biyolog olarak Hopfield, sanal nöronlar arasındaki bağlantıları fiziksel kuvvetler olarak tanımlayan bir ağ modeli geliştirdi. Tüm nöronların birbirleriyle bağlı olduğu bu modelde ağlar, bilgi parçalarını hafızalarında saklayabilme, eksik ve/veya bozulmuş verilerden orijinal bilgiyi geri getirme yeteneğine sahiplerdi. İlişkilendirmeli bellek (associative memory) olarak adlandırılan bu yetenek, beynin bir sözcüğü veya kavramı, ilgili bilgiler temelinde hatırlama şekline benziyordu.

John Hopfield

Yine bu ağ modelinde nöronlar, diğer nöronların durumlarına bakarak kendi durumlarını güncelliyor, böylece ağ zaman içinde saklanan bir desene yakın bir duruma ulaşıyor. Örneğin, bulanık veya eksik bir görüntü verildiğinde, Hopfield ağı bu görüntünün net ve tam halini hatırlayabilir. Bu ağlar, beynimizin nasıl anıları sakladığı ve hatırladığı konusunda basit bir model sunar ve nöronlar arasındaki bağlantıların gücünü kullanarak bilgi depolar ve geri çağırırlar.

Öte yandan, bir bilgisayar mühendisi olan Geoffrey Hinton ise yapay zekâ alanındaki en popüler isimlerden biri, belki de en popüleri. Öyle ki, yaptığı çalışmalardan dolayı kimileri Hinton’u zaman zaman yapay zekânın kurucusu olarak adlandırıyor. Yapay zekanın en dikkat çeken isimlerinden ve ayrıca Alex Krizhevsky ve Ilya Sutskever gibi araştırmacıların da hocası olan Hinton, kendisine verilen Nobel Ödülü'nden önce, geçtiğimiz sene yapay zekânın kötü niyetli kişiler veya hükümetler tarafından savaşlarda veya seçimleri manipüle etmek için kullanılabileceği konusunda endişelerini dile getirmişti. Bu endişelerinin, o dönem çalıştığı Google'ın ticari çıkarlarıyla çatışabilme ihtimali dolayısıyla Google'dan istifa etmesiyle de gündem olmuştu.

Geoffrey Hinton

Hopfield’in aksine, Hinton'u tek bir çalışma ile nitelemek güç, çünkü yapay zekâ alanında pek çok önemli gelişmenin altında imzası var. Ancak ona yapay zekanın kurucusu unvanını getiren şey ise bugün tüm yapay sinir ağlarının temelinde yer alan bir öğrenme metodu olan geri yayılım (backpropagation) yönteminin geliştiricilerinden biri olmasıdır. Bu yaklaşımda ağ modeli, yaptığı tahminlerle gerçek değerler arasındaki farkı (hata) hesaplar. Daha sonra bu hatayı azaltmak için ağdaki bağlantıların ağırlıklarını geriye doğru ayarlar. Bu süreç, nöronların birbirleriyle olan bağlantı güçlerini değiştirerek daha doğru sonuçlar elde etmeyi sağlar. İnsan beynine benzer şekilde, bu mekanizma deneyimlerden öğrenme ve hatalardan ders alma prensibine dayanır. Örneğin, bir çocuk yeni bir şey öğrenirken yaptığı hataları fark eder ve bir sonraki seferde bu hataları düzeltmeye çalışır. Hinton’un geliştirdiği geri yayılım algoritması da yapay sinir ağlarının benzer şekilde hatalardan öğrenmesini ve performansını geliştirmesini sağlar. Bu yöntem, yukarıda da ifade ettiğim gibi günümüzde derin öğrenme ve yapay zekâ uygulamalarının temelini oluşturmaktadır.

Her ne kadar görüş ayrılıkları olsa da, enerji gevşemesi ve kayıp minimizasyonu gibi temel fiziksel prensipler hakkındaki içgörüleri; Hopfield'in manyetik malzemeler ile etkileşen nöron modelleri arasındaki benzerlikleri ortaya koyması; aralarında benim danışmanımın da olduğu bir nesil fizikçiyi sinir ağları ve makine öğrenimi alanında çalışmaya teşvik etmeleri; matematiksel sadelik ve zarafetle tasarladıkları yapay öğrenme makineleri; temel fiziksel etkilerin nasıl öğrenen makinelere dönüşebileceğini göstermeleri, bunca görüş içinde değişmeyen tek şeyin, Hopfield ve Hinton'un şu an sahip olduğumuz teknolojilerin gelişmesini sağlayan işlere imza atarak insanlığa katkı sağlayan iki araştırmacı olduğu. Elbette benim gibi bu alandaki “taze” araştırmacılara uçuk bir hayal de olsa Nobel kazanabilme ihtimalini sunmaları da cabası.


Referanslar

Gibney, E., & Castelvecchi, D. (2024). Physics Nobel scooped by machine-learning pioneers. Nature. https://doi.org/10.1038/d41586-024-03213-8

Why neural net pioneer Geoffrey Hinton is sounding the alarm on AI | MIT Sloan. (2023, May 23). MIT Sloan. https://mitsloan.mit.edu/ideas-made-to-matter/why-neural-net-pioneer-geoffrey-hinton-sounding-alarm-ai

Heaven, W. D. (2024, October 9). Geoffrey Hinton tells us why he’s now scared of the tech he helped build. MIT Technology Review. https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/

Ozancan Özdemir kimdir?

Ozancan Özdemir, lisans ve yüksek lisans derecelerini ODTÜ İstatistik Bölümü'nden aldı. Yüksek lisans döneminde aynı zamanda Anadolu Üniversitesi yerel yönetimler bölümünden mezun oldu.

Bir süre ODTÜ İstatistik Bölümü'nde araştırma görevlisi olarak çalışan Özdemir, şu günlerde Groningen Üniversitesi Bernoulli Enstitüsü'nde finans ve yapay zekâ alanındaki doktora çalışmalarını sürdürüyor.

Pandemi döneminde bir grup öğrenciyle birlikte gönüllü bir oluşum olan VeriPie adlı güncel veri gazetesini kurdu.

Araştırma alanları yapay öğrenme ve derin öğrenme uygulamaları, zaman serisi analizi ve veri görselleştirme olan Ozancan Özdemir, ayrıca yerel yönetimler ve veriye dayalı politika geliştirme konularında da çeşitli platformlarda yazılar yazmaktadır.

Yazarın Diğer Yazıları

Umudu tahmin etmek mümkün mü?

Umut, yalnızca bireylerin psikolojik durumlarını yansıtmakla kalmıyor, aynı zamanda tedavi sonuçlarını doğrudan etkileyen bir faktör olarak öne çıkıyor. Bu nedenle, sağlık hizmetleri sunumunda psikolojik desteğin artırılması, yalnızca hastaların iyilik halini değil, tedavi süreçlerinin de başarı oranını artırabilir

Öğrencilere bir tavsiye: Başarının sırrı uyku olabilir mi?

Bilgiyi uzun süreli hafızaya yerleştirmek için yalnızca çalışmak yeterli değil; bu bilgileri pekiştirmek için beynin dinlenmeye ihtiyacı var. Sınav dönemlerinde, tüm gece çalışmak yerine, düzenli uyku ile öğrenilen bilgileri pekiştirmek çok daha etkili olabilir

Düşünüyorum, öyleyse varım?

o1-preview modeli, özellikle matematik, kodlama ve bilimsel problemler gibi karmaşık alanlarda üstün performans sergiliyor. o1-mini modeli ise daha küçük ve hızlı bir seçenek olarak karşımıza çıkıyor. Kodlama konusunda etkili olan bu model, daha düşük maliyetli olmasıyla da dikkat çekiyor

"
"