Kazanan isimlerin özgeçmişlerine bakınca örneğin Geoffrey Hinton’ın, -Yapay Zekanın Babası- fizik, fizyoloji, felsefe ve en son deneysel psikoloji okuduğunu sonra da doktorasını yapay zekada yaptığını görüyoruz. Diğer kazanan John Hopfield da fizikten sonra moleküler biyoloji, kompleks sistemler ve sinir bilim dalında çalışmış. Vay be fizik, sen nelere kadirsin, bunca dal arasında ödül senin adınla verildi.
Madem yapay zekaya ödül verirken fen bilimlerinin en temel dalını seçmişler demek ki yapay zekanın çalışma prensibinin temelinde fizik olsa gerek diyorum. Nitekim karşıma fiziğin en havalı kelimelerinden entropi çıkıyor. Şu kendiliğine bıraktığımızda sistemde zamanla her şeyin dengeye ulaşması için düzensizliğe gitmesi olayı. Sevgili okuyucularım, bu konuyu anlatabilmek için dağın tepesine çıkıp top yuvarlamaktan çekinmedim.
Fizikte:
1- Top dağın tepesinde: Top bulunduğu yükseklikten dolayı içinde koca bir potansiyel enerjiyi depolamış şekilde duruyor. Sistemin (top+dağ) bütün enerjisi bir noktada konsantre olmuş, düzenli, dağın tepesindeki topta. Entropi (düzensizlik) en düşük halde. Fakat top düşecek, çaresi yok.
2- Top düşerken: Top yuvarlandıkça potansiyel enerji (gerek yerçekimi kuvvetinden gerek sürtünme kuvvetinden) hareket, ısı ve hatta ses gibi formlara dönüşerek dışarıya oldukça rastgele bir şekilde yayılıyor. Entropi yükseliyor çünkü artık enerji bir noktada depolanmış değil, etrafa dağılmış, düzensiz.
3- Top dağın aşağısında: Top artık kıpırdamıyor. Sistem içinde enerji artık topta değil, tamamen rastgele dağılmış şekilde, düzensiz. Sistem artık bir denge içinde, stabil ancak entropi maksimumda.
Beyinde dengeye ulaşmak için entropi tam ters işliyor!
Beyinde fiziksel sistemlerin tersine dengeye ulaşmak için entropi minimize oluyor. Yani kaosa doğru değil, tam tersine düzene doğru doğal bir akış var. Beyin belirsizlik sevmez. Beyin fiziksel ortamlar gibi pasif bir sistem değil, hayatta kalabilmek için aktif bir sistem. Hayatta kalmanın sırrı, gelecek olayları tahmin etmek, sebep sonuç ilişkisini anlamak ve tahminlere göre kararlar almaktan ibaret. Beyin var oluşunu sürdürmek için sürekli öngörüde bulunacak ve bu öngörülerinin doğru olmasına çalışacak. Ne gördüğüne, duyduğuna, hissettiğine (girdiler) göre ne olacağını öngörecek (çıktı). Eğer beyin öngörülerinde başarılı ise bu belirsizliğin/düzensizliğin az olduğunu yani entropinin az olduğunu gösterir. Eğer gerçeklerle beynin tahminleri arasında uyumsuzluk varsa belirsizlik artar ve beyin bunları düzeltmek için efor sarf eder. Beyin dünyayı doğru bir şekilde anlamak için sürekli yeniden tahminlerde bulunuyor. Doğruya ulaşınca da bu efora artık gerek kalmıyor. Maksat bu eforu minimize etmek, dünyayı anlamak, hayatta kalmak.
Son kez tekrar etmek gerekirse, fiziksel sistemlerde dengeye ulaşmak beraberinde yüksek entropi ve rastlantısallığa izin verir. Beyinde ise denge için düzen gerekir ve entropi yani belirsizlik düşürülmelidir.
Beyinde:
1- Top dağın tepesinde: Beyin yeni bir durumla karşılaştığında ya da yeni bir bilgiyi öğrenmek istediğinde sinir yollarının birçoğunu harekete geçirir (Topun nereye gideceğini bilmemesi, opsiyon çoktur). Beyin bu noktada sinir hücreleri arasında birçok bağlantı kurmaya çalışır ve düzensizdir; bu bilgiyi nereye depolasam, nasıl bağlasam, nasıl kullansam? Sinirsel aktivite her yere dağılmıştır. Entropi yüksektir.
2- Top düşerken: Beyin durumu algılamaya başladıkça bazı sinir yolları daha aktif hale gelir, diğerleri ise pasif hale gelir. Bu durum, beynin yararlı bağlantıları güçlendirip ilgisiz olanları zayıflattığı pekiştirme sürecine benzer. Topun hareketindeki rastgelelik azalır. Entropi düşer. Beyin artık kodlamak için hangi nöron bağlantılarına (sinaps) ihtiyacı olduğunu bilir.
3- Topun durması: Beyin düşük entropili duruma ulaşmıştır çünkü bilgi artık iyi belirlenmiş yollar aracılığıyla depolanmış ve erişilebilir durumdadır. Beyin benzer bilgilerle tekrar karşılaştığında daha verimli çalışır, çünkü o bilgi için yollar artık organize edilmiştir. Beyin yeni bir bilgi öğrenmiş, adapte olmuş ve dengeli haline kavuşmuştur.
Hemen not düşelim, beynin yüksek entropide olması o kadar kötü bir durum değildir; yaratıcılığı, problem çözme yeteneğini geliştirir. Ancak beyin sürekli nöronların ateşlemesini durduramazsa yani sürekli yüksek entropide kalırsa, hafıza kaybı ve kafa karışıklığı meydana gelir; aynı Alzheimer hastalığında olduğu gibi. Sürekli düşmeye devam eden, bir türlü sabit dinlenme noktası bulamayan bir top gibi.
Makine Öğrenme aynı beyin gibi çalışıyor
Makine Öğrenim sistemleri beyin gibi tahminlerde bulunuyor, yanlışlarından öğreniyor ve belirsizliği (entropiyi) düşürüyor. Aynı beynin öngörülerinde daha iyi olmak için efor sarf etmesi gibi makine öğrenimi, modelin doğru tahminlerde bulunmasına uğraşıyor. Amaç anlamlı bir sonuca ulaşıp bu uğraşı minimize etmek ve denge haline ulaşmak. Bu işi algoritmalarla yapıyor.
Bir makine öğrenimi modelini eğitim sürecinin başında hayal edin. Bir katmandaki bir nörondan diğer katmandaki bir nörona sinyal giderken, aradaki sinyal bir ağırlıkla çarpılır. Buna weight-ağırlık deniyor. Rastgele bir sayı. Eğer algoritma başta yanlış bir tahmin yaparsa (ağırlığı)-katsayıyı ikinci defada düzeltiyor. Bu iş kaç defa yapılacak? Maksat bu işi çok uzun süre yapmamak hemen doğruya ulaşmak, entropiyi düşürmek.
Makine Öğrenmede:
1-Top dağın tepesinde: Eğitim yeni başlarken modelin, girdileri doğru bir şekilde çıktılara kaç ağırlık ile eşleştireceği hakkında hiçbir fikri yoktur. Ağrılıklara rastgele sayılar verilir. Bu durum oldukça düzensiz ve belirsizdir (Yüksek entropi).
2-Top düşerken: Makineye veri gösterdikçe, modelin tahminleri ile gerçek etiketler arasındaki fark (hata) azalır. Bunu nasıl mı yapar? Makine ağırlıkları düzeltmeye başlar. Çok alakasız bir tahminde bulunduysa mesela ağırlığı sıfırlar, girdi ile çıktı arasında bağlantı yok olur. Tahmin yanlış ise o ağırlığı azaltır. Böyle böyle entropi düşmeye başlar.
3-Topun durması: Model, ağırlıklara doğru değerler vermiş olup, tahminleri doğru bulmaya başlamıştır. Model eğitilmeye devam ettikçe sistem, düzensiz (rastgele ağırlıklar) bir durumdan düzenli (doğru ağırlıklar) bir duruma geçmiştir. Entropi düşmüştür.
İşte hem Hopfield hem de Hinton kurdukları yapay nöron ağları ile bu prensipten yola çıktılar. Fiziksel sistem dengeye gidiyorsa zeka da bu şekilde çalışmalı, yapay zeka da! Kısaca fizikçiler fiziğin entropi prensibinden yola çıkarak yapay zekayı yarattı ve Fizik Nobeli’ni de kaptı. Yine de gönül ister ki Nobel komitesi artık bir Bilgisayar Bilimi Ödülü versin, çünkü çok zorlandım be günlük. Ey, Royal Swedish Academy, beynimin entropisini yükselttiniz. Bu hafta spor yapamadım, bütün şeker ve oksijen bu yazıya gitti. Fakat yeni bilgiye adapte olmuş beynim için size teşekkür ediyorum.
