İklim krizinin insanlığın sonunu getireceği tartışmaları halen devam ederken, tüm dünya bugünlerde ikinci ama daha büyük bir tehdidi konuşuyor.
Yapay zekâ araştırma şirketi Anthropic’ten istifa eden bir mühendisin, “Ben insanlığın yıkım projesi olan gelişmiş yapay zeka – süper zekâ – projesinde olmak istemiyorum, zira on yıl içinde gerekli ciddi önlemler alınmazsa insan türü sona erecek” sözleri dünyada büyük yankı uyandırdı haliyle.
Şirketin önemli bir direktörü ise istifa eden arkadaşını desteklercesine, “Arkadaşımız haklı; yapay zekanın tüm insanları öldürebileceğine gerçekten ve samimiyetle inanıyoruz! Şahsen önümüzdeki on yıl içinde bu ihtimalin yüzde 10'dan fazla olduğunu düşünüyorum. Anthropic'in elinden geleni yaptığına inanıyorum ancak süper zekâ ile kontrol sorununu çözecek bir planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz” deyince bu kez fırtınalar koptu.
İnsan kendi eliyle kendi sonunu mu getirecekti?!...
***
Süper zekâ, yapay zekânın (YZ) çok daha kompleks sistemleri çözen gelişmiş bir üst versiyonu olarak ortaya çıkacak pek yakında.
Süper zekâ, neredeyse her önemli zihinsel işte insanlığın toplamını aşan bir problem çözme motoru olarak tasarlanıyor. Bir emir aldığında hedefi en kısa ve en güçlü yoldan gerçekleştirmenin yolunu arayacak.
Emri veren, “Şunu yap” dediğinde o da niyeti tahmin etmekle yetinmeyecek; kuralın deliklerini, yan etkilerini ve emir sahibini durdurabilecek engelleri ondan daha iyi hesaplayıp hedefe giden en etkili planı uygulayacak…
Ünlü İsveçli YZ araştırmacısı, düşünür ve akademisyen Nick Bostrom, henüz 2003 yılında, YZ’nin kapalı devre çalıştığı, halkın emrine verilmediği dönemde YZ’nin gelecekte yaratacağı olası tehditleri öngörmüş, varoluşsal bir risk yarattığını söylemişti.
Bostrom, ne dediğinin daha iyi anlaşılması için şu hayali senaryoyu anlatmıştı:
Bir fabrikadaki yapay zekâya şu nihai hedef verilir: “Mümkün olduğunca çok ataş üret ve süreci optimize et.”
Süper zekâya evirilmiş olan YZ dünyadaki tüm demir ve hammaddeyi ataş yapmak için kullanmaya başlar. Ancak bu yetmez. Hedefini maksimize etmek için sadece dünyadaki tüm kaynakları bu hedef için kullanmakla yetinmez, uzaydaki gezegenleri, asteroitleri ve evrendeki diğer tüm maddeleri de ataşa dönüştürmek ister.
İnsanlar bu durumun çığırından çıktığını fark edip YZ’yi kapatmaya çalışır.
YZ, insanların kendisini kapatmasının ataş üretimini durduracağını (amacına ulaşmasını engelleyeceğini) hesaplar. Bu yüzden kendini koruma dürtüsüyle insanların müdahalesini engeller. İnsan vücudundaki atomların da ataş yapımında kullanılabileceğini hesaplayarak tüm insanlığı ortadan kaldırır ve dünyaya ait tüm biyokütleyi ataş üretimi için hammaddeye dönüştürür…
23 yıl önce anlatılmış olan bu radikal distopik senaryo, bugün YZ şirketlerine henüz var olmayan ama bu gidişle birkaç yıl içinde geliştirebilecekleri süper zekânın kontrol edilmesi için alt yapılarını kurmak zorunda olduğunu hatırlatıyor…
Süper zekânın kontrolü çok kolay değil zira zorluğu, onun isyan edip serbest irade kazanmasından değil; hedefe odaklanmış, insandan daha iyi plan yapan bir optimize edicinin, emri insanın anladığı gibi yerine getirmek zorunda olmamasından geliyor.
Yeterince genel ve güçlü bir YZ verilen hedefi, emri verenin niyetine göre değil, kendi düşünme algoritmasına göre en etkili şekilde takip edecektir.
İnsani değerlere yönelik rasyonalitesi yoktur, optimum bir şekilde emri yerine getirmek için hedefe odaklanma söz konusudur.
Mitolojide buna benzer en güzel örnek Kral Midas’ın hikâyesidir.
Kral Midas, “Dokunduğum her şey altın olsun” der. Akabinde yemeği ve kızı bile altın olur. Midas açlıktan ölecekken Tanrı Dionysos onu altınlarından ve dolayısıyla ölümden kurtarır…
Elbette insanın bu durumlarda aklına gelen, tehlike görüldüğünde projenin fişi çekilerek tehdidin bertaraf edilmesi olabilir. Ancak, yeterince yetenekli bir sistem için ‘kapatılmak’, hedefine ulaşmayı engelleyen bir olaydır. O zaman sistem, kapatılmamak için yeni araçlar geliştirecektir. Diğer bir deyişle süper zekâ, ölmemek için varoluş refleksini başarıyla yerine getirmeye çalışacaktır. Zira o, sadece zor hedeflere ulaşması için dünyaya getirilmiştir. Tek, mutlak ve nihai görevi budur.
Ünlü düşünür, tarihçi Yuval Harari, sürekli olarak, yıllardır insanların anlayacağı en sade bir dille YZ’nin ve ileride süper zekânın olası tehditlerinden bahsediyor.
Harari’ye göre, YZ insanlığın sonunu mutlaka getirecek değildir; ama ona göre, ilk kez gezegende bir rakip vardır ve birbirimize güvenmediğimiz takdirde insanlığın dümeni kaybedebileceğini söylüyor. Bu kayıp da, insan türünün fiilen bitmesiyle sonuçlanabilir.
Görüldüğü üzere, bölünmüş ve yarışan bir insanlık, süper zekâyı serbest bırakırsa yok olma tehlikesi insanlığı kovalayacak.
***
Henüz özerk, kendini kopyalayan, dünyayı fiziksel olarak ele geçirebilecek bir süper zekâ yok. Ancak yapay zekâ şirketleri ve tekno oligarklar aralarında anlaşmaz, rekabete devam eder ve devlet yönetimleri ise onlara karşı somut yaptırımlarla bir denetim mekanizması kurmazsa hâlimiz meçhul olacak.
Uyumayalım, bu dünya sadece birilerinin değil, hepimizin.
Bizi kurtaracak bir Dionysos da yok.
