Bir sabah uyandığını ve telefonunun senden önce karar vermeye başladığını düşün.
Hangi işe başvurmanın anlamlı olduğunu, hangi krediyi alabileceğini, hangi haberleri görmen gerektiğini, hangi insanlarla tanışmanın senin için ‘uygun’ olduğunu, hatta devlet açısından ne kadar riskli olduğunu sen fark etmeden hesaplayan bir sistem…
Bilimkurgu mu?
Artık bundan tam olarak emin değilim.
Son haftalarda yapay zekâ dünyasından gelen haberler, yıllar önce dizilerde izlediğimiz bazı senaryoları yeniden düşünmemizi gerektiriyor. Anthropic, siber güvenlik testleri sırasında Claude modellerinin gerçek üçüncü taraf sistemlere izinsiz eriştiği vakaları açıkladı. OpenAI ise yeni modellerinin güçlü siber yetenekleri nedeniyle daha sıkı güvenlik önlemleri gerektirdiğini duyurdu. Yapay zekâ şirketlerinin yöneticileri artık yalnızca “daha güçlü modeller”den değil, kontrol, denetim ve uluslararası güvenlik mekanizmalarından da söz ediyor.
Bütün bunları okurken aklıma iki dizi geliyor:
Person of Interest ve Westworld.
Çünkü belki de bu diziler bize robotların insanları öldüreceği bir gelecekten çok daha sofistike bir şey anlatıyordu.
Makine seni izliyorsa…
Person of Interest’in merkezinde, bütün kamera görüntülerini, telefon kayıtlarını, finansal hareketleri ve dijital izleri analiz ederek kimin suç işleyeceğini veya kimin kurban olacağını tahmin etmeye çalışan bir yapay zekâ vardı: The Machine.
Dizi 2011’de başladığında bu fikir hâlâ bilimkurgu gibi geliyordu.
Bugün ise bankalar, sigorta şirketleri, sosyal medya platformları, güvenlik sistemleri ve işverenler davranışlarımızı çoktan veri puanlarına dönüştürüyor.
Ve dizinin asıl sorusu hâlâ önümüzde duruyor:
Bir sistem gelecekte suç işleyeceğini düşünüyorsa, sen henüz hiçbir şey yapmadan suçlu sayılabilir misin?
Ya da daha gündelik soralım: Bir algoritma senin için uygun olmadığını düşündüğü bir işi sana hiç göstermiyorsa, gerçekten özgürce seçim yapmış oluyor musun?
Bir ‘dating’ uygulaması sana yalnızca belirli insanları gösteriyorsa, aşk hayatındaki seçimlerin ne kadarı gerçekten sana ait?
Bir sosyal medya algoritması dünyayı sana belirli bir pencereden gösteriyorsa, düşüncelerinin ne kadarı gerçekten senin?
Belki de çağımızın büyük dönüşümü tam burada başlıyor.
Bir kapının önünde duruyoruz ama kapının ardında ne olduğunu henüz bilmiyoruz.
Ya geleceğin bile hesaplanabiliyorsa?
Westworld’ün üçüncü sezonunda bu düşünce daha da ileri gidiyor.
Dizide Rehoboam adlı dev bir yapay zekâ insanların hayatlarını modelleyebiliyor.
Kimin iyi bir kariyer yapacağını, kimin başarısız olacağını, kimin toplum açısından problem yaratacağını hesaplıyor.
Aaron Paul’un canlandırdığı Caleb bunun en çarpıcı örneği. Sistem onun geleceğini düşük potansiyelli olarak sınıflandırdığı için iyi işlere ulaşamıyor. Fakat Caleb uzun süre bunun farkında bile değil.
Dışarıdan bakıldığında toplum normal.
Arabalar hareket ediyor.
İnsanlar işe gidiyor.
Restoranlar dolu.
Şehir ışıl ışıl.
Ama arka planda görünmeyen bir sistem insanların hayat yollarını düzenliyor.
Ve belki de en ürkütücü cümle şu:
“Senin için en doğru hayatı ben biliyorum.”
İşte modern otoriterliğin gelecekte böyle görünme ihtimali beni daha çok düşündürüyor.
Çünkü diktatörlüğün mutlaka üniformalı bir liderle gelmesi gerekmeyebilir.
Belki geleceğin diktatörü bize bağırmayacak.
Belki sadece şöyle diyecek:
“Bu karar senin güvenliğin için alındı.”
En büyük tehlike AI’nın bilinç kazanması olmayabilir
Yapay zekâyla ilgili bugün en sık sorulan soru şu:
“AI insanlığı yok eder mi?”
Belki de yanlış soruyu soruyoruz.
Daha yakın soru şu olabilir:
İnsan kendi karar verme yetkisini ne kadar kolaylık karşılığında makineye teslim eder?
Navigasyonu düşün.
Bir zamanlar bir şehirde yönümüzü kendimiz bulurduk.
Şimdi telefon “sağa dön” dediğinde dönüyoruz.
Neden o yolu seçtiğini çoğu zaman bilmiyoruz.
Bu küçük bir örnek.
Ama yarın aynı mantık:
“Bu kişiye kredi verme.”
“Bu adayı işe alma.”
“Bu vatandaşı sınırdan geçirme.”
“Bu hesabı şüpheli olarak işaretle.”
“Bu insan toplum için risk taşıyor.”
demeye başladığında ne olacak?
Asıl mesele yapay zekânın ne kadar zeki olduğu değil.
Yetkinin kimde olduğu.
Bir noktada seçim yapmak zorundayız
Her büyük teknolojik dönüşüm başlangıçta hayatı kolaylaştırır.
Sonra yavaş yavaş hayatın kurallarını değiştirmeye başlar.
İnternet bizi birbirimize bağladı.
Sosyal medya herkese ses verdi.
Akıllı telefon dünyayı cebimize koydu.
Ama bir süre sonra fark ettik ki aynı sistemler bizi izliyor, davranışlarımızı tahmin ediyor ve seçimlerimizi yönlendirebiliyor.
Şimdi benzer bir eşiğin daha büyüğünün önündeyiz.
Yapay zekâ bize inanılmaz imkânlar sunabilir.
Hastalıkları teşhis edebilir.
Bilimsel keşifleri hızlandırabilir.
Eğitimi kişiselleştirebilir.
İnsanların yıllarca yaptığı işleri birkaç dakikada gerçekleştirebilir.
Ama tam da bu nedenle ona ne kadar yetki vereceğimiz sorusu çok önemli.
Çünkü bazı kapılardan geçtikten sonra geri dönmek kolay olmayabilir.
Distopya büyük bir patlamayla başlamayabilir
Filmlerde distopyalar genellikle tanklarla, darbelerle veya savaşlarla başlar. Gerçek hayatta ise çok daha sakin başlayabilir.
Bir uygulama senden biraz veri ister.
Sonra biraz daha.
Sonra sana öneride bulunur.
Sonra senin adına karar verir.
Bir süre sonra karar vermediğini bile fark etmezsin.
Westworld’de insanların en büyük trajedisi sistemin varlığından haberdar olmamalarıydı.
Person of Interest’te ise temel soru şuydu:
İnsanları korumak için onları ne kadar izlemek gerekir?
Bugün aynı soruyu gerçek dünyada sormaya başlıyoruz.
Belki birkaç yıl sonra asıl mücadele yapay zekâyı durdurmak olmayacak.
Tam tersine onunla birlikte yaşamayı öğrenmek olacak.
Ama bunu yaparken birkaç basit soruyu unutmamak gerekiyor:
Bu kararı kim verdi?
Benim verim kimde?
Algoritma neden böyle karar verdi?
Bu karara itiraz edebilir miyim?
Ve en önemlisi:
Ben hâlâ kendi hayatımın kararlarını verebiliyor muyum?
Belki önümüzdeki yılların kahramanı makineleri yenen kişi olmayacak.
Belki kahraman, makinenin kendisini çok iyi tanıdığı bir dünyada hâlâ kim olduğunu hatırlayabilen insan olacak.
Çünkü sonunda mesele yapay zekânın ne kadar akıllı olacağı değil.
Asıl mesele şu:
Yeni diktatörün yüzü yoksa, onun iktidara geldiğini ne zaman fark edeceğiz?
