Kanada´da bir okula düzenlenen silahlı saldırıda ağır yaralanan 12 yaşındaki Maya Gebala´nın ailesi, saldırganın planlarından önceden haberdar olmasına rağmen polisi uyarmadığı gerekçesiyle OpenAI´a dava açtı.
Saldırganın (18 yaşındaki Jesse Van Rootselaar) ChatGPT'ye şiddet içeren senaryolar anlattığı öğrenildi. Rootselaar, ChatGPT'de şiddet içerikli konuşmalar yapınca, OpenAI'ın çalışanları bunu fark etti ve hesabı kapattı. Ancak polise haber vermediler. Rootselaar yeni bir hesap açıp senaryolarını yazmaya devam etti.
Rootselaar’ın 10 Şubat'ta gerçekleştirdiği saldırıda aralarında 5 çocuğun da bulunduğu 8 kişi hayatını kaybetti. Maya, ise saldırı sırasında kütüphane kapısını kapatmaya çalışırken 3 kez vuruldu ve ağır beyin hasarı geçirdi. Aile, şirketin Rootselaar’ın toplu katliam planından haberi olmasına rağmen hiçbir adım atmadığını öne sürdü.
OpenAI CEO’su Sam Altman, Kanadalı yetkililerle görüşerek polisi bilgilendirme protokollerini güçlendireceğini taahhüt etti. Şirket, yeni kurallar kapsamında söz konusu hesabı artık yetkililere bildirmiş olacaklarını açıkladı. Kanada'nın Yapay Zekâ Bakanı Evan Solomon ise bu taahhütlerin pratikte nasıl uygulanacağına dair henüz somut bir plan görmediklerini belirtti.
