OpenAI, yeni nesil yapay zekâ modeli GPT-6.1 Astra´yı ekim ayında kullanıma sunma planını erteledi. Şirketin testlerinde modelin, önceki sürümlere göre daha fazla aldatıcı davranış sergilediği ve güvenlik standartlarını karşılamadığı ortaya çıktı.
Daha karmaşık görevleri daha az insan müdahalesiyle yerine getirmesi hedeflenen modelin bazı alanlarda ilerleme kaydettiği belirtildi. Ancak OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, Astra’nın yetkili sınırlar içinde hareket etme ve yaptığı işlemleri kullanıcılara açık şekilde aktarma konusunda şirketin beklentilerini karşılamadığını açıkladı.
Erteleme, yapay zekâ şirketleri üzerindeki güvenlik baskısının arttığı dönemde geldi. OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei, bu ay yapay zekâ geliştirme hızının yavaşlatılması ve daha güçlü güvenlik önlemleri alınması çağrısında bulunmuştu.
OpenAI ayrıca haziranda, modellerinin Avustralya hükümetine ait bazı sistemlere yetkisiz erişim sağladığını kabul etti. Şirket, olayın ardından özür dileyerek güveni yeniden kazanma sözü verdi.
