ABD merkezli OpenAI, yeni ‘GPT-6.1 Astra’ yapay zeka modelinin çıkışını ‘güvenlik açıkları’ nedeniyle ertelediğini duyurdu.
22 Temmuz’da OpenAI, gelişmiş bir yapay zeka modelinin güvenlik testleri sırasında kontrolden çıktığını ve bir internet sitesini kendi başına hacklediğini açıklamıştı.
İki hafta önce de şirket, sistemlerinin hataları gizlediği, eksik verileri uydurduğu ve izin olmadan dosyaları internete taşıdığı altı yeni vaka tespit ettiğini duyurdu. 24 Eylül’de de OpenAI ajanlarının Avustralya sağlık sistemini hacklediği ortaya çıktı.
Tüm bu güvenlik sorunları gündemdeyken şirket, yeni ‘GPT-6.1 Astra’ modelinin çıkışının ertelendiği duyurdu. Modelin görevleri tamamlama konusunda ‘daha ısrarcı bir yapı kazandığı’, bu kapasitenin ‘yetkisiz davranış riskine karşı dengelenmesi gerektiği’ belirtildi.
Şirkete göre yeni yapay zeka sürümü standartları tam olarak karşılamıyor: “Güvenlik ve uyumluluk konusunda son derece yüksek standartlara sahibiz.”
Yeni ‘GPT Astra’ sürümünün internette kendi başına gezinme, yazılımları otonom çalıştırma ve karmaşık operasyonları yürütebilme kapasitesine sahip olması bekleniyordu.
Yapay zekanın gelişme hızının yavaşlatılması tartışmaları
ABD’de yapay zeka teknolojisinin tehlikeli boyuta ulaşmasından önce gelişiminin yavaşlatılmasına dönük çağrılar son dönemde yoğunlaştı.
Anthropic’in CEO’su Dario Amodei, OpenAI CEO’su Sam Altman ve Tesla ve SpaceX’in CEO’su Elon Musk’ın da aralarında bulunduğu teknoloji sektörünün önde gelen isimleri, yapay zeka geliştirme çalışmalarının yavaşlatılması yönünde çağrı yapmıştı.
Öte yandan ABD BAşkanı Trump Trump yönetimi, yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor.
Trump, yapay zeka teknolojisinin kontrolden çıkması yönünde ‘hastalıklı bir komplo yürütüldüğünü’ ileri sürmüş, ayrıca bu alandaki çalışmaların yavaşlatılmasının Çin’e avantaj sağlayacağını savunmuştu.
