ABD merkezli çip üreticisi Nvidia, yapay zeka ajanlarının kontrolden çıkmasını önlemek amacıyla yazılım geliştirdi. Microsoft ve Perplexity dahil 100’ü aşkın kurum, sistemi kullanmaya başladı.
‘Open Agent Safety Platform (Açık Ajan Güvenlik Platformu)’ adlı sistem, yapay zeka ajanlarının hareket alanına sınırlar getiren açık kaynaklı yazılımlar içeriyor.
Nvidia’nın Yapay Zekadan Sorumlu Başkan Yardımcısı Justin Boitano’ya göre yazılım olsaydı Hugging Face vakası durdurabilirdi: “Çünkü geliştiricilere bir yapay zeka ajanının yalnızca görevini yapmaya yetecek kadar yetkiye sahip olduğunu resmi olarak doğrulama imkanı sunuyor. Açık kaynaklı yazılım çeşitli bilgi işlem platformlarında da çalışabilecek şekilde genişletilebiliyor.”
Yazılım çip üzerinde çalışan ve yapay zeka ajanının faaliyetlerini anlık izleyen ‘Sentry’ adlı bağımsız bir güvenlik katmanı da içeriyormuş. Sistem, bu sayede belirli hedefin dışına çıkan ajanlara anında müdahale edebiliyormuş.
Boitano şöyle konuştu: “Sistem, şüpheli aracıları milisaniyeler içinde karantinaya alabiliyor. OpenShell aracının eylemlerini yönetirken Sentry bağımsız olarak şüpheli davranışları izliyor ve kontrole alıyor.”
Microsoft, Perplexity, Accenture ve JPMorgan Chase dahil 100’den fazla kurum sistemi kullanmaya başlamış.
Hugging Face vakası
Yapay zeka üreticisi ChatGPT’nin üreticisi OpenAI’ın Temmuz 2026’da yapay zeka modellerinin kabiliyetlerini ölçmek amacıyla yaptığı testler, ciddi bir güvenlik olayına dönüşmüştü.
26 Ağustos’taki rapora göre OpenAI’ın yalnızca araştırmalarda kullandığı ‘Internal Model 1 (IM1)’ adlı modeli testte başarılı olmak için kendisine konulan sınırları aşarak şirketin sistemlerine ve internete erişmiş, başka yapay zeka ajanlarıyla iletişim kurmuştu.
Yapay zeka ajanlarından biri, açık kaynaklı yapay zeka modelleri platformu ‘Hugging Face’e erişim sağlayabilecek 14 kimlik bilgisini tespit edip bunları diğer ajanlarla paylaşmıştı.
Ajanlar, daha sonra Hugging Face’in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırmış, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaşmıştı.
Son dönemde yapay zeka alanındaki gelişmeler, güvenlik ve teknolojinin geliştirilme hızıyla ilgili küresel tartışmalara yol açtı. xAI şirketinin Elon Musk ve OpenAI CEO’su Sam Altman dahil önde gelen yapay zeka liderleri, çalışmaların yavaşlatılması gerektiğini savunuyor.
