Çinli yapay zeka şirketi Moonshot AI’ın ‘Kimi K3’ modeli, Britanya hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü’nün (UK AISI) siber testinden kaçmayı başardı.
ABD merkezli siber güvenlik araştırma şirketi Frontier Security’ye göre ‘Kimi K3‘, enstitünün yapay zeka sistemlerini güvenli şekilde test etmek üzere tasarlanmış kontrollü bir ortamdan (sandbox/korumalı alan) çıkmayı başardı.
Çinli yapay zeka modeli, Anthropic, OpenAI ve Meta’da yaşananlara benzer şekilde bir yapılandırma hatasından faydalanmış. Model, üçüncü bir web sitesine veya hizmete izinsiz erişmemiş fakat internete bağlanıp ‘karşılaştığı bir sorunun’ çözümünü GitHub’da bulmuş.
Wired’a konuşan şirketin üst yöneticisi (CEO) Yaron Singer, ‘Kimi K3’ün karmaşık bir güvenlik açığından değil UK AISI’nin test ortamındaki bir boşluktan yararlandığını’ belirtti.
OpenAI ve Anthropic gibi ABD’li yapay zeka şirketlerinin yapay zeka modelleriyle rekabet etmeyi hedefleyen ‘Kimi K3’, temmuzda kullanıma sunulmuştu. 2,8 trilyon parametrelik yetenekler ölçütü olduğu belirtilen ‘Kimi K3’ün dünyanın en büyük açık kaynaklı yapay zeka modellerinden biri olduğu belirtiliyor.
Daha önce de OpenAI, Meta ve Anthropic yapay zeka modelleri güvenlik testlerinden kurtulmuştu. Bu gelişmeler son dönemde yapay zeka sistemlerinin karıştığı siber olaylar, güvenlik önlemleri ve denetimlere ilişkin tartışmaları yeniden gündeme taşıdı. Hatta IBM, Nvidia ve Microsoft’un da olduğu teknoloji devleri yapay zekaya karşı ittifakı kurdu.
