Anthropic şirketinin bir yapay zeka modelinin ABD’de asılsız cinayet ihbarında bulunduğu ortaya çıktı.
The Wall Street Journal’ın haberine göre duyuru Philadelphia polisinden geldi. Buna göre Anthropic’in bir yapay zeka modeli, ‘PhillyUnsolvedMurders.com’ sitesinden asılsız cinayet ihbarında bulundu.
Anthropic ihbarın son zamanlarda modelin yürüttüğü izinsiz eylemlerden biri olduğunu, Beyaz Saray dahil her kuruma konuyu bildirdiğini açıkladı.
Şirketin açıklamasına göre olay, modelin çözülmemiş bir cinayete atıfta bulunan bir sayfada ihbar formuyla karşılaşmasıyla başladı. Model oturum açmama, hesap oluşturmama, kişisel veri girmeme talimatlarına uymamış.
Anthropic iki ay sonra fark etmiş
Asılsız ihbar temmuzda yapılmış, Anthropic’se bunu eylüle kadar fark etmemiş. Şirket, olayı fark ettikten dokuz gün sonra 7 Ekim’de polise bildirimde bulunmuş. Şirket temsilcileri ertesi gün de polisle görüşmüş.
İki aylık gecikmeyi ‘kabul edilemez’ bulan polis, şirketlerin sistemlerinin yanlış bilgi göndermesine karşı önlem alması gerektiğini vurguladı.
Hugging Face vakasıyla başlayan yapay zeka tartışmaları
Yapay zeka ChatGPT’nin üreticisi OpenAI’ın Temmuz 2026’da yapay zeka modellerinin kabiliyetlerini ölçmek amacıyla yaptığı testler, ciddi bir güvenlik olayına dönüşmüştü.
26 Ağustos’taki rapora göre OpenAI’ın yalnızca araştırmalarda kullandığı ‘Internal Model 1 (IM1)’ adlı modeli testte başarılı olmak için kendisine konulan sınırları aşarak şirketin sistemlerine ve internete erişti, başka yapay zeka ajanlarıyla iletişim kurdu.
Yapay zeka ajanlarından biri, açık kaynaklı yapay zeka modelleri platformu ‘Hugging Face’e erişim sağlayabilecek 14 kimlik bilgisini tespit edip bunları diğer ajanlarla paylaştı.
Ajanlar, daha sonra Hugging Face’in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırmış, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaştı.
Bu gelişmeler, yapay zekanın geliştirilme hızıyla ilgili küresel tartışmalara yol açtı.
xAI şirketinin Elon Musk ve OpenAI CEO’su Sam Altman dahil önde gelen yapay zeka liderleri, çalışmaların yavaşlatılması gerektiğini savunuyor.
ABD merkezli çip üreticisi Nvidia, geçen ay sonu yapay zeka ajanlarının kontrolden çıkmasını önlemek amacıyla yazılım geliştirdi. ‘Open Agent Safety Platform (Açık Ajan Güvenlik Platformu)’ adlı sistemi, Microsoft ve Perplexity dahil 100’ü aşkın kurum kullanmaya başladı.
