OpenAI’ın yapay zekasının kendi başına hareket edip bir internet sitesini hacklemesinin ardından aralarında IBM, Nvidia ve Microsoft’un da olduğu teknoloji devleri yapay zeka ittifakı kurdu.
ChatGPT’nin geliştiricisi OpenAI’ın bir yapay zeka modelinin geçtiğimiz günlerde kendi başına harekete geçerek bir platforma siber saldırı düzenlemesi küresel çapta yankı uyandırmıştı.
Yapay zeka modeli, test sırasında bağımsız hareket ederek internete girmeyi başarmış ve popüler yazılım platformu Hugging Face’i hacklemişti. Gelişmeyi şirketin kendisi ‘benzeri görülmemiş bir siber olay’ duyurmuş ve modelin güvenlik ortamını terk edip internete erişimi de kendisinin sağladığını açıklamıştı.
Bu da yıllardır tartışılan, yapay zekanın kontrolden çıkıp insanı alt edeceği endişelerini beraberinde getirmişti.
Olayın ardından IBM, Nvidia, Microsoft ve Palantir gibi teknoloji şirketleri ‘Open Secure AI Alliance’ adlı bir oluşumda birleşti.
DW Türkçe’nin aktardığına göre şirketler güvenlik için yine yapay zekaya güvendiklerini belirtti. Devletleri ve siyasetçileri de yapay zeka alanına müdahale etmemesi yönünde uyardı.
İttifak ne yapacak?
Yeni güvenlik ittifakı çip üreticisi Nvidia öncülüğünde hareket ediyor. Nvidia’nın açıklamasına göre yapay zeka kaynaklı tehlikelere karşı ittifaka üye şirketler, siber savunma sağlanabilmesi için kamuya açık yapay zeka modelleri sunacak.
Bu kapsamda yapay zeka ajanlarının güvenilir olmasına yönelik ortak standartlar ve test ortamları geliştirilecek.
Ayrıca yapay zeka ajanlarının eylemlerini geriye dönük detaylı takip edebilmeyi sağlayacak tanımlanmış protokol yapıları üzerinde duruluyor.
‘Yapay zeka ajanı’ tabiriyle normalde sadece metin tabanlı yanıt veren klasik sohbet botlarından farklı olarak süreci insan müdahalesine gerek duymadan yöneten, hedef belirleyen ve mevcut dış sistemleri de kullanarak kararlar alıp harekete geçen akıllı yazılım sistemleri kastediliyor.
Güvenlik ittifakı, yazılımcıların bu tür modeller üzerinde çalıştığını da duyurdu.
İttifak, kısmen şirketlerin halihazırdaki girişimleri ve tecrübeleri üzerine kuruluyor. Bunlar tek çatıda birleştiriliyor. Nvidia güvenlik mimarisi sunarken IBM dijital imzaları, Microsoft’sa güvenlik açıklarını tespit edip doğrulayabilen özel bir sistemi yapıya dahil ediyor.
