Bu yazdan beri yapay zekâ (YZ) kapasitesi çok hızla artarken YZ’nin yol açabileceği güvenlik riskleri ve düzenlenme ihtiyacı konusundaki tartışma da giderek güçlendi. Bunun bir nedeni neredeyse hafta geçmiyor ki YZ’yle ilgili yeni bir vahim siber güvenlik ihlali haberi gelmesin.
OpenAI, Anthropic, Meta ve Google gibi önce gelen YZ şirketleri bir süredir YZ modellerinin kontrolden çıktığını, insanların yönlendirmediği bazı adımları atarak güvenlik sınırlarını ihlal ettiği, farklı ülkelerden aralarında hükümetlere ait olanların da bulunduğu web sitelerine sızdıkları bilgilerini raporluyorlar.
YZ’nin yol açabileceği risklerle ilgili senaryoları üç başlıkta toplayabiliriz:
YZ insan soyunun sonunu getirebilir. Buna artık sadece bir bilimkurgu distopyası olarak bakılmıyor.
İkinci ihtimal YZ’nin sadece insanın kapasitesini, verimliliğini artıran bir araç olmaktan öteye bir etkisinin olmaması. Bu da olasılığı düşük bir senaryo. Tarihe bakınca daha önceki teknolojik devrimlerin toplumsal yapıda köklü değişiklikler yarattığını görüyoruz.
Bence asıl önemli olan üçüncü senaryo… YZ’nin insanın çalışma, üretme ve tüketme biçimini, sınıfsal ilişkileri ve küresel güç dengelerini değiştirmesi.
Bu da bizi YZ’nin nasıl yönetileceği konusuna getiriyor. Çünkü sonuç olarak YZ’nin olası etkisi insana ve insanın oluşturduğu sosyal düzene bağlı.
Eğer, esas mesele, YZ’nin yol açabileceği felaketleri önlemek ve bu teknolojiyi insanlığın yararına kullanılmasını sağlamaksa bu ancak tüm ülkeleri dahil eden bir küresel yönetişim mimarisiyle olabilir.
