21 farklı araştırmacının yer aldığı ve üç gün önce yayınlanan bir çalışma somut ve acil bir tehdide dikkat çekiyor; “kötü niyetli yapay zekâ sürüleri” (malicious AI swarms).
Yani, klasik ve çoğunlukla başarısız botların yerini artık kovan gibi çalışan, tek bir operatörün binlerce personayı akıcı biçimde koordine edebildiği ve ajanların yerelde adapte olurken merkezi bir düğümle periyodik senkronize olduğu sistemler alıyor.
Peki bu sürüler tam olarak nasıl zarar veriyor? Araştırmacılar birkaç kritik mekanizma tanımlıyor.
İlki ve belki de en sinsi olanı sentetik konsensüs oluşturma. Yapay zeka sürüleri farklı ideolojik gruplara aynı anda nüfuz edip, sanki geniş bir toplumsal uzlaşı varmış izlenimi yaratabilir. Düşünün, birbirinden bağımsız görünen yüzlerce hesap aynı görüşü savunuyor, aynı haberi paylaşıyor, aynı politikacıyı destekliyor. İnsan beyni doğal olarak “bu kadar kişi söylüyorsa doğru olmalı” diye düşünmeye meyilli. Araştırmacılar buna “kalabalıkların bilgeliğinin tersine çevrilmesi” diyor. Normalde bağımsız yargıların toplamı uzmanlardan daha iyi sonuçlar verir; ama bu bağımsızlık yapay olarak yok edildiğinde, kolektif zeka manipülasyona dönüşüyor.
Yapay zeka sürülerinin siyasi söylemi manipüle etme kapasitesi, mevcut platform tasarımının ve zayıf yönetişim yapılarının bir sonucu. Ve bu yapılar değişmedikçe, gerçek bir insanla mı yoksa bir algoritmayla mı konuştuğumuzu bile bilemediğimiz bir kamusal alanla karşı karşıya kalabiliriz ki bu gerçekten büyük bir tehdit.
