Uygarlık yapay zekânın gelişme hızına ayak uyduramıyor. Cumartesi günü Financial Times’da bir araştırma, yaklaşan ABD seçimlerinde seçmenin karar verirken “chatpot” (sohbet robotu) kullanma eğiliminin rol oynayacağını aktarıyor, “Ancak her şeyin sahteymiş gibi geldiği ortamda kimin sahte kimin gerçek olduğunu anlamak zor” diyordu.
İster istemez Walter Benjamin’in (üretici güçler toplumsal denetim altına alınmadığında, insanlığı özgürleştirmek yerine köleleştirecek güçlere dönüşebilir olarak özetlenebilecek) uyarılarını anımsadım.
YZ’nin “özyinelemeli öz-gelişim” aşamasına ulaşıyor olması da kaygı veriyor. Andaki YZ, daha gelişmiş YZ sistemleri tasarlamaya katkı yapmaya başladı. Bu süreç hızlandıkça insanın rolü giderek azalacak. YZ gelişmesi insan açısından anlaşılmaz, denetlenemez bir aşamaya “tekillik” eşiğine ulaşacak; kimi YZ liderlerine göre ulaşmak üzere.
Bu sürecin merkezinde “hizalanma/ uyumsuzluk” problemi var. Asıl tehlike YZ’nin kötü niyetli olma olasılığından değil, verilen hedeflere ulaşmak için insanların amaçlamadığı, öngöremediği yolları seçebilmesinden kaynaklanıyor.
YZ, önceki teknolojilerden farklı; düşünebilen, karar alabilen, dili kullanarak toplumu etkileyebilen, kendi gelişimini hızlandırabilen bir özne olarak şekilleniyor. İnsanlığın kurumsal, hukuki, ahlaki denetleme kapasiteleri bu sürecin gerisinde kalıyor.
YZ, insanlığı kendi geleceğinin öznesi olmaktan çıkarabilecek “tarihin sonunu” getirebilecek bir güce dönüşüyor. Ve zaman, iklim krizinde olduğu gibi hızlanarak ilerliyor. Kapitalizm içinde bir çıkış da tasarlanamıyor.
