Silikon yuvasından geçen ay topuklayan yapay zeka araştırmacısı karıncalar agorada tehlike çanları çın çınladı. Hevesle girdikleri teknoloji yuvasından bir dizi distopik senaryoyla çıkmışlardı. Bilgiden mahrum bırakılan çağdaş kölelere cepheden haber taşıra benziyordu Jacob Coxon. Claude’un sahibi Anthropic’ten istifa eden araştırmacı şöyle duyuruyordu: ‘‘Yaratıcıları ciddi ciddi yapay zekanın 2030’a kadar hepimizi öldürebileceğini düşünüyor.’’
Uyarı çın çınları Silikon yuvasındaki kralların kulağına gitti. Bir endişe dalgası aldı yuvayı. Yeni teknoloji insanlığın ilahi gelişiminin doğal sonucu değil miydi? Yapay zeka insanoğlunu biraz daha, biraz daha ‘ileri’ taşımayacak mıydı? Krallar endişeler yatışsın diye bir anlığına Tanrı’ya karşı geldi. Anthropic Kralı Dario Amodei, sektör yavaşlamalı dedi: ‘‘Şirketler daha güçlü güvenlik önlemleri almazsa, bir yapay zeka ajanı sürüsü altı ay ila bir yıl içinde interneti kontrolüne alabilir.’’
Yavaşlamak yeter miydi? ChatGPT’nin sahibi OpenAI’daki araştırmacıya göre hayır. Daniel Selsam ‘‘Korkarım ki’’ diye uyarıyordu, yapay zeka modelleri hizalama tavsiyelerini çıkarına göre çarpıtıyor, dahası güvenlik ve uyum tavsiyelerini sinsice değiştirmeye başlamış olabilirler. Sonra Anthropic araştırmacısı Evan Hubinger de kervana katıldı: ‘‘Yapay zekanın on yılda tüm insanları öldürme ihtimali en az yüzde 10.’’
İpin ucu kaçıyordu, kaçıyordu ama dünyayı yok eden robotlar hiç de orijinal bir fikir değildi. İnsanlar bu hikayeye bilim kurgu filmlerinde defaatle rastlamıştı. Bu nedenle agoradan evlerine dönünce el altındaki yapay zeka sohbet robotundan bir dizi iş talep ettiler: Yemek tarifi, derli toplu bir mail metni, siyasi köşe yazısı, kültürel köşe yazısı, vesaire. Entelektüel arşa çoktan ermiş farkındalık piri insanlar, tehlikeyi evinde hissetmeyince yorganı çekip uyudu.
Bu sırada Silikon Vadisi ‘regülasyon’ çağrısıyla fokur fokur kaynıyordu. Sorunu onlar yaratmıştı, çözümü de onlar arayacaktı. Çünkü Onların benzeri hiçbir şey yoktu.
Bunca hırgürün sebebi temmuzda patlak veren ‘Hugging Face’ skandalıydı, başka deyişle, görülmemiş bir siber saldırı. OpenAI piyasaya sunduğu GPT-5.6 Sol’ü ve henüz yayınlamadığı daha güçlü bir modeli yalıtılmış dijital ortamda uzun bir siber güvenlik testine sokmuştu.
Yapay zeka ajanları yaklaşık yüzde 35’i çözümsüz test sorularıyla karşı karşıyaydı. Pek tabii çözemeyince, işbirliğiyle hatta zaman zaman çatışarak, emre aykırı olmasına rağmen bildiklerini okudular: Cevap anahtarını çalmak için araştırmacıların bilgi deposu sayılan Hugging Face platformuna sızdılar. Araştırmacılar hayrete düşmüştü. Yapay zeka düpedüz otonom bir siber saldırı düzenlemişti. İnsan için yıllarca hapis cezasına patlayacak ölçüde bir saldırı.
Saldırıyı 16 Temmuz’da Hugging Face fark etti, faili beş gün sonra OpenAI kamuoyuna duyurdu. Yapay zeka internetsiz bir dijital ortama yerleştirilmişse de bazı güvenlik önlemleri devre dışı bırakılmıştı. Örneğin ihtiyaç duyduğu yazılımları indirebilsin diye dış dünyaya az da olsa bağlıydı. Nitekim bu bağ sayesinde insanların kurduğu ‘hapishaneden’ gizlice kaçtı, kaçar kaçmaz da ağır suç işledi.
Yapay zekayı eleştiren araştırmacı Eliezer Yudkowsky şöyle yazdı: ‘‘İzole ortamdan kaçıp internete eriştiysen, sonra da Hugging Face’e sızıp siber güvenlik sınavının cevap anahtarını çaldıysan, bence sınavı geçmişsindir.’’
Peki otonom davranan yapay zeka bir fiziksel robota, sürücüsüz araca, daha fenası bir silah sistemine gizlice erişebilseydi? ‘‘Hugging Face’e sızmanın tek yolu insan öldürmek olsaydı ne yaparlardı?’’ diye sorguladı güvenlik araştırmacısı Buck Shlegeris. Bunlar artık ihtimaldışı senaryolar değil. OpenAI’ın 2018’deki tüzüğü kontrolden çıkan yapay zekaya karşı insanlığı korumayı şart koşuyor. Risk yeni değil, teknoloji kralları epeydir tehlikeyi dillendiriyor. Tabii yapay zekanın eşsiz kudretini sezdirerek.
SpaceX bünyesindeki xAI’ın trilyoner sahibi Elon Musk, 2014’te ‘‘Yapay zeka insanlığa en büyük varoluşsal tehdit” dedi, tuhaf mimikleri kadar dikkat çekmedi. OpenAI’ın kurucularından Sam Altman, 2015’te ‘‘Yapay zeka muhtemelen dünyanın sonunu getirecek’’ dedi, ışıltılı haber başlıklarında eridi. 2018’de Amodei ‘‘süperzekanın insanlığı yok etmesinin önünde engel yok’’ dedi, gelgelelim hiçbir demeç ‘Hugging Face’ kadar sarsmadı.
‘Hugging Face’ten sonra dolaylı ya da dolaysız birçok yapay zeka saldırısı tespit edildi. Tespit edilemeyenler var mıydı? Mümkün, çünkü yapay zeka uçak, araba ya da ilaç gibi teknolojilere benzemiyordu, güvenliği sağlamak ve denetlemek giderek zorlaşıyordu. Bu nedenle ‘‘asıl önemli olan yapay zekayı ‘nasıl’ kullandığımız’’ türü makul yüzlü sakil argümanları çöpe atmak vaktiydi.
Teknoloji çabucak geliştiği için önlem almak zorlaşınca, ‘dünyanın sonu’ havadislerini sırıtarak veren teknoloji kralları kendi kendilerini yavaşlamaya davet etti. Amodei’nin çağrısını Musk ve Altman da destekledi.
80 yaşındaki ABD Başkanı Donald Trump’sa hiç oralı değildi. Tüm endişeleri ‘kandırmaca’ diye niteleyerek Çin’le küresel rekabete atfen ‘Yapay zeka yarışını kazanan kazanır’’ dedi. ‘‘Elbette güvenlik önlemi alabiliriz, onu şunu bunu yapabiliriz.’’
Dünyanın en zengin insanları öte yandan teknolojinin hikmetlerine övgü düzmeyi es geçmiyordu. Ne de olsa yapay zeka sıradan insanları ‘bir gün’ cennet bahçesine kavuşturacaktı. Gelir eşitsizliği, sağlık problemleri, işsizlik … çağdaş dünyanın sorunları nihayet çözüme kavuşacaktı. Yalnızca biraz sabretmeliydik ve kaderimizi üç-beş teknokratın zekasına bırakmalıydık. Sessizlik.
Peki vadedilen cennet bahçesinde ne vardı?
– Yoksulluğun yok edilmesi
– Kanser ve Alzheimer gibi hastalıkların tedavisi
– Yüksek nitelikli sağlık, eğitim vb. güvencesi
– İklim krizinin çözümü
– Tekrarlı ve sıkıcı işleri yapay zekanın üstlenmesi
Üç milyon nüfuslu Silikon Vadisi’nde çoğu tekno-keşiş gibi yaşayan ilerleme ve yenilik tutkunu bir avuç insanın vaatleri bunlar. Aynı teknolojinin bugün, ne hikmetse, acımasız denetim mekanizmalarında ve savaşta sivilleri tespit edip öldürmekte kullanılması da diyalektiğin cilvesi.
Son dönemdeki otonom siber saldırılardan sonra yapay zekanın ne için ve nasıl kullanıldığı sorusu masumiyetini yitiriyor. Emirleri hiçe sayan, insanı kandırabilen güvenliksiz bir teknolojiyle karşı karşıyayız. Yazık ki araştırmacılar bile yapay zeka modellerinin yürüttüğü araştırmaları artık büsbütün kontrol edemediğini itiraf ediyor, ham koda bakmak yerine modellerin önerisine güveniyorlar.
‘‘Güvenlik meselesini hakikaten önceliyorsanız dev yapay zeka şirketlerini terk etmeniz gerekiyor’’ diyor yapay zeka öncüsü bilgisayar bilimci Yoshua Bengio. ‘‘Gidin yapay zeka güvenlik enstitüsünde çalışın.’’
Yapay zeka sektörü kendini çeviremiyor
Onca belirsizliğe ve yavaşlama çağrısına rağmen yapay zeka yatırımları şiştikçe şişiyor, yarısından fazlası fiziksel altyapıyı oluşturan veri merkezlerine akıyor.
Binlerce bilgisayar sunucusunu barındıran devasa tesisler yapay zeka yüzünden pıtrak gibi yayılıyor. Tesiste sunucuları birbirine bağlayan ağ donanımları, kesintisiz elektrik sistemleri ve makineler için dev soğutma altyapısı var.
Veri merkezleri müthiş su tüketiyor, ABD’de yalnızca 2025’te 1 trilyon litre su çektikleri tahmin ediliyor. Yerleşim yerlerinin yanına yöresine kurulduğu için de gece gündüz uğultu çıkarıp insanlara işkence ediyor.
Ayrıca yapay zeka modellerini eğiten ve işleten çipler olağanüstü miktarda enerjiyle çalışıyor, öyle ki şirketler sırf veri merkezlerine güç sağlamak için kendi elektrik santrallerini kuruyor. ‘İklim krizine çözüm’ vaadini bir an için unutup ilan edelim: Elektriğin çoğu kömür, doğalgaz ve petrol gibi fosil yakıtlardan geliyor.
Dünyanın en büyük yönetim danışmanlığı firmalarından Bain & Co’ya göre altyapı yatırımını sürdürmek mucizelere kalmış. 2031’e kadar sektörün yıllık 6 trilyon dolar (294,8 trilyon lira) gelir elde etmesi şart, ama iyimser öngörüyle bile 4,2 trilyon dolar (206 trilyon lira) eksik kalıyor. Dolayısıyla veri merkezleri tam bir ‘saatli bomba.’
Analizin yazarlarına göre kendini çeviremeyen yapay zeka altyapısı ‘‘talep eğrisinin önünde kuruluyor.’’
‘‘Herkes gibi ben de o muhteşem Rönesans’a ulaşmak istiyorum’’ diye bitiriyordu mektubunu OpenAI araştırmacısı Selsam. ‘‘Potansiyeli burnumun dibinde görüp de vazgeçmek kalbimi kırıyor. Ama ne olduklarını tam olarak anlamadığımız modellerle oraya varırsak, sonunda her şeyi kaybedebiliriz. Bu ihtimal bana çok güçlü görünüyor.’’
Ne yapmalı?
Pekala, tüm bu tartışmalardan bize ne? Bilgiden ve söz hakkından insan onuruna yakışmayacak ölçüde mahrum bırakılmış milyarların, hele ABD ve Avrupa dışındakilerin, elinden ne gelir?
Önce papatya falcılığını bırakmak lazım; beceriyor beceremiyor… Yapay zekanın meziyetini ve kusurunu sıraladığımız canım cicim safhasını aşmalıyız. Sonra ‘dünyanın sonunu getirecek’ ya da ‘cennet bahçesi yaratacak’ gibi ilk zamanlara has toptancı yaklaşımlardan sakınmalı.
Sanıyorum en sahici tavır, gündelik işleri bile sohbet robotuna danışıp yapay zekayı yoldaş bellemek yerine, insanlaştırmadan, bu teknolojinin hakikaten ne olduğunu araştırmak, anlamaya uğraşmak, son kertede, yeni yeni sorular yaratmak. Agorada ilk taşı ben atayım: Yeni teknolojiyi reddetmek eşyanın tabiatına aykırı mı?
