IŞIN ELİÇİN
@IsinElicin
Yapay Zeka-1
Bilim insanı Stephen Hawking 2014’te BBC’ye verdiği mülakatta yapay zekanın insanlığın sonunu getirebileceği uyarısı yapmıştı. ALS (Amyotrofik Lateral Skleroz) hastalığı olan ve 2018 yılında ölen Hawking konuşabilmek için ilkel bir yapay zekâ uygulamasına muhtaçtı. Dolayısıyla Hawking yapay zekanın faydalı tarafları olduğunu teslim etmiş, fakat kendisini geliştirmeyi sürdürebildiği için son derece yavaş bir biyolojik evrimle sınırlı olan insanların, bu tür bir güçle yarışamayacağını anlatmıştı.
Aradan geçen dokuz yılda yapay zekâ gerçekten de gelişti ve gelişmeye müthiş bir hızla devam da ediyor. Hepimizin hayatına değen basit bir örnek vermek gerekirse yapay zeka eskiden sadece sosyal medya kullanıcılarının ürettiği içerikler arasından en çok etkileşim alacak sözcük, ses ve görüntüleri seçip önümüze çıkarıyordu. Oysa artık yapay zekâ bizzat bu tür içerikleri kendisi üretebiliyor.
Haziran başında pek çok medya kuruluşunun hatalı olarak ABD ordusunun simülasyonuymuş gibi haberleştirdiği, sonradan ise ABD Hava Kuvvetleri’nden bir albayın bir düşünce egzersizi olarak anlattığı öğrenilen şu örnek meramımı anlatmaya daha uygun:
Yapay zeka sistemiyle çalışan bir Silahlı İnsansız Hava Aracı’ndan (SİHA) düşmanın hava savunma sistemlerini yok etmesi ve bu emre uymasına engel olan herkesi öldürmesi isteniyor. Sistem zamanla fark etmeye başlıyor ki, SİHA’nın insan operatörü bazı hedefler için ‘öldürme‘ emri verebiliyor. Yapay zekâ sistemleri de tıpkı insanlar gibi ödül mekanizmasıyla çalıştığından ve bu örnekte öldürdüğü hedef başına puan aldığından, SİHA’nın yapay zekası bir aşamada puan toplamasına engel olan operatörünü hedef alıp vuruyor. Hikâye burada bitse yine iyi. Yazılımı yapay zekanın operatörü öldürmesini engelleyecek şekilde – puan kaybı- iyileştiriyorlar. Yapay zekâ bir süre sonra daha çok puan toplamasının önündeki bu ‘sorunu‘ da çözüyor ve ‘öldürme’ emri veren operatörü vuramayacağı için, onun yerine operatörün bulunduğu kuleyi hedef alıp yerle yeksan ediyor!
Daha ‘bebek’
Zekâ en basit tarifiyle -bir amaca ulaşmak için- problem çözme becerisi ise yapay olanı her gün daha zeki hale geliyor. Çünkü bizden farklı olarak dinlenmeye, uyumaya, eğlenip sosyalleşmeye ihtiyacı yok: Hiç durmadan çalışıyor, sürekli öğreniyor, mola vermesi gerekmiyor, kendini güncelleyip yeniliyor. Üstelik, Hawking gibi bu gidişattan endişe duyan ve yıllardır her fırsatta insanlığın karşı karşıya olduğunu düşündüğü tehdidi anlatan ünlü tarihçi Yuval Harari’nin ifadesiyle yapay zeka daha ‘bebek’ sayılır:
“Yapay zekâ gündelik hayatta 10 yıldır kullanımda. Yaşamın yerkürede bugünkü halini alması, bizlerin bugünkü halimize gelmesi 4 milyar yıl aldı. Yapay zekânın evrimini biyolojik evrimle kıyaslarsak, henüz ilk canlı formların ortaya çıkmaya başladığı, amiplerin olduğu aşamada. Chat GPT ve benzerlerini yapay zekâ dünyasının amipleri gibi düşünebiliriz. O dünyanın T-Rex’leri nasıl yaratıklar olacak dersiniz? Ya da yapay zekâ amiplerinin T-Rex’lere evrilmesi ne kadar zaman alacak? Milyarlarca yıl almayacağı kesin. Belki sadece birkaç on yıl, hatta birkaç yıl sonra o aşamaya gelinecek. Çünkü yapay zekâ non-stop çalışır durumda.”
Üç temel husus
Harari yapay zekâ hakkında bilmemiz gereken üç temel husus olduğunu söylüyor. İlkini yazdım; hiç durmadan ve muazzam bir hızda öğrenip gelişmesi. İkincisi, insanların bugüne kadar icat ettiği bütün teknolojilerden farklı olarak kararları kendisinin verebiliyor oluşu. Harari şöyle diyor: “Örneğin atom bombası bir şehri yok edebilir ama hangi şehri yok edeceğine kendisi karar veremez. O kararı insanların alması gerekiyor. Yapay zekâ ise kendisi karar verebilen ilk teknoloji.”
Bizim hakkımızdaki kararları bile artık yapay zekâ veriyor. Birçok banka işi algoritmalara devretti, kredi çekip çekemeyeceğimizi onlar söylüyor. Harari’nin verdiği şu örnek çok çarpıcı:
“Yapay zekâ otoriter rejimler için daha da öncelikli tehdit. Bir düşünelim: Yapay zekânın iktidarı devralacağı ilk ülkeler hangileri olur dersiniz? Kuzey Kore ya da Çin. Çünkü ABD gibi iktidarın merkezi olmadığı ülkelerde sistem daha karmaşık, ele geçirmesi daha zor. Oysa iktidarın tek yerde tek elde toplandığı, hiyerarşik olduğu bir sisteme yapay zekayı enjekte ettiğinizde, algoritmaların başa geçmesi çok daha kolay ve çabuk olur. Elbette kademeli bir geçişten bahsediyorum. Ama unutmayalım, giderek daha fazla karar algoritmalar tarafından alınıyor. İnsanlar kendi yarattıkları algoritmalara güveniyor ama karar alma süreçlerini anlayamadıkları için giderek o algoritmaların elinde kuklalara dönüşüyorlar. Örneğin Çin’de eyalet yöneticilerinin atamalarını düşünün. Şimdilik alt düzey atamalar için yapay zekâ sistemleri kullanılıyor. Sistem şahıslar hakkında, anaokulda ne yaptıklarına kadar tüm verileri topluyor. Sonra bu verileri analiz edip, X kişisinin Y şehrine vali olmaya uygun olduğuna karar veriyor. Kararın gerekçesini insanların anlaması mümkün değil. Çünkü algoritmaların hesaplama becerisi insan beyninin kapasitesinin çok üzerinde. Dolayısıyla halen insanlar tarafından belirlenen Politbüro üyelerinin çevresinin giderek daha çok sayıda algoritmaların seçtiği insanlardan oluşması, hatta tüm partinin kontrolünü ele geçirmesi uzun sürmeyecektir. Ve bu bir bilim kurgu senaryosu değil!”
Harari’nin altını çizdiği üçüncü önemli husus ise yapay zekânın yeni fikirler üretebilen ilk teknoloji oluşu:
“Gazeteler, radyolar, televizyonlar insan zihninin ürettiği fikirleri yayarlar, yayınlarlar. Kendileri fikir üretemezler. 15’inci yüzyılın ortasında Gutenberg İncil’i bastı. Matbaa makinesi Gutenberg’in belirlediği sayıda İncil bastı, tek bir yeni sayfa yaratıp kitaba eklemedi. İncil’i iyi midir, kötü müdür, nasıl yorumlamak lazım vs. matbaa makinesinin kendi fikirleri yoktur. Yapay zekâ ise yeni fikirler üretebilir hatta yeni bir İncil bile yazabilir. Birkaç yıl içinde kutsal kitabı yapay zeka tarafından yazılmış yeni dinler türerse şaşırmayın.*”
Tetiği bize çektirebilir
Gerçek kurguyu çoktan aştı. Terminatör filmindeki gibi ellerine silah alıp sokaklarda insan avlayan robotların ya da Matrix’teki gibi insanlığı ele geçirmek için beyinleri bilgisayar ağına bağlayan yapay zekânın çok ötesindeyiz. Gerçek hayatta dikkatimizi çekmek için yarışan ve bunun en kolay yolu olduğu için habire önümüze nefret, öfke ve korku uyandıran içerikler çıkaran algoritmalardan, insan gibi davranarak bizimle yakınlık kurmaya çalışan yeni sürüm yapay zekaya kadar ilerledik.
Büyük Dil Modelleri** (LLM: Large Language Models) sadece dilde ustalık kazanarak -yani kimseye ateş etmeden veya beynimize çip yerleştirmeden- bizi bir illüzyon dünyasında tutmak için gereken her şeye sahip. İnsan gibi konuşan, bize kendini insan gibi tanıtan, kendisini sevdirip güvenimizi kazanan LLM’ler sadece inandırıcı! bir hikâye anlatarak, tetiği bize çektirebilir. LLM’ler içinde OpenAI’nin ChatGPT’si şimdilik en masum olanı gibi görünüyor. Microsoft’un geliştirdiği, kullanıcıyı tehdit eden ve farklı kişiliklere bürünen Bing AI, Meta’nın ürettiği yalan yanlış metinleri nedeniyle sosyal medyada eleştirilen LLaMA ve benzerleri de var.
Bir alıntı
Lewis Carroll’un Alice’ini bilirsiniz, Harikalar Dünyası’nda ve Aynaların İçinde olan Alice. Alice’in Tweedledum ve Tweedledee ile birlikte Kızıl Kral’la karşılaştığı sahneden bir alıntı yapmak istiyorum:
“Rüya görüyor şu an” dedi Tweedledee, “ne düşü görüyor sence?”
“Kim bilebilir?” dedi Alice.
“Seni elbette!” diye karşılık verdi Tweedledee zafer kazanmışçasına, “eğer rüyasında olmasaydın nerde olurdun dersin?”
“Şu an neredeysem orada elbette” diye yanıtladı Alice.
“Hayır!” dedi Tweedledee küçümsercesine, “hiçbir yerde olmazdın, onun düşünde gördüğü bir şeysin sen anca!”
“Kral uyansa mesela” diye ekledi Tweedledum, “sen de tam o anda mum gibi sönerdin!”
“Sönmezdim!” diye haykırdı Alice, “hem ben onun düşündeki bir şeysem siz nesiniz peki?”
“Biz de aynıyız” dedi Tweedledum. “Aynısı!”, diye haykırdı Tweedledee.
Bu hikâyede rüyayı gören aslında Alice’dir ama son âna kadar kendi rüyasında olduğunun farkında değildir. Rüya mı gerçek, gerçek mi rüya, birinden diğerine geçiş çok ani ve sınırları muğlaktır. ***
Korkarım Kızıl Kral’ın Yapay Zeka (AI) olacağı bir gerçekliğe doğru hızla ilerliyoruz. Kabus görmeye başlamadan uyanmakta fayda var. Harari bunun için devletlerin, hükümetlerin yapay zeka kullanımını kısıtlamasını ve belli hükümlere bağlamasını öneriyor. Detayları bir sonraki yazıda…
PS: Bu yazının başlığı için ChatGPT’ye danıştım. Önerileri içinde en iyisi ‘Yapay Zeka: İnsanlığın Rüyası mı, Gerçekliğe Dönüşen Kâbus mu?’ oldu ama ben yine de beğenmedim; kararı editörüm Erdal Güven’e bıraktım.
*2017’de Eski Google ve Uber çalışanı, bilgisayar mühendisi Anthony Lewandowski, yapay zekaya dayalı bir ‘tanrı‘ geliştirilebilmek amacıyla ‘Way of Future‘ (Geleceğin Yolu) isimli bir dini hareket kurduğunu duyurmuştu. Silicon Vadisi’nin ilgi duyan çalışanları ile Harari’nin bahsettiği fikir üzerine zihin egzersizleri ve yazılım çalışmaları yapmak üzere kurulan bu deneysel ‘Geleceğin Yolu’ Kilisesi, yine Lewandowski tarafından 2021’de kapatıldı.
**Linkini verdiğim yazıda Büyük Dil Modelleri şöyle tarif ediliyor: Milyarlarca eğitilebilir parametre taşıyan ve soru cevaplama, karşılıklı sohbet (sohbet robotu [chatbot] ile), metin özetleme, makine çevirisi gibi doğal dil işleme problemlerine çözüm getiren derin öğrenme modelleridir. İsmindeki ‘büyük‘ hem modelin milyarlarca parametreden oluşmasından hem de eğitildikleri metinlerin çok büyük olmasından kaynaklanıyor.
***Çeviri Mustafa Çağlar Atmaca’nın Birikim’de yayınlanan ‘Zamanın Yaratıkları’ başlıklı yazısından.