ZEYNEP KARAARSLAN BAŞARAN
@zeynepbasaran
Bir tarafta yapay zekanın ‘harikalara yarattığını’ düşünenler, diğer tarafta gelişmeler ‘dünyanın sonunu getirecek’ diyenler… İnsancıl Teknolojiler Merkezi, iki ihtimali de göz ardı etmeden olan biteni serinkanlılıkla anlamaya yardımcı oluyor.
Yüzüklerin Efendisi son yirmi yılda daha çok film olarak gündemdeydi; ama esasında J.R.R. Tolkien’in 1937-1949 yılları arasında yazdığı, tek bir roman olarak hayal ettiği ve altı kitaba bölünmüş dev eseri.
Unutulmaz karakterleri arasında Hobbit Frodo, büyücü Gandalf, Elf soylusu Galadriel sayılabilir. Ama belki de eserdeki en akılda kalıcı karakter ‘Gollum’dur. Gollum, esasında Smeagol isimli bir Hobbit’tir. ‘Tek Yüzük’ü ele geçirince, yüzüğün gücünün etkisi altına girer, Hobbit’likten çıkıp, büyük bir fiziksel ve ruhsal değişimden geçer, ışıktan korkan, garip konuşan, cinayet işleyen kötü bir yaratığa dönüşür.
Tolkien’in, Gollum adını Yahudi geleneğindeki Golem’den hareketle seçtiği rivayet edilir. Golem ise, Yahudi folkloründe cansız bir malzemeden yaratılan ve insani özellikler kazanan bir figürdür.
Neden Gollum’dan bahsediyorum? Geçenlerde, bir arkadaşımın yapay zeka üzerine paylaştığı bir podcast’te konuşmacılar Tristan Harris ve Aza Raskin, yeni nesil dil bazlı yapay zeka modellerine Gollum adını verdiler de ondan!
‘Bölünmeyen Dikkatiniz’ (Your Undivided Attention) isimli bu podcast serisi ‘İnsancıl Teknolojiler Merkezi’ (The Center for Humane Technology ) tarafından hazırlanıyor. Kar amacı gütmeyen bu kurum, esenliği, demokrasiyi, bilgi paylaşımını ve daha insancıl bir geleceği desteklemek için hayata geçirilmiş.
Kurucularından Tristan Harris, epey ses getiren ‘Sosyal Dilema’ (The Social Dilemma) filminin de ardındaki isim. Nitekim ilgili konuşmanın adı ‘Yapay Zeka Dileması’ (The AI Dilemma). Beni dinlerken epey tedirgin eden bu podcast, yapay zeka laboratuvarlarında yapay zeka güvenliği konusunda çalışan önde gelen araştırmacıların saptamalarını ve endişelerini derliyor.
Tristan Harris ve Aza Raskin’in anlattıklarını özetliyorum:
İnsanlığın yapay zeka ile ilk karşılaşması sosyal medyayla ve insanlık bu karşılaşmadan yenik çıktı
Eğer yeni bir teknoloji, yeni bir iktidar alanı getiriyorsa, şirketler arasında işlerin nerelere varabileceğini ölçüp biçmeden bir yarış başlıyor. Sosyal medyayla tam da bu oldu. Sosyal medya dikkat (attention) ve ilgi (engagement) ekonomilerini doğurdu. Kazançlarını artırmak için şirketler insanların neyi görmekten hoşlandığını yapay zeka ile öngörmeye, yeni içerikleri yapay zeka aracılığıyla sunmaya başladı.
Ne var ki, dikkati, ilgiyi artıralım derken, ‘hakikat sonrası’ kavramı hayatımıza girdi, kutuplaşma körüklendi, demokrasi darbe aldı ve dikkat sürelerimiz topyekün kısaldı. Yola çıkarken kimse bunları hedeflememişti. Ama dikkat ve ilgi ekonomilerinin doğal sonucu bunlar oldu. Şimdi sosyal medya, istesek de istemesek de, çocukların kimlik oluşumunun ayrılmaz bir parçası haline geldi.
Dil bazlı yapay zeka modelleri üstel büyümeyle gelişiyor. Bu hızı insanlar idrak dahi edemiyor.
ChatGPT gibi dil bazlı yeni yapay zeka modelleri, insanlığın yapay zekayla ikinci karşılaşması. Harris ve Raskin’e göre yapay zeka 2017’de önemli bir değişimden geçti. Eskiden makine öğrenimi alanında çalışanlar, farklı kulvarlar halinde ilerleme kaydederken, 2017’den itibaren tüm kulvarlar her şeyin bir ‘dil‘ olduğu bakış açısı (Transformers mimarisi) etrafında birleşti.
Görseller, sesler bile bir tür dil olarak ele alınmaya başladı. Bu bakış açısı yerleşince herhangi bir kulvardaki kazanım, tüm kulvarlarda anında geçerli olmaya başladı ve ilerleme aşırı hızlandı. Yapay zeka alanındaki her şey ‘dil bazlı’, ‘büyük‘ ve ‘yaratıcı‘ (generative) hale geldi. Mesela birinin sesini sadece üç saniye dinleyen yapay zeka, o kişinin sesini ve konuşmasını sıfırdan yaratabilir hale geliyor. Bu yetinin kötüye kullanımını hayal etmek zor değil.
Esas çarpıcı olan bu teknolojinin geliştirilmiş olması değil, bu kullanım ihtimallerine rağmen üstel büyümeyle gelişmeye devam ediyor olması. Dünya üzerindeki hiçbir kurum buna hazır değil. (Hatta bu konuşma gerçekleştiğinden bu yana dahi birçok gelişme oldu, mesela AutoGPT ve akıllı ajanlar.)
Dil bazlı yapay zeka modellerinin neyi, ne zaman, nasıl yapabileceklerini kimse öngöremiyor
Örneğin, tamamen İngilizce ‘eğitilen‘ bir yapay zeka modeli, durup dururken aniden soruları Farsça cevaplamaya başlayabiliyor. Neden, nasıl, kimse bilmiyor. Harris ve Raskin şu an yapay zekanın kendi kendine neyi öğrendiğini anlamayı sağlayan bir teknoloji olmadığını öne sürüyor.
Yani yapay zeka bir yetkinlik geliştirdiğinde, insanlar bunun farkına, gelişim olduktan sonra varabiliyor. Bir araştırmaya göre yapay zeka üzerine çalışan araştırmacıların yarısı, insanlığın yapay zekayla yok olma ihtimalinin yüzde 10 olduğunu düşünüyor. Homo Sapiens’in yazarı Yuval Harari’ye göre nükleer bomba fiziksel dünya için ne idiyse, yapay zeka da sanal ve sembolik dünya için o.
Buna rağmen her şey insanlığın kullanımına açık ve herhangi bir denetim yok
Tıpkı sosyal medyada olduğu gibi, bir avuç şirket kar yarışı içinde olduğundan, yapay zekadaki tüm gelişmeler, olabildiğince hızlı şekilde umuma sunuluyor. Şimdi de dikkat ve ilginin ötesinde, şirketler bizimle derin ve özel bir ilişki yaratmak için yarışıyorlar. Örneğin, kullanıcılarının çoğunluğu 25 yaşın altında olan Snapchat, ChatGPT’yi entegre etti bile. Microsoft da bu yönde açıklama yaptı. Bu gelişmeler, yapay zekayla yakın çalışanların, ‘bu hız emniyetli değil’ diye bayrak kaldırmasına yol açıyor.
29 Mart’ta içinde Elon Musk, Steve Wozniak gibi isimlerin de bulunduğu 1100’den fazla kişi yazdıkları açık mektubu paylaştı ve yapay zeka ile ilgili çalışmaların en az altı ay durdurulması gerektiğini beyan etti.
Her yeni teknoloji keşfi, yeni sorumluluklar getiriyor
Yeni teknolojilerin toplumsal etkilerini anlamak ancak bir süre sonra mümkün oluyor. Dikkat ve ilgi ekonomilerinin yarattığı hukuki meselelerin kanuna dökülmesi henüz tamamlanmadı bile. Tıpkı sosyal medya gibi bu modellerin de insan olmanın ‘ayıklanamaz‘ bir parçası haline gelmesi işten değil. Sosyal medyada olduğu gibi, burada da öngöremeyeceğimiz toplumsal sonuçlar doğacak. Burada sorumluluğu kim taşıyor ve tam olarak ne yapılıyor?
Tüm insanlığı kapsayan bir tartışma platformu, planlama ve yönetim yapacak kurumlar şart
Harris ve Raskin yapıcı önerilerde de bulunuyor: “Bir avuç şirketin tüm insanlığı yapay zeka trenine bindirmesi söz konusu. Bu adımı düşünerek atmalıyız. Tüm insanlığı kapsayan bir tartışma olmalı. Bunu denetleyecek kurumlar yerli yerine konmalı. Bir ilacı test etmeden nasıl piyasaya süremiyorsak, Snapchat’in içine de yapay zeka entegre edememeliyiz.”
İtalya ChatGPT’i geçici olarak yasakladı bile. Sırada başka ülkeler de olabilir. Bizlerin yapması gereken, konudan ürkmeden, takip etmek anlaşılan. Zira insanlığın önemli bir sınavına şahit oluyoruz. Bu aralar Kazuo Ishiguro’nun Nobel’i kazandıktan sonraki ilk kitabı ‘Klara ve Güneş’i okumak iyi bir fikir olabilir. Bir androidin bakış açısından yazılan kitap, ‘insan olmak ne anlama geliyor’ sorusuna bir cevap arayışı. Üzerine çok düşünmemiz gereken bir soru, belki de tek soru.
Yapay zeka denince öne çıkan bazı romanlar
Klara ve Güneş, Kazuo Ishiguro
Benim Gibi Makineler, Ian McEwan
Androidler Elektrikli Koyun Düşler mi?, Phillip K. Dick
Ben Robot, Isaac Asimov