Yapay zeka modellerinin eğitiminde uzmanlaşmış araştırmacı Jacob Coxon yapay zeka teknolojisinin insanları öldürebileceğini söyleyerek Anthropic’ten istifa etti.
2021’de kurulan ABD merkezli yapay zeka şirketi Anthropic, Claude adlı yapay zeka sohbet robotunun da sahibi. Wall Street Journal’ın (WSJ) haberine göre kendi kendini geliştirebilen yapay zeka sistemlerinin güvenlik sorununu artırabileceği endişesi var.
Coxon da X’teki paylaşımında bu sistemlerin kontrolden çıkıp insanları yok edebileceğinden endişe ettiğini belirterek şirketten istifa ettiğini duyurdu. Araştırmacının söylediklerinden öne çıkanlar şöyle:
* Bugün Anthropic’ten istifa ettim. Son üç yılımda hem OpenAI hem de Anthropic’te eğitim araştırmaları yaptım. Her iki şirket de sorumlu davanmıyor.
* Kendi kendini geliştiren süper yapay zekaya doğru ilerliyorlar ve hayatımızla kumar oynuyorlar.
‘Teknolojinin gücünü küçümsemeyin’
* Bu teknolojinin gücünü sakın küçümsemeyin. Bunlar her şeyi ele geçirip herhangi bir alanda devrim yaratabilen insanüstü sistemlere dönüşecektir.
* Yapay zekayı geliştirenler bu teknolojinin 10 yıla hepimizi öldüreceğine içtenlikle inanıyor. Bu bir pazarlama hilesi değil.
* Pek çok yönetici ve araştırmacının özel ortamlarda korkularını söylediklerini duyuyorum. Hiçbir insan faaliyeti bu düzeyde tehlike oluşturmuyor.
‘Riske rağmen yapmak zorunda hissediyorlar’
* “Eğer buna gerçekten inanıyorlarsa neden hala geliştiriyorlar?” OpenAI’daki pek çok kişi medeniyet için ne kadar büyük bir risk olduğunu tam olarak içselleştiremedi. Anthropic’teyse riskler iyi anlaşıldı fakat onlar da hedefe ilk önce ulaşmak için yarış içinde. Zira kendilerinden başka kimsenin sorumlu davranmayacağını düşündükleri için riske rağmen bunu yapmak zorunda hissediyorlar.
* Eğer laboratuvar araştırmacısıysanız önümüzdeki birkaç yılın nasıl hissettireceğini düşünmenizi tavsiye ediyorum. ‘Bu zaten olacak’ diye kafanızı eğmeli misiniz yoksa bunu farklı koşullar talebiyle değerlendirmeli misiniz?
