ABD merkezli yapay zeka şirketi OpenAI’daki görevlerine son verilen üç araştırmacı, giderek otonom hale gelen yapay zeka sistemlerindeki güvenlik denetiminin elden bırakılmaması çağrısı yaptı.
Wall Street Journal (WSJ) gazetesinin haberine göre şirketteki işlerinden çıkarılmadan önce yapay zeka güvenliği alanında çalışan üç araştırmacı, OpenAI yönetim kurulu üyelerine yapay zeka denetiminin önemi hakkında mektup gönderdi.
Gazetenin eriştiği mektupta araştırmacılar firmaların yapay zeka teknolojisinin akıl yürütme süreçlerini gözlemleme kapasitesini yitirebileceği konusunda endişelerini iletti. Gitgide otonomlaşan yapay zekanın getirebileceği risklere karşı güvenlik denetimlerinin şirketten bağımsız kuruluşlarca yürütülmesi çağrısı yaptılar.
Yapay zeka sektöründe denetlenemeyen modellerin nasıl güvenli geliştirileceği ve kullanıma sunulacağının henüz bilinmediğini ifade eden araştırmacılar, OpenAI ve diğer öncü şirketleri, bu teknolojiyi denetlemeyi zorlaştıracak şekilde geliştirmemeleri konusunda uyardı.
OpenAI’dan bir sözcü WSJ’ye açıklamasında mektuptaki önerilere tamamen katıldıklarını, yapay zeka modellerinin denetlenmesinin şirket için büyük önem taşıdığını söyledi.
Söz konusu araştırmacıların, bir yapay zeka güvenlik şirketine gizli bilgi paylaştığı gerekçesiyle işten çıkarıldığı iddia ediliyor.
