Güney Koreli araştırmacılar yapay zeka modellerine bilmedikleri konu hakkında uydurmak yerine “Bilmiyorum” diyebilecekleri bir yöntem geliştirdi.
İspanyol araştırmacılar Ekim 2024’te BigScience şirketinin BLOOM, Meta’nın Llama ve OpenAI’nin ChatGPT’sinin son sürümlerini, her modele matematik, fen ve coğrafya üzerine binlerce soru sorarak doğruluk açısından sınamıştı.
Yapay zeka dil modellerinin (LLM) ne kadar gelişkinse bir soruya yanıt bulamadığını kabullenme olasılığının o kadar azaldığı ortaya çıkmıştı.
Önceki sürümler yanıtı bulamadığını veya daha fazla bilgiye ihtiyaç duyduğunu söylüyordu. Fakat yeni sürümlerin tahminde bulunma ya da kolay sorulara bile yanlış yanıt üretme eğiliminde olduğu belirlenmişti.
Independent’ın haberine göre yapay zekanın ‘halüsinasyon görmesi’, yani uydurması önemli bir endişe kaynağı. Zira konuşma becerileri sayesinde yanlış bilgileri kendilerinden çok emin bir şekilde sunabiliyorlar.
Örneğin 7 Ağustos 2025’te ChatGPT’nin bazı çocukları içki, uyuşturucu ve aşırı diyet programlarına yönlendirdiği ortaya çıkmıştı.
Başka bir örnekteyse ABD’de yapay zeka uygulamasının tavsiyesine uyan bir adam sodyum bromür içerek zehirlendi. Adam aslında sadece sağlıklı bir tuz arıyordu.
Independent’ın haberine göre Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) yeni yöntemleriyle otonom sürüş ve tıp gibi alanlarda kullanılan yapay zeka modellerinin güvenirliğini artıracağını düşünüyor.
Araştırmacılar başlatma aşamasında yapay zekanın ağına rastgele veriler girildiğinde modelin henüz hiçbir şey öğrenmemesine rağmen yüksek bir ‘özgüven’ sergilediğini farketti.
Önce kendi belirsizliğini tanıyacak
Yeni yöntemde yapay zeka, gerçek verilerle eğitilmeden önce rastgele verilerle kısa bir ön eğitim sürecinden geçirildi. Böylece model daha öğrenmeye başlamadan önce kendi belirsizliğini tanımayı öğrendi.
Araştırmacılar başlangıçtaki aşırı özgüvenini azaltarak “Henüz hiçbir şey bilmiyorum” durumunu öğrenmesini sağladı.
Araştırmacılardan Se-Bum Paik “Bu çalışma, yapay zekanın kendi mevcut bilgisini insanlarda daha benzer şekilde tanıyabileceğini gösteriyor” dedi.
Araştırma ‘Nature Machine Intelligence’ adlı dergide yayınlandı.
