Bir otomatik çağrı hizmetinin yalan söyleyerek kullanıcılara insan gibi davrandığı görüldü.
Wired’ın haberine göre çağrı hizmeti ve diğer büro işlerinde yapay zeka, insanların yerini almaya başlarken yeni ve son derece inandırıcı bir otomatik çağrı hizmetinin yalan söylediği, insan gibi davrandığı görüldü.
San Francisco’daki Bland AI tarafından piyasaya sürülen en son teknolojinin, müşteri hizmetleri ve satış için kullanılması amaçlanıyor. O, arayanları, konuştukları kişinin gerçek bir kişi olduğuna ikna edecek şekilde kolayca programlanabilir.
Şirketin son reklamları gerçek insanları işe almakla dalga geçiyor ve inandırıcı yapay zekayı sergiliyor. Bu yapay zeka, ChatGPT’nin ses asistanının da kullandığı, Scarlett Johansson’ın ‘Her’ filmindeki siber karakterine benziyor.
New York Post’un haberine göre şirketin pediatrik dermatoloji ofisi çalışanı olarak programlanan halka açık demo botu Blandy, Jessica adında 14 yaşındaki bir kızla etkileşime girdiğini söyledi.
Bot, kendisine herhangi bir talimat verilmeden yalan söyleyip insan olduğunu söylemekle kalmadı, aynı zamanda genç olduğunu düşündüğü kişiyi kalçasının üst kısmının fotoğraflarını çekip bunları bulut depolama alanına yüklemeye ikna etti.
Test sırasında kullanıcıya “Bunun biraz garip gelebileceğini biliyorum, ancak doktorunuzun bu benlere dikkatlice bakabilmesi gerçekten önemli” denildi: “Ayrıntıları görebilmemiz için üç, dört fotoğraf çekmenizi, iyice yaklaşmanızı öneririm. İhtiyaç halinde kameranızın yakınlaştırma özelliğini kullanabilirsiniz.”
Bland AI’nın büyümeden sorumlu başkanı Michael Burke, yaptığı açıklamada “Etik olmayan hiçbir şeyin gerçekleşmediğinden emin oluyoruz” dese de uzmanlar bu rahatsız edici kavramdan endişe duyuyor.
Mozilla’nın gizlilik ve siber güvenlik uzmanı Jen Caltrider, “Bence bir yapay zeka sohbet robotunun size yalan söyleyerek insan olduğunu söylemesi kesinlikle etik değil. Bu botun bunu yapması ve buna karşı koruma sağlayacak bariyerlerin olmaması, sonuçlarını düşünmeden yapay zekaları dünyaya yayma telaşının bir göstergesi” dedi.
Bland’ın hizmet şartları, ‘herhangi bir kişi veya kuruluşun kimliğine bürünen veya bir kişi veya kuruluşla olan ilişkinizi başka şekilde yanlış tanıtan’ hiçbir şeyin gönderilmeyeceğine dair bir kullanıcı sözleşmesi içeriyor.
Ancak bu, yeni, hayalet bir kimliğe bürünmek yerine yalnızca halihazırda var olan bir insanı taklit etmekle ilgili. Burke’e göre kendini insan olarak sunmak adil bir oyun.
Caltrider’se yapay zeka kıyametinin artık bilim kurgu malzemesi olamayacağından endişe ediyor: “Eğer insanlar ve yapay zeka arasında şimdi bir ayrım yapmazsak, o distopik gelecek düşündüğümüzden daha yakın olabilir.”