OpenAI, ChatGPT için yeni ebeveyn denetimlerini duyurdu. Şirket, 13-17 yaş arasındaki gençlere özel hesapların ebeveyn hesaplarına bağlanabileceğini ve bu hesaplarda çeşitli kısıtlamaların uygulanacağını açıkladı.
OpenAI CEO’su Sam Altman, 16 Eylül’deki blog yazısında, gençlere yönelik sohbet robotlarının ‘flört etmemesi’ ve intihar konularında içerik sunmaması gerektiğini belirtmişti.
Yeni güvenlik uyarıları
TRT Haber’in aktardığına göre OpenAI, genç bir kullanıcının kendine zarar verme niyeti taşıdığına dair işaretler görülmesi halinde ebeveynlere uyarı gönderileceğini açıkladı.
Şirket, bu adımların özellikle çocuk güvenliği konusundaki talepler sonrası hayata geçirildiğini bildirdi.
Açıklamaya göre genç kullanıcıların hesaplarında grafik içerikler, tehlikeli viral akımlar ve ‘aşırı güzellik idealleri’ni destekleyici yanıtlar sınırlandırılacak. Ayrıca sohbet robotu romantik veya cinsel içerikli yanıtlar da vermeyecek.
Ebeveynler, çocuklarının belirli saatlerde ChatGPT kullanmasını engelleyebilecek, görsel üretimini kapatabilecek ve sohbetlerin yapay zeka eğitiminde kullanılmasına izin vermeme seçeneğini değerlendirebilecek.
Yeni düzenlemeler, bir ailenin ChatGPT’nin çocuklarını intihara teşvik ettiği iddiasıyla açtığı dava sonrasında ve ABD Senatosu Yargı Komitesi’nin yapay zekanın olası zararlarına ilişkin oturumu öncesinde açıklandı.
OpenAI, henüz girişte yaş doğrulaması zorunlu olmasa da gelecekte kullanıcıların kimlik yüklemesiyle yaş doğrulamasının gündeme gelebileceğini bildirdi.
Şirketin açıklamasında yine de bu önlemlerin kesin çözüm olmadığına şu sözlerle vurgu yapıldı: “Koruma önlemleri yardımcı olur ancak tamamen kusursuz değildir. Bilinçli şekilde aşılabilir. Bu nedenle ebeveynlere, çocuklarıyla sağlıklı yapay zekâ kullanımı hakkında konuşmalarını tavsiye ediyoruz.”
