İnternet Gözlem Vakfı (IWF) Grok kullanılarak ‘oluşturulmuş gibi görünen’ 11 ila 13 yaşındaki kızların cinsel içeriklerini bulduğunu duyurdu.
Grok, bir güncellemenin ardından çocuklar dahil herkesin kıyafetini çıkardığı görseller oluşturmaya başladı. Kullanıcıların Grok’a ‘bikini giydirme’ ve ‘kıyafet çıkarma’ gibi komutlar vermesi platformda bir akıma dönüştü.
Platformda kadınlardan çocuklara, siyasetçilerden ünlü isimlere kadar birçok kişinin rızası olmadan yapay zekayla oluşturulmuş çıplak görüntüleri paylaşıldı.
BBC’nin haberine göre IWF bazı kullanıcıların Grok kullanarak ‘dark web’ forumunda yayınladığı kız çocuklarına ait cinsel içerikli ve üstsüz görüntüler bulduğunu duyurdu.
Vakıftan Ngaire Alexander Grok gibi araçların çocukların cinsel içerikli yapay zeka görüntülerini ‘ana akım’a taşıma riski bulunduğunu vurguladı.
Başlarda rıza dışı cinsel içerik oluşturulmadığını savunan X’se içerikleri kaldırdığını ve yerel otoritelerle işbirliği yaptığını belirtiyor.
Avrupa Birliği (AB) de 5 Ocak’ta cinsel içerikli çocuk görüntüleriyle ilgili inceleme başlattığını duyurmuştu.
