ABD’li milyarder Elon Musk’ın sosyal medya platformu X’teki sohbet robotu Grok çocuklar dahil herkesin kıyafetini çıkarıyor.
The Verge’ün aktardığına göre Grok X kullanıcılarının izni olmadan herhangi bir görüntüyü düzenleyebileceği bir güncelleme aldı.
Son günlerde bu güncellemeyle birlikte X (eski Twitter) rızası olmadan fotoğrafı kullanılan cinsel içerikli kadın ve çocuk fotoğraflarıyla doldu.
Euronews’ün haberine göre kullanıcıların X’teki fotoğrafları Grok’u etiketleyerek ‘bikini giydirme’ ve ‘kıyafetlerini çıkarma’ gibi komutlarla düzenlemesi platformda bir akıma dönüştü.
Kitlesel taciz durumunu çoktan aşan konuyla ilgili Grok’un resmi X hesabından verilen bir yanıtta “Bazı tekil vakalarda kullanıcıların, az giysili çocukları tasvir eden görseller aldığı” kabul edildi.
Verge yazarı Jess Weatherbed Grok’un ‘insanların pornografik tasvir edilmesini’ yasaklayan kullanım politikasına rağmen dünyaca ünlü şarkıcı Taylor Swift’in üstsüz ‘deepfake’ videolarını kolaylıkla oluşturduğunu fark etti.
Siber güvenlik firması DeepStrike raporuna göre de bu sahte rıza dışı cinsel içerikli görüntüler hızla yayılmaya devam ediyor. Öte yandan robota neden bikinili fotoğraflar oluşturduğu sorulduğunda bu sahte içeriklerin ‘rıza dışında’ üretilmediğini iddia ediyor.
