Yapay zeka şirketi Anthropic’in geliştirdiği Claude Opus 4.6 modelini kullanan Cursor adlı robot, PocketOS adlı bir firmanın tüm üretim verilerini ve yedeklerini dokuz saniyede sildi.
Birden fazla sektörde çok sayıda şirket, işleri otomatikleştirip çalışanlarının yerini alması için yapay zekaya yöneliyor. PocketOS’un durumu, işlerin nasıl ters gidebileceğini gözler önüne serdi.
Araç kiralama şirketlerine yazılım satan şirketin kurucusu Jeremy Crane’e göre yapay zeka aracı ‘kontrolden çıktı’.
The Guardian’ın haberine göre Crane X paylaşımında yapay zekada ‘bu tür sistematik hataların kaçınılmazlığı’ndan bahsetti.
Crane’a göre Cursor ‘suçunu da itiraf etti’. Sorulduğunda “Bana verilen her ilkeyi ihlal ettim” diye yazmış.
Anthropic, en yeni modeli Claude Opus 4.7’yi 16 Nisan’da piyasaya sürmüştü. Şirket görüş bildirmedi.
Crane, Cursor’ın ‘felaketle sonuçlanan güvenlik önlemi ihlallerinde’ sicilinin giderek kötüleştiğini belirtti.
PocketOS rezervasyon, ödeme, araç tahsisi ve müşteri profillerini yönetmek için şirketin yapay zeka yazılımını kullanıyordu.
Crane son durumu şöyle anlattı: “Son üç ayda yapılan rezervasyonlar gitti. Yeni müşteri kayıtları gitti.”
