Anthropic, yapay zeka modeli Claude’un ürettiği metin ve dosyalara dijital işaretler ekleyecek.
Düzenleme Avrupa Birliği (AB) Yapay Zeka Yasası’nın 50’nci maddesine dayanıyor. Bu maddede yapay zeka içeriklerinin teknik yöntemlerle tespit edilebilir kılınması taahhüdü yer alıyor.
Anthropic bu doğrultuda metinlere gizli filigranlar eklenecek. Desteklenen dosya biçimlerineyse dijital olarak imzalanmış kaynak üst verileri (provenance metadata) entegre edilecek.
İşaretleme sistemi, AB dışındaki kullanıcıları da kapsayacak. Claude’un ürettiği metin veya görseller dünyanın neresinde kullanılırsa kullanılsın işaretlenecek.
Uygulama, Claude Platformu (API), tüketici sohbet arayüzü, Claude Code, Claude Cowork ve Claude Tag dahil tüm ürün ve platformları kapsayacak.
Ayrıca Claude modellerine AWS, Google Cloud veya Microsoft Foundry gibi bulut iş ortakları üzerinden erişildiğinde de gömülü metin filigranları aktif olacak.
Metin filigranları ve C2PA standardı nasıl çalışacak?
Anthropic, içerikleri işaretlemek için birbirini tamamlayan iki farklı teknik yöntem kullanacağını açıkladı:
- Metin içi gömülü filigranlar: Modelin ürettiği metinlerin içine fark edilmeyen matematiksel bir filigran dokunacak. Metnin anlamını, kalitesini veya okunabilirliğini değiştirmeyen bu filigran; kopyala-yapıştır yapıldığında metinle birlikte taşınacak ve bazı editöryal düzenlemelere karşı varlığını koruyacak.
- İmzalı kaynak üst verileri: SVG, PNG veya JPG gibi desteklenen dosya biçimlerinde, sektör standardı kabul edilen C2PA (Coalition for Content Provenance and Authenticity) protokolüne dayalı dijital imzalı üst veriler kullanılacak. Bu etiket, dosyanın Claude tarafından işlendiğini gösterirken üzerinde sonradan değişiklik yapılıp yapılmadığının saptanmasına da imkan tanıyacak.
Doğrulama ve tespit araçları sunulacak
Anthropic, kullanıcıların ve üçüncü taraf kurumların metin veya dosyalardaki Claude işaretlerini tespit edebilmeleri için doğrulama mekanizmaları geliştirdiğini ve bu konudaki ayrıntılı teknik dokümantasyonu yakında yayınlayacağını belirtti.
Teknik sınırlar ve istisnalar
Açıklamada geliştirilen işaretleme sistemlerinin önemli bir şeffaflık imkanı sunduğu ancak bazı teknik sınırlarının bulunduğu belirtildi.
Bir içerikte Claude filigranının tespit edilmesi, metnin veya ana fikrin tamamını yapay zekanın ürettiğini kesin olarak kanıtlamıyor. Kullanıcıların Claude’u sıklıkla yazım denetimi, çeviri, özetleme veya dosya dönüştürme amacıyla tercih etmesi nedeniyle orijinali bir insana ait içerikler de yapay zeka müdahalesi izi taşıyabiliyor.
Öte yandan metinlerdeki köklü editöryal değişiklikler ve içerik müdahaleleri de filigranın tespit edilebilirliğini doğrudan etkiliyor. Radikal yeniden yazımlar, ağır düzenlemeler, farklı bir dile çeviriler veya metnin aşırı kısa olması filigran izini zayıflatabiliyor ya da tamamen silebiliyor. Benzer şekilde görsellerde ekran görüntüsü alma veya dosya formatını değiştirme gibi işlemler de entegre edilen dijital üst verilerin (metadata) kaybolmasına yol açabiliyor.
Şirket son olarak, Claude altyapısını kullanarak kendi ürünlerini geliştiren üçüncü taraf kurum ve geliştiricilere de çağrı yaptı. Şirketlerin AB Yapay Zeka Yasası’nın 50’nci maddesi kapsamındaki şeffaflık yükümlülüklerini bağımsız olarak değerlendirmeleri gerektiği belirtilirken bu süreçte geliştiricilere gerekli teknik rehberliğin ve dokümantasyonun sağlanacağı kaydedildi.
