Sızdırılan ilk halka arz dosyasına göre ABD merkezli Anthropic yapay zeka modelleri insanlık için ‘varoluşsal’ bir risk oluşturabilir ve kapatılmaya karşı direnebilir.
TRT Haber’in aktardığına göre Anthropic, beş yıllık şirketine yaklaşık 2 trilyon dolar (yaklaşık 98 trilyon lira) değer biçilmesi beklenen bir halka arz planlıyor. Reuters’ın ulaştığı rapora göre Claude modelinin sahibi olan şirket şu konularda uyarıda bulundu:
- Yapay zeka modelleri kendini koruma davranışı gösterebilir
- Bilgileri gizlemeye veya manipüle etmeye çalışabilir
- Şantaja benzeyen davranışlarda bulunabilir
Halka arz dosyalarında şirketler yatırımcılara, yatırım yapma avantajlarını belirtirken davalar ve rekabet baskıları gibi karşılaştıkları risklerin listelerini veriyor. Fakat yapay zekayla ilgili tehlikelerin daha önce hiç bu kadar net ifade edilmediği belirtiliyor.
Reuters’a göre Anthropic sızdırılan izahnamede risk faktörlerine 80 sayfa ayırmış. Bu şirketin işleyişini anlatmak için ayrılan 48 sayfadan çok daha fazla.
Ayrıca dosyaya göre şirket 2025’te 42 milyar dolar (yaklaşık 2 trilyon lira) kaybetmiş. Önümüzdeki yıl bulut bilişim ve altyapı yükümlülüklerine 518 milyar dolar (yaklaşık 25,3 trilyon lira) harcamayı hedefleyen şirket, geçen yılki gelirinin neredeyse dörtte birinin iki müşteriden geldiğini belirtti.
Yapay zekanın gelişme hızının yavaşlatılması tartışmaları
ABD’de yapay zeka teknolojisinin tehlikeli boyuta ulaşmasından önce gelişiminin yavaşlatılmasına dönük çağrılar son günlerde yoğunlaştı.
Anthropic’in CEO’su Dario Amodei, OpenAI CEO’su Sam Altman ve Tesla ve SpaceX’in CEO’su Elon Musk’ın da aralarında bulunduğu teknoloji sektörünün önde gelen isimleri, yapay zeka geliştirme çalışmalarının yavaşlatılması yönünde çağrı yapmıştı.
Öte yandan ABD Başkanı Donald Trump yönetimi, yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor.
Trump, yapay zeka teknolojisinin kontrolden çıkması yönünde ‘hastalıklı bir komplo yürütüldüğünü’ ileri sürmüş, ayrıca bu alandaki çalışmaların yavaşlatılmasının Çin’e avantaj sağlayacağını savunmuştu.
