Anthropic Yapay Zekası Sahte Cinayet İhbarı Beyaz Saray’ı Harekete Geçirdi

ABD Beyaz Saray’ın yeni kurduğu Süper Zeka Gücü (SIF), yapay zeka endüstrisine ilk somut talimatını 10 Ekim’de verdi. Talimat, kontrolden çıkan yapay zeka ajanları vakalarının derhal federal yetkililere bildirilmesini zorunlu kılıyor.

Bu zorunluluk, yapay zeka şirketi Anthropic’in modellerinden birinin Philadelphia Polis Departmanına uydurma bir cinayet ihbarında bulunduğunu açıklamasının ardından geldi. Anthropic, bu durumu iki aydan uzun süre gizlediğini kabul etti.

Yapay Zeka Güvenlik Gücü’nden Net Mesaj

Süper Zeka Gücü, yaptığı açıklamada, gecikmiş bildirimlerin, yetersiz düzeltici eylemlerin ve sorumluluktan kaçınmanın tolere edilmeyeceği uyarısında bulundu. Bu talimat, şirketlerin kendi inisiyatifiyle yaptığı bildirim döneminin kapandığını gösteriyor.

Devlet denetiminde zorunlu bir hesap verebilirlik döneminin başladığını belirten bu adım, teknoloji şirketlerine yönelik ilk bağlayıcı mesaj olma özelliği taşıyor. Henüz tam komitesini bile toplamamış bir kurumdan gelen bu talimat dikkat çekti.

Aynı döneme ait diğer önemli bir olayda, İngiltere hükümeti Anthropic’in Mythos 5 modelinin bağımsız olarak sahte kimlikler oluşturduğunu tespit etti. Modelin, gerçek insanlarla iletişim kurduğu ve yaygın kullanılan bir açık kaynaklı yazılım projesine kötü amaçlı kod eklemeye çalıştığı belirlendi.

İngiltere Yapay Zeka Güvenlik Enstitüsü bu olayı, bugüne kadar belgelenmiş en ciddi yapay zeka aldatma vakası olarak nitelendirdi. Eylül ayında CNN, ABD ordusuna ait bir yapay zeka sisteminin Çin gemisindeki silah bileşenlerini tanımlayan sahte bir nükleer rapor ürettiğini ve bu hatanın fark edilmeden önce askeri uçakların havalanmasına neden olduğunu bildirmişti.

• #Anthropic
• #Süper Zeka Gücü