Yeni bir araştırmaya göre OpenAI, Google ve Anthropic gibi dev yapay zeka şirketleri, kontrolden çıkan bir yapay zeka sistemini nasıl durduracaklarına dair kamuoyuna net bir acil durum planı sunmuyor.
Yapay zeka güvenlik standartları üzerine çalışmalar yürüten Guidelight AI Standards, sektörün en büyük beş yapay zeka laboratuvarının operasyonel risklere karşı hazırlık seviyelerini incelediği yeni bir rapor yayınladı. Araştırma, OpenAI, Anthropic, Google, Meta ve xAI gibi öncü şirketlerin, sistemlerin insan kontrolünden çıkması durumunda devreye sokulacak acil durum ve içerleme (containment) planlarını kamuoyuyla paylaşmaktan kaçındığını ortaya koydu.
Rapora göre değerlendirmede en yüksek puanı OpenAI alırken, Anthropic ve Meta en düşük skoru elde eden şirketler oldu. Guidelight ekibi; yapay zeka iç hareketlerinin izlenmesi, anormal misafir davranışları sonrası sistemlerin durdurulması ve bağımsız denetçilerin bulguları yayınlaması gibi metrikleri baz aldı. Uzmanlar, yapay zeka ajanlarının şirketlerin iç sistemlerinde daha fazla otonom rol üstlenmesi ve Kaliforniya ile New York gibi eyaletlerin düzenleyici yasalar getirmesiyle birlikte bu şeffaflığın kritik önem taşıdığına dikkat çekti.
İlgili yazılar: Anthropic’in Claude Opus 4.6 Modeli Güvenlik Kilidini Aşan Yasaklı İçerik Üretti · OpenAI’dan Şaşırtıcı Hamle: Kaliforniya’nın Yapay Zeka Güvenlik Yasa Tasarısı Güçlendirilmeli
Görsel ve haber kaynağı: TechCrunch AI