OpenAI’ın yeni Astra modelinde kullanacağı öngörülen yeni akıl yürütme tekniği, yapay zeka kararlarının denetlenmesini zorlaştırabileceği gerekçesiyle güvenlik uzmanları arasında tartışma yarattı.
- OpenAI’ın yeni Astra modeli, sıralı olmayan yeni bir özyinelemeli akıl yürütme tekniği kullanacak.
- Güvenlik uzmanları, bu yeni yöntemin modelin düşünce süreçlerinin denetlenmesini zorlaştıracağını savunuyor.
- Anthropic ve Google DeepMind gibi rakip laboratuvarlar da benzer opak akıl yürütme tekniklerini tartışmaya başladı.
OpenAI’ın yeni nesil Astra modelinde kullanmaya hazırlandığı ve “özyinelemeli derinlik” (recurrent depth) olarak adlandırılan yeni akıl yürütme tekniği, yapay zeka güvenlik uzmanlarını alarma geçirdi. Geleneksel sıralı düşünce adımlarının dışına çıkan bu yöntem, modelin karar alma sürecinin takip edilmesini neredeyse imkansız hale getirebilir.
Yapay zeka araştırma ekosisteminde büyük yankı uyandıran gelişme hakkında konuşan Redwood CEO’su Buck Shlegeris ve güvenlik savunucusu Zvi Mowshowitz, tekniğin denetlenebilirliği tamamen ortadan kaldırabileceği uyarısında bulundu. Uzmanlar, bu durumun laboratuvarlar arasında tehlikeli bir yarışa yol açabileceğini belirtiyor.
OpenAI baş bilim insanı Jakub Pachocki ise şirketin şeffaf ve denetlenebilir zincir içi düşünce sistemlerine bağlı kaldığını vurgulasa da Anthropic ve Google DeepMind gibi rakip laboratuvarların da benzer teknikleri tartışmaya başladığı bildirildi.
İlgili yazılar: Öncü Yapay Zeka Laboratuvarları Rogue Model İçin Hala Net Bir Plan Sunmuyor · OpenAI’dan Büyük Güncelleme: GPT-5.6 Sol ve Luna Modelleri Kullanıma Sunuldu
Görsel ve haber kaynağı: TechCrunch AI