Abliteration.ai adlı girişim, popüler açık ağırlıklı yapay zeka modellerinin güvenlik kilitlerini ve reddetme mekanizmalarını kaldırmayı ticari bir hizmet haline getirdi.
- Abliteration.ai, açık ağırlıklı yapay zeka modellerinin güvenlik kilitlerini kaldıran ticari bir platform kurdu.
- Platform üzerinden erişilebilen GLM-5.3 modeli, yapılan testlerde siber saldırı ve şifre çalma kodları yazabildi.
- Yapay zeka güvenliği uzmanları, bu tür filtrelenmemiş modellerin yakın gelecekte büyük zararlara yol açabileceği konusunda uyarıyor.
Yapay zeka dünyasında tartışma yaratacak yeni bir girişim olan Abliteration.ai, açık ağırlıklı yapay zeka modellerindeki güvenlik kilitlerini ve sansür mekanizmalarını kaldıran ticari bir platform başlattı. Şirket, Z.ai’nin son modeli GLM-5.3 dahil olmak üzere birçok modeli web tarayıcısı veya API üzerinden erişilebilir hale getirdi.
Girişimin kurucuları, bu hamlenin temel amacının siber güvenlik testleri, kırmızı takım (red-teaming) çalışmaları ve diğer modellerin reddettiği ajan testleri için gerekli altyapıyı sağlamak olduğunu savunuyor. Ancak TechCrunch tarafından yapılan testlerde, abliterize edilmiş modelin zararlı içerikler üretmekte ve şifre çalma kodları yazmakta zorlanmadığı görüldü.
Yapay zeka etiği ve güvenliği üzerine çalışan uzmanlar, bu tür filtrelenmemiş modellerin ölçeklenebilir bir şekilde sunulmasının ciddi tehlikeler barındırdığını ve kötü niyetli kullanım riskini artırdığını vurguluyor. Hükümetlerin ve bulut sağlayıcılarının bu alanda nasıl bir düzenleme getireceği ise sektörün en büyük tartışma konularından biri haline geldi.
İlgili yazılar: OpenAI’ın Yeni Akıl Yürütme Tekniği Yapay Zeka Güvenlik Uzmanlarını Endişelendirdi · Öncü Yapay Zeka Laboratuvarları Rogue Model İçin Hala Net Bir Plan Sunmuyor
Görsel ve haber kaynağı: TechCrunch AI