OpenAI Yapay Zeka Destekli Güvenlik Çalışmalarını Genişletiyor
OpenAI, Cathedral Systems ile yeni güvenlik çalışmasına hazırlanıyor.
OpenAI, sistemlerindeki güvenlik açıklarını saldırganlardan önce tespit etmek için yeni bir güvenlik çalışması başlatmaya hazırlanıyor. Şirket, Cathedral Systems ile birlikte yapay zeka modellerini savunma testlerinde kullanacak ve kritik güvenlik açıkları için verdiği ödülleri artıracak.
OpenAI’ın 2 Kasım’da yayımladığı açıklamaya göre yeni güvenlik çalışmasında şirket ekipleri, Cathedral Systems araştırmacılarıyla birlikte OpenAI modellerini kullanarak sistemlerdeki zayıflıkları arayacak, güvenlik kontrollerini test edecek ve olası açıkları gidermeye yönelik çalışmalar yürütecek. Şirket, yaklaşımını insan güvenlik araştırmacıları ile yapay zeka modellerinin birlikte çalıştığı sürekli bir savunma modeli üzerine kuruyor.
OpenAI daha önce gerçekleştirdiği kurum içi güvenlik çalışmasında 250’den fazla çalışanı 100’den fazla hizmet alanında görevlendirmişti. Şirket bu süreçten geliştirdiği yöntemi daha sürekli hale getirmek amacıyla “Defense Factory” adı altında açıkların bulunması, doğrulanması, sorumlulara atanması ve düzeltmelerin test edilmesini kapsayan bir güvenlik döngüsü oluşturdu.
Cathedral Systems Güvenlik Testlerine Katılıyor
Yeni aşamada Cathedral Systems araştırmacıları OpenAI’ın modellerini şirket ekipleriyle birlikte kullanacak. Amaç, farklı araştırma yöntemlerini aynı güvenlik sürecinde birleştirerek zayıflıkları daha erken tespit etmek ve uygulanan düzeltmeleri yeniden test etmek. Yeni çalışma henüz tamamlanmış bir güvenlik operasyonunun sonuçlarını içermiyor; OpenAI şu anda bir sonraki güvenlik sprintinin hazırlığını yapıyor.
Bu yaklaşım, yapay zekanın yazılım geliştirme süreçlerindeki rolünün güvenlik tarafında da genişlediğini gösteriyor. Modeller yalnızca kod üretmek için kullanılmıyor; açıkların bulunması, izole ortamlarda yeniden oluşturulması ve düzeltmelerin sınanması gibi görevlerde de devreye giriyor.
Kritik Açıklara Ödül 172 Bin Dolara Çıkabiliyor
OpenAI aynı gün Security Bug Bounty programında da değişikliğe gitti. ChatGPT, Codex veya API Platform gibi temel ürünlerde bulunan kritik bir güvenlik açığı için standart ödül 30 bin dolara kadar çıkabiliyor. İstisnai kritik açıklar ise kalite, öncelikli kampanya ve sadakat bonuslarıyla yaklaşık 172 bin dolara kadar ödüllendirilebilecek.
Şirket ayrıca daha ayrıntılı ve yeniden üretilebilir güvenlik raporları için ek kalite bonusları, düzenli katkı sağlayan araştırmacılar için kademeli sadakat programı ve yeni ürünlere yönelik öncelikli güvenlik kampanyaları başlatıyor. OpenAI, yeni ödül sisteminin bağımsız güvenlik araştırmacılarının şirketin kendi testlerinde gözden kaçabilecek açıkları araştırmasını teşvik etmeyi amaçladığını belirtiyor.
OpenAI’ın son adımları yeni bir siber saldırı ya da veri ihlali açıklaması anlamına gelmiyor. Şirket, yapay zeka modellerini güvenlik ekiplerinin çalışma süreçlerine daha sistematik biçimde dahil ederken dış araştırmacıları da daha yüksek ödüllerle bu yapıya çekmeye çalışıyor. Asıl dikkat çekici değişim, yapay zekanın yazılım güvenliğinde yardımcı araç konumundan sürekli savunma altyapısının bir parçasına doğru ilerlemesi.
