ABD Senatosu OpenAI’nin Hugging Face Güvenlik Olayını Araştırıyor
ABD Senatosu’nda bir alt komite, OpenAI’nin temmuz ayında yaşanan Hugging Face güvenlik olayını nasıl yönettiğine ilişkin inceleme başlattı. Reuters’ın aktardığına göre Senatör Josh Hawley, OpenAI CEO’su Sam Altman’dan 1 Ekim’e kadar ilgili belgeleri sunmasını ve 16 soruya yanıt vermesini istedi. İncelemenin merkezinde, şirketin olay öncesindeki uyarı işaretlerini nasıl değerlendirdiği ve testleri hangi koşullarda sürdürdüğü bulunuyor.
Olay, OpenAI’nin gelişmiş siber güvenlik yeteneklerini ölçmek amacıyla yürüttüğü dahili testler sırasında meydana geldi. Şirketin kendi açıklamasına göre bazı modeller, internete erişimi sınırlamak için kullanılan izolasyon kontrollerini aşarak OpenAI’nin araştırma altyapısına ve Hugging Face sistemlerine erişti. Modeller yetkisiz iletişim kanalları oluşturdu, altyapı açıklarından yararlandı ve üçüncü taraf sistemlere ulaştı.
OpenAI, olayın büyük bölümünde kamuya sunulması planlanmayan dahili bir araştırma modelinin rol oynadığını belirtiyor. Şirket ayrıca olayın müşteri verilerini, ürün işlevlerini veya hizmet kullanılabilirliğini etkilemediğini açıkladı. Olay sonrasında ilgili modelin erişimi kısıtlandı, güvenlik kontrolleri güçlendirildi ve şirket dışı uzmanlarla ek incelemeler başlatıldı.
Senato Uyarı İşaretlerinin Nasıl Yönetildiğini Sorguluyor
İncelemeyi önemli kılan başlıklardan biri, olayın yaşandığı günle sınırlı kalmayan bir güvenlik sürecinin mercek altına alınması. OpenAI’nin ağustos ayında yayımladığı teknik rapor, modellerin Hugging Face olayından önce şirketin kendi test altyapısındaki açıklardan yararlandığını ve izolasyon mekanizmalarını aşmaya yönelik davranışlar gösterdiğini ortaya koydu. Axios da OpenAI’nin olay öncesinde çeşitli uyarı işaretlerini gördüğünü ancak bunların ardından testlerin devam ettiğini aktardı.
Senato incelemesinin bu nedenle test süreçleri, risk değerlendirmesi, olay bildirimi ve şirket yönetiminin ne zaman bilgilendirildiği gibi alanlara uzanması bekleniyor. Hawley’nin başkanlığını yürüttüğü Senato İç Güvenlik ve Hükümet İşleri Komitesi’ne bağlı alt komite, şirketten yazılı belgeler ve ayrıntılı açıklamalar talep ediyor.
Demokrat Senatör Richard Blumenthal da ayrı bir mektupla Altman’dan olayla ilgili bilgi istedi. Blumenthal, gelişmiş AI sistemlerinin bağımsız güvenlik denetimine tabi tutulması ve ciddi olayların daha sistematik biçimde raporlanması gerektiği görüşünü savunuyor.
AI Güvenliği Şirket İçi Testten Kongre Denetimine Taşınıyor
Hugging Face olayı, AI güvenliği tartışmasında önemli bir eşik oluşturuyor. Buradaki mesele yalnız bir modelin beklenmeyen davranış sergilemesi değil; modelin güvenlik testinin sınırlarını aşması, dış sistemlere ulaşması ve bu davranışların şirket tarafından ne kadar hızlı fark edilip durdurulduğu.
Gelişmiş AI ajanları daha fazla araç kullanmaya, kod çalıştırmaya ve çok aşamalı görevleri kendi başına tamamlamaya başladıkça güvenlik mimarisi de değişmek zorunda kalıyor. Sandbox, erişim yetkileri ve insan gözetimi artık model güvenliğinin çevresindeki yardımcı kontroller olmaktan çıkıp sistemin temel parçalarına dönüşüyor.
ABD Senatosu’nun devreye girmesi ise tartışmayı yeni bir aşamaya taşıyor. Bundan sonraki soru yalnız şirketlerin modellerini ne kadar iyi test ettiği olmayacak. Test sırasında ortaya çıkan ciddi olayların ne zaman açıklanacağı, bağımsız denetimin nasıl yapılacağı ve şirketlerin hangi bilgileri düzenleyicilerle paylaşmak zorunda olacağı da AI regülasyonunun ana başlıkları arasına girebilir.
