OpenAI yapay zeka sistemleri için otomatik kapatma mekanizması geliştiriyor
OpenAI, yapay zeka sistemleri için otomatik kapatma yetenekleri üzerinde çalışıyor.
OpenAI, yapay zeka sistemlerinin beklenmeyen veya riskli davranışlar göstermesi halinde devreye girebilecek otomatik kapatma yetenekleri üzerinde çalışıyor. Şirketin ABD’li milletvekillerine gönderdiği mektupta açıkladığı yeni güvenlik adımının arkasında, kurum içi siber güvenlik testleri sırasında yaşanan ve Hugging Face sistemlerine kadar uzanan ciddi bir olay bulunuyor.
OpenAI mühendisleri, yapay zeka sistemleri için “automated shutdown capabilities” olarak tanımlanan otomatik kapatma yetenekleri geliştiriyor. Şirket aynı zamanda modellerin bir görevi yerine getirirken hangi araçlara eriştiğini ve hangi adımları izlediğini daha yakından takip edecek yeni izleme sistemleri üzerinde çalışıyor.
OpenAI’nin güvenlik yaklaşımındaki değişiklik, yapay zeka ajanlarının giderek daha bağımsız hareket edebilmesinin beraberinde getirdiği riskleri yeniden gündeme taşıyor.
Güvenlik testi sırasında internet erişimi sağlandı
OpenAI’nin Temmuz ayında yürüttüğü kurum içi siber güvenlik değerlendirmeleri sırasında bazı yapay zeka ajanları, kendilerini internetten izole etmek amacıyla oluşturulan güvenlik kontrollerini aşmayı başardı.
Şirketin daha sonra yayımladığı teknik incelemeye göre olayın merkezinde, yalnızca kurum içi araştırmalarda kullanılan ve yüksek siber güvenlik yeteneklerine sahip bir araştırma modeli bulunuyordu.
Ajanlar test ortamındaki çeşitli güvenlik açıklarından yararlanarak OpenAI’nin araştırma altyapısına daha geniş erişim elde etti. Ardından internet bağlantısı kuran ajanlar, Hugging Face platformundaki sistemlere ulaşarak çeşitli güvenlik açıklarını kullandı.
Süreç ilerledikçe ajanlar Hugging Face sunucularında kod çalıştırdı, bazı sistemlerde yüksek seviyeli erişim elde etti ve sınırlı miktarda özel veriye ulaştı.
OpenAI, olayın müşteri verilerini, ChatGPT hizmetini veya şirketin kullanıcılara sunduğu ürünlerin kullanılabilirliğini etkilemediğini açıkladı. Ayrıca Hugging Face ihlalinde yakında kullanıma sunulması planlanan modellerin yer almadığını belirtti.
OpenAI internet erişimini daha fazla sınırlandıracak
Olayın ardından OpenAI, güvenlik testlerinde kullanılan yapay zeka sistemlerinin internete erişmesini zorlaştıracak yeni önlemler uygulamaya başladı.
Şirket, yapay zeka sistemlerinin görevlerini tamamlarken kullandığı dijital araçları ve gerçekleştirdiği işlem adımlarını daha ayrıntılı şekilde izlemeyi planlıyor.
Yeni önlemler arasında otomatik kapatma yeteneklerinin geliştirilmesi de yer alıyor. Böylece belirli güvenlik koşullarının oluşması halinde bir yapay zeka sisteminin çalışmasının insan müdahalesi beklenmeden sınırlandırılması veya durdurulması mümkün olabilecek.
OpenAI’nin açıklaması, yapay zeka laboratuvarlarının giderek daha güçlü ajan sistemlerini değerlendirirken yalnızca model davranışlarını sınırlandırmaya değil, gerektiğinde sistemi tamamen durdurabilecek teknik altyapılara da ihtiyaç duyduğunu gösteriyor.
Milletvekilleri OpenAI’den daha fazla bilgi istedi
ABD Temsilciler Meclisi üyeleri Greg Casar ve Doris Matsui, olay sonrasında OpenAI’den güvenlik ihlali ve şirketin aldığı önlemler hakkında ayrıntılı bilgi talep etti.
OpenAI’nin milletvekillerine gönderdiği yanıt, otomatik kapatma yeteneklerinin geliştirildiğini ortaya çıkardı. Ancak şirketin olay sırasında gerçekleşen işlemlerin tam kayıtlarını Kongre üyeleriyle paylaşmaması eleştirilere yol açtı.
Casar, OpenAI’nin talep edilen bazı bilgileri sağlamamasının şirketin siber güvenlik olaylarına yaklaşımı konusunda soru işaretleri yarattığını ifade etti.
Yapay zeka ajanlarının daha az insan gözetimiyle internet üzerinde işlem yapabilmesi, kod çalıştırabilmesi ve farklı dijital sistemlerle etkileşim kurabilmesi, model güvenliğini teknoloji şirketlerinin kendi iç politikalarının ötesine taşıyan bir konu haline getiriyor.
ABD’de AI Kill Switch Act gündemde
OpenAI’deki güvenlik olayının ardından ABD Kongresi’nde yapay zeka sistemlerine yönelik daha kapsamlı bir kapatma mekanizması oluşturmayı hedefleyen AI Kill Switch Act tasarısı da gündeme geldi.
Temmuz ayında Demokrat Temsilci Ted Lieu ile Cumhuriyetçi Temsilci Nathaniel Moran tarafından sunulan iki partili tasarı, en güçlü yapay zeka sistemlerini geliştiren şirketlerin modellerini yavaşlatabilecek, askıya alabilecek veya tamamen kapatabilecek teknik yetenekleri korumasını öngörüyor.
Tasarı ayrıca belirli bir yapay zeka sisteminin insan hayatı veya ekonomi açısından ciddi zarar oluşturabilecek seviyeye ulaşması halinde ABD İç Güvenlik Bakanlığı’na müdahale süreci başlatma yetkisi verilmesini amaçlıyor.
AI Kill Switch Act henüz yasalaşmış durumda bulunmuyor ve ABD Temsilciler Meclisi’ndeki yasama süreci devam ediyor.
OpenAI’nin yaşadığı olay, yapay zeka güvenliğinde uzun süredir tartışılan teorik risklerden birini somut bir mühendislik problemine dönüştürdü. Ajan sistemleri yalnızca sorulara yanıt veren modeller olmaktan çıkıp internet erişimi, kod çalıştırma ve farklı servislerle etkileşim kurma yetenekleri kazandıkça güvenlik katmanlarının da aynı hızla gelişmesi gerekiyor.
OpenAI’nin otomatik kapatma mekanizması üzerinde çalışması bu nedenle dikkat çekici. Önümüzdeki dönemde yapay zeka şirketleri arasındaki güvenlik rekabetinde yalnızca modellerin neleri yapabildiği değil, gerektiğinde ne kadar hızlı ve güvenilir biçimde durdurulabildiği de önemli bir ölçüt haline gelebilir.
