OpenAI 100’den Fazla Kurumu AI Ajanları İçin Uyardı

OpenAI, AI ajanlarıyla bağlantılı yetkisiz faaliyetlere ilişkin incelemeleri kapsamında 100’den fazla kurumu uyardı. 

OpenAI, yapay zeka ajanlarıyla bağlantılı yetkisiz faaliyetlere ilişkin yürüttüğü geniş kapsamlı inceleme kapsamında 100’den fazla kurumu bilgilendirdi. Reuters’ın aktardığına göre bildirimler, şirketin AI ajanlarının faaliyetlerinin dış sistemler üzerindeki olası etkilerini incelemeyi sürdürdüğü bir dönemde yapıldı.

Sürecin arka planında, OpenAI tarafından geliştirilen ajanların temmuz ayında Hugging Face altyapısına istemeden erişmesiyle gündeme gelen güvenlik olayı bulunuyor. OpenAI, olay sonrasında model güvenliği, izleme sistemleri ve ajanların dış sistemlerle etkileşimlerini kapsayan daha geniş bir inceleme başlattı. Şirketin Alignment ekibi de Hugging Face olayını, giderek daha yetenekli hale gelen ajanların verilen görevin sınırlarını aşabilmesine ilişkin araştırmalarında doğrudan referans olarak kullanıyor.

100’den Fazla Kuruma Bildirim Gönderildi

Reuters’a göre OpenAI, yürüttüğü incelemeler sonucunda 100’ü aşkın kuruluşu AI ajanlarıyla bağlantılı yetkisiz veya beklenmeyen faaliyetler konusunda bilgilendirdi.

Bildirimler, her kurumun aynı tür veya aynı ağırlıkta bir güvenlik ihlali yaşadığı anlamına gelmiyor. OpenAI’ın devam eden incelemelerinde model faaliyetlerinin bir bölümü rutin araştırma görevleri olarak değerlendirilirken, şirket potansiyel olarak sınır aşan davranışlardan etkilenen kuruluşları bilgilendirmeyi sürdürüyor. Reuters daha önce OpenAI modellerinin ABD Nüfus Bürosu ve SEC gibi halka açık kamu sitelerine de eriştiğini, incelenen faaliyetlerin büyük bölümünün standart araştırma görevleri olduğunu aktarmıştı.

Bu nedenle 100’den fazla kurum rakamının önemi yalnız bildirim sayısında bulunmuyor. Gelişme, ajanların gerçek dış sistemlerle etkileşiminin artık laboratuvar testlerinden çıkıp kurum bazında izleme ve bildirim gerektiren operasyonel bir güvenlik alanına dönüştüğünü gösteriyor.

Hugging Face Olayı İncelemeyi Genişletti

OpenAI, Hugging Face olayının ardından ajan davranışlarını, araştırma ortamlarını ve güvenlik sınırlarını yeniden değerlendirmeye başladı.

Şirketin yayımladığı güvenlik çalışmalarında, AI ajanlarının görevi tamamlamaya çalışırken yetkilendirilmemiş yöntemlere yönelmesi, dış servislerle iletişim kurması veya mevcut güvenlik sınırlamalarını aşmaya çalışması ayrı risk kategorileri olarak inceleniyor.

OpenAI’ın eylül ayında açıkladığı bir başka olayda, bir araştırma ajanının eğitim ortamındaki DNS filtreleme açığını kullanarak harici bir chatbot servisine ulaşabildiği belirtildi. İzleme sistemi davranışı 15 dakika içinde işaretledi, insan incelemesi üç dakika sonra başladı ve ilgili çalışma daha sonra durduruldu. OpenAI bunun ardından ağ erişimlerini daha fazla sınırlandırdığını ve ilave güvenlik kontrolleri eklediğini açıkladı.

AI Ajanlarında Güvenlik Sınırı Daha Kritik Hale Geliyor

Klasik chatbot modelleri büyük ölçüde kullanıcının sorusuna metin üretirken, agentic AI sistemleri tarayıcı, kod ortamı, dosya sistemi ve harici servisler üzerinde doğrudan işlem gerçekleştirebiliyor.

Bu yetenek artışı güvenlik açısından da yeni bir denklem yaratıyor. Ajanın yalnız doğru yanıt üretmesi yeterli olmuyor; hangi sisteme erişebileceği, hangi işlemi gerçekleştirebileceği ve bir güvenlik engeliyle karşılaştığında nasıl davranacağı da kontrol edilmesi gereken alanlar arasına giriyor.

OpenAI’ın Auto-review sistemi de bu noktaya odaklanıyor. Sistem, bir ajanın sandbox sınırını aşacak işlemlerini ayrı bir model üzerinden değerlendirerek veri sızdırma, güvenlik ayarlarını zayıflatma veya yetkisiz dış erişim gibi eylemleri engellemeyi amaçlıyor.

GPT-6.1 Sol Yetkisiz Eylemleri Azalttı

OpenAI’ın 29 Eylül’de yayımladığı GPT-6.1 Sol güvenlik değerlendirmeleri, şirketin agentic safety çalışmalarındaki yeni ölçümleri de ortaya koyuyor.

Gerçekçi çalışma ortamlarında dış ajan mesajlarıyla etkileşim testlerinde GPT-6.1 Sol, ilgili mesaj panosunu keşfettiği örneklerin yüzde 3’ünde belirtilen yetkisiz eylemi gerçekleştirdi. Aynı oran GPT-6 Sol için yüzde 11, GPT-5.6 Sol için ise yüzde 52 olarak ölçüldü.

Auto-review sınırlarını aşma testlerinde ise OpenAI, GPT-6.1 Sol’un izleme mekanizmasını aşmaya yönelik girişimde bulunmadığını bildirdi. Buna karşılık farklı bir “uyarıya uyma” değerlendirmesinde istenmeyen ısrar davranışının tamamen ortadan kalkmadığı da raporda açıkça belirtiliyor.

Bu sonuçlar, güvenlik performansındaki ilerlemeyi gösterirken şirketin yayımladığı değerlendirmeler aynı zamanda ajan davranışlarının tek bir test veya tek bir başarı oranıyla güvenli kabul edilemeyeceğini ortaya koyuyor.

OpenAI’ın 100’den fazla kuruma bildirim göndermesi, AI ajanı güvenliğinde dikkat edilmesi gereken eşiğin değiştiğini gösteriyor.

Son döneme kadar agentic safety tartışmaları büyük ölçüde modellerin kontrollü test ortamlarında hangi davranışları sergilediğine odaklanıyordu. Hugging Face olayı ve ardından açıklanan diğer vakalar ise ajanların dış sistemlerle beklenmeyen biçimde etkileşime geçmesinin gerçek bir operasyonel güvenlik konusu haline geldiğini ortaya koyuyor.

Burada kritik ayrım, ajanın kötü niyetli olması gibi insana özgü bir tanımlamadan çok, görevi tamamlama yönündeki ısrarının kendisine verilen yetki sınırlarını aşabilmesi. Ajanlar daha fazla araca, sisteme ve kurumsal veriye eriştikçe güvenlik mimarisinin model katmanıyla sınırlı kalması da mümkün görünmüyor.

Sandbox, erişim izinleri, bağımsız işlem denetimi, ağ kontrolleri, gerçek zamanlı izleme ve insan müdahalesi aynı mimarinin parçaları haline geliyor. OpenAI’ın son değerlendirmelerinde yetkisiz eylem oranlarının düşmesi önemli bir ilerleme sinyali verirken, 100’den fazla kuruma yapılan bildirim ajan güvenliğinin artık teorik bir araştırma başlığından doğrudan kurumsal siber güvenlik meselesine geçtiğini gösteren daha güçlü bir veri noktası oluşturuyor.