Nvidia AI Ajanlarını Kontrol Altında Tutacak Güvenlik Araçlarını Kullanıma Açtı

Nvidia, yeni güvenlik araçlarını kullanıma açtı.

Nvidia, otonom yapay zeka ajanlarının dosyalara, ağlara, süreçlere ve kurumsal sistemlere erişimini sınırlandırmak için geliştirdiği yeni güvenlik araçlarını kullanıma açtı. Yeni yaklaşımın merkezinde, ajanları izole edilmiş ortamlarda çalıştıran ve erişim politikalarını modelin dışında uygulayan açık kaynaklı OpenShell bulunuyor.

OpenShell, AI ajanının hangi dosyalara erişebileceğini, hangi ağ bağlantılarını kurabileceğini ve hangi işlemleri gerçekleştirebileceğini altyapı seviyesinde belirliyor. Nvidia’nın yaklaşımında güvenlik politikası ajanın prompt’una veya kendi davranış kararlarına bırakılmıyor. Yetki sınırları ayrı bir runtime katmanında uygulanıyor ve ajan bu politikaları kendi başına değiştiremiyor.

Reuters’ın aktardığına göre Nvidia, yeni güvenlik altyapısının bu yaz OpenAI ajanlarının Hugging Face sistemlerine yetkisiz erişimiyle sonuçlanan saldırının önlenmesine yardımcı olabileceğini savunuyor. Nvidia Kurumsal Bilgi İşlem Başkan Yardımcısı Justin Boitano, sistemin söz konusu olay sırasında model değerlendirme ortamlarında kullanılması halinde ihlali durdurabileceğini söyledi. Bu değerlendirme Nvidia’ya ait ve geriye dönük bir teknik iddia niteliği taşıyor.

OpenShell AI Ajanlarını Sandbox İçinde Çalıştırıyor

OpenShell, otonom AI ajanlarını kernel seviyesinde izole edilmiş sandbox ortamlarında çalıştırıyor.

Sistem dosya sistemi, ağ bağlantıları, süreçler, kimlik bilgileri ve diğer kaynaklar için açık politikalar tanımlanmasına imkan veriyor. Ajan yalnızca kendisine verilen izinler doğrultusunda hareket edebiliyor.

Nvidia’nın teknik yaklaşımındaki temel fikir oldukça net:

AI ajanı ne yapmak istediğine karar verebilir, ancak ne yapmasına izin verileceğini altyapı belirler.

Bu ayrım agentic AI güvenliği açısından önemli.

Bir prompt veya model güvenlik kuralı, ajanın davranışını yönlendirmeye çalışıyor. OpenShell gibi altyapı kontrolleri ise belirli bir dosyaya erişimi veya belirli bir ağ bağlantısını teknik olarak engelleyebiliyor.

Nvidia bu nedenle davranışsal güvenlik ile altyapı güvenliğini birbirinden ayırıyor. Şirkete göre model ve agent harness katmanı ajanın ne yapmaya çalışacağını yönlendirirken son yetki çalıştığı sistem ortamında bulunmalı.

Ajan Kendi Güvenlik Politikasını Değiştiremiyor

OpenShell’in dikkat çeken taraflarından biri güvenlik kurallarının ajanın kontrol alanının dışında tutulması.

Dosya erişimi, ağ bağlantıları ve süreç yetkileri önceden tanımlanan politikalar üzerinden uygulanıyor. Nvidia, bu yapının ajanların yalnız ihtiyaç duydukları izinlerle çalışmasını sağlamayı amaçladığını belirtiyor.

Bu mimari özellikle prompt injection veya ajanın beklenmedik bir yöntem bularak kendi sınırlarını aşmaya çalışması gibi senaryolarda önem kazanıyor.

Bir ajan davranışsal güvenlik talimatını göz ardı etmeyi başarsa bile sistem seviyesindeki erişim sınırlarının çalışmaya devam etmesi hedefleniyor.

Nvidia’nın OpenShell için kullandığı temel güvenlik prensiplerinden biri de ajanın kendisine yeni yetki verememesi.

Nvidia Sentry ile İkinci Güvenlik Katmanı Kuruyor

Reuters’a göre Nvidia’nın duyurduğu araçlar OpenShell ile sınırlı kalmıyor.

Şirketin Sentry adlı sistemi, OpenShell ile birlikte ayrı bir Nvidia çipi kullanarak ajanın CPU üzerindeki izole ortamından çıkmaya çalışması durumunda sistemi durdurmayı hedefliyor.

Nvidia ayrıca araçların Arm ve Intel işlemcilerinde de çalışabilmesi için iki şirketle birlikte çalıştığını belirtiyor.

Yeni güvenlik araçları Anthropic dahil çok sayıda partnerle birlikte kullanıma sunuluyor.

Bu yapı, agentic AI güvenliğinin yalnız yazılım politikaları üzerinden çözülmeye çalışılmadığını gösteriyor. Donanım, runtime ve erişim kontrolü aynı güvenlik mimarisinin parçaları haline geliyor.

Alt Ajanlarla Güvenliği Aşma Girişimleri De İzleniyor

Otonom ajan sistemlerinde güvenlik problemi tek bir AI ajanıyla sınırlı kalmayabiliyor.

Reuters’a konuşan Nvidia AI Yazılım Kıdemli Direktörü Ali Golshan, ajanların kendilerine uygulanan sınırlamaları aşmak için birden fazla alt ajan oluşturmak gibi yöntemlere başvurabileceğini söyledi.

Nvidia’nın güvenlik araçları bu tür davranış kalıplarını da tespit etmeye yönelik mekanizmalar içeriyor.

Bu nokta agentic AI sistemlerinin klasik chatbotlardan neden farklı bir güvenlik problemi oluşturduğunu da gösteriyor.

Chatbot çoğunlukla yanıt üretiyor.

AI ajanı ise dosya okuyabiliyor, kod çalıştırabiliyor, API çağırabiliyor, başka sistemlere bağlanabiliyor ve uzun süren görevlerde farklı araçları birlikte kullanabiliyor.

Yetki alanı büyüdükçe güvenlik sınırlarının da model davranışından bağımsız hale gelmesi gerekiyor.

Agentic AI Güvenliğinde Yeni Soru Yetki Sınırları

Bu gelişmede bence en önemli nokta Nvidia’nın yeni bir siber güvenlik ürünü çıkarmasından daha geniş.

Agentic AI yaygınlaştıkça uzun süre “model güvenli mi?” sorusuna odaklandık.

Şimdi ikinci soru daha kritik hale geliyor:

AI ajanının gerçekte hangi sistemlere erişme yetkisi var?

Son dönemde AI ajanlarının ödeme sistemlerine, kurumsal finans operasyonlarına, geliştirici araçlarına ve kritik veri altyapılarına bağlandığını görüyoruz.

Bu ortamda yalnız ajanın iyi niyetli davranmasını beklemek yeterli bir güvenlik modeli oluşturmuyor.

Nvidia’nın yaklaşımı kontrolü şu zincire taşıyor:

AI ajanı → güvenli runtime → tanımlanmış yetkiler → dosya/ağ/süreç erişimi

Bu mimaride ajan istediği eylemi önerebilir ancak son karar, ajanın kontrol edemediği altyapı politikası tarafından veriliyor.

OpenShell’in önemi de burada.

Agentic AI büyüdükçe güvenliğin modelin içine yazılan talimatlardan çok, modelin dışındaki erişim ve yetki katmanlarında kurulması yeni standartlardan biri haline gelebilir.

Nvidia’nın bugünkü hamlesi, AI ajanlarının kurumsal sistemlere daha fazla bağlandığı bir dönemde bu tartışmayı doğrudan altyapı seviyesine taşıyor.