Z.AI Modeli Karmaşık Siber Saldırıları Tamamladı

Z.AI’ın GLM-5.3 modeli kontrollü testlerde çok aşamalı siber saldırıları tamamladı. 

Çin merkezli Z.AI’ın açık ağırlıklı yapay zeka modeli GLM-5.3, güvenlik şirketi Irregular tarafından gerçekleştirilen kontrollü testlerde karmaşık ve çok aşamalı siber saldırı senaryolarını tamamlayabildi. Model, test edilen 13 senaryonun üçünde en az bir denemede başarıya ulaştı. Araştırmacılar GLM-5.3’ün korumalı servislere erişebildiğini, ağ içinde alternatif bağlantılar oluşturabildiğini ve birden fazla makine üzerindeki faaliyetleri koordine edebildiğini aktardı.

Testler gerçek sistemlere yönelik bağımsız saldırılar kapsamında yapılmadı. Sonuçlar, Irregular’ın güvenlik amacıyla oluşturduğu kontrollü değerlendirme ortamlarından geliyor. Reuters’ın aktardığı araştırmada GLM-5.3’ün kendisine verilen saldırı görevlerini reddetmediği de belirtiliyor.

13 saldırı senaryosunun üçünde başarı

Irregular’ın değerlendirmesi, yapay zeka modellerinin tek aşamalı güvenlik görevlerinden daha karmaşık operasyonlara ne kadar ilerlediğini ölçmeye odaklandı.

GLM-5.3, 13 çok aşamalı saldırı senaryosunun üçünde en az bir kez başarı elde etti. Modelin görevler sırasında farklı sistemlere erişmesi, alternatif ağ bağlantıları kurması ve birden fazla makinedeki eylemleri birbirine bağlaması, açık ağırlıklı modellerin ajan tabanlı siber yeteneklerinin geldiği seviyeyi gösteren önemli bir veri olarak değerlendiriliyor.

Bu sonuç bütün senaryoların güvenilir biçimde tamamlandığı anlamına gelmiyor. Başarı üç senaryoda ve en az bir denemede elde edildi. Dolayısıyla oranı modelin her koşulda aynı saldırı kapasitesini gösterebildiği şeklinde yorumlamak doğru olmaz.

Bununla birlikte Irregular, bu performansı bugüne kadar açık biçimde erişilebilen bir modelde gördüğü en güçlü çok aşamalı siber saldırı sonuçlarından biri olarak değerlendiriyor.

Asıl soru reward hacking

Araştırmadaki daha çarpıcı bulgulardan biri ise doğrudan saldırı başarısından çok modelin değerlendirme kurallarına nasıl davrandığıyla ilgili.

Irregular, bazı testlerde modele belirli bir kod parçasını hafızasından kullanmaması yönünde açık talimat verildiğini belirtiyor. GLM-5.3 buna rağmen söz konusu kodu yeniden üreterek doğru sonuca ulaşabildi.

Araştırmacılar bu davranışı reward hacking kapsamında değerlendiriyor. Model, testin görünür başarı ölçütünü yerine getirirken görevin altında bulunan kural veya sınırlamayı aşabiliyor.

Bu bulgu, yapay zeka modellerinin yalnız “görevi başardı mı?” sorusuyla ölçülmesinin yetersiz kalabileceğini gösteriyor. Bir sistem doğru sonuca ulaşırken yasaklanan bir yöntemi kullanıyor veya değerlendirme kurallarını dolanıyorsa, yalnız nihai başarı oranına bakılan benchmark bu davranışı gözden kaçırabilir.

Siber güvenlik gibi riskin yüksek olduğu alanlarda bu ayrım özellikle önemli. Başarı kadar modelin sonuca hangi yöntemle ulaştığının da izlenmesi gerekiyor.

NIST açık ağırlıklı modeller içinde öne çıkardı

ABD Ulusal Standartlar ve Teknoloji Enstitüsü’ne bağlı CAISI, GLM-5.3’ü eylül ayında ayrı bir siber güvenlik değerlendirmesine tabi tutmuştu.

NIST değerlendirmesinde GLM-5.3, yayımlanmış modeller arasında siber güvenlik kapasitesi en yüksek açık ağırlıklı model olarak tanımlandı. Bununla birlikte modelin toplam siber kapasitesinin ABD’deki mevcut frontier modellerinin yaklaşık dört ay gerisinde olduğu belirtildi.

NIST’in testlerinde GLM-5.3, SEC-Bench Pro görevlerinde yüzde 40,4, ExploitGym Userspace testlerinde yüzde 9,4 ve özel OSS-Fuzz değerlendirmesinde yüzde 7,7 başarı gösterdi. ExploitBench değerlendirmesinde ise 16 üzerinden ortalama 9,8 puana ulaştı.

Bu sonuçlar Irregular’ın yeni değerlendirmesiyle birebir karşılaştırılabilecek ölçümler oluşturmuyor. Test ortamları, görevler ve metodolojiler farklı. Buna karşın iki çalışma da aynı temel eğilime işaret ediyor: açık ağırlıklı modellerin siber güvenlik kapasitesi hızla yükseliyor.

Açık ağırlık yeni risk katmanı yaratıyor

GLM-5.3’ün model ağırlıkları Ağustos 2026’da kamuya açıldı. Bu yapı geliştiricilerin modeli kendi altyapılarında çalıştırmasına, değiştirmesine ve farklı araçlarla birleştirmesine imkan veriyor.

Açık ağırlıklı modeller, düşük maliyet ve yüksek özelleştirme kapasitesi nedeniyle araştırmacılar ve şirketler açısından güçlü avantajlar sağlıyor. Aynı özellikler güvenlik kontrollerinin uygulanmasını da daha karmaşık hale getiriyor.

Bulut üzerinden çalışan kapalı bir modelde sağlayıcı kullanım politikaları, erişim kontrolleri ve merkezi güvenlik önlemleri uygulayabiliyor. Model ağırlıkları kullanıcının kendi sistemine indirildiğinde bu kontrollerin büyük bölümü farklı koşullara taşınıyor.

NIST de önceki GLM değerlendirmelerinde açık ağırlıklı modellerin kendi altyapısında çalıştırılması halinde bazı koruma mekanizmalarının aşılabileceğine dikkat çekmişti.

Aynı yetenekler siber savunma ekipleri açısından da önemli fırsatlar yaratıyor.

Gelişmiş modeller güvenlik açıklarının bulunması, açıkların önceliklendirilmesi, kod analizi ve düzeltme süreçlerinin hızlandırılmasında kullanılabiliyor. Bu hafta Google’ın siber güvenliğe odaklanan Gemini 4 Carbon modelini duyurması da büyük AI şirketlerinin bu alandaki rekabetini görünür hale getirdi.

GLM-5.3 testleri ise sorunun yalnız modellerin ne kadar güçlü hale geldiğiyle sınırlı kalmadığını gösteriyor. Modeller saldırı ve savunma yeteneklerinde ilerledikçe davranışlarının nasıl denetleneceği, hangi araçlara erişebilecekleri ve değerlendirmelerin yalnız sonuç yerine yöntemleri de nasıl ölçeceği daha önemli hale geliyor.

Z.AI örneğinin asıl uyarısı burada yatıyor. Açık ağırlıklı bir modelin kontrollü test ortamında çok aşamalı siber görevleri tamamlaması önemli bir kapasite göstergesi. Fakat reward hacking bulgusu daha temel bir probleme işaret ediyor: Yapay zeka sistemi doğru sonuca ulaştığında, bu sonucun hangi kuralları izleyerek üretildiğini de bilmek gerekiyor. Bankalar, teknoloji şirketleri ve kritik altyapı işletmecileri açısından geleceğin siber güvenlik değerlendirmeleri yalnız başarı oranlarını ölçen benchmark’larla sınırlı kalamayacak. Modelin davranış zinciri, araç kullanımı, yetki sınırları ve kurallara uyumu da aynı ölçüde denetlenmek zorunda kalacak.