Pentagon OpenAI’dan Daha Az “Hayır” Diyen Yapay Zeka İstedi

Açıklanan Pentagon belgesinde OpenAI’ın askeri modelleri için “minimum ret oranı” talebi yer aldı. 

ABD Savunma Bakanlığı ile OpenAI arasındaki askeri yapay zeka çalışmalarına ilişkin yeni belgeler, Pentagon’un ulusal güvenlik görevlerinde kullanılacak özel modeller için “minimum ret oranı” talep ettiğini ortaya koydu. Freedom of Information Act kapsamında yürütülen bir dava sonucunda açıklanan P00003 kodlu belgede, “OpenAI Mission Models” olarak adlandırılan sistemlerin ulusal güvenlik kullanım senaryoları için tasarlanması ve mümkün olduğunca az talebi reddetmesi hedefleniyor.

Ancak belgenin statüsü konusunda önemli bir anlaşmazlık bulunuyor. OpenAI, söz konusu ifadenin Pentagon tarafından hazırlanan önceki bir taslakta yer aldığını, şirketin bu şartı kabul etmediğini ve imzalanan nihai sözleşmede “minimum ret oranı” ifadesinin bulunmadığını söylüyor. Pentagon da bu ifadenin yürürlükteki herhangi bir sözleşmede yer almadığını belirtiyor.

Dolayısıyla ortaya çıkan belge, Pentagon’un müzakere aşamasında daha az talebi reddeden modeller istediğini gösteriyor; OpenAI’ın bu şartı kabul ederek uygulamaya aldığına dair doğrulanmış bir bilgi bulunmuyor.

Pentagon “OpenAI Mission Models” İçin Minimum Ret Oranı İstemiş

Tartışmanın merkezindeki P00003 belgesinde, OpenAI tarafından geliştirilecek görev modelleri “ulusal güvenlik kullanım senaryoları için tasarlanmış” ve “minimum ret oranlarına sahip” sistemler olarak tanımlanıyor.

Bir yapay zeka modelinin “ret oranı”, sistemin güvenlik politikaları veya kullanım kuralları nedeniyle yerine getirmediği taleplerin oranını ifade ediyor. Bu oranın düşürülmesi, askeri kullanıcıların daha geniş bir görev kümesinde modelden yanıt almasını sağlayabilir.

Ancak “minimum ret oranı” ifadesinin hangi görevler için uygulanacağı, hangi güvenlik sınırlarının korunacağı ve modelin ne tür talepleri yine reddetmeye devam edeceği belgede ayrıntılı biçimde açıklanmıyor.

Pentagon’un OpenAI ile yürüttüğü ana prototip anlaşmasının üst sınırı 200 milyon dolar. Savunma Bakanlığı daha önce bu sözleşmenin savaş alanı ve kurumsal operasyonlarda kritik ulusal güvenlik sorunlarına yönelik ileri seviye yapay zeka yetenekleri geliştirmeyi kapsadığını açıklamıştı.

OpenAI “Bu Şartı Kabul Etmedik” Diyor

OpenAI sözcüsü Nate Evans, şirketin minimum ret oranı gerektiren herhangi bir sözleşme maddesini kabul etmediğini belirtti. Evans’a göre kamuya açıklanan belge, Pentagon’un önerdiği daha erken tarihli bir taslağı yansıtıyor ve şirketin itirazının ardından ilgili ifade nihai metinden çıkarıldı.

OpenAI’ın kamuya açıkladığı mevcut askeri kullanım çerçevesinde üç temel sınır bulunuyor: kitlesel yurt içi gözetim, insan kontrolü gerektiren otonom silah sistemlerinin bağımsız biçimde yönlendirilmesi ve insan onayı gerektiren yüksek riskli kararların tamamen yapay zekaya bırakılması yasaklanıyor.

Şirket ayrıca askeri sistemlerde kendi güvenlik katmanının çalışmaya devam edeceğini, modelleri güvenlik filtreleri kapatılmış şekilde sunmayacağını ve yetkilendirilmiş OpenAI personelinin süreçte bulunacağını belirtiyor.

ChatGPT Mil Pentagon Sistemlerinde Kullanılmaya Başladı

Tartışma, OpenAI’ın Pentagon içindeki kullanım alanının hızla genişlediği bir dönemde ortaya çıktı.

ABD Savunma Bakanlığı 31 Ağustos’ta ChatGPT Mil hizmetini GenAI.mil platformunda kullanıma açtı. Sistem, kontrollü gizli olmayan bilgiler için gerekli güvenlik seviyesinde çalışıyor ve planlama, politika, lojistik, doküman analizi ve idari görevlerde kullanılmak üzere üç milyondan fazla Savunma Bakanlığı personeline ölçeklenebilecek şekilde tasarlandı.

Pentagon ayrıca mayıs ayında OpenAI dahil sekiz büyük yapay zeka şirketinin gelişmiş modellerini gizli askeri ağlara taşımak için anlaşmalar yaptığını açıklamıştı.

Askeri Yapay Zekada Asıl Tartışma Kimin Sınır Koyacağı

Yeni belgelerin önemi Pentagon’un tek bir sözleşme maddesinin ötesine uzanıyor. Askeri yapay zeka sistemlerinde temel soru giderek daha görünür hale geliyor: Modelin hangi talebe cevap vereceğine teknoloji şirketi mi, askeri kullanıcı mı karar verecek?

Tüketici ürünlerinde güvenlik amacıyla oluşturulan ret mekanizmaları, askeri kullanımda daha karmaşık bir yapıya dönüşüyor. İstihbarat analizi, siber savunma, lojistik veya operasyonel planlama gibi yasal görevlerde fazla sayıda ret, modelin faydasını sınırlayabilir. Güvenlik sınırlarının fazla gevşetilmesi ise gözetim, hedefleme veya ölümcül güç kullanımında ciddi riskler yaratabilir.

Pentagon’un müzakere sırasında “minimum ret oranı” yaklaşımını gündeme getirmiş olması, devlet ile yapay zeka şirketleri arasındaki bu gerilimi somutlaştırıyor. OpenAI’ın şartı kabul etmediğini ve güvenlik katmanlarını koruduğunu açıklaması ise model sağlayıcılarının askeri sözleşmelerde kendi kullanım sınırlarını korumaya çalıştığını gösteriyor.

Önümüzdeki dönemde askeri yapay zeka rekabetinde yalnız model performansı veya hesaplama kapasitesi konuşulmayacak. Hangi güvenlik sınırlarının sözleşmeye girdiği, bu sınırları kimin değiştirebildiği ve askeri kullanıcıların modellere ne kadar geniş yetki verebildiği de teknoloji politikasının en kritik başlıklarından biri olacak.