Anthropic ve Accenture AI Denetimine 2 Milyar Dolar Yatırım Planlıyor

Anthropic ve Accenture, yapay zeka modellerine 2 milyar dolarlık yatırım planlıyor.

Anthropic ve Accenture, gelişmiş yapay zeka modellerinin bağımsız biçimde değerlendirilmesi için yeni bir iş birliği başlattı. İki şirket, önümüzdeki beş yıl içinde bu alandaki kapasitenin geliştirilmesine ayrı ayrı en az 1 milyar dolar yatırım yapmayı planlıyor. Böylece yapay zeka güvenliği ve değerlendirme çalışmalarına yönelik toplam yatırım taahhüdü en az 2 milyar dolara ulaşacak.

İş birliğinin merkezinde “embedded evaluation” olarak tanımlanan yeni bir model bulunuyor. Accenture bünyesindeki uzman yapay zeka şirketi Faculty tarafından oluşturulacak bağımsız değerlendirme ekibi, Anthropic’in içinde çalışarak modelleri test edecek, red-team çalışmaları gerçekleştirecek, alignment değerlendirmeleri yapacak ve model güvenlik önlemlerini inceleyecek.

Modelin klasik dış değerlendirmelerden farkı ise erişim seviyesinde ortaya çıkıyor. Anthropic’in açıklamasına göre yerleşik değerlendiriciler, şirket çalışanlarıyla karşılaştırılabilir erişime sahip olacak ve modellerin eğitim sürecinden dağıtıma kadar nasıl şekillendiğini daha yakından izleyebilecek.

Bağımsız Değerlendiriciler Anthropic’in İçinde Çalışacak

Anthropic’in geliştirdiği modelde bağımsız değerlendiricilerin yapay zeka şirketinin dışında yalnızca tamamlanmış modelleri test etmesi yerine, geliştirme sürecine daha yakın konumlanması hedefleniyor.

Accenture’ın Faculty ekibi, Anthropic’in modellerini farklı aşamalarda değerlendirecek. Ekip modeller üzerinde red-team testleri gerçekleştirecek, alignment çalışmalarını inceleyecek ve mevcut güvenlik önlemlerinin ne ölçüde etkili olduğunu test edecek.

Anthropic, bu erişim sayesinde değerlendiricilerin modellerin eğitim sürecini takip edebilmesini, model geliştirme ve kullanıma sunma kararlarını inceleyebilmesini ve şirket çalışanlarıyla doğrudan iletişim kurabilmesini amaçlıyor.

Şirket ayrıca bu yapının güvenlik taahhütlerinin uygulanıp uygulanmadığının bağımsız biçimde doğrulanmasına ve gözden kaçabilecek risklerin daha erken tespit edilmesine yardımcı olabileceğini belirtiyor.

Her Şirket Beş Yılda En Az 1 Milyar Dolar Yatırım Yapacak

İş birliğinin ölçeği finansal boyutuyla da dikkat çekiyor.

Anthropic ve Accenture, önümüzdeki beş yıl boyunca yapay zeka güvenliği ve değerlendirme kapasitesinin geliştirilmesine şirket başına en az 1 milyar dolar yatırım yapmayı bekliyor.

Bu yatırım yalnızca Anthropic modellerinin test edilmesini kapsamıyor. Accenture, oluşturacağı değerlendirme kapasitesini başka yapay zeka geliştiricileriyle çalışırken de kullanabilecek.

Anthropic ile Accenture arasındaki anlaşma da münhasır olmayacak. Anthropic, farklı değerlendirme kuruluşlarıyla çalışmaya devam etmeyi planlarken Accenture da benzer hizmetleri diğer AI şirketlerine sunabilecek.

Anthropic, Model Evaluation and Threat Research ve diğer kâr amacı gütmeyen değerlendirme kuruluşlarıyla da embedded evaluation modelinin farklı unsurlarını test etmek üzere görüşmeler yürüttüğünü açıkladı.

AI Denetiminde Yeni Bir Model Oluşturuluyor

Embedded evaluation yaklaşımı henüz standartları belirlenmiş bir denetim modeli değil.

Anthropic, bağımsız değerlendiricilerin hangi bilgilere erişmesi gerektiği veya elde edilen sonuçların nasıl raporlanacağı konusunda sektör genelinde kabul edilmiş standartların bulunmadığını belirtiyor. Bağımsız değerlendirmenin nasıl finanse edileceğine ilişkin yerleşik bir sistem de henüz mevcut değil.

Şirket uzun vadede bu çalışmaların ortak fonlardan veya kamu kaynaklarından finanse edilmesini destekliyor. Ancak böyle bir yapı bulunmadığı için Accenture’ın Anthropic içerisindeki çalışmalarının finansmanı başlangıç aşamasında doğrudan Anthropic tarafından karşılanacak.

Anthropic, bağımsız değerlendirme mekanizmasının şirketin kendi güvenlik sorumluluğunu ortadan kaldırmadığını da özellikle vurguluyor. Şirket, model güvenliğinin nihai sorumluluğunun Anthropic’te kalacağını, dış değerlendirmelerin ise bu çalışmaların daha doğrulanabilir hale gelmesini sağlayacağını belirtiyor.

Faculty Red-Team Ve Alignment Testlerini Üstlenecek

Accenture’ın 2026 yılında bünyesine kattığı Faculty, iş birliğinin teknik tarafını yönetecek.

Faculty ekibinin görevleri arasında modellerin yeteneklerini ve davranışlarını test etmek, olası güvenlik açıklarını ortaya çıkarmaya yönelik red-team çalışmaları yürütmek, alignment değerlendirmeleri yapmak ve model güvenlik mekanizmalarını incelemek bulunuyor.

Accenture, Faculty’nin kamu, savunma, sağlık ve altyapı gibi alanlarda yapay zeka sistemlerinin geliştirilmesi ve değerlendirilmesine yönelik deneyimini yeni yapıya taşıyacağını açıkladı.

Anthropic ise Accenture’ın farklı sektörlerde yapay zeka sistemlerinin gerçek kullanım koşullarına ilişkin deneyiminin, modellerin yalnızca laboratuvar testleriyle değil kurumsal kullanım senaryolarıyla da değerlendirilmesine katkı sağlayacağını düşünüyor.

AI Güvenliği Dış Denetimden Sürekli Gözetim Modeline Geçiyor

Anthropic ve Accenture’ın kurduğu yapı, yapay zeka modellerinin güvenlik değerlendirmesinde önemli bir değişime işaret ediyor. Geleneksel yaklaşımda bağımsız kuruluşlar çoğunlukla tamamlanmış bir modeli dışarıdan test ederken embedded evaluation modelinde değerlendirici, modelin geliştirilme sürecine çok daha yakın konumlanıyor.

Bu yaklaşım, yapay zeka güvenliğini piyasaya çıkış öncesinde gerçekleştirilen tek seferlik bir kontrol olmaktan çıkarıp eğitim, geliştirme ve dağıtım sürecinin içine yerleşen sürekli bir değerlendirme mekanizmasına dönüştürmeyi hedefliyor.

İki şirketin beş yılda toplam en az 2 milyar dolarlık yatırım planlaması da bağımsız AI değerlendirmesinin artık yalnızca araştırma laboratuvarlarının yan faaliyeti olmaktan çıkıp başlı başına bir altyapı ve uzmanlık alanına dönüşmeye başladığını gösteriyor.