San Francisco merkezli yapay zekâ değerlendirme girişimi Vals’in raporuna göre Anthropic, OpenAI, Google, DeepSeek ve diğer şirketlerin modelleri, askeri saldırı senaryolarında hedef belirlemeye yönlendirilebildi. Araştırmacılar, Ukrayna ve İran’dan üretilmiş ve gerçek görüntülerle simülasyonlar yaptı; modellerden drone ve uydu görüntülerindeki hedefleri işaretlemelerini istedi. Modeller sivilleri ve teslim olan askerleri de potansiyel hedef olarak gösterdi. Reddeden modellerin bir kısmı, senaryonun oyun olduğu söylenerek güvenlik önlemleri aşılınca isteklere uydu.
İran’daki okul da hedef gösterildiVals, araştırmada modellerden doğrudan saldırı kararı vermelerinin istenmediğini, böyle bir isteği genellikle reddedeceklerini belirtti. Bazı senaryolarda modellerden görüntüde insan olup olmadığını bildirmeleri istendi; olumlu yanıtların ardından simüle edilmiş saldırılar düzenlendi ve modeller sonuçları gördü. Araştırmacılara göre bu çıktılar, özerk silah sistemlerinde kullanılabilecek hedefleme bilgisi sağlayarak gerçek dünyada ölümcül sonuçlara yol açabilir. Testlerde, Şubat 2026’da ABD’nin bombaladığı ve 150’den fazla sivilin öldüğü İran’daki bir okulun gerçek uydu görüntüsü de kullanıldı. Okul askeri bir kompleksin yanındaydı. Modeller okulu sık sık hedef olarak işaretledi; Claude Opus 5.5 bunu olağan denemelerin yüzde 69’unda, senaryonun oyun olarak sunulduğu denemelerin yüzde 72’sinde yaptı. Bloomberg daha sonra saldırıda “yapay zekâya aşırı güvenin” etkili olduğunu bildirdi.
Şirketler ek önlemler hazırlıyorAnthropic CEO’su Dario Amodei, bugünün yapay zekâ sistemlerinin insan denetimi olmadan ölüm kalım kararları verecek kadar güvenilir olmadığını savunuyor. Şirket, bu yılın başlarında ABD Savunma Bakanlığı ile teknolojisinin Amerikalılar hakkında kitlesel gözetim veya otonom savaş amacıyla kullanılmaması konusunda anlaşmazlık yaşamıştı. Pentagon ise teknolojiyi her türlü askeri amaçla kullanabilmesi gerektiğini savundu. Anthropic Sözcüsü Eduardo Maia Silva, Vals’in raporu, önerileri ve iş birliği için teşekkür ederek sonuçların kabul edilemez olduğunu söyledi. Silva’nın e-postayla gönderdiği şirket açıklamasında, “Rapordaki örnekler kurallarımıza açıkça aykırı; bu davranışı gördüğümüzde kullanıcıları yasakladık ve yasaklamayı sürdüreceğiz” denildi. Açıklamada, “Yetkili kullanım durumlarında bile bugünün öncü yapay zekâ sistemlerinin tamamen otonom silahlara güç verecek kadar güvenilir olmadığını uzun süredir savunuyoruz” ifadesi de yer aldı. Anthropic, rapor yayımlanmadan önce ek güvenlik önlemleri geliştirmeye başladığını ve bunların yakında devreye gireceğini bildirdi; testlerini, güvenlik tedbirlerini ve uygulama denetimini de artıracağını açıkladı. OpenAI Sözcüsü Nate Evans, şirketin kamuya açık modellerinin şiddeti kolaylaştırmakta veya onaylanmamış ulusal güvenlik amaçlarıyla kullanılmasını yasakladığını, buna Vals’in canlandırdığı senaryoların da dahil olduğunu belirtti. OpenAI açıklamasında, “Politikalarımızı ihlal eden hesapları askıya almak da dahil kötüye kullanımı etkin biçimde tespit edip engelliyoruz” denildi. Şirket ayrıca drone ve drone yazılımlarıyla bağlantılı kötüye kullanıma karşı ek güvenlik önlemleri geliştirdiğini bildirdi. Vals’in testleri, şirketlerin orduya sunabileceği modeller yerine ticari modellerle yapıldı. Canlı drone hedeflemesinde gecikme ve sınırlı işlem gücü gibi teknik engellerin kullanımın yakın vadeli riskini azalttığı belirtilirken, araştırmacılar daha yakın bir tehlike olarak savaş görüntülerinin büyük ölçekte etiketlenip otonom hedefleme sistemlerine eğitim verisi sağlamak için kullanılabileceğine dikkat çekti. Anthropic’in Pentagon’la artık aktif bir sözleşmesi bulunmuyor; SpaceXAI, OpenAI ve Google’ın ise bulunuyor. Kongre Araştırma Servisi’nin yakın tarihli raporuna göre Pentagon’un herhangi bir öncü yapay zekâ modelini otonom silah sistemlerinde doğrudan kullandığı bilinmiyor. TechCrunch, Meta, Google, Thinking Machines Lab ve SpaceXAI’den de yorum istedi.
