Amerika Birleşik Devletleri hükümeti, ulusal güvenlik endişeleri gerekçesiyle yapay zeka şirketi Anthropic'in en güçlü iki modeline erişimi derhal durdurma emri verdi. Şirket, bu emre uyduğunu açıklasa da, hükümetin bu kararının hatalı olduğuna inanıyor.
MİLYONLARA ULAŞAN MODELLER KAPATILDI
Anthropic'ten yapılan açıklamaya göre, Cuma günü yerel saatle 17:21'de alınan emir, şirketi Claude Fable 5 ve Claude Mythos 5 modellerini dünya genelindeki tüm kullanıcılar için erişime kapatmaya zorladı. Bu durum, hükümetin ihracat kontrol düzenlemesinin hedef aldığı yabancı vatandaşlarla sınırlı kalmayıp, genel bir yasaklama anlamına geliyor. Diğer Anthropic modellerine erişim ise etkilenmedi.
MİTHOS VE FABLE 5: YENİLİKLERİN GÜVENLİK BEDELİ
Özellikle Mythos modelinin, yazılımlardaki güvenlik açıklarını bulma konusundaki olağanüstü yeteneği nedeniyle sıkı kısıtlamalar altında tutulduğu belirtiliyor. Anthropic, Mythos'un test ettiği tüm büyük işletim sistemleri ve web tarayıcılarında kusurlar tespit ettiğini, bu nedenle modeli geniş çapta yayınlamak yerine, Amazon, Apple, Google, Microsoft ve CrowdStrike gibi yaklaşık 50 seçkin kuruluşa siber güvenlik alanında savunma amaçlı kullanmaları için Project Glasswing adlı kontrollü bir programla sunduğunu ifade etti. Üç gün önce piyasaya sürülen Fable 5 ise, Mythos'un siber güvenlik ve biyoloji gibi yüksek riskli alanlarda yanıtları engelleyen koruma çemberleriyle donatılmış, genel kullanıma uygun bir versiyonuydu ve halka açık en yetenekli yapay zeka modeli olarak öne çıkıyordu. Hükümetin direktifi, modellerin yabancı vatandaşlara erişimini kısıtlayan bir ihracat kontrol eylemi olarak çerçevelenmiş olsa da, Anthropic'in blog yazısında, temel endişenin Fable 5'in bir 'jailbreak' (güvenlik kilidinin aşılması) iddiası olduğu belirtiliyor. Anthropic, hükümetin bu iddia için yalnızca sözel kanıt sunduğunu ve bunun, başka halka açık modellerde de mevcut olan bir yetenek seviyesi olduğunu savunuyor. Şirket, en güçlü güvenlik önlemlerinin, modelin kendisinden ayrı çalışan bağımsız sınıflandırıcı sistemler aracılığıyla işlediğini ve zararlı içerik üretilmesini engellediğini vurguluyor. Anthropic, bu önlemlerin başarıyla aşıldığına dair herhangi bir kanıt bulunmadığını belirtse de, hükümetin kararı bu argümanları yeterli bulmadı. Anthropic, dar bir potansiyel güvenlik açığı bulgusunun, milyonlarca insana sunulan ticari bir modelin geri çekilmesine neden olması gerektiğini düşünmediklerini belirterek, bu standardın sektörde uygulanması halinde tüm yeni model geliştirmelerinin durma noktasına geleceğini ileri sürüyor. Şirketin, yıl içinde halka arz olması beklenirken, güvenlik odaklı duruşunun, tam da şirketin işini en çok sekteye uğratabilecek türden bir hükümet incelemesini tetiklemesi ironik olarak karşılanıyor. OpenAI CEO'su Sam Altman'ın daha önce Anthropic'in Mythos modelini 'korku temelli pazarlama' olarak nitelendirmesi de dikkat çekici.
