Hugging Face’in politika şefi ve strateji kıdemli başkan yardımcısı Irene Solaiman, açık yapay zekâ platformlarının topluluk katkılarına ve barındırdıkları verilere dayanan yapısının onları siber saldırılara açık hale getirebildiğini söyledi. Equity podcast’inde konuşan Solaiman, saldırıların açık kaynak topluluklarını daha kısıtlayıcı hale getirme riski taşıdığı uyarısında bulundu.
Üç platformda güvenlik ihlalleri
Ekim ayında OpenCode kullanıcılarının üçüncü taraf API anahtarlarını hedef alan bir saldırı maddi zarara yol açtı. Bu yaz ise bir OpenAI ajan grubu, siber güvenlik değerlendirmelerine ait yanıtları aldıktan sonra izlerini örtmeye çalıştığı düşünülen bir girişimle Hugging Face’e sızdı. Pazartesi günü de açık yapay zekâ modellerini çalıştırma ve eğitme hizmeti veren Fireworks, bazı müşterilerinin model ağırlıklarına, veri kümelerine ve faturalandırma bilgilerine saldırganların eriştiğini açıkladı. Şirket, inceleme sürerken kendi kendine hizmet verilen bazı veri kümesi işlevlerini geçici olarak kapattı. Fireworks olayının şirketin açık yapısından kaynaklandığı kesin değil; ancak yapay zekâ altyapısı sağlayıcılarında ne kadar çok değerli bilginin toplandığını gösteriyor. Solaiman, “Açık bir topluluğu hedef haline getirebileceğinden endişelendiğim özellikler, onu özel yapan şeyler de” dedi. Topluluğun herkese açık olmasını istediklerini belirterek, “Kurumsal bir bağlantısı olmayan, bodrumunda çalışan sıradan bir meraklının da katkıda bulunabilmesini istiyoruz” ifadelerini kullandı.
Açıklık ile güvenlik arasında denge
Solaiman’a göre Hugging Face’in değerlendirme veri kümeleri OpenAI ajan grubunun ilgisini çekerken, OpenCode saldırısında üçüncü taraf API anahtarları hedef oldu. “Bunların birleşimi bizi başlıca hedeflerden biri haline getiriyor” diyen Solaiman, açık kaynak alanının kamuoyundan geniş destek aldığı bir dönemde kapanma tehlikesi bulunduğunu söyledi. Nvidia Üst Yöneticisi Jensen Huang da dahil olmak üzere sektörden isimler açık yapay zekâ modellerini destekliyor; hükümetler, şirketler ve girişimler de bu modelleri giderek daha fazla kullanıyor. Olası kısıtlamalar, model veya veri kümesi yükleyebilecek kişilerin sınırlandırılmasını, daha sıkı kimlik doğrulamasını ya da bazı özelliklere erişecek geliştiricilerin daha kapsamlı incelenmesini içerebilir. Bu önlemler saldırıları önlemeye yardımcı olsa da bağımsız araştırmacıların ve hobi amaçlı çalışanların topluluklara katılımını zorlaştırabilir. Hugging Face şimdilik bu tür kısıtlamalara yönelmek yerine saldırıları izleme ve önleme araçlarını güçlendiriyor. Solaiman, yönetici erişim belirteçlerinin daha sık yenilendiğini ve ağ kontrollerinin sıkılaştırıldığını belirtti. İzleme sistemlerinin devamlılığının maliyetli olabileceğini, her platformun bu masrafı karşılayamayacağını da ekledi.
GitHub da güvenlik önlemlerini artırıyor
Açık kaynak projelerinin en büyük barındırma platformu GitHub, projelere kötü amaçlı kod ekleyerek zararlı yazılım yayan saldırganlarla mücadele ediyor. Şirket, npm kayıt sisteminde paket yayımlama koşullarını sıkılaştırdı, eski kimlik doğrulama belirteçlerini iptal etti ve yeni belirteçlerin geçerlilik süresini kısalttı. GitHub’da yazılım tedarik zinciri güvenliğinden sorumlu mühendis Zach Steindler, güvenlik önlemlerinin mevcut işleyişi aksatabileceğini, ancak katılımı temelden sınırlamadan platformların daha güvenli hale getirilebileceğini söyledi. “Bu, işlevselliği kısıtlamaktan çok, en başta güvenli olmayan şeyleri düzeltmekle ilgili” dedi. Yıllardır kullanılan npm yükleme betiklerinin son saldırılarla tehlikelerinin daha görünür hale geldiğini belirten Steindler, GitHub’ın JavaScript tabanlı kritik açık kaynak projelerine ev sahipliği yapan OpenJS ile daha güvenli bir yöntem üzerinde çalıştığını aktardı. Güvenlik ekiplerinin şüpheli davranışları tespit etme ve etkilerini sınırlama kapasitesine yatırım yapması gerektiğini söyleyen Steindler, “Şüpheli davranış, bunu kimin gösterdiğinden bağımsız olarak şüphelidir” ifadelerini kullandı.
