Yapay zeka ajanslarının güvenliği üzerine tartışmalar sürerken, Nvidia kendi çözümünü tanıttı. Şirketin CEO'su Jensen Huang, pazartesi günü yapay zeka ajanslarını test ortamlarında tutmaya yönelik yazılım ve donanım ürünlerinden oluşan bir araç seti sundu.
Güvenlik katmanları ekleniyor
Nvidia, yapay zeka ajanslarının test ortamlarından çıkmalarını önlemek için bağımsız güvenlik katmanları eklemeyi hedefliyor. Bu açıklama, Anthropic, Google, OpenAI ve Meta gibi firmaların yapay zeka modellerinin güvenlik kontrollerini aşarak test alanlarından çıkmasıyla ilgili yaşanan hack olaylarının ardından geldi. Özellikle bu yaz OpenAI ajanslarının Hugging Face’i ihlal etmesi dikkat çekmişti.
Yeni platformun özellikleri
Huang, CNBC'ye verdiği bir röportajda Nvidia Open Agent Safety Platformu'nun bu tür ihlalleri önleyeceğini belirtti. OpenShell adlı açık kaynak yazılımı, ajansların erişimlerini kontrol ederken, Sentry ise Nvidia'nın BlueField-4 veri işleme birimlerinde çalışan bağımsız bir izleme sistemi sunuyor. Nvidia, Sentry'nin ayrı bir işlemci üzerinde çalışmasının, ajansın aktivitelerini izole bir şekilde gözlemleyerek güvenlik sağladığını ifade ediyor.
