Anthropic, bir yapay zekâ çıktısını hangi modelin ürettiğini doğrulamayı amaçlayan açık kaynaklı FlashProve sistemi üzerinde çalışıyor. Salı günü yayımlanan blog yazısına göre sistem, araştırmacıların “kanıtlanabilir çıkarım” adını verdiği, belirli bir yanıtın belirli bir modelden geldiğini matematiksel olarak güvenceye alan kriptografik kanıta dayanıyor. Kullanıcılar böylece yanıtın kullandıklarını düşündükleri modelden geldiğini denetleyebilecek.
Model taklidine karşı doğrulama
E-posta imzalarının göndereni doğrulamasına benzer biçimde tasarlanan FlashProve, bir modelin başka bir modelmiş gibi gösterilmesine karşı dayanıklı olacak. Bu koruma, modeli geliştiren ve çalıştıran laboratuvarın yanıltıcı girişimlerini de kapsıyor. Sistem, şirketlerin maliyeti düşürmek için daha ucuz bir modeli gizlice kullanmasını veya performans sonuçlarını olduğundan yüksek göstermek için daha pahalı bir modele geçmesini önlemeye yardımcı olabilir. Üçüncü tarafların belirli bir görevin gelişmiş bir modelle yapıldığı iddiası da doğrulanabilecek. Araştırmacılar, bir yazılım kütüphanesinin güvenlik açıkları için ileri düzey bir siber güvenlik modeliyle tarandığı ya da bir iş planının uygun bir modelden onay aldığı iddialarını örnek gösterdi.
Model ağırlıkları gizli kalacak
Sistem için yapay zekâ laboratuvarlarının yayımladıkları her modelin parmak izini paylaşması gerekiyor. Bu parmak izleri çıktılarla eşleştirilip kriptografik olarak doğrulanabilecek; modelin davranışını belirleyen ağırlıkları açığa çıkarmayacak. Böylece Anthropic ve OpenAI gibi kapalı model geliştiren şirketler, ticari modellerinde de sistemi kullanabilecek. Doğrulamanın yerel cihazlarda yapılabilmesi için sistem hafif tasarlandı. Araştırmacılar teknik şartnameyi ve sistemin çeşitli bileşenlerine ait çalışan kodu GitHub'da açık kaynak lisansıyla yayımladı. Araştırma sürüyor; Anthropic'te veya başka bir laboratuvarda uygulamaya alma planı bulunmuyor. Araştırmacılar, “Bu araştırma yazısı, tamamlanmış bir araştırma programını değil, ara aşamadaki ilerlemeyi paylaşmayı amaçlıyor. Yaptıklarımızı başkalarının incelemesi, alıp geliştirmesi amacıyla paylaşıyoruz” dedi.
