Google ve Google DeepMind araştırmacıları, yapay genel zeka (AGI) üzerine tartışmaları ilerletmek amacıyla DeepMind Enstitüsü'nü Çarşamba günü faaliyete geçirdi.
Enstitü yönetimi
Enstitünün yönetiminde, DeepMind kurucu ortağı Shane Legg, Google yöneticisi James Manyika ve Google DeepMind başkanı Demis Hassabis yer alıyor. Legg, aynı zamanda yönetici editörlük görevini üstleniyor. Yeni kurulan enstitü, Google, Google DeepMind ve küresel araştırma topluluğu arasındaki farklı görüşleri öne çıkarmayı hedefliyor. Açıklamada, “Her zaman aynı fikirde olmayacaklar ve daha fazla veri ve bilgi ortaya çıktıkça fikirlerini değiştirecekler” denildi.
İlk eser koleksiyonu
İlk dört denemeden oluşan eser koleksiyonu, AGI'nin potansiyel yıkımını yönetmeye yönelik ekonomik politikalar, insan tarafından okunabilir model akıl yürütmesini koruma, insan refahı için ilkeler ve sınır AI modellerini değerlendirme çerçevesini kapsayan çeşitli konuları içeriyor. DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan tarafından kaleme alınan bir deneme, AI'nın şeffaflık penceresinin daralmasının kaçınılmaz olmadığını savunuyor. Yazarlar, yeni mimarilerin en güçlü modellerin izlenmesini zorlaştırdığını belirtirken, geliştiricilerin ve düzenleyicilerin güvenlik dengeleri ile doğrudan yüzleşmesi gerektiğini vurguluyor. Hassabis, en gelişmiş AI modellerini değerlendirmek için ABD merkezli bir sınır AI standartları organı öneriyor. Bu çerçeve altında, geliştiricilerin serbest bırakılmadan 30 gün önce modellerini inceleme için gönüllü olarak sunmaları bekleniyor. Değerlendirme sistemi etkinliğini kanıtladıktan sonra, bu testleri geçmek, ABD'de sınır modellerin dağıtımı için bir gereklilik haline gelebilir.
