Kaliforniya Teknoloji Enstitüsü (Caltech) araştırmacıları tarafından kurulan ve Kaliforniya Üniversitesi Berkeley kampüsü'nden Ion Stoica tarafından danışmanlık alan yapay zeka laboratuvarı PrismML, Qualcomm'un Snapdragon işlemcili akıllı gözlükleri için küçük dil modellerinin bir versiyonunu geliştirdi.
Qualcomm etkinliğinde tanıtıldı
Qualcomm'un Çarşamba günü düzenlenen Snapdragon Zirvesi'nde, çip üreticisi PrismML'in 1-bit Bonsai LLM modelini tanıttı. Bu model, Snapdragon AR1 Gen 1 Platformu üzerine kurulu yapay zeka akıllı gözlüklere yerel olarak yüklenebiliyor. Daha önce TechCrunch'ta yer alan bilgilere göre, PrismML'in öne çıkan özelliği, standart kıyaslamalarda performansın büyük bir kısmını koruyarak daha büyük modelleri önemli ölçüde küçültmesi (bu durumda 4 katı kadar).
Görsel ve dil yeteneğiyle gerçek zamanlı analiz
Akıllı gözlükler için geliştirilen bu model, 2 milyar parametreye sahip ve görsel ile dil yetenekleri için özel olarak ayarlanmış durumda. Bu sayede kullanıcılar, baktıkları nesneleri gerçek zamanlı olarak sorarak analiz edebilecekler. PrismML'in daha geniş vizyonu, cihazlarda çalışan ve mevcut hesaplama gücünü daha verimli kullanan açık ağırlıklı yapay zeka geliştirmektir. Girişim şirketi, bu yaklaşımı, özel yapay zeka laboratuvarlarının gizlilik vaatlerine ve sürekli daha fazla hesaplama gücü ihtiyacına bir alternatif olarak sunuyor. Qualcomm'un çipi için bir model yayınlamak bu vizyona doğru atılmış bir adımdır, ancak henüz PrismML destekli bir akıllı gözlük duyurusu yapılmadı.
