Yapay zeka laboratuvarı PrismML, henüz geniş bir kitle tarafından tanınmasa da, dikkatleri üzerine çekmeyi başarıyor. Şirket, yalnızca 22.25 milyon dolarlık bir başlangıç yatırımı almış olsa da, geliştirdiği teknolojiler ve ekibindeki teknik zihinler ile sektörde önemli değişimlere imza atmayı planlıyor.
Küçük ama güçlü modeller
PrismML, büyük dil modellerinin performansının yüksek olmasının, onların boyutlarına bağlı olmadığını öne sürüyor. Geliştirilen modeller, bilgisayarlara ve akıllı telefonlara sığacak kadar küçük. Şirket, en son duyurduğu Bonsai 2 27B modeliyle, Alibaba'nın yaygın olarak kullanılan Qwen3.8 27B modelini 5.9 GB'a sıkıştırmayı başardı. Bu, orijinal modelin bellekte 9 kat daha az yer kapladığı anlamına geliyor.
Performans kaybı yok
PrismML, LLM sıkıştırma teknolojisini geliştirirken performansta kayıp yaşamadıklarını iddia ediyor. Bonsai 2, Qwen'in toplu ölçüm puanlarının %98'ini karşılıyor. Daha önceki model ise %95'lik bir başarıya ulaşmıştı. Şirket, daha büyük modeller üzerinde de bu sıkıştırma tekniğini uygulamayı planlıyor. CEO Babak Hassibi, “Büyüdükçe daha fazla sıkıştırma yapma imkânı bulacağız” dedi. Bu gelişmeler, kullanıcıların cihazlarında gelişmiş yapay zeka modelleri çalıştırabilmesini sağlayacak.
