Box, perşembe günü düzenlenen geliştirici konferansında Nvidia’nın Nemotron gömme sistemini ürününe entegre eden Box Content Retrieval özelliğini tanıttı. Bu sistem, Nemotron’ın oluşturduğu gömülü meta verilerden yararlanarak ajanların sorguları daha etkili yanıtlamasını sağlıyor. Box, aramaların daha hızlı, doğru ve düşük maliyetli olacağını belirtiyor.
Sorgularda hız ve doğruluk hedefi
Nvidia’nın üretken yapay zekâ yazılımlarından sorumlu başkan yardımcısı Kari Briski, “Sorguların dört kat daha hızlı yanıtlanmasını, hata sayısının yüzde 20 azalmasını ve kullanılan token miktarının yüzde 90 düşmesini bekliyorum” dedi. Box CEO’su Aaron Levie, “Bu, arama teknolojimizin ajanlar açısından uygunluğunu önemli ölçüde artırıyor” diye konuştu. Levie’ye göre ajanlar, belgeleri tek tek okumak yerine kullanıcı sorgusu veya görevle en ilgili bölümleri getirebilecek.
Hukuk alanında kullanım örneği
Box Content Retrieval, otomatik erişim sistemlerini geliştirmek için açık ağırlıklı gömme modelleri sunan Nvidia’nın Nemotron Embed projesini temel alıyor. Büyük yapay zekâ laboratuvarlarının sıklıkla göz ardı ettiği bu modeller, verileri ajanların daha iyi kullanabilmesi için büyük dil modelleriyle ön işliyor. Erişim kalitesini ölçen RTEB kıyaslamasında, Nvidia’nın temmuzda yayımladığı son Nemotron sürümü en yüksek puanı aldı. Box, sistemin özellikle etkin ajanlarla birlikte kullanılmasının yarar sağlayacağını belirtiyor. Şirketin verdiği örneğe göre avukatlar ilgili sözleşme maddelerini ve emsalleri daha kolay bulabilecek. Nemotron’ın gömmeleri anahtar kelimelerin ötesinde kavramları eşleştirdiği için, farklı sözcükler veya diller kullanılsa da bağlantılı hukuk temaları aranabilecek. Nemotron modelleri ücretsiz olarak kullanılabiliyor. Ancak sistem, Box’ın mevcut meta verileri ve izin denetimlerine de dayanıyor; bu nedenle benzerini sıfırdan kurmak zor olabilir. Levie, “Muhtemelen beş farklı teknolojiyi tek bir basit API içinde bir araya getiriyoruz” dedi. Özellik, gelecek yılın başlarında tüm Box Enterprise Advance müşterilerine sunulacak.
