Nvidia, kurumsal kullanıma ve uç bilişim sistemlerine yönelik, sürekli çalışan ajanlar için tasarlanmış açık ağırlıklı modellerini tanıttı. Bu yeni ürün ailesi, hem büyük ölçekli kurumsal ihtiyaçları hem de bireysel bilgisayarlarda yerel olarak çalışacak çözümleri kapsıyor.
Kurumsal Sektöre Özel Nemotron 3.5 Super VL
Şirketin tanıttığı Nemotron 3.5 Super VL, 120 milyar parametrelik büyük bir model olarak kurumsal sektörde kullanılacak ajanlar için optimize edildi. Daha önceki Nemotron 3 Ultra modeline göre daha az parametreye sahip olmasına rağmen, Nvidia tarafından yapılan açıklamaya göre komut takip etme ve araç kullanma gibi görevlerde benzer bir doğruluk seviyesi sunabiliyor. Bu gelişme, büyük veri setleriyle çalışan işletmeler için daha verimli bir çözüm anlamına geliyor.
Yerel Kullanım İçin Hafif Bolt Modelleri
Diğer yanda ise Nvidia, iki adet hafif Bolt modelini piyasaya sürdü. Bu modeller, yeni nesil yapay zeka destekli kişisel bilgisayarlar (Nvidia RTX Spark çipiyle çalışan) ve DGX Spark çalıştıran iş istasyonlarında yerel olarak çalışmak üzere tasarlandı. Tüketiciler, programcılar ve kurumsal çalışanlar gibi geniş bir kitleye hitap eden bu tür bilgisayarlar, Microsoft ve Dell gibi iş ortaklarıyla pazara sunuluyor. Nvidia'nın Açık Modeller ve Yazılım Başkan Yardımcısı Kari Briski, yaptığı açıklamada, “Ajanları Nvidia altyapısında çalıştırmak isteyen herhangi bir kuruluş artık yetenek ve dağıtım kolaylığı arasında seçim yapmak zorunda kalmadan, kendi segmenti için açık ve optimize edilmiş bir modele sahip” dedi. Nvidia, Super VL'nin, belge analizi, finansal muhasebe, bilimsel deneyler, tıbbi sigorta talepleri ve güvenlik saldırılarına karşı dayanıklılık gibi ajan görevlerinde Antropik ve OpenAI'nin rakip modellerinden daha hızlı görevleri tamamladığını iddia ediyor. Bu iddialar, Skydance, EY, Ramp, Crowdstrike, Perplexity ve Salesforce gibi önde gelen şirketlerin Super VL'yi kullandığı bilgisiyle destekleniyor. Bu yeni modeller, Nvidia'nın daha önce piyasaya sürdüğü açık ağırlıklı modeller ailesinin bir parçası olarak öne çıkıyor. Ancak bu modeller, Nvidia'nın hem müşterisi hem de yatırımcısı olduğu özel yapay zeka laboratuvarlarıyla rekabet ediyor. Nvidia, kurumsal şirketlerin kendi veri merkezlerinde açık modeller çalıştırma eğilimine odaklanarak, Super VL'yi kendi verileriyle yeniden eğitebilme, kendi altyapılarına dağıtabilme ve geliştirdikleri çözümlerin sahipliğini üstlenebilme imkanı sunuyor. Ayrıca, daha küçük ve yerel PC modelleriyle de tüketiciye yönelik yapay zeka asistanları pazarını ileriye taşımayı hedefliyor. Nvidia, yerel modelleri çalıştıran ve buluta veri göndermeden günlük projeleri devredebilen makineler sunarak yeni bir pazar yaratmayı umuyor. Tanıtılan Bolt modellerinden Nemotron 3.5 Bolt 74B-A9B 24GB, yerel ajan görevleri için tasarlanmış 74 milyar parametrelik bir model olup, hız ve akıl yürütme dengesini çok adımlı akıl yürütme, araç çağırma ve web tarama gibi işlemleri yönetmek için sağlamayı amaçlıyor. En küçük Bolt E4B modeli ise konuşma ajanları için geliştirildi. Super VL ve Bolt 74B-A9B modelleri şu anda mevcutken, Bolt E4B'nin bu ay içinde piyasaya sürülmesi bekleniyor.
