Karar modelleri yükselişte, kişiselleştirme yeni adım mı?

Ekim ayında Vercel'in yapay zeka model yönlendiricisine gelen isteklerin dörtte birinden fazlası, sadece bir ay önce icat edilen bir bilgisayarlı zeka türü olan karar modellerine yöneldi. Karar modelleri, çıktı üreten büyük dil modellerinin (LLM) aksine, genel zekalarını kullanarak önceden belirlenmiş seçenekler arasından hızlı ve ucuz bir şekilde karar vermek için ayarlanmıştır. Bu modeller, üretim ortamlarında, hızlı kararların daha yavaş ve daha pahalı gelişmiş modellerin sağladığı gerekçelerden daha önemli olabileceği durumlarda faydalıdır. TypeSafe, Jev model ailesini piyasaya sürdükten sonra 7,5 milyar dolarlık bir şirket haline geldi. Bu modeller, özellikle OpenRouter gibi hizmetlerden elde edilen metriklerde büyük bir kullanım oranına sahip. Ancak, bir karar modelinin oluşturulması kolaydır ve Jev'in ardından onlarca model piyasaya sürüldü. Bir Amazon mühendisi bir hafta sonunda bir karar modeli geliştirdi ve kısa süre sonra her büyük teknoloji şirketi kendi seçeneğini sundu. Salı günü Microsoft CEO'su Satya Nadella, şirketinin Microsoft-Decision-1.1 karar modelini Azure üzerinde kullanıma sunduğunu duyurdu. Bu alandaki gelişmeler ekosistemin her iki ucunda da yaşanıyor. İngiltere merkezli yapay zeka girişimi Sqwish, kettei fat adlı karar modeliyle 3 milyon dolarlık ön tohum yatırımı aldığını duyurdu. Kurucular Ushnish Sengupta ve Federica Freddi, Cambridge'de yüksek lisans öğrencisiyken tanıştılar ve Jev sahneye çıktığında küçük LLM'ler üzerinde çalışıyorlardı, mimarilerinin güçlü bir karar modeli olarak yeniden kullanılabileceğini fark ettiler. Başarılı bir model için verinin kilit rol oynadığı görülüyor. TypeSafe CEO'su Diogo Almedia, Jev'i oluşturmanın en zor kısmının istatistiksel olarak ayarlanmış sentetik verilerle yargısını hassas bir şekilde kalibre etmek olduğunu belirtti. Sqwish de sentetik verilerle çalışıyor, ancak benzersiz teklifi, modelin yargısını iyileştirmek için müşterinin kendi verilerini kullanan yerleşik eğitim sonrası araçlarıdır. Sqwish CEO'su Ushnish Sengupta, “Bizi farklı kılan şeyin, müşterilerimize aynı gücü sunmamız olduğunu düşünüyorum… üretim verilerini yüklemeye devam edebilirler ve tıpkı bizim modellerimizi eğittiğimiz gibi, onların modelleri de ilgilendikleri görevlerde daha iyi hale gelebilir,” dedi. Karar modellerini sıralamak zordur; Sqwish'in "kettei fat" modeli bazı kıyaslamalarda iyi performans gösterdi. Ancak, teknolojiyi geliştirenlerin çoğu, gerçek kanıtın kullanımda olduğunu söylüyor. Geliştiricilerin bir modeli diğeriyle değiştirmesi ve belirli bir bağlamda nasıl performans gösterdiğini görmesi genellikle basittir. Sengupta, “Kıyaslama, modeli denemeye davettir ve sürekli ayarlama, neden bize bağlı kalacaklarının nedenidir” diyor. Microsoft'un Decision 1.1 modeli de maliyet, gecikme süresi, zeka ve kalibrasyon arasındaki dikkatli dengelemenin bir sonucudur. Projeyi yöneten mühendislik başkan yardımcısı Achint Srivastava, kıyaslamalara aşırı odaklanmanın bir hata olduğu konusunda hemfikir. Srivastava bir e-postada, “Gördüğümüz şey, ‘kıyaslama şampiyonu’ modellerin gerçek kurumsal kullanımlarda çok çabuk başarısız olduğudur. Testlerimiz, doğruluk, güvenilirlik, hız ve maliyet etkinliğini tek bir modelde sunmanın ne kadar zor olduğunu vurguluyor. Microsoft-Decision-1.1 ve Jev, ‘ayrılmış’ veya gerçek kullanım durumlarını yansıtan görülmemiş kıyaslamalarda bile dört boyutun tümünde güçlü performans gösteren az sayıdaki modelden ikisidir.” Sqwish gibi girişimler için büyük teknoloji şirketleri ve gelişmiş laboratuvarlarla rekabet bir fırsattır. Freddi, gelecekteki sistemlerde karar modelleri gibi Sistem Bir zekası ile gelişmiş LLM'ler gibi Sistem İki zekasının birlikte çalışacağını tahmin ediyor. Freddi, “Bu gelecekte bile, Sistem Bir muhtemelen 10 milyar ila 50 milyar dolarlık bir fırsat ve OpenAI, 1 trilyon, 2 trilyon dolarlık piyasa değeriyle bu halka arzı yapıyor. Bizim için önemli olan bu; onlarsa bu sadece bir yan proje,” dedi.

Üye girişi yap
Sitemizin daha işlevsel hale getirilmesi için yasal mevzuata uygun çerezler kullanılır. Fikrini Söyle’yi kullanarak bu çerezleri kabul etmiş olursunuz. Çerez kullanımına ilişkin detaylı bilgilere çerez politikamız'dan ulaşabilirsiniz.