Amazon Web Services (AWS), yapay zeka geliştiricilerinin giderek artan bir şekilde bilgisayar otomasyonuna daha uygun zekalar aradığı bir dönemde, TypeSafe'in Jev modelinden esinlenen açık kaynaklı bir karar modeli yayınladı.
Strands Decider 2B tanıtıldı
Amazon'un Strands Decider 2B adını taşıyan bu yeni modeli, OpenAI'nin benzer bir ürün duyurusunun ardından aynı hafta içinde piyasaya sürüldü. Model, önceden belirlenmiş seçenekler arasından hızlı ve düşük maliyetli bir şekilde seçim yapma yeteneğine sahip ve bu seçimlerde ne kadar emin olduğunu da bir ölçütle belirtiyor. Tamamen açık kaynaklı olan model, yerel olarak çalıştırılabilecek kadar küçük boyutta ve hemen kullanıma hazır.
Müşteri ihtiyaçlarından doğan bir çözüm
Amazon'un önde gelen mühendislerinden Marc Brooker, Jev'i gördükten sonra kendi modelini oluşturma çabasıyla bu projeye imza attı. Kendi geliştirdiği model, kendi boyutundaki modeller için Jevbench sıralamasında kısa süreliğine zirveye yerleşince AWS mühendisleri tarafından temizlenerek Strands Labs bünyesinde bir ürün olarak sunuldu. Brooker, bu tür bir araca duyulan ihtiyacın, AWS müşterileriyle yaptıkları görüşmelerden doğduğunu belirtiyor. Müşterilerin ajan tabanlı iş akışlarının her zaman tam özellikli bir LLM'nin kapasitesini veya maliyetini gerektirmediğini ifade eden Brooker, “Bu tür modeller sınıfına olan ilgim, bir iş akışı adımı için mükemmel bir karar verici olmalarından kaynaklanıyordu – ‘Şu an bulunduğum yere göre bir sonraki adımım ne olmalı?’ gibi sorular için,” dedi. Güven skorları, kapalı alan cevapları ve daha düşük gecikme süresi ile potansiyel olarak daha düşük maliyetle yapılandırılmış bir iş akışı adımı sunduğunu ekledi. Strands Decider, diğer karar modelleri gibi bir LLM'nin temelini (bu durumda Qen3.5-2B) kullanıyor, ancak metin üretmek yerine kalibre edilmiş seçimler sunuyor. TypeSafe'in Jev modeline adını veren ekonomist William Stanley Jevons'ın, bir şeyin maliyetinin düşmesinin talebi artırabileceği teorisinden esinlenilmiş. Brooker, modelin hızını zekasından ödün vermeden optimize etmenin zorluk olacağını öngörüyor. Ancak, özellikle daha küçük pazarlarda, ilginç bir şey inşa etmenin maliyetinin yüzlerce veya binlerce dolar olduğu düşünüldüğünde, öncü laboratuvarların bu alanda baskın olmasını beklemiyor. TypeSafe CEO'su Diogo Almeida ise, şu an için gerçek bir rekabet görmediğini ve bu modellerin sadece “havalı bir mimariyi uygulamak isteyen ML insanları” tarafından geliştirildiğini, ancak zekayı kullanışlı hale getirmeye derinlemesine adanmış ekiplerin henüz yeterli olmadığını düşünüyor.
