Yapay zeka sektöründe kullanıcılar, uygulamalarının ne kadar maliyetli olabileceği konusunda giderek daha bilinçli hale geliyor ve maliyetleri düşürmek için yeni bir aciliyet hissediyorlar. Açık kaynaklı modeller, token başına önemli ölçüde daha düşük maliyetler sunsa da, belirli bir iş için doğru modeli bulmak zor olabilir. Dün, pazarlamacılar için yapay zeka araçları ve aracıları sunan Writer, kullanıcıları için bu sorunu çözmeyi amaçlayan yeni amiral gemisi modeli Palmyra X6'yı tanıttı.
Maliyetleri düşürme odaklı yeni model
Z.ai'nin açık kaynaklı modeli GLM-5.2 üzerinde bir eğitim sonrası varyasyonu olarak geliştirilen Writer, yeni sistemin çok daha düşük bir fiyata dağıtıma hazır yetenekler sunacağını belirtiyor. Şirket, yeni modelin, şirketin altyapı değişiklikleriyle birleştiğinde, temel görevler için müşterilerinin maliyetlerini yüzde 50'ye kadar azaltacağını tahmin ediyor. Yeni modelle birlikte şirket, standart aracı altyapısında da önemli yükseltmeler yayınladı. Her iki özellik de Perşembe gününden itibaren Writer müşterilerine sunulacak.
Kurumsal beklentiler ve altyapı optimizasyonu
CEO May Habib, TechCrunch'a verdiği demeçte, “Kurumsal dünyanın bir sonraki kıyaslamanın peşinden koşmaktan kesinlikle bıktığını düşünüyorum. Maliyetlerin düşmesini istiyorlar ve bunu kimsenin sağlayamadığı görülüyor” dedi. Yeni yaklaşım, özellikle karmaşık, çok adımlı görevlere odaklanıyor ve bu görevler daha hızlı ve daha az token ile yürütülüyor. Writer, bunun gerçekleşmesi için altyapı optimizasyonunu kritik bir kaldıraç olarak görüyor. Writer araştırmacılarının yakın zamanda yayınladığı bir makale, birden fazla farklı modelde altyapı verimliliğindeki küçük değişiklikleri test ederek bu yaklaşıma güven veriyor. Araştırma, birçok durumda, model seçiminden daha güvenilir bir maliyet azaltma yolu olduğunu ve testlerinde ortalama yüzde 40'lık bir maliyet düşüşü sağladığını buldu. Araştırmacılar, “Altyapı, bir kuruluşun çalıştırdığı her modelde, hem şimdiki hem de gelecekteki verimliliği artıran tek bileşendir” diye yazdı. Writer'ın müşterileri için deneyim hala modelden bağımsız: Palmyra X6, Azure veya Amazon Bedrock aracılığıyla içe aktarılan diğer Writer modellerinin veya dış modellerin yanında yer alacak. Ancak Habib, maliyetleri düşürme baskısının, token kullanımını artırmak için finansal bir teşvike sahip büyük yapay zeka laboratuvarlarına yönelik daha geniş bir güvensizliği de körüklediğini görüyor. Habib, TechCrunch'a verdiği demeçte, “Buradaki maliyet patlaması müşteriler için eşi benzeri görülmemiş durumda ve aynı zamanda CIO'ların laboratuvarlardan vazgeçme derecesi de öyle” dedi ve yapay zeka laboratuvarlarının “bir girişimin yapay zekadan nasıl fayda sağlayacağını derinlemesine anlamadığını” ekledi.
