Karar modellerinin sektörde yaygınlaşmasıyla birlikte Musubi adlı bir şirket, bu modelleri içerik denetimi için kullanma konusunda yeni bir yaklaşım sunuyor. Musubi, Salı günü yaptığı duyuruda, gerçek zamanlı denetim için tasarlanmış, açık ağırlıklarla yayınlanan PolicyLM-1.7B adlı hafif bir karar modeli tanıttı.
Anlık denetim için PolicyLM-1.7B
Bu modelin temel amacı, açık dilde yazılmış bir içerik politikasını 50 milisaniyenin altında mesajlara uygulamak. Musubi'nin geliştirdiği bu model, çoğu sosyal platformda kullanılan yapay zeka sınıflandırıcı sistemleriyle benzer maliyet ve hızda çalışacak şekilde tasarlandı. Ancak modern bir büyük dil modelinin esnekliğine sahip olması sayesinde, özel bir eğitime ihtiyaç duymadan karmaşık politikaları uygulayabiliyor. Daha da önemlisi, politika değiştiğinde modelin yeniden eğitilmesi gerekmeyecek, bu da insan politika belirleyicilerin istedikleri kadar hızlı değişiklik yapabilmelerine olanak tanıyacak.
Karar modellerinin yükselişi
Musubi'nin kurucu ortağı ve baş yapay zeka sorumlusu Filip Jankovic'e göre bu yenilik, platform yöneticilerine içerikleri proaktif bir şekilde etiketleme imkanı sunuyor. Jankovic, "Ürün ekipleri, özellikle içerik miktarının katlanarak arttığı günümüzde platformlarında neler olup bittiğini daha iyi anlamak istiyor. Tüm bu içeriği ölçeklenebilir ve özelleştirilebilir bir şekilde etiketleyebilmek son derece faydalı," ifadelerini kullanıyor. Karar modelleri, Eylül ayında Typesafe AI'nin Jev'i piyasaya sürmesinin ardından yapay zeka dünyasında popüler hale geldi ve ardından OpenAI ile Amazon'dan da benzer modeller geldi. Bu modeller, metin çıktısı vermek yerine sonuç olasılıklarını gösteriyor; bu özel durumda model, içeriğin ilgili kategoriye girip girmediği konusunda ikili bir yargıda bulunuyor. Modelin çıktısını önceden belirlenmiş seçeneklerle sınırlamak, karar modellerinin daha hızlı ve daha ucuz çalışmasını sağlarken, transformer mimarisinin esnekliğini koruyor. Yapay zeka ajanlarının yanlış davranışlarını kontrol etmek gibi erken kullanım alanları göz önüne alındığında, aynı teknolojinin insan davranışlarına uygulanması doğal görünüyor.
