Yapay zeka altyapısı şirketi Runware, kendi modüler veri merkezi olan Sonic Inference Pod'u tanıttı. Tek bir taşınabilir ünite olarak tasarlanan bu pod, büyük ölçekli veri merkezi projelerinin yanında daha esnek bir hesaplama çözümü sunuyor. Runware'e göre, bu pod diğer sunucusuz çıkarım platformları ve GPU bulutlarına kıyasla daha yüksek kalitede ancak daha düşük maliyetle çıkarım (inference) yapabiliyor.
MODÜLER TASARIM VE DAĞITIK HESAPLAMA VURGUSU
Modüler yapısı sayesinde, sabit bir veri merkezini genişletmek yerine yeni podlar oluşturarak kapasiteyi hızla artırmak mümkün hale geliyor. Runware'in kurucu ortağı ve CEO'su Flaviu Radulescu, bu yaklaşımın uzun vadede başarıya ulaşacağına inandıklarını belirtiyor. Radulescu, "Son kullanıcıya daha yakın konumlandırılmış, daha hızlı çıkarım sağlayan dağıtık hesaplamanın uzun vadede kazanacağına inanıyoruz," diyerek şirketlerinin bu vizyonu temsil ettiğini vurguluyor. Düşük fiyat avantajının yanı sıra, Runware sistemi hızla ölçeklenebiliyor, herhangi bir elektrik kaynağının olduğu yere konuşlandırılabiliyor ve yeni donanım güncellemelerine kolayca adapte olabiliyor.
GELENEKSEL VERİ MERKEZLERİNE ALTERNATİF
Runware podları su kullanmıyor; bunun yerine, geleneksel veri merkezlerinin inşasının aylar hatta yıllar sürebileceği göz önüne alındığında, birkaç gün içinde kurulabilen kapalı devre bir soğutma sistemi kullanıyor. Radulescu, "Çıkarım talebi, tesislerin inşa edilebilme hızından daha hızlı büyüyor. Bizim amacımız, talebi karşılayabilen, tıkanıklık yaratmayan bir kapasite ile dünyanın zekasını güçlendirmek ve her yapay zeka modelinin çalıştığı omurga olmak," şeklinde açıklıyor. Şirket şu anda ABD, Avrupa ve Asya-Pasifik bölgelerinde 10 pod ile hizmet veriyor. Ayrıca, Higgsfield AI ve Wix gibi bazı şirketlere çıkarım hizmeti sunuyor ve podlarını desteklemek için 160 lokasyona sahip. Runware, yapay zeka modellerinin görsel üretmesi için gereken altyapıyı sağlamak amacıyla Aralık ayında 50 milyon dolarlık bir Seri A finansmanı almıştı. Podlara geçişi, şirketlerin çıkarım ihtiyacını karşılamaya yönelik temel misyonlarının bir parçası olarak görüyorlar.
