Yapay zeka dünyasında Nvidia'nın hakimiyetinin sarsılmaz olduğu günler geride kalırken, her yönden yeni rakipler ve seçenekler ortaya çıkıyor. Turing Ödülü sahibi Yann LeCun tarafından desteklenen Fransız yapay zeka girişimi ZML, çok çeşitli çipler üzerinde açık kaynaklı büyük dil modellerinin çalışmasını sağlayan bir çıkarım (inference) performans yazılımı yayınladı. Bu yazılım, Nvidia'nın yanı sıra AMD, Google TPU, Apple Metal ve Intel Arc gibi platformları da destekliyor.
YAPAY ZEKA ÇIKARIM HIZLANDIRICI ZML/LLMD
Yeni piyasaya sürülen LLM çıkarım sunucusu ZML/LLMD ile şirketin temel amacı, mevcut siloları kırmak ve farklı çiplerin yapay zeka kullanım durumları için maksimum hızlarında, hatta bazen daha da hızlı kullanılabilmesini sağlamak. ZML kurucusu Steeve Morin'in TechCrunch'a belirttiği üzere, yapay zekanın iş ve günlük hayatımıza entegre olmasıyla birlikte, istemlerin (prompts) işlenmesi olarak da bilinen çıkarım optimizasyonu, model eğitimini önem açısından geride bırakıyor. Ancak bu süreç, genellikle arka planda yazılım ve mimari engeller nedeniyle tutarsızlıklar gösteriyor ve satıcıya bağımlılığa yol açıyor.
PİYASA DİNAMİKLERİNİ DEĞİŞTİRME POTANSİYELİ
Çeşitli çiplerde en üst düzey performansa ulaşma vaadi, teknolojik bir başarı olmasının yanı sıra, yapay zeka ile ilgili maliyetlere dair artan endişeler karşısında bir pazar düzenleyicisi de olabilir. ZML, işletmelere ve bulut sağlayıcılara, maliyeti daha düşük veya daha az enerji tüketen çiplerin bir karışımını kullanma seçeneği sunmayı umuyor. Morin'e göre, insanların kendi sistemlerini yaratma ve yapay zekanın yayılmasını sağlayan gerçek verimlilik artışları elde etme gücünü geri vermek hedefleniyor. Bu tür bir yazılım desteği, özellikle Avrupa'dan çıkan yeni yapay zeka çip üreticilerine yardımcı olabilir. Morin, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud ve VSORA gibi firmaları örnek gösteriyor. Ancak Morin için önemli olan, ZML'nin daha önce dünyada eşi benzeri görülmemiş işlere imza atabilmesidir. Bu durum, Morin'in Nvidia'ya karşı olumsuz bir görüşe sahip olduğu anlamına gelmiyor; mevcut tedarik zinciri nedeniyle Nvidia'ya olumlu bakıyor ve yapay zeka deviyle iyi bir ilişkisi olduğunu belirtiyor. Çıkarım alanına yapılan yatırımın yoğunluğu, bu trendin "çıkarım altın hücumu" olarak adlandırılmasına yol açmıştır. ZML, 13 milyar dolarlık değeriyle Baseten, açık kaynak projesi vLLM'nin yaratıcılarından Inferact ve SGLang'in arkasındaki ticari şirket RadixArk gibi rakiplerle karşı karşıya. Morin'in ZML için hedefleri daha geniş bir alanı kapsıyor ve "silikonu ortak tasarladığımız bir noktaya ulaştık" diyor. 20 kişilik yalın ekibinin, Paris merkezli girişimin hızla ilerlemesini sağladığını ve daha fazla ürünün planlandığını ekliyor. 2017'de Snapchat tarafından önemli bir meblağa satın alınan Zenly'nin mühendislikten sorumlu başkan yardımcısı olarak sahip olduğu başarı geçmişi sayesinde Morin, Harry Stebbings'in 20VC'si, >commit, AALVC, Drysdale Ventures, Xavier Niel'in Kima Ventures, Kindred Capital, LocalGlobe ve Puzzle Ventures gibi yatırım firmalarından 20 milyon dolar topladı. ZML'nin ilk kamuya açık projesi olan ve 2024'te piyasaya sürülen ve Mart ayında güncellenen çıkarım odaklı ML çerçevesinin aksine, ZML/LLMD açık kaynaklı değil. Ancak kullanımını öğrenme hedefiyle ücretsiz bir ürün olarak piyasaya sürülüyor. Morin, "Ölçüp daha sonra en etkili olduğu yerde gelir elde etmeyi tercih ederim, en başından açgözlü davranarak büyümeme engel olmak yerine" diyor. ZML/LLMD'nin ne zaman ücretli bir ürün olabileceği ve benimsenme durumunun ne olacağı henüz belirsiz. Ancak girişimin yatırımcı tablosu, Dagger ve Docker kurucusu Solomon Hykes, Hugging Face'ten Clément Delangue ve Julien Chaumond ile AMI Labs'ta bulunan LeCun gibi diğer kurucuların da dikkatini çektiğini doğruluyor. Bu durum, Avrupa'nın yapay zeka girişimlerinin artık kendi ülkelerinde de başarılı olabileceği tezini güçlendiriyor. Morin, "ZML'yi Paris dışında yapamazdım" diye ekliyor.
