Yapay zeka altyapısı şirketi Infinity, Pazartesi günü yaptığı açıklamada, Touring Capital, Principal VC ve OpenAI ile Anthropic gibi şirketlerden araştırmacıların da dahil olduğu yatırımcılardan 100 milyon dolarlık değerleme üzerinden 15 milyon dolarlık bir yatırım aldığını duyurdu. Startup, yapay zeka çiplerinin yapay zeka modellerini çalıştırmasını kolaylaştıran yazılımlar geliştiriyor.
Nvidia'nın hakimiyetine meydan okuyan yazılım devrimi
Nvidia'nın en üst oyuncu olmasının tek nedeni yüksek performanslı çipler değil, aynı zamanda grafik çalıştırmak üzere tasarlanan GPU'larını genel amaçlı işlem CPU'ları gibi davranmasını sağlayan CUDA (Compute Unified Device Architecture) yazılımıydı. En büyük yapay zeka geliştirme çerçeveleri PyTorch ve TensorFlow, CUDA üzerine inşa edildi. Bu, geliştiricilerin Python gibi popüler dillerde uygulamalarını yazmalarına, bu büyük yapay zeka çerçevelerini kullanmalarına ve uygulamalarının varsayılan olarak Nvidia çiplerinde çalışmasına olanak tanıyor. Bu uygulama düzeyindeki startup'ların çoğu, çiplerin düşük seviye yazılımı olan çekirdekleri (kernels) yazacak veya uygulamalarını diğer yapay zeka çiplerine uyarlayacak kaynaklara veya bilgiye sahip değil. Infinity ise SRAM, GPU'lar, telefon çipleri ve Systolic Array'ler gibi her tür çipte çalışan CUDA alternatifi çekirdek yazılımı oluşturmaya çalışıyor. Infinity, ürün ürün Nvidia'nın pazar hakimiyetini kırmaya çalışan yeni nesil startup'lardan biri.
Otomatik icat ve donanım devrimi: Infinity'nin vizyonu
Infinity, tüm çiplerde çalışacak evrensel bir çıkarım (inference) kütüphanesi oluşturarak, bu çiplerin en son araştırma sonuçlarını otomatik olarak çoğaltmasını hedefliyor. Geçen yıl Google Brain'de araştırmacı olan ve AGI House hacker ağı topluluğunun kurucusu Jeremy Nixon tarafından kurulan Infinity, "otomatik icat" fikrine olan takıntısı nedeniyle bu şirketi kurduğunu belirtti. Nixon'ın Omega adını verdiği ve temelde yeni makine öğrenimi algoritmaları üreterek bir geri bildirim döngüsünde otomatik olarak değerlendiren bir makine öğrenimi algoritması icat etmesi, bu yaklaşımın donanım alanında da kullanılabileceği düşüncesini doğurmuş. Infinity'nin yapay zeka araştırma ajanı Ignition, Nvidia alternatifi çipler üzerinde yapay zeka çıkarımı için gereken düşük seviyeli kodu yazmak üzere tasarlanmış. Sistem, donanımın kodla ne kadar hızlı performans gösterdiğini test ediyor, hatalarını ayıklıyor ve ölçüyor, performansı iyileştirmek için gerektiğinde kodu otomatik olarak yeniden yazıyor. Sistem, sürekli öğrenip kendini geliştiren kendi kendine optimize olan bir yapıya sahip. Nixon'a göre, bu sistem özel tasarımlardan bağımsız olarak farklı çip mimarilerine uyum sağlıyor. Sonuç olarak Infinity, CUDA düzeyinde bir yazılım yığınına sahip olduğunu iddia ediyor. Müşterileri arasında yapay zeka çip üreticisi ve Nvidia'ya rakip olabilecek D-Matrix bulunuyor ve Nixon, diğer büyük çip ve bulut şirketleriyle de görüşmelerin sürdüğünü belirtti. İnsanlar ise üst düzey yönlendirme sağlarken, ajans daha sıkıcı ve zahmetli işleri yapıyor. Bir vaka çalışmasında, ajansın tek başına bir insandan çok daha hızlı çalıştığı, yıllar sürebilecek bir süreci saatlere veya günlere indirdiği gözlemlendi. Infinity, performans artışlarından ve maliyet tasarruflarından pay alarak, token başına saniye cinsinden ölçülen değişikliklerle ücretlendiriliyor. Şu anda Infinity'de tasarım, operasyon ve mühendislik alanlarında çalışan 26 personel bulunuyor.
