Google, bulut bilişim işinde başka şirketlerin ürettiği çiplere bağımlılığını azaltmak amacıyla kendi çip portföyünü genişletiyor. Şirket pazartesi günü, yapay zekâ iş yüklerine yönelik iki yeni Tensor İşlem Birimi (TPU) modelini tanıttı. Nisan ayında duyurulan sekizinci nesil çip ailesine katılan TPU 8tx ve TPU 8i Max; gizli çıkarım işlemleri ve büyük iş yüklerinde daha fazla bellek kullanımı için tasarlandı. Önceki modeller daha yüksek çıkarım kapasitesi ve büyük ölçekli eğitim desteği sunuyordu.
TPU 8tx hassas verileri korumayı hedefliyor
AMD ile birlikte tasarlanan ve TPU 8t temel alınarak geliştirilen TPU 8tx, yapay zekâ modellerini gizlilik içinde eğitmek ve çalıştırmak için üretildi. Google, blog yazısında çipin “güvenliği doğrudan donanım katmanına yerleştirdiğini; hassas verileri ve model ağırlıklarını kullanım sırasında bile koruyup yalıttığını” belirtti. Özel çıkarım ağı, çıkarım işlemlerinin eğitimle birlikte yürütülmesini sağlıyor. Google’a göre bu özellik, küçük modellerin anlık olarak damıtılıp eğitilmesine ve şirketlerin kendi verilerini cihazlar arasında taşımadan model geliştirmesine olanak verebilir.
TPU 8i Max daha fazla bellek sunuyor
TPU 8i Max, şirketin nisanda tanıttığı çıkarım odaklı iki TPU 8i çipini tek bir pakette bir araya getiriyor. Böylece bellek kapasitesi, işlem gücü ve bant genişliği iki katına çıkıyor; yapay zekâ modelleri sorgular sırasında daha geniş bir bilgi kümesini işleyebiliyor. Yeni çiplerin tanıtımı, Microsoft ve Amazon gibi büyük bulut hizmeti şirketleriyle OpenAI ve Anthropic gibi yapay zekâ laboratuvarlarının Nvidia’ya bağımlılığı azaltmak için kendi yapay zekâ çiplerini ve yazılımlarını geliştirdiği dönemde geldi. Haberde ayrıca Nvidia CEO’su Jensen Huang’ın hafta sonu, Çinli casus olduğu öne sürülen biriyle ilişkisi bulunduğunu kabul ettiği belirtildi.
