Yapay zeka şirketi OpenAI, kullanıcıların ChatGPT'nin daha hızlı yanıt vermesi yönündeki beklentilerine yanıt olarak 'Ultrafast' adını verdiği yeni bir modu kullanıma sundu. Bu yeni özellik, şirketin en güçlü modeli olan GPT 5.6 Sol'un çalışma hızını önemli ölçüde artırmayı hedefliyor.
Daha hızlı yanıtlar için yeni teknoloji
OpenAI'nin açıklamalarına göre, Ultrafast modu standart işlem hızına kıyasla 14 kat daha hızlı çalışabiliyor. Bu sayede, saniyede 750 çıktı token'ına kadar üretebiliyor. Token'lar, büyük dil modellerinin (LLM) kullanıcılarla etkileşiminde ürettiği metin parçacıkları olarak tanımlanıyor. Şirket, "Şimdiye kadar gerçek zamanlı hız elde etmek genellikle daha küçük veya daha özel bir modeli seçmek anlamına geliyordu. Ultrafast, yeni bir yönde ilerlemeyi işaret ediyor: saniyede daha faydalı iş."
Rekabette öne çıkma ve kullanım alanları
OpenAI'nin rakipleri de benzer hızlandırılmış model sürümleri geliştirmiş olsa da, Ultrafast'ın sunduğu hızın dikkat çekici olduğu belirtiliyor. GPT 5.6 Sol'un bu yüksek performanslı versiyonu, şirketlerin operasyonel süreçlerinde, özellikle olay müdahalesi, müşteri hizmetleri ve desteği, finansal piyasa analizi ve e-ticaret gibi alanlarda kullanılması öngörülüyor. Şu anda önizleme aşamasında olan Ultrafast, OpenAI'nin çip üreticisi Cerebras ile olan ortaklığı sayesinde güçlendiriliyor. Özellik şu an sınırlı sayıda müşteriye sunuluyor, ancak kapasite arttıkça erişimin genişletileceği ifade ediliyor.
