Ultrafast ile GPT-5.6 Sol 14 Kat Hızlandırıldı, 750 Token Saniyeye

OpenAI, perşembe blog yazısında duyurdu ki GPT-5.6 Sol için geliştirdiği Ultrafast mod, standart işlem sürecinin 14 katına kadar hızla çalışabiliyor. Bu yeni mod, saniyede 750’ye kadar çıktı tokenı üretebiliyor; tokenlar, büyük dil modellerinin insanlarla etkileşim sırasında oluşturduğu metnin ayrı parçalarını ifade eder. Yapılan açıklamada, Ultrafast’ın “saniye başına daha fazla yararlı iş” hedeflediği ve bu sayede yüksek hızlı sürümünün kurumsal iş akışlarında kullanılabileceği belirtildi. Openai bu yenilikle ilgili olarak “gerçek zamanlı hız elde etmek için genellikle daha küçük veya özel amaçlı model seçmek gerektiğini” vurguladı, fakat Ultrafast’ın farklı bir yöndeki ilerlemeye işaret ettiğini söyledi.

Ultrafast’ın 14 kat hız avantajı, saniyede 750 token üretme yeteneğiyle ölçülüyor; bu, normal bir GPT-5.6 Sol sürecine kıyasla inanılmaz bir verimlilik artışı sağlıyor. Sistem, saniyede 750 token üretebiliyor, yani saniye başına daha fazla yararlı iş yapılabiliyor. Bu yüksek hızlı sürüm, özellikle veri yoğunluğu yüksek senaryolarda önemli bir fark yaratıyor. Ultrafast’ın bu kadar hızlı olmasının nedeni, OpenAI’nin çip üreticisi Cerebras ile yaptığı ortaklıkla desteklenmesi.

Anthropic’in Claude modeli için bir “fast mode” seçeneği bulunuyor, ancak TechCrunch’a göre bu mod OpenAI’nin Ultrafast ile sunduğu hız seviyesine ulaşmıyor. Antrhopic’in fast mode’u, Ultrafast’ın 14 kat hızına kıyasla daha düşük bir performans sergiliyor. Bu durum, rekabet ortamında OpenAI’nin hız konusunda bir adım önde olduğunu gösteriyor. Bu karşılaştırma, AI hız yarışında nerede durduğumuzu net bir şekilde ortaya koyuyor.

OpenAI, Ultrafast’ın farklı kurumsal iş akışlarında kullanılabileceğini söylüyor. Öne çıkardıkları alanlar arasında olay müdahalesi, müşteri hizmetleri ve destek, fisanal piyasa analizi ve e-ticaret bulunuyor. E-ticaret sektöründe, hızlı veri işleme sayesinde müşteri talepleri anlık olarak yanıtlanabilir. Olay müdahalesi alanında ise hızlı karar alma süreçleri kritik bir öneme sahip. Bu uygulama alanları, Ultrafast’ın günlük iş süreçlerine nasıl entegre olabileceğini gösteriyor.

Şu anda Ultrafast, önizleme aşamasında olup yalnızca küçük bir müşteri grubu erişebiliyor. Preveiw aşamasında, OpenAI kapasite arttıkça Ultrafast’a erişimin de genişletileceğini belirtiyor. Kapasite, zamanla artacak ve daha fazla müşteri bu yüksek hızlı sürüme erişebilecek. Ayrıca, Cerebras ile yapılan ortaklık sayesinde altyapı kapasitesi sürekli olarak geliştiriliyor.

Kaynak: Orijinal Haber