Inception: Mercury 3 saniyede 1.000'den fazla token üretiyor



Özet


Inception, 19 Ekim'de piyasaya sürdüğü Mercury 3 dil modelinin difüzyon tabanlı mimarisi sayesinde NVIDIA GPU'larında saniyede 1.068 token hızına ulaştığını duyurdu. Bu performans, rakip modellerin dört ile sekiz katı hızda işlem yapmasını sağlarken, özellikle canlı tutorlar ve sesli destek sistemleri gibi düşük gecikme gerektiren uygulamalar için avantaj sağlıyor. Model, önceki sürümlerden 40 kat fazla parametreye sahip olmasına rağmen benzer hızları koruyor ancak bazı benchmark testlerinde rakiplerinin gerisinde kalabildiği görüldü. Şirket, lansman indirimiyle birlikte giriş token başına 0,10 dolar ve çıktı token başına 0,35 dolarlık rekabetçi fiyatlandırma sunarken, modelin zorlu akıl yürütme görevlerinde sınırları zorlayan modellerin yerini alıp almayacağının henüz kanıtlanmadığını kabul ediyor.



Inception, Mercury 3 modelini 19 Ekim'de piyasaya sürdü. Şirket, bu difüzyon tabanlı dil modelinin NVIDIA GPU'larında saniyede 1.068 çıktı token'ı ürettiğini belirtiyor. Raporlara göre hız, OpenAI'nin GPT-6 Luna ve Anthropic'in Claude Haiku 5.5 modellerinin dört ile sekiz katı arasında değişiyor.

The Rundown dergisinin son sayısında yer alan model, gecikmenin her an hissedildiği uygulamaları hedefliyor. Inception, erken kullanıcıların şu an canlı tutorlar, sesli müşteri destek sistemleri ve web'de gezinme yapan ajanlar çalıştırdığını ifade ediyor.

Mercury 3 Nasıl Çalışıyor?

Oto-gerçekleştiren (autoregressive) dil modelleri, cevapları token'lar birer birer oluşturarak inşa eder. Mercury'nin difüzyon yaklaşımı ise birçok token'ı aynı anda taslak halinde hazırlayıp ardından bunları iyileştirir. Bu yöntem, Inception'ın Mercury ailesi üzerine 2025'te yayımladığı araştırmada detaylandırılmıştır.

Inception, Mercury 3'ün toplam parametre sayısının Mercury 1'den 40 kat fazla olduğunu, ancak benzer hızları koruduğunu açıklıyor. Şirket modelin kalitesi açısından da rekabetçi olduğunu savunsa da, paylaşılan benchmark tablosu karışık sonuçlar gösteriyor. Orta düzey çaba seviyesinde, Luna ve Haiku bazı testlerde öne geçiyor.

Inception'ın liste fiyatları, milyon başına 0,20 dolar giriş ve 0,70 dolar çıktı token'ı olarak belirlendi. Lansman indirimiyle bu oranlar sırasıyla %50 düşerek 0,10 ve 0,35 dolara geriledi. Şirket, bu teklifin sona ereceği tarihi henüz açıklamadı.

Neden Önemli?

Mercury 3'ün en net kullanım alanı, etkileşimli işlerde hızlı ve yetkin cevapların alınıp sohbetin akışının kesintisiz devam etmesini sağlayan senaryolardır. Zorlu akıl yürütme görevlerinde sınırları zorlayan (frontier) modellerin yerini alması, hız odaklı rakiplerle yapılan bu karşılaştırmaların ötesinde kanıtlar gerektirir.

Tutor veya sesli destek sistemleri geliştiren ekipler için daha kısa mola süreleri, sohbet akışını destekleyebilir. Daha hızlı yanıtlar, bir tarayıcı ajanının tekrarlanan adımlarını kısaltabilir. Ekipler, rutin etkileşimler için Mercury'yi test edebilir; zorlu planlama veya üst makama aktarma işlemlerini ise bir sınırları zorlayan modele bırakabilir. Bu tercih, Mercury'nin yeniden denemeleri önleyecek kadar doğru adımlar atıp atamadığına bağlı olacaktır.

OpenAI de hızı doğrudan satıyor. 29 Eylül'de GPT-6 Astra Ultrafast'ı duyuran şirket, Codex'te token üretim hızının 8 kata kadar, saniyede 300 token'a ulaştığını ve API'de üretim hızının 6 kata kadar arttığını iddia ediyor. Astra ile Mercury'nin karşılaştırılması, aynı koşullarda yapılacak testleri gerektirir.

Ayrı bir gelişme olarak, OpenAI'nin 14 Ocak'ta Cerebras ile imzaladığı anlaşma, hızlı yanıtlar için tasarlanmış 750 MW'lık hesaplama kapasitesi öngörüyor. Bu kapasitenin 2028 yılına kadar aşamalı olarak devreye girmesi planlanıyor. Yatırım ve premium Ultrafast katmanı, OpenAI'nin hız yarışında donanım ve fiyatlandırma üzerinden rekabet ettiğini gösteriyor. Inception ise farklı bir model tasarımının kendisine avantaj sağlayacağına bahis oynuyor.

Geliştiriciler için pratik test, bir uygulamanın faydalı bir sonuca ulaşması için ne kadar süre harcadığıdır. OpenAI'nin Ultrafast dokümantasyonu, bağlantı açma süresinin daha hızlı üretimden gelen kazanımları azaltabileceği konusunda uyarıyor. Özellikle araçları (tool) tekrarlayan şekilde çağıran ajanlar için WebSocket bağlantısının açık tutulması öneriliyor. Daha hızlı metin üretimi, iş akışının geri kalanında kullanıcıları bekletmeye devam edebilir.

Mercury'yi değerlendiren ekiplerin, ilk faydalı yanıtın süresini, toplam görev süresini, başarı oranını ve gec