Modeller ve sağlayıcılar

Tek OpenAI uyumlu arayüzün arkasında OpenAI ve Anthropic dahil farklı sağlayıcılar: model seçimi, erişilebilir modelleri listeleme, yeniden deneme ve alternatife geçiş.

Gateway tek bir OpenAI uyumlu arayüz sunar. Arkasında hangi sağlayıcının çalıştığı istemciyi ilgilendirmez: uygulamanız aynı istek biçimini gönderir, değişen tek alan model olur.

Model seçimi

Model adı istekte belirtilir. Kuruma tanımlı modeller arasında geçiş yapmak için tek satır değişir; SDK, parametreler ve yanıt biçimi aynı kalır.

resp = client.responses.create(
    model="gpt-4o-mini",
    input="Ahmet Yılmaz, TCKN 10000000382, adres değişikliği istiyor.",
)

Hangi modellere erişebildiğinizi /v1/models ucundan alırsınız. Liste, kurumunuz için tanımlanmış modelleri döndürür; yalnız maskeleme için ayrılmış gurubase-siper adı da buradadır. Uç noktanın tam referansı için Erişilebilir modelleri listele.

Sağlayıcılar

Aynı arayüzün arkasında iki tür sağlayıcı çalışabilir: OpenAI, Anthropic ve Gemini gibi genel sağlayıcılar ya da kendi sunucunuzda barındırdığınız modeller. Hangi sağlayıcıların açık olacağı ve her sanal anahtarın hangi modellere erişeceği kurum için tanımlanır.

Sağlayıcının gerçek API anahtarı Gateway içinde durur. Uygulamalarınız ve panel kullanıcıları yalnız sanal anahtar görür; sağlayıcı anahtarı istemciye hiçbir zaman inmez. Anahtar üretme, döndürme ve iptal adımları için Panel.

Maskeleme bu seçimden bağımsızdır: hangi sağlayıcı seçilirse seçilsin, istek dış modele çıkmadan önce aynı koruma katmanlarından geçer. Katmanlar için Koruma katmanları.

Yeniden deneme ve alternatife geçiş

Sağlayıcılar zaman zaman hız sınırı döndürür ya da yavaşlar. Bu durumda yeniden deneme kararı uygulama kodunuzda değil, Gateway’de verilir: istek, artan bekleme aralıklarıyla yeniden denenir.

Kurumunuz için birden fazla sağlayıcı tanımlıysa, bir sağlayıcı yanıt veremediğinde isteğin alternatif bir sağlayıcıya yönlendirilmesi de aynı yerde yapılandırılır. Uygulama tarafında ek kod gerekmez.

Sizin tarafınızdaki limitler (dakika başına istek, token bütçesi ve 429 davranışı) ayrı bir konudur; ayrıntısı Limitler ve kotalar sayfasındadır.