AI Gateway

Uygulamalarınızın dil modeli trafiğini tek noktadan geçiren katman: maskeleme, denetim izi, kota ve kullanım aynı yerde toplanır. Kodunuz değişmez.

Bir AI gateway, uygulamalarınız ile dil modelleri arasında duran ara katmandır. İstekler doğrudan sağlayıcıya gitmek yerine önce buradan geçer; kurum, geçen her isteği tek yerden görür ve tek yerden kurallara bağlar.

Gurubase Gateway bu katmanı Türkiye’de çalıştırır ve geçiş anına bir adım daha ekler: kişisel veri, istek dış modele çıkmadan maskelenir.

Neden tek geçiş noktası

Dağınık kullanımda her ekip kendi anahtarıyla, kendi kodundan, kendi sağlayıcısına gider. Kimin ne gönderdiğini kimse toplu göremez; bu, kurumsal literatürde shadow AI diye anılan tablodur. Tek geçiş noktası bunu dört yerde değiştirir.

Kişisel veri kontrolü. Maskeleme tek bir yerde uygulanır. Her uygulamanın ayrı ayrı doğru yapmasını beklemek yerine kural geçiş noktasında durur, istek hangi ekipten gelirse gelsin aynı şekilde işler.

Görünürlük. Hangi ekip hangi modeli ne kadar kullanıyor, hangi kategoriler ne sıklıkta yakalanıyor, hangi istek hata aldı. Sanal anahtar ve model kırılımıyla tek ekranda toplanır.

Dayanıklılık. Sağlayıcı yavaşladığında ya da hata döndürdüğünde yeniden deneme ve alternatife geçme kararı uygulama kodunda değil, geçiş noktasında verilir.

Bütçe. Token bütçesi, kota ve uyarı eşikleri anahtar bazında izlenir; kullanım kurum genelinde tek yerden okunur.

Kodunuzda ne değişir

İki değer. Gerisi standart OpenAI SDK’sı olarak kalır: model adı, parametreler ve yanıt biçimi aynıdır.

  client = OpenAI(
-     base_url="https://api.openai.com/v1",
-     api_key=OPENAI_API_KEY,
+     base_url="https://gw-tr.gurubase.io/v1",
+     api_key=SANAL_ANAHTAR,
  )

Sağlayıcının gerçek anahtarı Gateway içinde durur; uygulamanız yalnız panelden ürettiğiniz sanal anahtarı taşır. Adım adım geçiş için Gateway entegrasyonu.

Koruma katmanları

Maskeleme, geçiş noktasında çalışan koruma katmanlarının ilki ve varsayılan olanıdır. Girdi her istekte maskelenir; yanıt maskeleme isteğe bağlı açılır. Prompt injection ve halüsinasyon korumaları aynı katmana eklenecek, yakında yayına girecek özelliklerdir. Ayrıntı ve güncel durum için Koruma katmanları.

Modeller ve sağlayıcılar

Gateway OpenAI uyumlu tek bir arayüz sunar. Arkasında OpenAI, Anthropic ve Gemini gibi genel sağlayıcılar ya da kendi sunucunuzda çalışan modeller olabilir; istemci tarafında değişen tek şey model alanıdır. Erişebildiğiniz modelleri /v1/models ucundan alırsınız. Sağlayıcı seçimi, yeniden deneme ve alternatife geçiş davranışı için Modeller ve sağlayıcılar.

Görünürlük ve yönetişim

Panel, geçiş noktasında biriken veriyi okunur hale getirir: istek ve token sayısı, işlenen karakter, yakalanan kategorilerin dağılımı, model ve sanal anahtar kırılımı. Yönetimsel olaylar salt ekleme bir denetim izine yazılır ve dışa aktarılabilir. Ekranlar için Panel, saklama ve erişim kuralları için Güvenlik.

Yurt içinde çalışır

Gateway ve maskeleme, Türkiye’de barındırılan altyapıda çalışır. Dış modele yalnız maskeli metin gider; ham kişisel veri yurt içinde işlenir ve orada kalır. Maskeleme tamamlanamazsa istek dış modele hiç gitmez, Gateway 502 döndürür. Bu davranışın adı fail-closed; ayrıntısı Kavramlar sayfasında.