AI gateway, uygulamalarınız ile dil modeli sağlayıcıları arasına giren tek kapıdır. Sağlayıcı anahtarları burada durur; her istek buradan geçtiği için harcama da giden içerik de aynı yerde görünür. Uygulama kodunuz sağlayıcının adresi yerine gateway'in adresini çağırır, gerisi değişmez.
AI gateway tam olarak ne yapar?
Dört işi bir arada toplar. Sağlayıcı anahtarını tek yerde tutar, isteği doğru modele yönlendirir, harcamayı ekip başına sayar ve kimin ne gönderdiğini kayda geçirir. Bunların hiçbiri modelin kendisiyle ilgili değil; hepsi, modeli bir kuruma sokmanın getirdiği işlerdir.
- Sağlayıcı anahtarı tek yerde durur, ekipler kendi sanal anahtarlarını alır ve ekip üyelerinden biri ayrılınca yalnız onun anahtarı iptal edilir.
- Hangi isteğin hangi modele gideceğine gateway karar verir, sağlayıcı çökerse alternatife geçer.
- Ekip başına token sınırı koyarsınız, aşan istek durur.
- Hangi kullanıcının ne zaman ne gönderdiği kayıt altındadır.
API gateway'den farkı ne?
API gateway zarfla ilgilenir, AI gateway zarfın içindeki mektubu da okumak zorundadır. Token maliyeti de içerikte, kişisel veri riski de içerikte. Bu yüzden AI gateway istek gövdesini görür, maliyeti istek başına değil token başına sayar ve hata durumunda yeniden denemek yerine başka bir modele geçer.
| Ölçüt | API gateway | AI gateway |
|---|---|---|
| Neye bakar | Yol, başlık, kimlik | Bunlara ek olarak istek metni |
| Maliyet ölçüsü | İstek sayısı | Token sayısı ve model fiyatı |
| Hata durumu | Yeniden dener | Başka modele geçer |
| Yanıt biçimi | Sabit | Akış halinde, parça parça |
| Tipik kaygı | Erişim ve hız | Harcama, içerik ve uyum |
Neden doğrudan sağlayıcıya bağlanmak yetmiyor?
Tek uygulamada yeter. İkinci uygulama geldiğinde anahtar kopyalanır. Üçüncüde kimin ne harcadığı belirsizleşir. Dördüncüde bir çalışan ayrılır ve o anahtarın nerelerde gömülü olduğunu kimse tam bilemez.
Fatura ilk kez sıçradığında masaya gelen soru şu olur: bu parayı kim harcadı? Tüm çağrılar aynı anahtarla yapıldığı için cevap çıkmaz. Gateway bu soruyu sorulmadan önce cevaplar.
Türkiye'de KVKK açısından ne değişir?
Model yurt dışındaysa gönderdiğiniz metin de yurt dışına çıkar. 6698 sayılı Kanunun 9. maddesi kişisel verinin yurt dışına aktarımını koşula bağlar, 6. maddesi ise sağlık ve benzeri özel nitelikli veriler için ayrıca sıkı bir rejim kurar. Uygulama doğrudan sağlayıcıya bağlandığında bu kontrolü koyacağınız bir yer yoktur; istek zaten gitmiştir.
Gateway o yeri yaratır. Metin modele ulaşmadan önce geçtiği tek nokta olduğu için, kişisel alanların maskelenmesi de hangi istekte neyin maskelendiğinin kayda geçmesi de burada olur. Denetim kaydının ham istem metnini saklaması gerekmez, gerekmemelidir de: kaydın işi neyin yakalandığını göstermektir, ham metnin bir kopyasını daha üretmek değil. Kurumun ilk sorusu genelde "kim ne gönderdi" olur ve bu sorunun cevabı ancak tek kapı varsa vardır.
Maskelemenin kendisi anonimleştirme değildir; Kanunun 3. maddesindeki anonim veri eşiği daha yüksektir. Maskeleme, riski ve yükü azaltan teknik bir kontroldür.
Kendi gateway'inizi mi yazmalısınız?
İlk sürümü yazmak kolaydır. Bir yönlendirme, bir anahtar deposu, bir sayaç. Sonra sağlayıcı yeni bir uç nokta çıkarır, akış yanıtlarının biçimi değişir ve iki sağlayıcı arasında token sayımı tutmaz. Bu bakım kalıcıdır.
Bu işi sürdürecek bir ekip ayırabiliyorsanız yazın. Ayıramıyorsanız hazır bir kapı kullanın ve o ekibi kendi ürününüze verin.
Siper'de karşılığı
Gurubase AI Gateway, OpenAI uyumlu tek bir adres verir. Kodunuzda base_url
değerini değiştirirsiniz, sağlayıcı anahtarınız yerine gateway'de ürettiğiniz
sanal anahtarı kullanırsınız; SDK'nız ve istek yapınız aynı kalır. Panelde
kullanım, kota ve denetim kaydı tek ekrandadır.
Farkı, kapının içinde Siper'in çalışmasıdır: istek modele iletilmeden önce Türkçe metinde tespit edilen kişisel alanlar maskelenir. Yakalama oranını (recall) insan doğrulamalı 403 belgelik Türkçe test setinde %84,6 ölçtük (Temmuz 2026); kişisel veri içermeyen ayrı bir sette yanlış alarm %5,7 çıktı. Bu sayı bir üst sınır değil, kendi metinlerinizle değişebilecek bir başlangıç noktasıdır; ölçüm yöntemi benchmark sayfasında duruyor.
Nasıl kurulduğunu görmek için gateway dokümanına, kendi metninizle denemek için playground'a bakın.