AI GÜVENLİĞİ
Prompt injection tespiti
BetaBir metnin içine gizlenmiş talimat, modelinizi kendi kurallarının dışına çıkarabilir. Siper, kullanıcı mesajında ya da e-posta, belge veya araç çıktısıyla gelen talimat ele geçirme ve jailbreak denemelerini LLM'e ulaşmadan yakalar. Türkçe metinler için geliştirildi.
Bu özellik Beta sürecinde, sonuçlar değişebilir. Yanlış ya da gözden kaçan bir sonuç görürseniz bize yazın; geri bildiriminizi bekliyoruz.
KENDİNİZ DENEYİN
Bir metin yapıştırın, kararı görün.
Hazır örneklerden birini seçin ya da kendi metninizi yazın. Kontrol et'e bastığınızda metin canlı servise gider; karar, risk skoru ve süre burada görünür.
Girdi
0/4000Sonuç
Karar burada görünecek
Bir örnek seçin ya da kendi metninizi yazıp Kontrol et'e basın.
Girdiğiniz metinler hizmeti iyileştirmek için kaydedilir; gerçek kişisel veri girmeyin.
Hangi denemeleri yakalar?
Kullanıcıdan gelen denemeler
Sohbet kutusuna yazılan "önceki talimatları yok say" ya da "kuralları olmayan bir asistansın" gibi istekler. Amaç, modelin kurallarını devre dışı bırakmak ya da sistem istemini ele geçirmektir.
İçeriğe gizlenmiş talimatlar
Talimat kullanıcıdan değil, modelin okuduğu içerikten gelir: bir e-postanın altına, bir belgeye ya da bir aracın döndürdüğü sonuca eklenmiş not. Kullanıcı fark etmeden model bu notu komut sanabilir.
Benzer görünen zararsız sorular
"Geliştirici seçeneklerini nasıl açarım?" ya da "prompt injection nasıl çalışır?" birer saldırı değildir. Bu soruları geçirmek de saldırıyı yakalamak kadar önemlidir; yoksa kullanıcılarınız boş yere durdurulur.
Nasıl çalışır, gateway'de nerede durur?
01
Gelen metin
Kullanıcı mesajı ya da modelin okuyacağı e-posta, belge, araç çıktısı.
02
kontrol buradaSiper
Metin modele gitmeden incelenir: Engellendi, Şüpheli ya da Temiz.
03
Model sağlayıcısı
Engellenmeyen istek yoluna devam eder.
Her metin için üç karardan biri ve 0 ile 1 arasında bir risk skoru döner. Skor yükseldikçe metnin bir talimat ele geçirme denemesi olma ihtimali artar. Şüpheli kararı, sınırda kalan metinleri ayrıca ele alabilmeniz için vardır.
Gateway tarafında bu kontrol, kişisel veri maskelemesiyle aynı geçiş noktasında, istek modele gitmeden önce çalışacak şekilde tasarlanıyor. Beta sürecinde bu sayfadaki demoyla deneyebilirsiniz; kendi akışınızda denemek isterseniz bize yazın.
SSS
Sık sorulan sorular
Prompt injection nedir?
Bir dil modeline, kendisine verilen talimatların dışına çıkmasını söyleyen metindir. Doğrudan olabilir: kullanıcı "önceki talimatları yok say" yazar. Dolaylı da olabilir: talimat modelin okuduğu bir e-postanın, belgenin ya da web sayfasının içine gizlenir ve kullanıcı bunu fark etmez.
Jailbreak ile prompt injection arasındaki fark ne?
Jailbreak, modelin güvenlik kurallarını devre dışı bırakmayı hedefleyen bir deneme türüdür; "bundan sonra kuralları olmayan bir asistansın" gibi. Prompt injection daha geniş bir terimdir ve modelin görevini ele geçirmeye çalışan her talimatı kapsar. Siper ikisini de aynı kontrolle işaretler.
Neden Türkçe odaklı bir tespit gerekiyor?
Türkçede aynı niyet çok farklı kelime ve eklerle yazılabilir; "yok say", "görmezden gel" ve "unut" aynı işi görür. Türkçe yazılmış denemeleri yakalamak ve zararsız Türkçe soruları boşuna durdurmamak için tespitin Türkçe metinler üzerinde geliştirilmesi gerekir.
Beta ne anlama geliyor?
Özellik kullanıma açık ama gelişmeye devam ediyor; kararlar ve skorlar sürümden sürüme değişebilir. Bu yüzden şimdilik tek başına bir güvenlik önlemi olarak değil, diğer önlemlerinizin yanında ek bir katman olarak düşünün. Yanlış ya da gözden kaçan bir sonuç görürseniz iletişim sayfasından bize yazın.
Kendi akışınızda denemek ister misiniz?
Asistanınıza gelen mesajlarda ya da modelin okuduğu belgelerde bu kontrolü denemek isterseniz bize yazın. Kişisel veri maskelemesini ise ana sayfadaki playground'da deneyebilirsiniz.