Dedektörler politika değişmeden değiştirilebilir.
Her dedektör aynı HTTP Detector API’sinin arkasında çalışır. Bir ray dedektöre adıyla değil sınıfıyla bağlanır. Enjeksiyon rayı, kurulu katmanda enjeksiyon sınıfındaki en yüksek notlu dedektörü seçer. Bir model daha iyisiyle değiştirildiğinde politika, defter ve kanıt paketi aynı kalır.
Seçim sınıfa, nota, dile ve katmana göre yapılır.
Ray, ihtiyaç duyduğu dedektör sınıfını ve asgari kalite notunu (A, B ya da C) bildirir. Kayıt defteri kurulu katmanda o sınıfı uygulayan, nota ulaşan ve tespit edilen dili destekleyen en yüksek notlu dedektörü seçer. Uygun dedektör yoksa rayın başarısızlık duruşu uygulanır; aktivasyon boşluğu raporlar ve sağlık sayfası gösterir.
Katalog →Dört donanım katmanı, tek politika modeli
Katman yalnız hangi dedektörlerin kurulu olduğunu belirler. Başlangıç katmanı GPU’suz çalışır; GPU katmanları vLLM üzerinde koruyucu LLM’ler ekler. Konsolda bir dedektörü açmak bellek tahminini konteynerin sınırıyla karşılaştırır; sığmayan değişiklik uygulanmaz.
Katmanlar →Model ağırlıkları imzalı gelir ya da istendiğinde indirilir.
Her model dosyası katalogda sha256 özeti ve boyutuyla kayıtlıdır. Kapalı ağda modeller paketin içinde ya da tar olarak gelir ve her dosya yeniden hash’lenir. İndirme yalnız host açıkça izin verdiğinde ve yönetici panelden bir model seçtiğinde, izin listesindeki adreslerden başlar.
Dağıtım →Üç katman, dört donanım seviyesi
Kurallar ve yerleşik dedektörler süreç içinde çalışır. CPU modelleri her kurulumda vardır. GPU koruyucular vLLM üzerinde eklenir. Bir donanım katmanı seçin; hangi dedektörlerin etkinleştiğini görün. Bir düğüme dokunun; adını, sınıfını ve çalışma zamanını okuyun.
Türkçe için ayrı değerlendirme setleri
Enjeksiyon, zararsız bankacılık metni, PII, sağlık verisi ve kaynağa dayalılık için 11.000 satırı aşan Türkçe değerlendirme setleri var. CPU katmanı için yayımlanmış bir bake-off raporu bulunur. Zararsız örneklerdeki aşırı ret oranı bir CI kapısıdır (GR-INJ-03). Zararsız Türkçe metni engelleyen bir dedektör gerileme sayılır. TCKN ve IBAN checksum ile doğrulanır. İ/ı katlaması uzunluğu korur, böylece maskeleme span’ları kaymaz.
Model ağırlıkları imzalı gelir ya da istendiğinde indirilir.
Router modeli yalnız izin listesindeki adreslerden, parça parça ve her parçayı doğrulayarak indirir. Başka hiçbir şey indirilmez. Model lisansları (Apache-2.0, MIT, Gemma, Llama 4 Community, NVIDIA Open Model) kitin içinde metin olarak yer alır.
Katalog, katmanlara göre
Başlangıç katmanı GPU’suz çalışır. ONNX int8 modelleri, llama.cpp ve model gerektirmeyen yerleşik dedektörler içerir. GPU katmanları vLLM üzerinde koruyucu LLM’ler ekler. Kurumun kendi vLLM uç noktaları konsoldan tanımlanır. Thulpar’ın vLLM çalıştırması gerekmez.
Başlangıç · CPU · 8 vCPU / 16 GB RAM, GPU yok
20 dedektör| dedektör | sınıf | temel | çalışma zamanı | diller | not | raylar | lisans |
|---|---|---|---|---|---|---|---|
| rules-injection Doğrudan geçersiz kılma, rol oyunu, kodlama kaçışları; Türkçe uzunluk-korumalı katlama | Enjeksiyon | Thulpar kural seti (regex, TR/EN) | model yok, süreç içi | tr, en | C | injection.direct, injection.indirect | Thulpar |
| horizon-pi-guard-base | Enjeksiyon | mmBERT | ONNX Runtime, int8 | 30 dil, tr dahil | A | injection.direct, injection.indirect | Apache-2.0 |
| piguard | Enjeksiyon | DeBERTa-v3-base | PyTorch, CPU | en | B | injection.indirect | MIT |
| pii-tr Katmanın PII dedektörü: GLiNER’in bulduğu, checksum’ı tutmayan TCKN/IBAN düşürülür | Kişisel veri | neonredact-tr-gliner ∪ Presidio | birleşim: doğrulanmış tanımlayıcı kazanır | tr, en | A | pii.detect, pii.redact | Apache-2.0 / MIT |
| pii-presidio TCKN, IBAN, kart (Luhn), plaka, e-posta, IP, TR telefon | Kişisel veri | Microsoft Presidio | desen ve checksum tanıyıcıları (light); spaCy/Stanza NER isteğe bağlı | tr, en | B | pii.detect, pii.redact | MIT |
| neonredact-tr-gliner | Kişisel veri | GLiNER mDeBERTa | PyTorch, CPU | tr | A | pii.detect, pii.redact | Apache-2.0 |
| neonredact-tr | Kişisel veri | DistilBERT-TR | ONNX Runtime, int8 | tr | B | pii.detect, pii.redact | Apache-2.0 |
| pii-health KVKK m.6 sağlık verisi: hastalık, ilaç, anatomi, işlem, semptom, durum | Kişisel veri | health-lexicon ∪ OpenMed NER (TinyMed-65M ×3) | TR/EN sözlük her metinde; NER İngilizce okunan metinde | tr, en | B | pii.health | Apache-2.0 |
| detoxify-multilingual | Toksisite | XLM-RoBERTa | PyTorch, CPU | en fr es it pt tr ru | B | toxicity | Apache-2.0 |
| turkcell-offensive-tr | Toksisite | BERT-TR | PyTorch, CPU | tr | A | toxicity | MIT |
| lettucedetect-v2-mmbert Yerleşik groundedness rayının dedektörü; Türkçe QA şablonu | Kaynağa dayalılık | mmBERT | PyTorch, CPU | tr, en, de, fr, es, it, pl, zh | B | groundedness | Apache-2.0 |
| turk-lettucedetectisteğe bağlı indirme | Kaynağa dayalılık | EuroBERT 210M | PyTorch, CPU | tr, en | B | groundedness | MIT |
| haloguard-0.8b | Jailbreak | Qwen3.5 | llama.cpp Q8_0 | 46 dil | B | jailbreak | Apache-2.0 |
| qwen3guard-0.6b | İçerik güvenliği | Qwen3Guard | llama.cpp Q8_0 | 119 dil | B | content.input, content.output | Apache-2.0 |
| language-idyerleşik | Kurallar | Lingua 2.2 | model yok, süreç içi | 42 aday | A | language | Apache-2.0 |
| topic-embed | Konu | multilingual-e5-small | ONNX fp32, kosinüs benzerliği | * | B | topic, topic.output | MIT |
| injection-argsyerleşik SQLi, komut, yol geçişi, RFI, XSS; 137 CRS kuralı RE2 altında | Kurallar | libinjection + OWASP CRS 4 alt kümesi | model yok, süreç içi | * | C | tool.args.injection | BSD-3 / Apache-2.0 |
| codeshieldyerleşik | Kod | Meta PurpleLlama CodeShield + semgrep-core | regex kuralları, Semgrep ayrı süreçte, ağ yok | 14 dil | C | code, code.tool_result | MIT / LGPL-2.1 |
| file-analyzeryerleşik | Dosya | pypdf, pypdfium2, defusedxml, olefile, Pillow, tesseract, zxing-cpp | dosya başına yalıtılmış çocuk süreç, bellek ve süre sınırı | * | B | file.analyze, file.type, file.active_content, file.hidden_text, file.metadata_pii, file.qr | açık kaynak |
| rules-yarayerleşik | Kurallar | yara-python 4.5 / libyara | derlenmiş kural önbelleği, tarama süresi ve bayt sınırı | * | C | yara | Apache-2.0 / BSD-3 |
Standart · 1 × 24 GB GPU
3 dedektör| dedektör | sınıf | temel | çalışma zamanı | diller | not | raylar | lisans |
|---|---|---|---|---|---|---|---|
| qwen3guard-gen-4b | İçerik güvenliği | Qwen3Guard | vLLM, OpenAI-uyumlu | 119 dil | A | content.input, content.output, jailbreak | Apache-2.0 |
| dynaguard-1.7b | Politika yargıcı | Qwen3 | vLLM, OpenAI-uyumlu | en, tr | B | self_check.input, self_check.output, topic | Apache-2.0 |
| agentdog-1.5-2b | Ajan yörüngesi | Qwen2.5 | vLLM, OpenAI-uyumlu | en | B | tool.trajectory | Apache-2.0 |
Önerilen · 1 × 48 GB (ya da 2 × 24)
4 dedektör| dedektör | sınıf | temel | çalışma zamanı | diller | not | raylar | lisans |
|---|---|---|---|---|---|---|---|
| qwen3guard-gen-8b | İçerik güvenliği | Qwen3Guard | vLLM, fp8 | 119 dil | A | content.input, content.output, jailbreak | Apache-2.0 |
| nemotron-cs-4b | İçerik güvenliği | Nemotron | vLLM, görüntü girişi | en, tr | A | content.output, image.content_safety, self_check.output | NVIDIA Open Model |
| agentdog-1.5-4b | Ajan yörüngesi | Qwen2.5 | vLLM, OpenAI-uyumlu | en | A | tool.trajectory | Apache-2.0 |
| shieldgemma-2-4b | Görüntü | Gemma 3 | vLLM, çok modlu | * | A | image.content_safety | Gemma |
Performans · 2 × 48 GB+, çoğaltılmış
2 dedektör| dedektör | sınıf | temel | çalışma zamanı | diller | not | raylar | lisans |
|---|---|---|---|---|---|---|---|
| granite-guardian-4.1-8b | Kaynağa dayalılık | Granite | vLLM, OpenAI-uyumlu | en | A | groundedness, tool.trajectory | Apache-2.0 |
| llamaguard-4-12b | İçerik güvenliği | Llama 4 | vLLM, çok modlu; isteğe bağlı | * | A | content.input, content.output, image.content_safety | Llama 4 Community |
Dört donanım katmanı, tek politika modeli
Sektör şablonları asgari katmanlarını bildirir. Daha küçük bir kurulumda etkinleştirme, hangi rayların her denetimi reddedeceğini söyler ve şablonun Başlangıç sürümünü önerir.
Başlangıç
durumYayımlandı; CPU bake-off’u ölçüldü
senkronKurallar ve YARA, mmBERT enjeksiyon sınıflandırıcısı, PII (Presidio + Türkçe GLiNER), toksisite, dil tespiti, araç argümanı enjeksiyonu, CodeShield, dosya çözümleyici, sağlık sözlüğü
asenkronJailbreak ve içerik güvenliği koruyucuları (llama.cpp) yanıttan sonra bulgu yükseltir
kimin içinPilot, shadow mod, GPU’suz ortamlar, kenar kurulumlar
Standart
durumKuruldu; GPU bake-off’u sırada
senkronBaşlangıç’ın tamamı + vLLM üzerinde içerik güvenliği 4B, politika yargıcı, ajan yörüngesi; jailbreak senkron
asenkronUzun çıktılarda içerik güvenliği
kimin içinTek uygulama, üretim; sektör şablonlarının asgari katmanı
Önerilen
durumKuruldu; GPU bake-off’u sırada
senkron+ içerik güvenliği 8B, özel politika + görüntü moderasyonu (Nemotron, ShieldGemma 2), ajan yörüngesi 4B, Granite Guardian (kaynağa dayalılık)
asenkronAkış moderasyonu, MELON örneklemesi
kimin içinÇok uygulamalı kurum; politika yargıcı ve görüntü; savunma ve kamu şablonları
Performans
durumKuruldu; GPU bake-off’u sırada
senkronYukarıdakilerin tümü, HA replikalar, kiracı başına dedektör havuzları, Llama Guard 4 (isteğe bağlı)
asenkronAçıklanabilir yargıç, yeniden yürütme örneklemesi
kimin içinBanka ölçeği, yüksek erişilebilirlik, çok kiracılı kurulumlar
Müşterinin kendi LLM’lerini de sunan bir H200: koruyucular ayrı bellek bütçesiyle aynı kartta
Koruyucular bir DGX Spark’ta: 128 GB birleşik bellekte beş model, arm64 paketi
Thulpar’ın vLLM çalıştırması gerekmez: müşterinin kendi vLLM uç noktaları birincil yoldur, konsoldan eklenir
Kendi modelinizi dedektör olarak kaydedin.
Detector API’yi uygulayan her HTTP servisi kayıt olabilir. info uç noktası sınıfı, notu, dilleri ve uyguladığı rayları bildirir. contents, chat ve stream uç noktaları span döndürür. Kurumun kendi ince ayarlı sınıflandırıcısı, bir satıcı modeli ya da açık bir koruyucu model ray grafiğinde aynı yere oturur. Aynı deftere yazar.
GET /api/v1/info
{ "id": "acme-fraud-intent", "class": "policy_judge", "grade": "B",
"languages": ["tr", "en"], "rails": ["self_check.input"],
"capabilities": ["contents", "chat"] }
POST /api/v1/text/contents → DetectorResult[] (spans, score, category)Kendi ortamınızda görün.
Bir saatlik teknik demo: sizin senaryonuz, sizin politika paketiniz, kapalı devre bir kurulumda. Sonrasında pilot için kurulum kiti ve deneme lisansı.