Tüm roadmap'e dön
topiccore
Input/Output Guardrails
Her prompt öncesi/sonrası filtre — toxic, off-topic, PII, jailbreak engelle.
3 saat2 kaynak
Input guardrail örnekleri: Prompt injection detection, PII detection (Presidio), topic classifier (banking sorusu değilse reddet), kötü amaçlı pattern (jailbreak phrases).
Output guardrail örnekleri: Schema validation, brand safety (rakipten bahsetme), citation check (her iddianın kaynağı var mı?), hallucination detection.
Frameworks: Guardrails AI, NeMo Guardrails, Llama Guard.