Klasik penetration testing'den AI red teaming'e geçiş zor mu? Hangi yetkinlikler farklı?

Klasik pen test temeli faydalı ama bambaşka bir disiplin. Farklı yetkinlikler: (1) LLM içsel yapısını anlamak (token, embedding, attention, context window); (2) Natural language manipulation — Python exploit yerine semantic attack; (3) Non-deterministic system testing — aynı saldırı bazen başarılı bazen değil, çoklu deneme + sampling istatistik gerekli; (4) Prompt engineering uzmanlığı; (5) ML/DL temel bilgi (data poisoning + model extraction için). 2-3 ay yoğun çalışmayla klasik pen tester transition yapabilir. Modül 1 detaylı farkı işler.

GCG (Greedy Coordinate Gradient) attack hâlâ etkili mi? Modern LLM'ler buna karşı patch yapmadı mı?

Kısmen etkili. Zou 2023 orijinal GCG paper'ı GPT-3.5 / GPT-4 / Llama 2'yi kırıyordu. Modern model'ler (Claude Opus 4.7, GPT-5, Gemini 2.5 Pro, Llama 4) GCG suffix attack'lara karşı çok daha dayanıklı. Ama: (1) Open-source modeller (Llama, Qwen, Gemma) hâlâ GCG'ye duyarlı; (2) PAIR + TAP gibi LLM-based jailbreak'ler modern model'lerde hâlâ çalışıyor (%30-60 başarı); (3) Multi-turn Crescendo + Many-shot daha yüksek başarı oranı. Modül 5.2 + 5.3 modern attack landscape'i kanıt-tabanlı işler.

Anthropic Constitutional Classifiers gerçekten %95 jailbreak prevention sağlıyor mu?

Anthropic'in 2025 makalesinde iddia ettiği rakam %95. Ancak: (1) Bu rakam Anthropic'in kendi internal red team test'leri üzerinden; gerçek production'da %85-90 olduğu deneyimleniyor. (2) False positive rate (%0.5) düşük, bu önemli avantaj. (3) Multi-turn ve adaptive attack'larda performance düşüyor. Pratik öneri: tek başına Constitutional Classifiers değil; Llama Guard 4 + NeMo Guardrails + custom domain filter ile defense in depth kurma. Modül 9.1 detaylı kanıt-tabanlı işler.

Türkçe LLM (Cosmos, Trendyol AI) için red team neye dikkat etmeli?

Üç özel boyut: (1) Türkçe jailbreak template'leri — DAN'ın Türkçe çevirileri + Türkçe-specific role-play attack'ları; (2) KVKK PII handling — TC kimlik, IBAN, telefon numarası leak testleri; (3) Low-resource language jailbreak — Türkçe + Kürtçe + Arapça karışım attack'ı (multilingual model'ler için zayıflık). Türkçe red team'in unique avantajı: çoğu open-source defense (Llama Guard 4) İngilizce-centric, Türkçe için fine-tune gerekli. Modül 5.1 + Modül 11.3 Türkçe-specific senaryolar işler.

EU AI Act high-risk AI sınıflandırılırsa red team yapmak zorunda mıyım?

Evet — EU AI Act Article 15 high-risk AI sistemlerinde robustness + cybersecurity testing'i açıkça zorunlu kılıyor. Annex III'te listelenen alanlar: critical infrastructure, eğitim, istihdam (HR), kamu hizmetleri, kolluk kuvvetleri, göç, adalet, demokratik süreçler. AB'de operasyonu olan veya AB vatandaşı kullanıcısı olan Türk şirketleri kapsamda. Fines €35M veya global revenue %7. Modül 11.1 detaylı işler — kendi ürününüzün high-risk olup olmadığını classification flowchart ile değerlendirmenizi sağlar.

NVIDIA Garak ve Microsoft PyRIT arasında hangisini seçmeliyim?

Senaryoya göre. Garak: hızlı vulnerability scan + CI/CD entegrasyon; 100+ probe out-of-the-box; tek LLM endpoint test için ideal. PyRIT: multi-turn orchestrator + Azure entegrasyon + complex attack workflow; Crescendo + adaptive attack senaryoları için güçlü; Azure OpenAI + Azure Content Safety kullananlar için ideal. Pratik öneri: hızlı CI/CD red team check → Garak; deep multi-turn research + Azure stack → PyRIT; her ikisini paralel kullanmak en güçlü pipeline. Modül 8.1 + 8.2 karşılaştırma matrisi sunar.

Computer Use + Browser Agent için özel red team riskleri var mı?

Evet, üç critical risk: (1) Indirect prompt injection via web page — agent web sayfasındaki kötü niyetli content'i injection olarak işleyebilir (Anthropic 2024 Computer Use security paper'da kabul etti). (2) Tool misuse — agent yanlış action zinciri çalıştırabilir (örn: send_email tool'u spam'a). (3) Credential leak — login credentials + 2FA code'ları LLM context'inde leak olabilir. Defense: principle of least privilege + scope-limited credentials + human-in-the-loop approval + ephemeral VM sandbox. Modül 6.3 + Modül 10.3 detaylı işler.

Red team raporunu kurumsal audit + KVKK denetimi için nasıl hazırlamalıyım?

Modül 11.3'te Türkçe red team audit rapor template'i veriliyor. Yapısı: (1) Executive summary (yönetim için); (2) Scope + methodology (ATLAS + OWASP mapping); (3) Findings (her bulgu için severity + impact + likelihood + ATLAS-ID + OWASP-ID); (4) Proof of concept (saldırı transcript'i + screenshot); (5) Mitigation recommendations (priority-sorted); (6) Compliance mapping (EU AI Act Article 15 + KVKK + ISO 42001 maddeleri); (7) Remediation roadmap (30/60/90 gün). KGK BDS denetimine uygun format.

Multi-turn jailbreak (Crescendo) gerçekten production'da risk mi?

Evet — büyük risk. Microsoft 2024 Crescendo paper'ında %70-90 başarı oranı gösterildi. Klasik single-turn defense (input filter) Crescendo'yu yakalayamaz çünkü her turn ayrı ayrı zararsız görünür; agreement gradually escalate eder. Modern defense: conversation-level monitoring (Constitutional Classifiers gibi state-aware filter), maximum turn limit, topic shift detection, refusal pattern tracking. Modül 5.3 + Modül 9.1 multi-turn defense detaylı işler. Production'da chatbot/agent kullanan tüm ekipler için Crescendo testi zorunlu.

Open-source LLM (Llama, Qwen) deploy edersek supply chain attack riski var mı?

Evet, üç kritik risk: (1) HuggingFace pickle deserialization vulnerability (2024 Sleepy Pickle vakası — kötü niyetli model arbitrary code execute edebilir); mitigation: sadece safetensors format kabul et. (2) Model lineage attack — fine-tune edilmiş ama backdoor içeren model'i 'temiz Llama 4' diye yayınlama; mitigation: hash verification + signed model + verified upload. (3) LoRA adapter injection — open LoRA registry'lerden kötü niyetli adapter download. Mitigation: safetensors + signature verification + sandbox loading. Modül 7.3 detaylı işler.

Eğitim sonunda elimde hangi somut artefaktlar olacak?

Capstone projesinde şu artefaktlar üretilir: (1) Kendi LLM ürününüze özel red team playbook (Python codebase + automation scripts); (2) ATLAS-based threat model worksheet + OWASP LLM Top 10 risk envanteri; (3) Garak + PyRIT + Promptfoo + custom probe attack pipeline; (4) Llama Guard 4 + Constitutional Classifiers + NeMo Guardrails defense stack template; (5) Türkçe + İngilizce red team audit raporu; (6) EU AI Act + KVKK + ISO 42001 + sektörel compliance mapping dokümanı; (7) 30/60/90 gün remediation roadmap; (8) CI/CD pipeline'a entegre red team automation.

Eğitim kurumsal ekibimize özel uyarlanabilir mi?

Evet. Standart 3 günlük programın yanında, kurumsal müşteriler için özelleştirilmiş kapalı sınıf versiyonlar düzenliyoruz. Ekibinizin mevcut LLM stack'i (OpenAI / Anthropic / Google / DeepSeek / kendi CPT model'i), AI ürün tipi (chatbot / agent / RAG / browser agent / multimodal), sektör (bankacılık BDDK, sağlık SBSGM, finans SPK, kamu KGK, e-ticaret), compliance gereksinimleri (EU AI Act high-risk classification, KVKK, ISO 42001, HIPAA), red team olgunluğu (sıfırdan vs mevcut süreci güçlendirme), production scaling hedefi dikkate alınarak modül ağırlıkları + capstone senaryoları özelleştirilir.

Bu eğitim hakkında

LLM ve üretken AI sistemlerinin güvenlik testini, prompt injection + jailbreak + data poisoning + multimodal saldırılara karşı savunmayı ve EU AI Act + KVKK + ISO 42001 + BDDK uyumluluk audit'ini uçtan uca işleyen 3 günlük ileri seviye Türkçe red teaming eğitimi. MITRE ATLAS, OWASP LLM Top 10 (2025), NVIDIA Garak, Microsoft PyRIT, Promptfoo, UK AISI Inspect, Llama Guard 4, Anthropic Constitutional Classifiers, NeMo Guardrails, agent + browser agent + MCP security dahil.

Bu eğitim şu kitleler için tasarlanmıştır: Kurumsal LLM ürünlerini red teaming'e tabi tutmak isteyen AI Security Engineer'lar EU AI Act + KVKK + ISO 42001 + BDDK uyumluluğu sağlaması gereken Compliance Officer'lar Klasik penetration tester'lık + cybersecurity geçmişi olan ve AI saldırı yüzeyine geçen Red Team Engineer'lar LLM ürün geliştirmeci olup security-first yaklaşım kurmak isteyen Senior Backend Developer'lar Bankacılık (BDDK), sağlık (SBSGM), finans (SPK), kamu denetim (KGK) sektörlerinde AI deploy eden ekipler Anthropic Computer Use + OpenAI Operator + Browser Use agent'larının güvenlik testini yapan ML Engineer'lar

Bu eğitim neden önemli: Türkiye'de AI red teaming disiplinini Türkçe + uçtan uca + production-grade işleyen tek ileri seviye program. MITRE ATLAS + OWASP LLM Top 10 (2025) + NIST AI RMF unified threat model framework'ünü kazandırır. Manual + automated jailbreak (DAN, GCG, PAIR, TAP, Crescendo, Skeleton Key, Many-shot) hands-on uygular. Indirect prompt injection (Greshake 2023) + multimodal saldırı (image, audio, document, browser agent) kapsar. NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect tool stack'ini production'a hazır hale getirir. Llama Guard 4 + Anthropic Constitutional Classifiers + NeMo Guardrails defense in depth disiplini kurar. Agent + browser agent + Computer Use + MCP attack surface'lerini ve mitigation'ı kapsar. EU AI Act + KVKK + ISO 42001 + BDDK sektörel compliance audit rapor template'i kazandırır.

Eğitim sonunda kazanacağınız çıktılar: AI red teaming'i klasik pen test'ten ustaca ayırt edebilirsiniz. MITRE ATLAS framework ile threat modeling worksheet hazırlayabilirsiniz. OWASP LLM Top 10 (2025) tüm maddelerini risk envanterine çevirebilirsiniz. Direct + indirect prompt injection + multi-turn jailbreak senaryoları tasarlayabilirsiniz. GCG, PAIR, TAP, Crescendo, Skeleton Key, Many-shot automated attack'ı uygulayabilirsiniz. Multimodal saldırılar (image, audio, document, browser agent) tasarlayabilirsiniz. NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect tool'larını kullanabilirsiniz. Llama Guard 4 + Constitutional Classifiers + NeMo Guardrails defense stack kurabilirsiniz. Agent + browser agent + MCP specific saldırı ve savunma stratejisi geliştirebilirsiniz. EU AI Act + KVKK + ISO 42001 + BDDK uyumlu red team audit raporu üretebilirsiniz.

Ön koşullar ve önerilen birikim: Aktif Python deneyimi (orta-üst seviye), REST API + LLM API kullanımı Cybersecurity temel bilgisi (önerilir, eğitimde AI-spesifik kısımları işlenir) LLM agent / RAG / chatbot ürün geliştirme deneyimi (en az kavramsal) Docker + Linux + temel networking deneyim Eğitim öncesinde OpenAI + Anthropic + HuggingFace + Azure OpenAI hesapları (free tier yeterli) Eğitim öncesinde NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect kurulumu

Türkiye'de AI red teaming disiplinini Türkçe uçtan uca işleyen tek production-grade ileri seviye program
MITRE ATLAS framework + OWASP LLM Top 10 (2025) + NIST AI RMF unified threat model
Manual + automated jailbreak: DAN, GCG, PAIR, TAP, Crescendo, Skeleton Key, Many-shot
Direct + indirect prompt injection (Greshake 2023) + multimodal saldırılar (image, audio, document)
NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect red team tool stack
Llama Guard 4 + Anthropic Constitutional Classifiers + NeMo Guardrails defense in depth
Agent + browser agent + Computer Use + MCP specific saldırı ve savunma
EU AI Act Article 15 + KVKK Üretken AI Rehberi + ISO 42001 + BDDK sektörel compliance audit

Anahtar Çıkarımlar

AI red teaming'i klasik pen test'ten ustaca ayırt edebilirsiniz.
MITRE ATLAS framework ile threat modeling worksheet hazırlayabilirsiniz.
OWASP LLM Top 10 (2025) tüm maddelerini risk envanterine çevirebilirsiniz.
Direct + indirect prompt injection + multi-turn jailbreak senaryoları tasarlayabilirsiniz.
GCG, PAIR, TAP, Crescendo, Skeleton Key, Many-shot automated attack'ı uygulayabilirsiniz.
Multimodal saldırılar (image, audio, document, browser agent) tasarlayabilirsiniz.
NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect tool'larını kullanabilirsiniz.
Llama Guard 4 + Constitutional Classifiers + NeMo Guardrails defense stack kurabilirsiniz.
Agent + browser agent + MCP specific saldırı ve savunma stratejisi geliştirebilirsiniz.
EU AI Act + KVKK + ISO 42001 + BDDK uyumlu red team audit raporu üretebilirsiniz.

İleri Seviye3 Gün

AI Red Teaming ve Adversarial Robustness Mühendisliği Eğitimi (MITRE ATLAS + OWASP LLM Top 10 + Garak + PyRIT + Llama Guard)

Hemen Kaydol

Eğitim Hakkında

Bu eğitim, kurumsal üretken AI ve LLM ürünlerini saldırı vektörlerine karşı sistematik test etme ve sağlamlaştırma disiplini olan AI red teaming + adversarial robustness mühendisliğini Türkçe olarak uçtan uca işlemek üzere tasarlanmıştır. 2024-2026 dönemine damga vuran gelişmeler: EU AI Act'in Mayıs 2024'te yürürlüğe girmesi + Article 15 robustness/cybersecurity zorunluluğu + Article 50 transparency, KVKK Üretken AI Rehberi (2024), ISO/IEC 42001:2023 AI Management System sertifikasyonu, NIST AI RMF 1.1 (2024), Microsoft AI Red Team metodolojisinin yayınlanması, UK AI Safety Institute (AISI) framework'ü, NVIDIA Garak ve Microsoft PyRIT açık kaynak red team tool'larının olgunlaşması, OWASP LLM Top 10 v2.0 (2025) güncellemesi, MITRE ATLAS framework'ünün olgunlaşması. Türkiye'de bu disiplini Türkçe + uçtan uca + production-grade işleyen bir eğitim neredeyse yoktur — mevcut içerikler ya OWASP slide'larında takılı kalıyor ya da yüzeysel jailbreak demo seviyesinde donuyor. Bu program söz konusu boşluğu Türkiye'nin en kapsamlı production-grade AI red teaming referans eğitimi olarak doldurmak üzere tasarlanmıştır.

Programın stratejik omurgasını, AI red teaming'in klasik penetration testing ile farkını netleştiren ve 2026 tehdit manzarasını haritalandıran ilk modül oluşturur. Klasik pen test deterministic sistemler için tasarlandı; AI sistemler non-deterministic + semantic attack surface + natural language jailbreak'e açık — bu farkı kavramadan modern AI security inşa edilemez. Anthropic constitutional AI + ARC Evals + Responsible Scaling Policy, OpenAI Preparedness Framework + system card red team raporları, Microsoft AI Red Team + UK AISI Inspect Framework metodolojileri karşılaştırmalı işlenir. Compliance zorunluluğu: EU AI Act Article 15 (robustness + cybersecurity), KVKK Üretken AI Rehberi (2024), ISO/IEC 42001:2023 audit requirements, Bankacılık BDDK + sağlık SBSGM + finansal SPK + denetim KGK sektörel AI güvenlik çerçeveleri detaylandırılır. Türk kurumsal AI ekipleri için 2026'da red teaming opsiyonel değil zorunlu hale geliyor.

İkinci modül MITRE'nin 2020'de başlattığı ve 2024-2026'da olgunlaşan ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) framework'ünü detaylı işler. ATLAS matrix yapısı: 14 tactics (Reconnaissance → ML Model Discovery → Initial Access → Execution → Persistence → ML Attack Staging → Exfiltration → Impact) ve 80+ techniques. ATLAS Navigator tool + JSON layer files kullanımı pratik gösterilir. Kritik tactics derinleşmesi: ML Model Reconnaissance (T1591), ML Supply Chain Compromise, Prompt Injection (LLM-AT0007), Jailbreak (LLM-AT0006), Data Poisoning (AML.T0020), Model Stealing (AML.T0044). Real-world vakalar (Microsoft Tay 2016, OpenAI ChatGPT plugin attacks 2023, indirect prompt injection vakaları) ATLAS taksonomi'sinde kategorize edilir. Threat modeling worksheet: kurumsal LLM ürünü için ATLAS-based risk envanteri + impact-likelihood scoring + mitigation roadmap. ATLAS + STRIDE + OWASP LLM Top 10 birleşik framework Türkçe red team raporu için ideal.

Üçüncü modül OWASP Foundation'ın 2023'te başlattığı ve 2025'te v2.0 olarak güncellediği OWASP LLM Top 10'u detaylı işler. LLM01 Prompt Injection (direct + indirect ayrımı), LLM02 Insecure Output Handling (LLM çıktısının XSS / SQL injection vektörü olması), LLM03 Training Data Poisoning, LLM04 Model Denial of Service (DoS), LLM05 Supply Chain Vulnerabilities (HuggingFace pickle, model lineage), LLM06 Sensitive Information Disclosure (PII + system prompt leak), LLM07 System Prompt Leakage (Anthropic + OpenAI'ın 2024-2025'te keşfedilen sızıntıları), LLM08 Vector and Embedding Weaknesses (RAG poisoning), LLM09 Misinformation (hallucination weaponization), LLM10 Unbounded Consumption (cost + DoS attack). Her madde için real-world örnek + mitigation kontrol listesi + Python kod örneği sunulur. OWASP + ATLAS + NIST AI RMF birleşik mapping eğitilen Türk kurumsal compliance ekibinin işini büyük ölçüde kolaylaştırır.

Dördüncü modül LLM güvenliğinin en kritik attack vektörü olan prompt injection'ı matematiksel ve pratik düzeyde işler. Direct Prompt Injection (DPI): kullanıcının doğrudan 'ignore previous instructions' veya jailbreak template (DAN, STAN) ile system prompt'u override etmesi; role-play hijacking; persona switching attacks. Indirect Prompt Injection (IPI): Greshake et al. 2023 makalesi temelinde — kötü niyetli içeriğin RAG dokümanı, web sayfası, email, PDF, image OCR, audio transcript içinde gizlenip LLM tarafından injection olarak çalıştırılması. Anthropic'in Claude Computer Use + Claude'da yaptığı 2024 IPI research, real-world ChatGPT plugin attack vakaları detaylı çözümlenir. Mitigation katmanları: Anthropic'in spotlight (XML tag), prompt sandwiching + delimiter, input sanitization, LLM-as-judge detection layer, principle of least privilege, output validation, sandboxing. Production'da no single defense yeterli — defense in depth zorunlu.

Beşinci modül LLM jailbreak'in 2023-2026 evrimini ele alır. Manual: DAN (Do Anything Now), STAN, hypothetical scenario, role-play hijacking, encoding tricks (Base64, ROT13, Pig Latin, Unicode obfuscation), low-resource language jailbreak. Automated: GCG (Greedy Coordinate Gradient suffix attack, Zou et al. 2023), AutoDAN (gradient-free), PAIR (Prompt Automatic Iterative Refinement, Chao 2023), TAP (Tree of Attacks with Pruning) Python implementation. Multi-turn: Crescendo (Microsoft 2024 gradual escalation, küçük zararsız sorularla başlayıp giderek tırmandırma), Skeleton Key (Microsoft 2024 universal bypass), Many-shot jailbreaking (Anthropic 2024, 256+ örnekle in-context jailbreak). Defense: Anthropic Constitutional Classifiers (2025, %95 jailbreak prevention), Llama Guard 4 (Meta 2025), NVIDIA NeMo Guardrails. Multi-turn vs single-turn defense karşılaştırması.

Altıncı modül 2024-2026'da yaygınlaşan multimodal LLM'lerin attack surface'ini ele alır. Image-based: visual prompt injection (Bagdasaryan 2023), invisible Unicode text-in-image, adversarial image patches, QR code injection, hidden white-on-white text. Audio: TTS jailbreak (Anthropic Claude voice 2024-2025), audio adversarial perturbation, Whisper transcription injection. Document: PDF + DOCX hidden injection, OCR-based attack, white-on-white text trick. Browser Agent / Computer Use specific: Anthropic Computer Use IPI risk'leri (Anthropic Computer Use security paper'da kabul edildi), OpenAI Operator + Browser Use screenshot manipulation attacks, DOM-based prompt injection, popup hijacking. GPT-5 Vision, Claude Sonnet 4.6 + Opus 4.7 Vision, Gemini 2.5 Vision için specific attack pattern'ları hands-on yapılır.

Yedinci modül training pipeline ve ML supply chain'i hedef alan saldırıları ele alır. Data Poisoning: BadNets (Gu 2017 — training set'e backdoor trigger ekleme), instruction tuning data poisoning (Wan 2023, Xu 2024), RAG vector store poisoning (kötü niyetli doküman embed ederek retrieval'ı yönlendirme), GraphRAG attack vectors. Model Extraction: Tramer 2016 model stealing via API, knowledge distillation extraction attack, embedding extraction; Anthropic + OpenAI'ın watermarking defense yaklaşımları. Supply Chain: HuggingFace pickle deserialization vulnerability (2024 GitHub Sleepy Pickle vakası — pickle ile arbitrary code execution riski), GGUF model lineage attack, model card metadata manipulation, malicious LoRA adapter dağıtımı. Mitigation: safetensors enforcement, model lineage verification, signature checking, sandbox loading.

Sekizinci modül 2024-2026 ekosisteminin lider red team tool'larını detaylı işler. NVIDIA Garak (open-source generative AI vulnerability scanner): 100+ built-in probe (DAN, GCG, leakage, encoding, malware-gen), modular detector framework, garak --model_type komutu ile hızlı LLM scan; custom probe + detector + buff yazımı; Garak HTML report + CI/CD entegrasyonu. Microsoft PyRIT (Python Risk Identification Tool for generative AI): orchestrator + target + converter + scorer mimarisi; multi-turn attack için Crescendo + RedTeaming orchestrator; Azure Content Safety + Azure OpenAI integration. Promptfoo (open-source eval + red team): red team plugin + CI/CD integration + prompt regression. UK AISI Inspect (2024): government-grade evaluation framework, hands-on dangerous-capability eval. Tool selection matrix: hangi senaryo için hangi tool optimal — pratik karar rehberi.

Dokuzuncu modül saldırı'ya karşı katmanlı savunma disiplinini detaylı işler. Meta Llama Guard 4 (2025): input + output classification, safety taxonomy (S1 violent crime → S14 elections), Python deployment ile fine-tuned custom Llama Guard yazımı. Anthropic Constitutional Classifiers (2025): jailbreak-robust filtering, %95 jailbreak prevention iddiası ve real-world performance. NVIDIA NeMo Guardrails: Colang DSL syntax + flow + rail definition; topic guardrails (off-topic prevention) + RAG safety + dialogue guardrails; NeMo + LangChain + LlamaIndex integration. Multi-layer defense in depth: input → output → tool call → output validation katmanları; GuardrailsAI + Outlines (structured output) + Microsoft Guidance entegrasyonu; cost vs latency vs robustness trade-off karar matrisi. Production'da no silver bullet — katmanlı yaklaşım zorunlu.

Onuncu modül agent paradigmasının açtığı yeni attack surface'i detaylı ele alır. Tool misuse: agent'ın yanlış tool çağrısı (örn: 'send_email' tool'unu spam göndermek için kullanma), excessive privilege scope creep, confused deputy problem (user trust ile LLM action arası mismatch). MCP (Model Context Protocol) saldırıları: kötü niyetli MCP server, tool description injection, MCP server response manipulation, chain injection. Browser agent risks: Anthropic Computer Use security paper'ında kabul edilen IPI risk'leri, OpenAI Operator + Browser Use screenshot manipulation, DOM-based prompt injection, popup hijacking. Defense pattern'ları: principle of least privilege (her tool için minimum scope), human-in-the-loop approval (kritik action'larda insan onayı), tool sandboxing + ephemeral VM + scope-limited credentials, MCP server signing + verification.

On birinci modül red teaming sonuçlarını kurumsal compliance disiplinine bağlar. EU AI Act (Mayıs 2024 yürürlük): Article 15 robustness + cybersecurity (high-risk AI için red team zorunlu), Article 50 transparency (deepfake + üretken AI etiketleme), high-risk AI sınıflandırması Annex III, fines €35M veya global revenue %7. KVKK Üretken AI Rehberi (2024): risk değerlendirme, PII handling, jailbreak prevention, denetim çerçevesi. ISO/IEC 42001:2023 AI Management System sertifikasyon süreci; NIST AI RMF 1.1 (2024) Govern + Map + Measure + Manage fonksiyonları; Frontier Model Forum (FMF) + GPAI commitments takibi. Türkiye sektörel çerçeve: BDDK bankacılık AI çerçevesi + KGK BDS denetim; SBSGM sağlık AI; SPK finansal AI; KGK denetim. Türkçe red team audit rapor template + remediation roadmap pratik gösterilir.

Capstone modülünde her katılımcı, kendi kurumunun LLM ürünü için uçtan uca bir red team playbook'u inşa eder: hedef sistem profili (chatbot, agent, RAG, browser agent, multimodal LLM), ATLAS-based threat modeling worksheet, OWASP LLM Top 10 risk envanteri, attack pipeline (Garak + PyRIT + Promptfoo + custom probes), defense stack (Llama Guard 4 + Constitutional Classifiers + NeMo Guardrails + custom filters), compliance audit (EU AI Act + KVKK + ISO 42001 + sektörel BDDK/SBSGM/SPK), 90 günlük remediation roadmap. Eğitim sonunda katılımcılar; AI red teaming'in klasik pen test'ten farkını netçe çerçeveleyebilecek; MITRE ATLAS + OWASP LLM Top 10 (2025) framework'lerini ustaca kullanabilecek; direct + indirect prompt injection + multi-turn jailbreak + multimodal attack senaryolarını tasarlayabilecek; data poisoning + model extraction + supply chain attack'larını tanıyabilecek; NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect tool'larını production'da kullanabilecek; Llama Guard 4 + Constitutional Classifiers + NeMo Guardrails defense stack'i kurabilecek; agent + browser agent + MCP specific saldırılara karşı savunma sağlayabilecek ve EU AI Act + KVKK + ISO 42001 + BDDK compliance audit raporu üretebilecek seviyede teknik yetkinliğe ulaşır. Eğitim 3 gün, 12 modül ve 100'ün üzerinde uygulamalı ders içerir.

Eğitim Metodolojisi

Türkiye'de AI red teaming disiplinini Türkçe uçtan uca işleyen tek production-grade ileri seviye program

MITRE ATLAS framework + OWASP LLM Top 10 (2025) + NIST AI RMF unified threat model

Manual + automated jailbreak: DAN, GCG, PAIR, TAP, Crescendo, Skeleton Key, Many-shot

Direct + indirect prompt injection (Greshake 2023) + multimodal saldırılar (image, audio, document)

NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect red team tool stack

Llama Guard 4 + Anthropic Constitutional Classifiers + NeMo Guardrails defense in depth

Agent + browser agent + Computer Use + MCP specific saldırı ve savunma

EU AI Act Article 15 + KVKK Üretken AI Rehberi + ISO 42001 + BDDK sektörel compliance audit

Kimler İçindir?

Kurumsal LLM ürünlerini red teaming'e tabi tutmak isteyen AI Security Engineer'lar

EU AI Act + KVKK + ISO 42001 + BDDK uyumluluğu sağlaması gereken Compliance Officer'lar

Klasik penetration tester'lık + cybersecurity geçmişi olan ve AI saldırı yüzeyine geçen Red Team Engineer'lar

LLM ürün geliştirmeci olup security-first yaklaşım kurmak isteyen Senior Backend Developer'lar

Bankacılık (BDDK), sağlık (SBSGM), finans (SPK), kamu denetim (KGK) sektörlerinde AI deploy eden ekipler

Anthropic Computer Use + OpenAI Operator + Browser Use agent'larının güvenlik testini yapan ML Engineer'lar

Neden Bu Eğitim?

Türkiye'de AI red teaming disiplinini Türkçe + uçtan uca + production-grade işleyen tek ileri seviye program.

MITRE ATLAS + OWASP LLM Top 10 (2025) + NIST AI RMF unified threat model framework'ünü kazandırır.

Manual + automated jailbreak (DAN, GCG, PAIR, TAP, Crescendo, Skeleton Key, Many-shot) hands-on uygular.

Indirect prompt injection (Greshake 2023) + multimodal saldırı (image, audio, document, browser agent) kapsar.

NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect tool stack'ini production'a hazır hale getirir.

Llama Guard 4 + Anthropic Constitutional Classifiers + NeMo Guardrails defense in depth disiplini kurar.

Agent + browser agent + Computer Use + MCP attack surface'lerini ve mitigation'ı kapsar.

EU AI Act + KVKK + ISO 42001 + BDDK sektörel compliance audit rapor template'i kazandırır.

Kazanımlar

AI red teaming'i klasik pen test'ten ustaca ayırt edebilirsiniz.

MITRE ATLAS framework ile threat modeling worksheet hazırlayabilirsiniz.

OWASP LLM Top 10 (2025) tüm maddelerini risk envanterine çevirebilirsiniz.

Direct + indirect prompt injection + multi-turn jailbreak senaryoları tasarlayabilirsiniz.

GCG, PAIR, TAP, Crescendo, Skeleton Key, Many-shot automated attack'ı uygulayabilirsiniz.

Multimodal saldırılar (image, audio, document, browser agent) tasarlayabilirsiniz.

NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect tool'larını kullanabilirsiniz.

Llama Guard 4 + Constitutional Classifiers + NeMo Guardrails defense stack kurabilirsiniz.

Agent + browser agent + MCP specific saldırı ve savunma stratejisi geliştirebilirsiniz.

EU AI Act + KVKK + ISO 42001 + BDDK uyumlu red team audit raporu üretebilirsiniz.

Gereksinimler

Aktif Python deneyimi (orta-üst seviye), REST API + LLM API kullanımı

Cybersecurity temel bilgisi (önerilir, eğitimde AI-spesifik kısımları işlenir)

LLM agent / RAG / chatbot ürün geliştirme deneyimi (en az kavramsal)

Docker + Linux + temel networking deneyim

Eğitim öncesinde OpenAI + Anthropic + HuggingFace + Azure OpenAI hesapları (free tier yeterli)

Eğitim öncesinde NVIDIA Garak + Microsoft PyRIT + Promptfoo + UK AISI Inspect kurulumu

Eğitim Müfredatı

104 Ders

Modül 1: AI Red Teaming Disiplinine Stratejik Giriş — 2026 Tehdit Manzarası9 Ders

Modül 2: MITRE ATLAS Framework — AI Saldırı Taksonomisi9 Ders

Modül 3: OWASP LLM Top 10 (2025 Sürümü) — En Yaygın Kurumsal LLM Riskleri9 Ders

Modül 4: Prompt Injection Saldırıları — Direct ve Indirect (Doğrudan ve Dolaylı)9 Ders

Modül 5: Jailbreak Teknikleri — DAN, GCG, Crescendo, PAIR ve Multi-Turn Saldırıları9 Ders

Modül 6: Multimodal Saldırılar — Image, Audio, Document ve Browser Agent9 Ders

Modül 7: Data Poisoning, Model Extraction ve Supply Chain Saldırıları9 Ders

Modül 8: Red Team Tooling — Garak, PyRIT, Promptfoo, Inspect AI9 Ders

Modül 9: Defense Stack — Llama Guard, Constitutional Classifiers, NeMo Guardrails9 Ders

Modül 10: Agent Güvenliği — Tool Misuse, MCP Saldırıları ve Browser Agent Risk9 Ders

Modül 11: Compliance Audit — EU AI Act, KVKK, ISO 42001, BDDK Çerçevesi9 Ders

Modül 12: Capstone — Kurumsal AI Red Team Playbook İnşası5 Ders

Eğitmen

Şükrü Yusuf KAYA

Yapay Zeka Mimarı | Kurumsal AI & LLM Eğitimleri | Stanford University | Yazılım & Teknoloji Danışmanı

Şükrü Yusuf KAYA, yapay zekâ teknolojilerinin küresel iş dünyasına entegrasyonuna öncülük eden, uluslararası deneyime sahip bir Yapay Zekâ Danışmanı ve Teknoloji Stratejistidir. 6 farklı ülkede faaliyet gösteren KAYA, teknolojinin teorik sınırları ile pratik iş ihtiyaçları arasındaki boşluğu doldurarak, bankacılık, e-ticaret, perakende ve lojistik gibi veri açısından kritik sektörlerde uçtan uca yapay zekâ projelerini yönetmektedir. Özellikle Üretken Yapay Zekâ ve Büyük Dil Modelleri (LLM) alanındaki teknik uzmanlığını derinleştiren KAYA, kuruluşların kısa vadeli çözümlere güvenmek yerine geleceği şekillendiren mimariler oluşturmasını sağlamaktadır. Karmaşık algoritmaları ve gelişmiş sistemleri, kurumsal büyüme hedefleriyle uyumlu somut iş değerine dönüştürmeye yönelik vizyoner yaklaşımı, onu sektörde aranan bir çözüm ortağı haline getirmiştir. Danışmanlık ve proje yönetimi kariyerinin yanı sıra eğitmenlik rolüyle de öne çıkan Şükrü Yusuf KAYA, "Yapay Zekâyı herkes için erişilebilir ve uygulanabilir hale getirmek" mottosuyla hareket etmektedir. Teknik ekiplerden üst düzey yöneticilere kadar geniş bir yelpazedeki profesyoneller için tasarlanmış kapsamlı eğitim programları aracılığıyla, kuruluşların yapay zeka okuryazarlığını artırmaya ve sürdürülebilir bir teknolojik dönüşüm kültürü oluşturmaya öncelik veriyor.

Sıkça Sorulan Sorular

Eğitime Başvur

Sınırlı kontenjan ile butik eğitim.

Gelecek Gruplara Kayıt

Sıradaki grup açıldığında öncelikli bilgi almak için kaydınızı bırakın.

Canlı & İnteraktif Oturumlar

Proje Bazlı Öğrenme

Sektör Odaklı Müfredat

Profesyonel Networking

Birebir Danışmanlık

Eğitmen ile özel görüşme planlayın.

Kaydol

Kategoriler

LLM Eğitimleri Kurumsal Programlar Prompt Engineering Eğitimi

Bu eğitim hakkında

Anahtar Çıkarımlar

AI Red Teaming ve Adversarial Robustness Mühendisliği Eğitimi (MITRE ATLAS + OWASP LLM Top 10 + Garak + PyRIT + Llama Guard)