Human-in-the-Loop and Approval Flows
Gating risky agent actions through human approval: pre-execution diff, severity tier, audit log.
Şükrü Yusuf KAYA
11 min read
Advanced
Severity Tier'lara Göre Onay
Eylemleri 4 risk tier'ına ayır ve her birine farklı onay protokolü uygula:
| Tier | Örnek | Onay |
|---|---|---|
| L0 | Read-only sorgu | Hayır |
| L1 | Düşük etkili yazma (taslak e-posta) | Otomatik (audit log) |
| L2 | Orta etkili eylem (gönderme, ödeme < 100 USD) | Tek kullanıcı onayı |
| L3 | Yüksek etkili eylem (ödeme > 1000 USD, dosya silme, prod deploy) | İki kişi + diff göster |
python
def apply_action(action, severity): if severity == "L0": return run(action) if severity == "L1": audit_log(action, auto=True) return run(action) if severity == "L2": token = request_approval(action, who="user") if not wait_approval(token, timeout_min=30): return {"status":"cancelled"} return run(action) if severity == "L3": token = request_dual_approval(action, viewers=2) if not wait_approval(token, timeout_min=60): return {"status":"cancelled"} return run(action)HITL yönlendirici — basit ama net.
Boşluk doldur · text
Düşük etkili eylemler L1, orta L2, yüksek _____ olarak etiketlenir. L3'te _____ kişi onayı önerilir. Her onay kararı _____ log'a yazılır.Quiz
Bu modülü değerlendirme zamanı
Buraya kadar öğrendiklerini quiz ile pekiştir. Süreli, puanlı ve geri bildirimli bir değerlendirmedir.
Quiz'e başlaFrequently Asked Questions
Approval rings add latency — that's intentional for high-risk actions. UX: show a preview and one-click approve.
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...