Maliyet İzleme, Kota ve Bütçe Alarmları
Beklenmeyen fatura sürprizine düşmemek için maliyet pipeline'ı: per-user kota, alarm eşikleri, anomaly detection.
Şükrü Yusuf KAYA
11 dakikalık okuma
İleri
Üç Boyutta İzleme
- Toplam aylık — finans için.
- Adım bazlı — pipeline'da hangi adım pahalı?
- Kullanıcı / tenant bazlı — abuse / runaway costs.
python
# Çok kullanıcılı maliyet log analizi (sentetik)import statistics calls = [ {"user":"A","tokens":1200}, {"user":"A","tokens":800}, {"user":"B","tokens":120000}, # anomali {"user":"C","tokens":1500},]by_user = {}for c in calls: by_user[c["user"]] = by_user.get(c["user"], 0) + c["tokens"] vals = list(by_user.values())mu, sd = statistics.mean(vals), statistics.pstdev(vals) or 1for u, v in by_user.items(): z = (v - mu) / sd flag = "🚨" if abs(z) > 2 else " " print(f"{flag} {u}: {v} (z={z:.1f})")Sentetik anomaly detection — runaway user'ı yakalar.
Boşluk doldur · text
Üç izleme boyutu: aylık, adım ve _____ bazlı. Bütçe %80'e ulaştığında _____ alarm tetiklenir. Anomaly tespitinde _____ - score eşiği yaygındır.Sık Sorulan Sorular
Önemli ama kullanıcı bazlı kota gibi şeyleri **senin** sisteminin yapması gerekir; çünkü tek API key arkasındaki tüm kullanıcılar Anthropic için aynıdır.
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...