Logging, Tracing ve Observability
OpenTelemetry uyumlu LLM tracing, structured log şeması, hata bildirimi, prompt versiyonlu izleme.
Şükrü Yusuf KAYA
12 dakikalık okuma
İleri
Structured Log Şeması
Her LLM çağrısı için minimum log alanları:
{ "ts": "...", "trace_id": "...", "span_id": "...", "prompt_id": "support_classifier", "prompt_version": "1.4.1", "model": "claude-sonnet-4-6", "temperature": 0.0, "max_tokens": 256, "input_tokens": 348, "output_tokens": 200, "cache_read_tokens": 300, "latency_ms": 740, "stop_reason": "end_turn", "tool_calls": [], "user_id_hash": "abc...", "eval_score": 0.91 }
python
from opentelemetry import tracetracer = trace.get_tracer(__name__) with tracer.start_as_current_span("claude.classify") as span: span.set_attribute("gen_ai.system", "anthropic") span.set_attribute("gen_ai.request.model", "claude-sonnet-4-6") span.set_attribute("gen_ai.request.temperature", 0.0) resp = client.messages.create(...) span.set_attribute("gen_ai.usage.input_tokens", resp.usage.input_tokens) span.set_attribute("gen_ai.usage.output_tokens", resp.usage.output_tokens) span.set_attribute("gen_ai.response.finish_reason", resp.stop_reason)OpenTelemetry gen-AI semantik convention'ları ile span.
Boşluk doldur · text
Üretimde her LLM çağrısı için _____ ve prompt_version log'lanmalıdır. PII'ler her zaman _____ olarak yazılır. OpenTelemetry'nin yeni gen-AI namespace'i _____ ile başlar.Quiz
Bu modülü değerlendirme zamanı
Buraya kadar öğrendiklerini quiz ile pekiştir. Süreli, puanlı ve geri bildirimli bir değerlendirmedir.
Quiz'e başlaSık Sorulan Sorular
OpenTelemetry uyumlu olduğu sürece pek fark etmez: Datadog, Honeycomb, NewRelic, Tempo, Langfuse. Anahtar tüm pipeline'ı uçtan uca trace etmek.
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...
İlgili İçerikler
Bağlantılı Pillar Konular