Anthropic Claude FT: AWS Bedrock Custom + Prompt-Caching Alternatifi
Anthropic direkt FT API sağlamıyor (Anthropic Console'da yok). Iki workaround: (1) **AWS Bedrock Custom** ile Claude FT, (2) **Prompt caching** + few-shot prompting (no FT). Cookbook karar: çoğu use-case için prompt-caching + system prompt rafineman yeter; gerçek FT lazımsa Bedrock route.
Şükrü Yusuf KAYA
24 dakikalık okuma
Orta1. Claude Customization Seçenekleri#
| Yöntem | Implementation | Maliyet | Kalite |
|---|---|---|---|
| Prompt caching | System prompt cache (5 min TTL) | 0.30/M cache read | iyi |
| Few-shot prompting | Examples in prompt | normal token cost | orta-iyi |
| AWS Bedrock Custom | Bedrock console + dataset upload | ~$5-50K (provisioned throughput) | en yüksek |
| System prompt rafineman | Iterative testing | normal | iyi |
Cookbook'un kuralı:
- Bütçe < $5K → prompt-caching + few-shot
- Bütçe $5K+ + scale → Bedrock Custom
✅ Teslim
- Prompt-caching ile system prompt rafineman dene. 2) Bedrock Custom pricing'i kontrol et. 3) Sonraki ders: 14.5 — Google Gemini Tuning (Vertex AI).
Yorumlar & Soru-Cevap
(0)Yorum yazmak için giriş yap.
Yorumlar yükleniyor...
İlgili İçerikler
Part 0 — Engineering Foundations
Fine-Tuning Cookbook'a Hoş Geldin: Sistematik, Stage Taksonomisi ve Reproducibility Kontratı
Öğrenmeye BaşlaPart 0 — Engineering Foundations
Reproducibility Stack: Seeds, cuDNN Flags ve Deterministic CUDA — 'Sende Niye Çalışıyor Bende Çalışmıyor' Sorununu Bitir
Öğrenmeye BaşlaPart 0 — Engineering Foundations
Environment Pinning: uv + pyproject.toml, CUDA Version Matrix ve Container Reçeteleri
Öğrenmeye BaşlaBağlantılı Pillar Konular