Function calling vs Tool use: terminoloji karmaşası, hangisi ne?

Tool definition için Pydantic/Zod ile schema yazıp otomatik JSON Schema generate etmek best practice.

OpenAI Tools API (2024 update) ile 'function calling' deprecated edildi, artık 'tools' nomenclature'ı. Backwards compatible.

Spec'te küçük farklar: OpenAI parallel tool calls native destekliyor, Claude ise 1 tool/turn (Sonnet 3.5'ten itibaren parallel da var).

Forced tool use: bazı görevlerde modele 'mutlaka şu tool'u kullan' demek gerek. OpenAI tool_choice='required', Anthropic tool_choice={type:'tool', name:'X'}.

Gemini ve diğerleri OpenAI spec'ini takip ediyor.

Tool result format: model anladığı için string formatında yeterli ama structured (JSON) verirseniz daha iyi reasoning yapıyor.

Production'da LiteLLM kullanın — provider farklılıklarını abstract eder, tek interface.

Bence bu konuda Türkçe bir eğitim arıyorum, öneri var mı?

Maliyet açısından düşünüldüğünde TGI (Text Generation Inference) da bir alternatif.

E-ticaret tarafında kullanıcı feedback loop'u kurmak proje değerini katlar.

Ben de aynı sorunla karşılaşmıştım, bu yaklaşım işime yaradı. şirketim adına teşekkürler, paylaşımlar çok değerli.

Bence Trendyol, Garanti gibi kurumlar epeyce yatırım yapıyor.

Üretim hattı veri analizinde self-hosting maliyeti çoğunlukla underestimate ediliyor.

Ek olarak şunu eklemek isterim: open-source vs ticari tradeoff'unu iyi analiz etmek gerek.

Bunu 7 aylık bir projede uyguladık, her güncellemede regression test çalıştırın.

Çok faydalı bir cevap, teşekkürler. TR ekosisteminde bu konuya değinen az kaynak var.

Ekibe yeni katılan biri olarak ben de aynı stack'i kullanıyorum, sorunsuz çalışıyor.

Kaggle yarışmalarında Llamafile ile portable deployment çok kolay.

10+ yıllık ML deneyimimle söyleyebilirim ki Türkiye'de Llama 3 fine-tune'ları gerçekten konuşuyor.

Sağlık verisi ile çalışırken bu konuda Türkçe bir eğitim arıyorum, öneri var mı?

Sağlık verisi ile çalışırken vLLM ile inference 4x hızlandı.

Cevap teşekkürler ama Trendyol, Garanti gibi kurumlar epeyce yatırım yapıyor.

Latency optimize etmek için kütüphanenin son sürümünde breaking change var, dikkat edin.

Bence üniversitelerle ortak proje yapanlar varsa duyurabilir misiniz?

Karşılaştırma için ben de aynı stack'i kullanıyorum, sorunsuz çalışıyor.

Şu kaynakta detaylı anlatım var: evaluation suite olmadan ilerlemeyin, geri dönüş kaçınılmaz.

Çok faydalı bir cevap, teşekkürler. TR ekosisteminde bu konuya değinen az kaynak var.

Maliyet açısından düşünüldüğünde maliyeti yarıya düşürdük.

İleri seviye kullanım için Llamafile ile portable deployment çok kolay.

Hukuk teknolojisi projemizde veri sızıntısı riski herzaman ilk sırada olmalı.

Bu yaklaşımla şu sorunu yaşadım: Llamafile ile portable deployment çok kolay.

Akademik araştırmamda TR ekosisteminde bu konuya değinen az kaynak var.

Production'da test ettim, gerçekten işe yarıyor. Türkiye'de Llama 3 fine-tune'ları gerçekten konuşuyor.

Sağlık verisi ile çalışırken open-source vs ticari tradeoff'unu iyi analiz etmek gerek.

Sağlık verisi ile çalışırken kütüphanenin son sürümünde breaking change var, dikkat edin.

GitHub'da güzel bir repo buldum: Pydantic ile structured output şart.

Çağrı merkezi otomasyonunda küçük modeller bazen daha verimli, sırf isim büyük diye gitmeyin.

Üretim hattı veri analizinde FastAPI tabanlı serving stack güvenilir bir tercih.

Production'da test ettim, gerçekten işe yarıyor. documentation çoğu zaman güncel olmuyor, GitHub Issues bakın.

Bunu 7 aylık bir projede uyguladık, cost monitoring dashboardu projenin ilk haftasında kurulmalı.