Tree of Thoughts (ToT) 2026: Türkçe Derin Teknik Rehber — Karmaşık Problem Çözümünün Yeni Paradigması

## 1. Giriş: ToT Devrim Niteliği ### 1.1 ToT'nin Mantığı İnsan karmaşık bir problemle karşılaştığında **tek bir yolu** denemez. Birden çok yaklaşım hayal eder, her birinin sonucunu tahmin eder, en umut verici olanı seçer, gerekirse geri döner. Bu **deliberate problem solving** (kasıtlı problem çözme) insan zekasının özüdür. ToT bu paradigmayı LLM'e taşıyor: **Chain-of-Thought (CoT):** - Tek zincir - Geriye dönüş yok - İlk yanlış adım → tüm sonuç hatalı - Hızlı, ucuz **Tree of Thoughts (ToT):** - Birden çok zincir paralel - Her adımda branching + evaluation - Yanlış dal → backtrack - Yavaş, pahalı AMA çok daha akıllı ### 1.2 Benchmark Patlaması ### 1.3 Bu Rehberin Farkı (1) **Tam akademik temel** — Yao 2023 paper detayı + Besta GoT + Long ToT extensions (2) **4 search algorithm** — BFS, DFS, Beam Search, A* için Türkçe örnekler (3) **CoT vs ToT vs GoT triple karşılaştırma** — felsefi + pratik + maliyet (4) **25+ Türkçe pratik örnek** — gerçek iş, hukuk, yaratıcılık (5) **LangGraph ToT implementation** — production code patterns (6) **Maliyet analizi token-level** — 10-50x CoT, ne zaman değer (7) **2024-2026 native reasoning era'da ToT** — o3/Claude internal vs prompt ToT (8) **Agentic systems integration** — multi-agent ToT ## 2. Yao et al. 2023 — Tarihi Paper ### 2.1 Paper Detayları **Başlık:** "Tree of Thoughts: Deliberate Problem Solving with Large Language Models" **Yazarlar:** Shunyu Yao, Dian Yu, Jeffrey Zhao, Izhak Shafran, Tom Griffiths, Yuan Cao, Karthik Narasimhan **Yayın:** NeurIPS 2023 (Mayıs 2023'te arxiv) **Kurumlar:** Princeton University + Google DeepMind **İlginç not:** Aynı Yao araştırma ekibi 1 yıl önce ReAct paper'ını da yayınladı — agentic AI'ın iki temel paradigmasını yarattılar. ### 2.2 Paper'ın 3 Benchmark'ı #### Benchmark 1: Game of 24 **Görev:** 4 sayı verilir (örn. 4, 9, 10, 13). 4 işlem (+,-,×,÷) kullanarak 24'e ulaşmak. **Örnek:** 4, 9, 10, 13 → (10 - 4) × (13 - 9) = 6 × 4 = 24 **Sonuçlar:** **Çıkarım:** ToT, 70 puan dramatik sıçrama yaparak Game of 24'ü pratik çözülebilir hale getirdi. #### Benchmark 2: Creative Writing **Görev:** 4 rastgele cümleyi bir koherent paragrafın 4 ayrı satırının başlangıcı olarak kullanarak yaratıcı yazı oluştur. **Sonuçlar:** ToT yaratıcı yazımda da %22 iyileşme. #### Benchmark 3: 5×5 Crosswords **Görev:** Mini crossword puzzle çözmek. **Sonuçlar:** ToT 4x daha iyi — backtracking yapabilmek krit. ### 2.3 Paper'ın Ana Tespitleri **(1) LLM'ler 'sistem 1' thinking yapıyor** — hızlı, otomatik. Karmaşık problem için 'sistem 2' (deliberate) gerek. **(2) Search önemli** — sadece üretmek değil değerlendirmek + seçmek gerek. **(3) Backtracking critical** — yanlış yola gitmek normal, geri dönmek gerek. **(4) Self-evaluation güçlü sinyal** — model kendi düşüncesini 'sure/maybe/impossible' diye değerlendirebilir. **(5) Computational cost trade-off** — ToT 10-50x daha pahalı ama belirli problemlerde başka türlü çözüm yok. ## 3. 4 ToT Bileşeni Detayı ToT 4 ana komponentten oluşur: ### 3.1 Bileşen 1: Thought Decomposition **Soru:** Problemi nasıl alt-adımlara bölerim? **Game of 24 için:** - Bir thought = bir aritmetik işlem - Her adımda 4 sayıdan 2'sini seç + işlem uygula + 3 sayıya in - Max 3 adımda 1 sayıya in (umarım 24) **Creative Writing için:** - Bir thought = bir paragrafın bir cümlesi - Her adımda farklı bir devam alternatifi **Crosswords için:** - Bir thought = bir kelime tahminisi - Her adımda 5×5 grid'in bir satır/sütununu doldur **Anahtar:** Thought birim seçimi problem-spesifik. Çok küçük → çok fazla branching. Çok büyük → yetersiz exploration. ### 3.2 Bileşen 2: Thought Generation **Soru:** Bir state'ten kaç alternatif thought üretelim? **Yaklaşım 1: Sample** "Adım adım düşün. Verilen state X için 5 farklı sonraki adım öner." LLM 5 alternatif üretir. **Yaklaşım 2: Propose** "Verilen state X için olası tüm sonraki adımları listele." LLM exhaustive enumerate eder. **Sample 5 ÖNERILEN** — diversity için. ### 3.3 Bileşen 3: State Evaluation **Soru:** Bir state'in 'iyi' olup olmadığını nasıl ölçeriz? **Yaklaşım 1: Value** LLM'e sor: "Bu state'in başarılı sonuca götürme olasılığı? sure/maybe/impossible" **Yaklaşım 2: Vote** "Şu 5 state'ten hangisi en umut verici?" LLM oylar. Value approach daha hızlı, Vote daha doğru. ### 3.4 Bileşen 4: Search Algorithm **Hangi arama algoritması?** **Yao paper'da kullanılan:** - Game of 24: BFS (b=5) - Creative Writing: BFS - Crosswords: DFS ## 4. Pratik ToT Pseudocode
def tree_of_thoughts(problem, max_depth=3, beam_width=5):
# Root state
root = State(problem=problem, history=[])

# BFS queue
queue = [root]

for depth in range(max_depth):
next_queue = []
for state in queue:
# Generate b thoughts from this state
thoughts = llm.generate_thoughts(state, n=beam_width)

for thought in thoughts:
new_state = state.apply(thought)

# Evaluate
value = llm.evaluate(new_state) # sure/maybe/impossible

if value == "impossible":
continue # prune
if new_state.is_solution():
return new_state # done!

next_queue.append((new_state, value))

# Keep top beam_width states
next_queue.sort(key=lambda x: x[1], reverse=True)
queue = [s for s, v in next_queue[:beam_width]]

# No solution found
return None

## 5. CoT vs ToT vs GoT Karşılaştırma ### 5.1 Graph of Thoughts (Besta 2024) ### 5.2 Üçlü Karşılaştırma ### 5.3 Karar Akışı **CoT kullan:** - Tek-step muhakeme yeterli - Maliyet kritik - Lineer akış mümkün **ToT kullan:** - Multi-step + birden çok olası yol - Backtracking gerekli - Search-based problem (game, planning) **GoT kullan:** - Multi-hop reasoning (bilgi birleştirme) - Iterative refinement (yazım iyileştirme) - Cross-reference between thoughts ## 6. 25+ Türkçe Pratik ToT Örnek ### 6.1 İstanbul'da 1 Günde 5 Müze Gezme Rotası **Problem:** Ayasofya, Topkapı Sarayı, Sultan Ahmet Cami, Yerebatan Sarnıcı, Türk ve İslam Eserleri Müzesi — 1 günde en optimum rota? **ToT Yaklaşımı:** **Root state:** Hiçbir müze gezilmemiş, sabah 9:00 başlangıç. **Branch generation (5 alternatif başlangıç):** - A: Ayasofya'dan başla - B: Topkapı Sarayı'ndan başla - C: Sultan Ahmet Cami'den başla (sabah açık olmayabilir) - D: Yerebatan Sarnıcı'ndan başla - E: Türk ve İslam Eserleri Müzesi'nden başla **State evaluation her branch için:** - A (Ayasofya): sure — merkezi, açılış erken, etrafta diğerleri - B (Topkapı): sure — büyük, sabah yorgun değilken - C (Sultan Ahmet): impossible — sabah ibadet vakti açılış geç - D (Yerebatan): maybe — küçük, sabah yorucu değil - E (TIE Müzesi): maybe — kenarda kalıyor **Branching B (Topkapı sabah):** - B1: 9:00 Topkapı (3 saat) → 12:00 Yerebatan → 13:30 Sultan Ahmet → 15:00 Ayasofya → 17:00 TIE Müzesi - B2: 9:00 Topkapı → 12:00 Ayasofya → 14:00 Yerebatan → 15:30 Sultan Ahmet → 17:00 TIE Müzesi - B3: 9:00 Topkapı → 12:00 TIE Müzesi → 14:00 Ayasofya → 16:00 Sultan Ahmet → 17:00 Yerebatan **Evaluate B1, B2, B3:** - B1: sure (mantıklı sıra, az yürüme) - B2: sure (alternatif, biraz daha çok yürüme) - B3: maybe (TIE Müzesi erken yorucu olabilir) **Best path:** B1. **Final answer:** 09:00 Topkapı Sarayı (3 saat) → 12:00 Yerebatan Sarnıcı (1 saat) → 13:30 Sultan Ahmet Cami (1.5 saat) → 15:00 Ayasofya (2 saat) → 17:00 Türk ve İslam Eserleri Müzesi (1 saat). ### 6.2 Türk Hukuki Strateji Belirleme **Problem:** Müvekkilim Kasım 2025'te işten çıkarıldı. İşveren "performans" gerekçe gösteriyor. Hangi hukuki strateji? **ToT Yaklaşımı:** **Root:** Müvekkil 7 yıllık çalışan, son 6 ay performans uyarısı, sözlü uyarılar var. **Branch generation (3 strateji):** - A: İşe iade davası (Madde 18-21 İş Kanunu) - B: Kıdem + ihbar tazminat davası - C: Önce mediation, sonra dava **Evaluate:** - A: maybe — geçerli sebep var mı? 30 günlük dava süresi geçti mi? - B: sure — kıdem hakkı kanunla korumalı, dava açılabilir - C: sure — tazminat anlaşması olabilir, zamandan tasarruf **Branch A için sub-thinking:** - A1: 30 gün geçmiş mi? → Kasım'dan beri 4 ay → geçti. - A2: Kasım'da hemen dava açılsaydı → mümkün ama şu an geç. **Evaluation:** A impossible (süre geçti). **Branch B vs C analizi:** - B (direkt dava): 12-18 ay sürebilir, yargılama maliyet - C (önce mediation): 6 ay daha hızlı, %70 anlaşma şansı **Best path:** C (önce mediation, başarısız olursa B). **Final answer:** Stratejimiz iki aşamalı: (1) İlk 30 günde işveren ile uzlaşma toplantısı + ABA (Arabuluculuk Bilgilendirme Tutanağı). (2) Anlaşma olmazsa kıdem + ihbar + manevi tazminat davası. ⚠️ Hukuki uyarı: Bu örnek genel rehber. Avukat danışmanlığı şarttır. ### 6.3 Yatırım Kararı (3 Alternatif) **Problem:** 500.000 TL yatırım yapacağım. Alternatifler: (A) Devlet tahvili, (B) BIST 30 ETF, (C) Gayrimenkul, (D) Altın. **ToT Yaklaşımı:** **Root state:** 500K TL, 5 yıl vade, orta risk toleransı, %35 enflasyon ortamı. **Branch generation + evaluation:** A — Devlet tahvili (faiz %42, 1 yıl): - Risk: Düşük - Getiri: Nominal %42, reel %42-%35 = %7 - Likitlik: Yüksek (1 yıl) - sure B — BIST 30 ETF: - Risk: Yüksek - Getiri: Tarihsel %25-35, son 5 yıl çok dalgalı - Likitlik: Yüksek - maybe (high variance) C — Gayrimenkul: - Risk: Orta - Getiri: Tarihsel %20-25 yıllık + kira getirisi - Likitlik: Düşük (3-6 ay satış) - maybe (illiquid) D — Altın: - Risk: Orta - Getiri: TL bazında son 5 yıl %30-40 yıllık (kur etkisi) - Likitlik: Yüksek - sure **Branch A + D yatırım çeşitlendirmesi (2-3 layer):** A+D karışım: - %50 Devlet tahvili = 250K, %42 = +105K - %30 Altın = 150K, ~%35 = +52.5K - %20 BIST ETF = 100K, ~%25 = +25K - 1 yıl sonra: ~682K, %36 getiri (enflasyon üstü +%1) **Evaluate:** sure (diversified, capital korunmuş) **Best path:** Çeşitlendirilmiş portfolio. **Final answer:** - %50 Devlet tahvili (güvenli, %42 nominal) - %30 Altın (kur korunması) - %20 BIST ETF (büyüme potansiyeli) - 5 yıl boyunca yeniden dengele her yıl ⚠️ Finansal danışman + risk profilinize uygunluk kontrolü şart. ### 6.4 MBA Case Study — Kompetitif Strateji **Problem:** Trendyol'un Hepsiburada karşısında 2026 strateji opsiyonları? **ToT Yaklaşımı:** **Branch generation (4 strateji):** - A: Premium segment + brand - B: International expansion (Almanya pilot) - C: Vertical integration (logistics + payments) - D: AI/ML differentiation (recommendation, pricing) **Evaluate:** - A: maybe (brand zaten güçlü, premium niche) - B: sure (büyüme alanı + diaspora avantajı) - C: sure (mevcut Trendyol Express + iyzico genişlet) - D: sure (technical strength) **Tree expansion B + C + D karışım:** Optimal strategy: - 2026 H1: AI/ML upgrade (recommendation engine v2, dynamic pricing) - 2026 H2: Almanya pilot launch (10K SKU) - 2027: Logistics genişleme + payments expansion - Risk yönetim: Hepsiburada'nın counter-strategy izle **Final:** Multi-pillar strateji optimum, AI-first + international. ### 6.5 Yaratıcı Pazarlama Kampanyası **Problem:** Türk e-commerce startup için viral pazarlama kampanyası (bütçe 500K TL). **ToT Yaklaşımı:** **Branch generation (5 fikir):** - A: Influencer collaboration (10 mid-tier) - B: User-generated content (UGC) hashtag campaign - C: Sosyal sorumluluk (sürdürülebilirlik + STK ortak) - D: Provokativ reklam (controversial — riskli) - E: Eğlenceli viral video (Twitter/X + TikTok) **Evaluate:** - A: sure (proven format) - B: maybe (engagement variable) - C: sure (PR + brand value) - D: impossible (brand risk) - E: sure (organic reach potential) **A + C + E karışım plan:** - A: 5 influencer (50K TL each = 250K) - C: 1 STK ortaklığı (sürdürülebilirlik) — 150K - E: 3 viral video production — 100K **Toplam: 500K. Reach hedefi: 10M+ impression, 100K engagement.** ### 6.6 Diğer 20 ToT Örnek (Özet) (7) Yazılım mimari karar (monolith vs microservices) (8) Kariyer geçiş (3 farklı pozisyon değerlendirme) (9) Şirket içi büyüme planı (organic vs M&A) (10) Ürün lansman zamanlaması (11) Marka isim seçimi (5 alternatif değerlendirme) (12) Çocuk üniversite tercih sıralaması (13) Hospital triage karar (14) Hukuki dava strateji (3 yol) (15) AI startup pivotlama (16) Yatırımcı pitch deck (3 different angle) (17) E-ticaret SKU seçimi (18) Resort tatil planlama (19) Müzik albüm sıralama (20) Roman karakter geliştirme (ToT for creative writing) (21) Programlama dili seçimi (yeni proje için) (22) Ev satın alma vs kiralama karar (23) İşten ayrılma zamanlama (24) Hediye seçimi (önemli kişi için) (25) Toplantı gündem optimum sıralama (26) Eğitim kursu sıralama (multi-skill) (27) Yemek menü hazırlama (10 kişilik akşam yemeği) Her biri için aynı 4-bileşen pattern: decompose, generate, evaluate, search. ## 7. Modern LangGraph ToT Implementation ### 7.1 Temel ToT State Machine
from langgraph.graph import StateGraph, END
from langchain_anthropic import ChatAnthropic
from typing import TypedDict, List

class ToTState(TypedDict):
problem: str
thoughts: List[str] # current frontier
depth: int
best_solution: str | None

llm = ChatAnthropic(model="claude-sonnet-4-5")

def generate_thoughts(state):
# Generate 5 alternatives from current state
prompt = f"Problem: {state['problem']}. Current: {state['thoughts'][-1] if state['thoughts'] else 'start'}. Suggest 5 next steps."
response = llm.invoke(prompt)
return {"thoughts": state["thoughts"] + [response]}

def evaluate_state(state):
# Score each thought sure/maybe/impossible
scores = []
for t in state["thoughts"]:
score_prompt = f"Evaluate: {t}. sure/maybe/impossible?"
score = llm.invoke(score_prompt)
scores.append(score)
return {"scores": scores}

def check_solution(state):
if state["depth"] >= 3:
return END
return "generate"

# Build graph
workflow = StateGraph(ToTState)
workflow.add_node("generate", generate_thoughts)
workflow.add_node("evaluate", evaluate_state)
workflow.add_edge("generate", "evaluate")
workflow.add_conditional_edges("evaluate", check_solution)
workflow.set_entry_point("generate")

app = workflow.compile()

### 7.2 BFS vs DFS Implementation BFS önerilen genel use case. DFS daha hızlı ama optimal bulmayabilir. ## 8. Maliyet Analizi ### 8.1 ToT Token Usage Game of 24 örneği — Yao paper'da hesaplama: - IO: ~120 token input - CoT: ~300 token (zincir uzunluğu) - CoT + Self-Consistency (100): ~30,000 token - ToT (b=5, depth=3): ~25,000 token ToT ve Self-Consistency benzer maliyet, AMA ToT çok daha doğru sonuç verir. ### 8.2 Maliyet Trade-off **Çıkarım:** ToT pahalı görünür ama başarı oranı yüksek olunca cost-per-success en düşük. ## 9. 2024-2026: Native Reasoning Era ### 9.1 o3 vs ToT OpenAI o3 (2024 Aralık) bazı senaryolarda ToT-benzeri davranış gösteriyor: - Internal reasoning tokens - Multiple paths exploration - Backtracking native **ToT'nin yeri:** - o3 black-box internal, ToT açık ve kontrol edilebilir - Specialized search algorithms ToT'da daha güçlü - LangGraph multi-agent ToT cooperation o3'te tek model ### 9.2 Modern Hybrid: o3 + Custom ToT Wrapper Production'da yaygın: - Strategic decisions: o3 (deep reasoning native) - Specialized search (game, planning): Custom ToT + GPT-5 - Cost-sensitive: CoT + Self-Consistency - Research-heavy: ToT or GoT ## 10. ToT Limitations (1) **Maliyet aşırı** — 10-50x CoT, sadece kritik task'lar için (2) **Implementation karmaşık** — 4 component design + tuning gerek (3) **Domain-specific tuning** — her problem için thought decomposition farklı (4) **Evaluation noisy** — LLM self-evaluation %100 doğru değil (5) **Latency yüksek** — multiple LLM calls per problem (6) **Memory overhead** — tree state explosion ## 11. ToT Production Tips (1) **Beam width küçük tut** (3-5) — exponential explosion (2) **Max depth limit** (3-7) — sınırsız depth maliyet patlatır (3) **Pruning aggressive** — impossible state'leri hemen kes (4) **Caching** — aynı state revisited olabilir (5) **Parallel execution** — branch'ler paralel LLM call (6) **Smaller eval model** — Haiku/Flash yeterli evaluation için (7) **Logging full tree** — debugging için kritik (8) **A/B test vs CoT** — gerçekten gerekli mi? (9) **Hybrid CoT + ToT** — kolaylar CoT, zorlar ToT (10) **User feedback loop** — generated tree'yi user görmeli (optional) ## 12. Sık Sorulanlar **Soru: ToT vs ReAct hangisi?** **ToT:** Karmaşık problem + multiple alternatives + search. **ReAct:** Multi-step + dış dünya etkileşim + tool use. İkisi BIRLEŞTIRILEBILIR — ToT içinde her thought ReAct ile tool kullanabilir. **Soru: ToT günlük kullanım için pratik mi?** Hayır. Standard günlük query için aşırı maliyet. Sadece karmaşık planlama / araştırma / strateji kararlarında değer. **Soru: o3 ToT yerini aldı mı?** Tam olarak değil. o3 daha kontrolsüz ama hızlı. ToT daha açık + kontrol edilebilir + multi-agent için flexible. **Soru: Hangi modeller ToT'da en iyi?** GPT-4 / GPT-5 ToT'da yarışmaya hakim (Yao paper). Claude Opus 4 + Sonnet 4.6 da çok iyi. Gemini 2.5 Pro genel iyi. **Soru: Game of 24 dışında ToT'un real-world impact'i?** Yaratıcı yazım (book outlines, screenplay), strateji danışmanlığı, hukuki strateji, scientific research planning, multi-agent task allocation. **Soru: ToT eğitim verisi içinde mi var?** Kısmen. Modern LLM'ler (GPT-4, Claude) ToT paper'larını "biliyor" ama implementation gerektirir. **Soru: ToT framework hazır var mı?** LangGraph, LangChain Tree of Thoughts module. Anthropic kendi MCP içinde ToT-benzeri pattern'lar. Custom implementation hala yaygın. **Soru: Multi-agent ToT?** Var — her branch farklı agent. AutoGen, Crew AI, LangGraph multi-agent + ToT entegre. **Soru: Türkçe ToT challenges?** Türkçe akıcılık modern LLM'lerde yüksek. Branching + evaluation Türkçe çalışır. Native İngilizce paper'lar baskın ama Türkçe örneklerle prompt customize edilebilir. **Soru: ToT learning resources?** Yao 2023 paper, LangGraph tutorials, Princeton Tree of Thoughts GitHub repo, DAIR.AI Prompting Guide. ## 13. Sonuç **3 ana çıkarım:** 1. **ToT karmaşık problem çözümünün yeni paradigması** — Yao 2023, Game of 24'te GPT-4'ü %4 → %74 yapan teknik. 2. **4 bileşen tasarımı** — decomposition + generation + evaluation + search. Her domain için farklı. 3. **2026'da native reasoning era'da bile ToT değerli** — özellikle multi-agent + specialized search + kontrol edilebilir akıl yürütme için. **Bu hafta yapılacaklar:** (1) Yao 2023 paper'ı oku (40 sayfa, kritik). (2) LangGraph kurulumu + basit ToT örnek implement et. (3) Mevcut bir karmaşık prompt'unu ToT-ize et. (4) Maliyet karşılaştırması yap (CoT vs ToT).