İçeriğe geç
Tüm roadmap'e dön
topicadvanced★ Pro

Skeleton-of-Thought

Önce iskelet (outline) üret, sonra bölümleri PARALEL doldur — latency'i 2-3x azaltır.

2 saat1 kaynak1 önkoşul

Klasik CoT sequential — uzun cevaplar yavaş. SoT iki aşamalı:

  1. Modele "5-maddelik iskelet üret" de
  2. Her madde için paralel API çağrısı

Özellikle blog yazısı, rapor, story gibi uzun content'te kullanışlı. Trade-off: maliyet 1.x → 5x madde sayısı ama wall-clock %50 düşer.

Önce bunları bil

Kaynaklar(1)