topiccore

Streaming Yanıtlar

SSE / partial JSON ile cevap token-by-token akar — kullanıcı 10sn beklemeden görmeye başlar.

2 saat2 kaynak1 önkoşul

Server-Sent Events (SSE) ile her token client'a anında push edilir. UX devrimi: 30sn'lik cevap 1sn'de yazmaya başlar.

Implementation:

Backend: stream: true parameter
Frontend: EventSource veya ReadableStream
Vercel AI SDK / LangChain streaming helpers

Structured streaming: Partial JSON parse — Claude'da stop_sequences + manual parse, OpenAI'de response_format ile partial schema validation. Zod streaming mode TS tarafında olgun.

Önce bunları bil

JSON Mode

API parametresi ile model'in çıktısının geçerli JSON olmasını garanti et.

→

Kaynaklar(2)

DDokümantasyon(2)

Vercel AI SDK — Streaming

· en

free

Anthropic — Streaming Messages

· en

freeresmi

Önceki adım

Reasoning Modelleri (Thinking)

Sıradaki

Hybrid Retrieval (Dense + Sparse)

Tüm roadmap'i interaktif görüntüle