Depo ayrıntısı

RightNow-AI/TIDE

Dynamic per-token early exit for LLM inference. Skip layers tokens don't need

Python Apache-2.0 17 Mart 2026 son push 18 Eylül 2026 7 fork

early-exit inference inference-api inference-engine llm optimization transformer

GitHub'da aç Site

Yıldız

34+1 · 62 gün

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.