Depo ayrıntısı

tanavc1/local-llm-autotune

Zero-config local LLM optimization for Ollama, LM Studio, and Apple Silicon MLX. Reduces TTFT by 40%, wall time for local agents by 46%, and RAM usage by 3x.

Python MIT 20 Mart 2026 son push 26 Ekim 2026 3 fork

apple-silicon cli inference-optimization kv-cache llm lm-studio local-ai local-llm mlx ollama python ttft

GitHub'da aç Site

Yıldız

39+6 · 63 gün

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.