Depo ayrıntısı

rajveer43/VeloxQuant-MLX

Fast KV-cache quantization for Apple Silicon (MLX) — 43 research-adapted compression methods with Metal kernels

Python MIT 19 Nisan 2026 son push 01 Kasım 2026 9 fork

kv llm mlx quantization kv-cache macos ondeviceai apple-silicon compression inference metal mlx-lm python context-length kv-cache-compression llm-inference local-llm metal-kernels model-compression on-device-ai

GitHub'da aç Site

Yıldız

33+13 · 52 gün

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.