Depo ayrıntısı

Pushkinist/rMLX

Native Rust, single-binary MLX inference server for Apple Silicon. OpenAI/Anthropic-compatible LLM serving — text, vision, audio, embeddings — with the widest weight×KV quantization matrix of any MLX server. No Python, no GGUF.

Rust Apache-2.0 06 Haziran 2026 son push 30 Ekim 2026 6 fork

anthropic apple-silicon claude-code embeddings gemma inference-server kv-cache llm local-llm macos metal mlx openai-api quantization rust speculative-decoding tool-calling turboquant vision-language-model whisper

GitHub'da aç

Yıldız

16+1 · 36 gün

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.