Depo ayrıntısı

seuros/MDMA

Model Dispatch and Memory Allocator: an LLM inference engine for the hardware you own. Custom CPU, ROCm, Vulkan, CUDA, Metal and Level Zero kernels, exact memory admission, mTLS gRPC and private federation.

Rust BSD-2-Clause 22 Eylül 2026 son push 28 Ekim 2026 4 fork

amd apple-silicon cuda federation freebsd gguf gpu grpc homelab inference inference-engine level-zero llm local-llm metal mtls rocm rust self-hosted vulkan

GitHub'da aç Site

Yıldız

18+5 · 20 gün

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.