Depo ayrıntısı

RustingStudio/RustingStrata

Pure-Rust MoE inference engine for Qwen3.5/3.6 GGUF. CPU+GPU hybrid experts, NVRTC CUDA kernels, OpenAI-compatible server. 2x llama.cpp prefill on a 12 GB RTX 3060.

Rust NOASSERTION 10 Ekim 2026 son push 02 Kasım 2026 1 fork

cuda gguf inference llama-cpp llm local-llm mixture-of-experts moe openai-api qwen rust

GitHub'da aç

Yıldız

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.