Depo ayrıntısı

Helldez/BigMoeOnEdge

Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimizer. Any hardware, any OS, any model, any quantization, behind a local OpenAI-compatible server.

C++ Apache-2.0 10 Temmuz 2026 son push 02 Kasım 2026 81 fork

android cpp edge-ai gemma gguf inference llama-cpp llm mixture-of-experts moe on-device-ai qwen

GitHub'da aç

Yıldız

697+173 · 63 gün

Commit · 28g

147

son 28 günde

Yazar · 28g

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.