Depo ayrıntısı

lvyufeng/PocketLLM

Inference engine for large language models on consumer GPUs, with deep optimization for older hardware

Python MIT 29 Nisan 2026 son push 20 Ekim 2026 9 fork

ascend consumer-gpu cuda deepseek glm inference inference-engine llm minimax moe pytorch quantization qwen rtx-2080-ti

GitHub'da aç Site

Yıldız

55+2 · 49 gün

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.