Depo ayrıntısı
localai-org/vllm.cpp
a community oriented 1:1, vLLM-alike (Continuous batching, paged KV) engine in C++ with additional features (GGUF, RadixAttention, Cache-aware scheduling, ...)
C++ Apache-2.0 03 Temmuz 2026 son push 01 Kasım 2026 58 fork
Yıldız
475+93 · 63 gün
Commit · 28g
353
son 28 günde
Yazar · 28g
4
farklı katkıcı
Detaylı değerlendirme
Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.