Depo ayrıntısı

JakeATX/llamAmpere

llama.cpp fork for significantly improved performance on Ampere generation Nvidia cards (especially RTX 3090 / 3090 Ti): example: 110+ tok/s over a 100K-token generation at temperature 1 for qwen3.8, supporting full 262K ctx. Supports low memory (12gb) configs for 200k+ ctx

C++ MIT 07 Eylül 2026 son push 02 Kasım 2026 28 fork

ampere consumer-gpu cuda ggml gguf kv-cache-quantization llama-cpp llm llm-inference local-llm long-context mtp multi-token-prediction quantization qwen qwen3 rtx-3090 rtx-3090-ti speculative-decoding turboquant

GitHub'da aç

Yıldız

208+135 · 49 gün

Commit · 28g

806

son 28 günde

Yazar · 28g

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.