Havuz
Takip ettiğimiz konularda yükselen açık kaynak projeler — yıldız ivmesi, gerçek geliştirme aktivitesi ve AI değerlendirmesiyle.
Yalnız hareketli, son 28 günde commit almamış repoları gizler (yıldızı olan ama bırakılmış projeler). Commit sayısı henüz ölçülmemiş repolar da gizlenir.
EtiketTüm GitHub etiketleri — repo sahiplerinin koyduğu topic'lergöster
Etiketler yükleniyor…
- 1
🐋 Run 284B DeepSeek-V4-Flash (<59GiB RAM, 44.4 tok/s pp, 9.1-14.7 tok/s) & 30B MoEs (25-111 tok/s) on a pure 64GB CPU at 256K ctx (0 GPUs).
52,5/gün ort. +489 son gün +72,7 son 7g 49 commit 1 yazar Python 29 Eki 2026 güncellendi bugün - 2
Run GLM-5.3-Flash (321B), DeepSeek-V4.1-Flash (748B) and MiniMax-M3.1-Flash (428B) on your own GPUs - one engine, one dashboard, OpenAI- and
79,7/gün ort. +49 son gün +45,3 son 7g 803 commit 15 yazar Cuda 06 Eki 2026 güncellendi dün - 3
Pure-Rust inference engine for Qwen GGUF models (Qwen3 to Qwen3.8, dense and MoE up to 80B+). CUDA and Vulkan (NVIDIA, AMD), hybrid CPU+GPU
5,1/gün ort. +13 son gün +23 son 6g 566 commit 4 yazar Rust 10 Eki 2026 güncellendi dün - 4
Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
20,2/gün ort. +3 son gün +18,4 son 7g 211 commit 5 yazar C++ 22 Eki 2026 güncellendi bugün - 5
PROMETHEVS: run the full DeepSeek-V4.1-Flash-1017 (510 GB) on a gaming PC with 64 GB RAM and a 12 GB GPU. PROMETHEVS engine (compress-then-c
8,2/gün ort. +4 son gün +18 son 7g 12 commit 1 yazar 21 Eki 2026 güncellendi 17 gün önce - 6
37 tok/s from Qwen3-Next-80B (48 GB) on a 32 GB laptop, 24 without drafts vs 2.8 for llama.cpp; reading 62 vs 16 tok/s. Faster than llama.cp
13,5/gün ort. +8 son gün +15,9 son 7g 49 commit 1 yazar C 20 Eyl 2026 güncellendi 2 gün önce - 7
halogen-flash-server, Qwen3.8-Flash-Next modelini AMD Strix Halo (gfx1151) donanımında çalıştırmak için özelleştirilmiş bir inference server'dır.
Neden yükseliyor · 32 günlük repo için 722 yıldız ve son 28 günde 99 commit dikkat çekiyor. README, belirli donanım üzerindeki ölçümleri ve ölçüm koşullarını açıklıyor; ancak performans iddiaları proje tarafından sunulmuş ve bağımsız doğrulama bilgisi burada yok. 99 commit'in tek yazardan gelmesi geliştirme hızını gösterirken bakım kapasitesine dair kanıtı sınırlıyor.
16,9/gün ort. +11 son gün +12,6 son 7g 64 commit 1 yazar Shell 26 Ağu 2026 güncellendi dün - 8
Uncensored DeepSeek-V4.1-Flash IQ2_XS on Google Colab
5,6/gün ort. +0 son gün +6 son 7g 1 commit 1 yazar Python 30 Eki 2026 güncellendi 10 gün önce - 9
Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimiz
6/gün ort. +18 son gün +5,3 son 7g 177 commit 3 yazar C++ 10 Tem 2026 güncellendi dün - 10
Qwen3.8-Flash-Next (125B MoE) up to 1M context on one or two RTX cards (tuned on 3080 10gb). A measured, tuned and benchmarked fork of Str
7/gün ort. +3 son gün +4,4 son 7g 75 commit 9 yazar C++ 01 Kas 2026 güncellendi 3 gün önce - 11
Slotstream, büyük bir MoE modelini SSD’den parça parça yükleyip yoğun kullanılan expert’leri bellekte önbelleğe alarak Apple Silicon Mac’lerde çalıştıran yerel bir inference engine’dir.
Neden yükseliyor · README, 48 GB M5 Pro üzerinde belirli koşullarda 15.86 tok/s ölçümü ve prompt işleme iyileştirmeleri yayımlıyor; son 28 günde 271 commit ve 5 farklı yazar da yoğun geliştirme faaliyetine işaret ediyor. Ancak proje yalnızca 30 günlük ve mevcut sürüm için nitelikli tam yanıt hızı ölçümünün hâlâ beklediği belirtiliyor.
9/gün ort. +1 son gün +2,7 son 7g 273 commit 3 yazar Swift 28 Ağu 2026 güncellendi bugün - 12
Automated alignment adjustment for LLMs — direct steering, LoRA, and MoE expert-granular abliteration, optimized via multi-objective Optuna
1,2/gün ort. +2 son gün +1,6 son 7g 83 commit 4 yazar Python 07 Mar 2026 güncellendi 5 gün önce - 13
Live truecolor terminal dashboard for a locally running LLM: tok/s, TTFT, GPUs, context, MTP acceptance, layer and real expert routing (llam
2,7/gün ort. +1 son gün +0,6 son 7g 90 commit 4 yazar Rust 11 Eyl 2026 güncellendi 6 gün önce - 14
⚡ Zero-Stall MoE Inference via Lookahead Prediction & Async DMA Prefetching. Optimized for SSD I/O with Hybrid MLA+Sliding Window Attention.
1/gün ort. +0 son gün +0,1 son 7g 6 commit 1 yazar Python 19 Nis 2026 güncellendi dün - 15
Get more intelligence from every bit. Better quantization formats and smarter calibration let larger, stronger models run smoothly on the ha
0,9/gün ort. +0 son gün +0,1 son 7g 710 commit 3 yazar C++ 24 Tem 2026 güncellendi 4 gün önce