Havuz
Takip ettiğimiz konularda yükselen açık kaynak projeler — yıldız ivmesi, gerçek geliştirme aktivitesi ve AI değerlendirmesiyle.
Yalnız hareketli, son 28 günde commit almamış repoları gizler (yıldızı olan ama bırakılmış projeler). Commit sayısı henüz ölçülmemiş repolar da gizlenir.
EtiketTüm GitHub etiketleri — repo sahiplerinin koyduğu topic'lergöster
Etiketler yükleniyor…
- 1
kimi-k3-in-c, Kimi K3 modelinde inference çalıştırmayı hedefleyen bağımlılıksız bir C99 motorudur.
Neden yükseliyor · 57 günde 8.683 yıldız alması ve Kimi K3'ü 8 GB RAM'li CPU'da çalıştırma iddiası dikkat çekiyor; ancak son 28 gündeki 12 commit'in tek yazardan gelmesi, ilginin bağımsız teknik doğrulama veya geniş katkıcı tabanıyla desteklendiğini göstermiyor.
113,4/gün ort. +100 son gün 0 commit 0 yazar C 01 Ağu 2026 güncellendi 02 Eki 2026 - 2
Run GLM-5.3-Flash (321B), DeepSeek-V4.1-Flash (748B) and MiniMax-M3.1-Flash (428B) on your own GPUs - one engine, one dashboard, OpenAI- and
79,7/gün ort. +49 son gün 803 commit 15 yazar Cuda 06 Eki 2026 güncellendi dün - 3
halogen-flash-server, Qwen3.8-Flash-Next modelini AMD Strix Halo (gfx1151) donanımında çalıştırmak için özelleştirilmiş bir inference server'dır.
Neden yükseliyor · 32 günlük repo için 722 yıldız ve son 28 günde 99 commit dikkat çekiyor. README, belirli donanım üzerindeki ölçümleri ve ölçüm koşullarını açıklıyor; ancak performans iddiaları proje tarafından sunulmuş ve bağımsız doğrulama bilgisi burada yok. 99 commit'in tek yazardan gelmesi geliştirme hızını gösterirken bakım kapasitesine dair kanıtı sınırlıyor.
16,9/gün ort. +11 son gün 64 commit 1 yazar Shell 26 Ağu 2026 güncellendi dün - 4
Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimiz
6/gün ort. +18 son gün 177 commit 3 yazar C++ 10 Tem 2026 güncellendi dün - 5
37 tok/s from Qwen3-Next-80B (48 GB) on a 32 GB laptop, 24 without drafts vs 2.8 for llama.cpp; reading 62 vs 16 tok/s. Faster than llama.cp
13,5/gün ort. +8 son gün 49 commit 1 yazar C 20 Eyl 2026 güncellendi 2 gün önce - 6
Slotstream, büyük bir MoE modelini SSD’den parça parça yükleyip yoğun kullanılan expert’leri bellekte önbelleğe alarak Apple Silicon Mac’lerde çalıştıran yerel bir inference engine’dir.
Neden yükseliyor · README, 48 GB M5 Pro üzerinde belirli koşullarda 15.86 tok/s ölçümü ve prompt işleme iyileştirmeleri yayımlıyor; son 28 günde 271 commit ve 5 farklı yazar da yoğun geliştirme faaliyetine işaret ediyor. Ancak proje yalnızca 30 günlük ve mevcut sürüm için nitelikli tam yanıt hızı ölçümünün hâlâ beklediği belirtiliyor.
9/gün ort. +1 son gün 273 commit 3 yazar Swift 28 Ağu 2026 güncellendi bugün - 7
🐋 Run 284B DeepSeek-V4-Flash (<59GiB RAM, 44.4 tok/s pp, 9.1-14.7 tok/s) & 30B MoEs (25-111 tok/s) on a pure 64GB CPU at 256K ctx (0 GPUs).
52,5/gün ort. +489 son gün 49 commit 1 yazar Python 29 Eki 2026 güncellendi bugün - 8
Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
20,2/gün ort. +3 son gün 211 commit 5 yazar C++ 22 Eki 2026 güncellendi bugün - 9
Automated alignment adjustment for LLMs — direct steering, LoRA, and MoE expert-granular abliteration, optimized via multi-objective Optuna
1,2/gün ort. +2 son gün 83 commit 4 yazar Python 07 Mar 2026 güncellendi 5 gün önce - 10
SSD-streaming inference engine for giant MoE models (Rust + CUDA). GLM 5.2 743B at 2 tok/s and Hy3 295B at 7 tok/s on two consumer 16GB GPUs
2/gün ort. +0 son gün 0 commit 0 yazar Rust 13 Tem 2026 güncellendi 01 Eyl 2026 - 11
Run large AI models across your computers and servers. Powered by Colibri. Pure C.
2,2/gün ort. +2 son gün — commit C 04 Ağu 2026 güncellendi 2 gün önce - 12
⚡ Zero-Stall MoE Inference via Lookahead Prediction & Async DMA Prefetching. Optimized for SSD I/O with Hybrid MLA+Sliding Window Attention.
1/gün ort. +0 son gün 6 commit 1 yazar Python 19 Nis 2026 güncellendi dün - 13
Live truecolor terminal dashboard for a locally running LLM: tok/s, TTFT, GPUs, context, MTP acceptance, layer and real expert routing (llam
2,7/gün ort. +1 son gün 90 commit 4 yazar Rust 11 Eyl 2026 güncellendi 6 gün önce - 14
PROMETHEVS: run the full DeepSeek-V4.1-Flash-1017 (510 GB) on a gaming PC with 64 GB RAM and a 12 GB GPU. PROMETHEVS engine (compress-then-c
8,2/gün ort. +4 son gün 12 commit 1 yazar 21 Eki 2026 güncellendi 17 gün önce - 15
Pure-Rust inference engine for Qwen GGUF models (Qwen3 to Qwen3.8, dense and MoE up to 80B+). CUDA and Vulkan (NVIDIA, AMD), hybrid CPU+GPU
5,1/gün ort. +13 son gün 566 commit 4 yazar Rust 10 Eki 2026 güncellendi dün - 16
🦀 Decoder-only LLM built from scratch in pure Rust using Candle — no Python, no PyTorch. Gated DeltaNet + sparse attention, fine-grained MoE
0,8/gün ort. +0 son gün — commit Rust 24 Haz 2026 güncellendi 21 Ağu 2026