Açık kaynak radarı

Havuz

Takip ettiğimiz konularda yükselen açık kaynak projeler — yıldız ivmesi, gerçek geliştirme aktivitesi ve AI değerlendirmesiyle.

repo · sayfa 1 / 1

Sırala

Yıldız/gün (hız)Son gün (★/gün)Son hafta (★/gün)Son ay (★/gün)Toplam yıldız AI önem skoru Bana uyum Commit (28g)Yazar (28g)En yeni

Konu

Tümü AI / LLM18 Veri9 Geliştirici araçları13 Diğer3 SaaS altyapı13 Web11

Süz

Yalnız hareketli Yalnız analizli≥ 0 ≥ 100 ≥ 500 ≥ 2.000

Yalnız hareketli, son 28 günde commit almamış repoları gizler (yıldızı olan ama bırakılmış projeler). Commit sayısı henüz ölçülmemiş repolar da gizlenir.

EtiketTüm GitHub etiketleri — repo sahiplerinin koyduğu topic'lergöster

Sırala:

Etiketler yükleniyor…

Aktif speculative-decoding

1
JakeATX/llamAmpere 208
llama.cpp fork for significantly improved performance on Ampere generation Nvidia cards (especially RTX 3090 / 3090 Ti): example: 110+ tok/s
3,7/gün ort. +1 son gün 806 commit 2 yazar C++ 07 Eyl 2026 güncellendi dün
ampere consumer-gpu cuda ggml gguf kv-cache-quantization llama-cpp llm
208
2
hasso5703/alzeo 245
dgx-spark-qwen38 is an open-source installer that turns an NVIDIA DGX Spark, or any GB10 machine (ASUS, Dell, HP, Lenovo, MSI, GIGABYTE, Ace
3,1/gün ort. +0 son gün 608 commit 1 yazar Python 15 Ağu 2026 güncellendi 2 gün önce
ai-agents asus-ascent-gx10 dgx-spark gb10 image-generation llm-inference local-ai local-llm
245
3
raketenkater/ggrun 282
llama.cpp/ik_llama.cpp launcher: loads big MoE models across mismatched multi-GPU rigs by exact VRAM math.
1,2/gün ort. +0 son gün 242 commit 2 yazar Go 11 Mar 2026 güncellendi 2 gün önce
cuda gguf llama-cpp llm metal moe multi-gpu golang
282
4
Nehanth/pooled önem 62gpt6-luna uyum 42gpt6-luna 622
pooled, birden fazla cihazın tarayıcı GPU’larını WebRTC üzerinden birleştirerek büyük open model’leri birlikte çalıştırmasını sağlayan bir LLM inference projesidir.
Neden yükseliyor · 27 günlük yaşına göre 461 yıldız ve son 28 günde 90 commit güçlü bir erken ilgi ve geliştirme temposuna işaret ediyor. Tarayıcıdan katılımla cihazları birleştirme fikri, yerel inference ve donanım paylaşımı ilgisini çekebilir; ancak yalnızca 2 farklı yazar olduğundan aktivite geniş bir katkıcı topluluğunun kanıtı değil. İlginin nedenini kesin olarak belirlemek mümkün değil.
10/gün ort. +2 son gün 88 commit 2 yazar JavaScript 01 Eyl 2026 güncellendi 17 gün önce
browser distributed-inference inference llm local-llm peer-to-peer speculative-decoding webgpu
622
5
peonist-ai/halogen-flash-server önem 56gpt6-luna uyum 25gpt6-luna 1.181
halogen-flash-server, Qwen3.8-Flash-Next modelini AMD Strix Halo (gfx1151) donanımında çalıştırmak için özelleştirilmiş bir inference server'dır.
Neden yükseliyor · 32 günlük repo için 722 yıldız ve son 28 günde 99 commit dikkat çekiyor. README, belirli donanım üzerindeki ölçümleri ve ölçüm koşullarını açıklıyor; ancak performans iddiaları proje tarafından sunulmuş ve bağımsız doğrulama bilgisi burada yok. 99 commit'in tek yazardan gelmesi geliştirme hızını gösterirken bakım kapasitesine dair kanıtı sınırlıyor.
17,4/gün ort. +14 son gün 67 commit 1 yazar Shell 26 Ağu 2026 güncellendi 3 gün önce
amd gfx1151 gpu-inference hip inference-engine llm llm-serving local-llm
1.181
6
prabanta-dev/janas 566
37 tok/s from Qwen3-Next-80B (48 GB) on a 32 GB laptop, 24 without drafts vs 2.8 for llama.cpp; reading 62 vs 16 tok/s. Faster than llama.cp
13,2/gün ort. +10 son gün 62 commit 1 yazar C 20 Eyl 2026 güncellendi 4 gün önce
avx2 c cpu-inference gguf inference-engine linux llm local-llm
566
7
Blackwellboy/model-serving-minefield 165
Community registry of LLM serving-path traps that produce confidently wrong measurements: templates, tool parsers, reasoning fields, quant k
1,7/gün ort. +1 son gün 34 commit 1 yazar Python 27 Tem 2026 güncellendi dün
benchmarking chat-template cuda debugging llama-cpp llm-serving lm-eval local-llm
165
8
AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-DFlash 488
Fully uncensored, capability-enhanced abliteration of Qwen3.6-27B. NVFP4 + z-lab DFlash speculative decoding (n=12) on the unified ghcr.io/a
2,6/gün ort. +0 son gün 1 commit 1 yazar Python 25 Nis 2026 güncellendi 28 gün önce
abliteration blackwell dflash dgx-spark llm nvfp4 quantization qwen
488
9
zengxiao-he/tessera 558
From teacher to tiles — a from-scratch LLM distillation & serving engine: custom Triton/CUDA kernels, FSDP distillation, paged-KV continuous
3,7/gün ort. +0 son gün 0 commit 0 yazar Python 05 Haz 2026 güncellendi 24 gün önce
cuda flash-attention fsdp inference-engine jax knowledge-distillation kv-cache llm
558
10
chiennv2000/orthrus 483
[NeurIPS 2026 Spotlight] Fast, lossless LLM inference via dual-view diffusion decoding.
2,8/gün ort. +0 son gün 0 commit 0 yazar Python 13 May 2026 güncellendi 13 Ağu 2026
diffusion-language-models efficient-inference large-language-models llm llm-efficiency model-architecture llm-inference speculative-decoding
483
11
peonist-ai/halogen-server 154
The fastest way to run Qwen3.8 27B on Strix Halo (gfx1151)
2,3/gün ort. +4 son gün 0 commit 0 yazar Python 26 Ağu 2026 güncellendi 15 Eyl 2026
amd gfx1151 gpu-inference hip inference-engine llm llm-serving local-llm
154
12
humanrouter/ddtree-mlx 145
Tree-based speculative decoding for Apple Silicon (MLX). ~10-15% faster than DFlash on code, ~1.5x over autoregressive. First MLX port with
0,7/gün ort. +0 son gün — commit Python 14 Nis 2026 güncellendi 15 Nis 2026
apple-silicon inference llm mlx speculative-decoding
145
13
Sandermage/sndr_core_engine 133
SNDR Core Engine (Genesis) — vLLM runtime patch-overlay for Qwen3.6 + Gemma4 on consumer NVIDIA (Ampere sm_86, 2× A5000/3090). Qwen3.6-35B-A
0,7/gün ort. +0 son gün — commit Python 17 Nis 2026 güncellendi 01 Eki 2026
cuda llm-inference qwen vllm speculative-decoding tool-calling rtx-3090 awq
133
14
ZinYY/OnlineSPEC 127
[ICML 2026] When Drafts Evolve: Speculative Decoding Meets Online Learning
0,5/gün ort. +0 son gün — commit Python 13 Mar 2026 güncellendi 27 Tem 2026
efficient-inference speculative-decoding on-policy-distillation online-learning parallel-decoding large-language-models llm
127
15
swellweb/reame 114
CPU-first LLM inference server on llama.cpp. Runs useful models on free-tier ARM boxes; rewriting the input made it ~6x faster and more accu
1/gün ort. +0 son gün — commit C++ 06 Tem 2026 güncellendi 22 gün önce
arm cpu edge-ai gguf inference kv-cache llama-cpp llm
114