Açık kaynak radarı

Havuz

Takip ettiğimiz konularda yükselen açık kaynak projeler — yıldız ivmesi, gerçek geliştirme aktivitesi ve AI değerlendirmesiyle.

repo · sayfa 1 / 1

Sırala

Yıldız/gün (hız)Son gün (★/gün)Son hafta (★/gün)Son ay (★/gün)Toplam yıldız AI önem skoru Bana uyum Commit (28g)Yazar (28g)En yeni

Konu

Tümü AI / LLM18 Veri9 Geliştirici araçları13 Diğer3 SaaS altyapı13 Web11

Süz

Yalnız hareketli Yalnız analizli≥ 0 ≥ 100 ≥ 500 ≥ 2.000

Yalnız hareketli, son 28 günde commit almamış repoları gizler (yıldızı olan ama bırakılmış projeler). Commit sayısı henüz ölçülmemiş repolar da gizlenir.

EtiketTüm GitHub etiketleri — repo sahiplerinin koyduğu topic'lergöster

Sırala:

Etiketler yükleniyor…

Aktif llm-serving

1
ekzhang/resin 378
🧱 Experimental library for building inference engines
4,3/gün ort. +11 son gün +18,7 son 7g 329 commit 5 yazar Python 08 Ağu 2026 güncellendi bugün
cuda deepseek gpt-oss gpu inference inkling llm llm-serving
378
2
peonist-ai/halogen-flash-server önem 56gpt6-luna uyum 25gpt6-luna 1.196
halogen-flash-server, Qwen3.8-Flash-Next modelini AMD Strix Halo (gfx1151) donanımında çalıştırmak için özelleştirilmiş bir inference server'dır.
Neden yükseliyor · 32 günlük repo için 722 yıldız ve son 28 günde 99 commit dikkat çekiyor. README, belirli donanım üzerindeki ölçümleri ve ölçüm koşullarını açıklıyor; ancak performans iddiaları proje tarafından sunulmuş ve bağımsız doğrulama bilgisi burada yok. 99 commit'in tek yazardan gelmesi geliştirme hızını gösterirken bakım kapasitesine dair kanıtı sınırlıyor.
17,3/gün ort. +15 son gün +11,6 son 7g 67 commit 1 yazar Shell 26 Ağu 2026 güncellendi 3 gün önce
amd gfx1151 gpu-inference hip inference-engine llm llm-serving local-llm
1.196
3
leonxger/deepseek-colab 24
Uncensored DeepSeek-V4.1-Flash IQ2_XS on Google Colab
6/gün ort. +10 son gün +10 son 1g 1 commit 1 yazar Python 30 Eki 2026 güncellendi 4 gün önce
colab cuda deepseek deepseek-v4 gguf google-colab gpu llama-cpp
24
4
Blackwellboy/model-serving-minefield 168
Community registry of LLM serving-path traps that produce confidently wrong measurements: templates, tool parsers, reasoning fields, quant k
1,7/gün ort. +3 son gün +3,9 son 7g 36 commit 1 yazar Python 27 Tem 2026 güncellendi dün
benchmarking chat-template cuda debugging llama-cpp llm-serving lm-eval local-llm
168
5
peonist-ai/halogen-server 154
The fastest way to run Qwen3.8 27B on Strix Halo (gfx1151)
2,2/gün ort. +0 son gün +1,9 son 7g 0 commit 0 yazar Python 26 Ağu 2026 güncellendi 15 Eyl 2026
amd gfx1151 gpu-inference hip inference-engine llm llm-serving local-llm
154
6
anthony-chaudhary/fak 45
Agentic Runtime
0,3/gün ort. +1 son gün +0,4 son 7g — commit Go 21 Haz 2026 güncellendi bugün
agent-kernel agentic-ai ai-agents ai-gateway claude-code context-compression gguf golang
45
7
pegainfer-project/pega-omni 50
OpenAI-compatible speech serving in Rust: streaming TTS and full-duplex voice over GPT-Live. 128 concurrent PersonaPlex sessions on one GPU.
1,2/gün ort. +0 son gün +0,1 son 7g — commit Rust 23 Eyl 2026 güncellendi 30 Eyl 2026
cuda full-duplex gpt-live inference-server llm-serving moshi openai-api personaplex
50
8
Sandermage/sndr_core_engine 133
SNDR Core Engine (Genesis) — vLLM runtime patch-overlay for Qwen3.6 + Gemma4 on consumer NVIDIA (Ampere sm_86, 2× A5000/3090). Qwen3.6-35B-A
0,7/gün ort. +0 son gün +0 son 7g — commit Python 17 Nis 2026 güncellendi 01 Eki 2026
cuda llm-inference qwen vllm speculative-decoding tool-calling rtx-3090 awq
133
9
Reederey87/glm53-flash-exl3-2x-dgx-spark 63
GLM-5.3-Flash EXL3 (320B MoE) on 2x NVIDIA DGX Spark — production serving kit, 1M context, 97%+ multi-session prefix caching, DFlash2 spec d
0,9/gün ort. +0 son gün +0 son 7g — commit Python 27 Ağu 2026 güncellendi 16 gün önce
dgx-spark exl3 flashinfer gb10 glm llm-inference llm-serving self-hosted
63
10
0xBakeer/Qwen3.8-27B-FP8-on-a-single-DGX-Spark 55
Serving Qwen3.8-27B-FP8 on a single DGX Spark (GB10): 7.88 to 58.5 tok/s single-stream from decode strategy alone, weights untouched. Specul
0,7/gün ort. +0 son gün +0 son 7g — commit Python 16 Ağu 2026 güncellendi 30 Eyl 2026
benchmark dflash2 dgx-spark fp8 gb10 llama-cpp llm-inference llm-serving
55
11
0xBakeer/Qwen3.8-27B-4-bit-on-a-single-DGX-Spark 51
Serving 4-bit Qwen3.8-27B on a single DGX Spark (GB10): 75 tok/s single-stream, 246 tok/s aggregate at 8-way concurrency. NVFP4 vs MixedInt4
0,6/gün ort. +0 son gün +0 son 7g — commit Python 16 Ağu 2026 güncellendi 30 Eyl 2026
autoround benchmark dgx-spark gb10 int4 llm-inference llm-serving marlin
51
12
omgitsbase/llmash 37
Ollama-compatible LLM server on a tuned llama.cpp fork. Beats vllm by 40% on single stream decode, and by 20% on multi stream decode, and be
0,6/gün ort. +0 son gün +0 son 7g — commit C++ 06 Eyl 2026 güncellendi bugün
abliteration cuda gemma gguf inference-engine llama-cpp llm llm-inference
37
13
Quartermaster-Labs/Quartermaster 33
Local AI for your whole house: chat, images and voice on your own GPU. Computes each model's flags, fits them to your VRAM, and hot-swaps th
0,2/gün ort. +0 son gün +0 son 7g — commit Go 17 Haz 2026 güncellendi 2 gün önce
anthropic-api gguf golang image-generation inference-server llamacpp llm llm-inference
33
14
MerkyorLynn/lynn-engine 28
Lynn 原生 LLM 推理引擎 · W4A8/NVFP4 量化 · 自写 CUDA/Triton kernel · MoE · 投机解码 | Lynn-native LLM inference engine for NVIDIA Blackwell
0,2/gün ort. +0 son gün +0 son 7g — commit Python 08 May 2026 güncellendi 08 Haz 2026
ai-inference blackwell cuda deep-learning fp8 gpu gpu-acceleration high-performance-computing
28
15
jiahongsigma/Efficient-LLM-Inference-Serving-Systems 25
Why is LLM inference slow — and how do you make it fast? A hands-on, first-principles course: roofline → KV cache → quantization → paralleli
0,2/gün ort. +0 son gün +0 son 7g — commit Python 30 Haz 2026 güncellendi 11 Ağu 2026
cuda deep-learning flash-attention gpu inference-optimization kv-cache llm llm-inference
25
16
neilthomas89440-crypto/inferna-next 24
Self-hosted GPU cluster orchestration: deploy and serve open-source AI models on your own hardware — FastAPI control plane, worker agents, v
0,3/gün ort. +0 son gün +0 son 7g — commit Python 15 Ağu 2026 güncellendi 7 gün önce
docker fastapi gpu-cluster gpu-orchestration grpc inference-server llm-serving model-serving
24
17
Multicorewareinc/M-Stack 22
Declarative Python SDK for building AI inference platforms on Kubernetes — bare machines to a served model, composed rather than hand-assemb
0,4/gün ort. +0 son gün +0 son 7g — commit Python 11 Eyl 2026 güncellendi 22 Eyl 2026
ai-infrastructure gateway-api gpu helm inference infrastructure-as-code kserve kubernetes
22
18
amasu/dgx-spark-qwen38 13
Docker compose configs for serving Qwen3.8-27B on a DGX Spark (GB10): vLLM+MTP current, SGLang+DSPARK + FP8 rollback stacks
0,2/gün ort. +0 son gün +0 son 7g — commit Shell 18 Ağu 2026 güncellendi 7 gün önce
blackwell dgx-spark docker docker-compose fp8 gb10 llm llm-serving
13
19
zorost/sparkduet 0
Serve DeepSeek and Qwen, run an on-demand model library, and fine-tune with Unsloth QLoRA on 2x NVIDIA DGX Spark. TP=2 vLLM lanes behind one
0/gün ort. +0 son gün +0 son 7g — commit Python 25 Ağu 2026 güncellendi 07 Eyl 2026
coding-agents deepseek dgx-spark fine-tuning gb10 homelab llama-swap llm-inference
0