Havuz
Takip ettiğimiz konularda yükselen açık kaynak projeler — yıldız ivmesi, gerçek geliştirme aktivitesi ve AI değerlendirmesiyle.
Yalnız hareketli, son 28 günde commit almamış repoları gizler (yıldızı olan ama bırakılmış projeler). Commit sayısı henüz ölçülmemiş repolar da gizlenir.
EtiketTüm GitHub etiketleri — repo sahiplerinin koyduğu topic'lergöster
Etiketler yükleniyor…
- 1
Don't memorize ML. Understand it from first principles including Inference, Cuda, Deep Learning, Data Science and Reinforcement Learning
10,6/gün ort. +6 son gün +9,3 son 7g 474 commit 6 yazar Python 21 Ağu 2026 güncellendi dün - 2
Community registry of LLM serving-path traps that produce confidently wrong measurements: templates, tool parsers, reasoning fields, quant k
1,7/gün ort. +4 son gün +4,1 son 7g 22 commit 1 yazar Python 27 Tem 2026 güncellendi 3 gün önce - 3
Practical local LLM recipes and benchmarks for RTX 5060 Ti setups
1,1/gün ort. +2 son gün +1,1 son 7g — commit Python 15 May 2026 güncellendi 27 gün önce - 4
🔥 AI agent that ports CUDA code to AMD ROCm using local LLMs — FastAPI + React + Ollama | Live: rocmporter-agent.vercel.app
0,2/gün ort. +0 son gün +1 son 7g — commit Python 30 Haz 2026 güncellendi 31 Tem 2026 - 5
Open-source control panel for the real llama.cpp: see where a model lands in your VRAM before loading, every llama-server flag per model, on
1/gün ort. +0 son gün +0,7 son 7g — commit Python 06 Tem 2026 güncellendi dün - 6
CLI-native local AI image and video generation for people, scripts, and agents — CUDA on Linux, Metal on macOS, plus desktop, web, iPhone, R
0,2/gün ort. +1 son gün +0,4 son 7g — commit Rust 12 Mar 2026 güncellendi 5 gün önce - 7
Entrpi/ds4, a Blackwell CUDA perf fork of antirez/ds4 on NVIDIA DGX Spark: one-command install, ~3x upstream prefill, ~1.5x decode, DSpark,
2,3/gün ort. +0 son gün +0,3 son 7g 0 commit 0 yazar Shell 12 May 2026 güncellendi 27 Ağu 2026 - 8
Sleek, mobile-friendly web UI for NVIDIA LocateAnything-3B — open-vocabulary object detection & grounding on your own GPU, via one docker co
1/gün ort. +0 son gün +0,3 son 7g 0 commit 0 yazar TypeScript 27 May 2026 güncellendi 11 Eyl 2026 - 9
ScribeCrate: open-source, self-hosted Whisper speech-to-text server powered by faster-whisper. OpenAI-compatible transcription and English t
0,6/gün ort. +0 son gün +0,3 son 7g — commit Python 08 Nis 2026 güncellendi 3 gün önce - 10
Glyd, model ağırlıklarını ve KV cache'i bit düzeyinde kayıpsız biçimde sıkıştırıp GPU'da kullanmayı hedefleyen bir compression yazılımıdır.
Neden yükseliyor · README, yaygın bir maliyet sorununa doğrudan yanıt verdiğini ve 32B ile 72B modellerde daha az GPU ile çalışmaya dair ölçümler sunuyor; ancak 9 günlük repoda 170 yıldız ve 474 commit'in yalnızca 2 farklı yazardan gelmesi, ilginin ve geliştirme temposunun geniş bir katkıcı tabanına dayandığını göstermiyor. Yükselişin kesin kaynağı veya bağımsız benimsenme verisi bilinmiyor.
6,8/gün ort. +0 son gün +0,1 son 7g 41 commit 1 yazar Rust 19 Eyl 2026 güncellendi 3 gün önce - 11
llama.cpp/ik_llama.cpp launcher: loads big MoE models across mismatched multi-GPU rigs by exact VRAM math.
1,2/gün ort. +0 son gün +0,1 son 7g — commit Go 11 Mar 2026 güncellendi dün - 12
Deploy a self-hosted AI stack with Docker Compose: local LLMs, chat, document parsing, embeddings, transcription, text-to-speech and MCP too
0,9/gün ort. +0 son gün +0,1 son 7g 17 commit 1 yazar Shell 05 May 2026 güncellendi 3 gün önce - 13
GPU-accelerated transparent compression S3-compatible storage gateway. Drop-in replacement for AWS S3 endpoints; cuts your S3 bill 50-80% wi
0,9/gün ort. +0 son gün +0,1 son 7g — commit Rust 12 May 2026 güncellendi 10 Tem 2026 - 14
Durable local inference for Oh My Pi: NInfer + Qwen3.8 27B on one RTX 3090/4090/5090, with restart-resumable OpenAI Responses state.
0,7/gün ort. +0 son gün +0,1 son 7g — commit Python 27 Ağu 2026 güncellendi bugün - 15
ScribeCrate Live: self-hosted real-time transcription server powered by WhisperLive and faster-whisper. WebSocket transcription and speech-t
0,2/gün ort. +0 son gün +0,1 son 7g — commit Shell 21 Nis 2026 güncellendi 3 gün önce - 16
Operator-grade GPU monitor for NVIDIA GPUs with native GB10 / DGX Spark coherent UMA support — PSI pressure, clock detection, ConnectX-7 net
0,2/gün ort. +1 son gün +0,1 son 7g — commit Python 17 Nis 2026 güncellendi 31 May 2026 - 17
Catch local LLMs spilling into the CPU. One run shows GPU placement, prefill, decode, memory, power and a verdict.
0,2/gün ort. +0 son gün +0,1 son 7g — commit Python 10 Tem 2026 güncellendi 28 Eyl 2026 - 18
SNDR Core Engine (Genesis) — vLLM runtime patch-overlay for Qwen3.6 + Gemma4 on consumer NVIDIA (Ampere sm_86, 2× A5000/3090). Qwen3.6-35B-A
0,7/gün ort. +0 son gün +0 son 7g — commit Python 17 Nis 2026 güncellendi 01 Eki 2026 - 19
Agent-friendly GPU profile-query CLI
0,9/gün ort. +0 son gün +0 son 7g 0 commit 0 yazar Rust 05 Haz 2026 güncellendi 05 Eki 2026 - 20
Evaluating frontier models on real-world ai-infra engineering tasks
0,7/gün ort. +0 son gün +0 son 7g — commit Python 08 Ağu 2026 güncellendi 3 gün önce - 21
llama.cpp speculative decoding measured on one RTX 3090, Qwen3.6-35B-A3B UD-Q4_K_XL, commit 3737e4137. Published figures are re-derived from
0,2/gün ort. +0 son gün +0 son 7g — commit Python 21 Nis 2026 güncellendi 16 gün önce - 22
SpeakCrate: self-hosted text-to-speech API powered by Kokoro. OpenAI-compatible speech endpoint, 50+ voices across 9 languages, streamed aud
0,1/gün ort. +0 son gün +0 son 7g — commit Python 09 Nis 2026 güncellendi 3 gün önce - 23
Benchmarks and notes for running modern LLMs with vLLM on 8x Tesla V100-32GB in 2026.
0,2/gün ort. +0 son gün +0 son 7g — commit Python 26 Haz 2026 güncellendi 10 Tem 2026 - 24
ParseCrate: self-hosted document processing API powered by Docling and docling-serve. Converts PDF, DOCX, PPTX, HTML, and more to Markdown/J
0,1/gün ort. +0 son gün +0 son 7g — commit Jupyter Notebook 11 May 2026 güncellendi 3 gün önce