Açık kaynak radarı

Havuz

Takip ettiğimiz konularda yükselen açık kaynak projeler — yıldız ivmesi, gerçek geliştirme aktivitesi ve AI değerlendirmesiyle.

repo · sayfa 1 / 1

Sırala

Yıldız/gün (hız)Son gün (★/gün)Son hafta (★/gün)Son ay (★/gün)Toplam yıldız AI önem skoru Bana uyum Commit (28g)Yazar (28g)En yeni

Konu

Tümü AI / LLM18 Veri9 Geliştirici araçları13 Diğer3 SaaS altyapı13 Web11

Süz

Yalnız hareketli Yalnız analizli≥ 0 ≥ 100 ≥ 500 ≥ 2.000

Yalnız hareketli, son 28 günde commit almamış repoları gizler (yıldızı olan ama bırakılmış projeler). Commit sayısı henüz ölçülmemiş repolar da gizlenir.

EtiketTüm GitHub etiketleri — repo sahiplerinin koyduğu topic'lergöster

Sırala:

Etiketler yükleniyor…

Aktif inference-engine

1
FareedKhan-dev/kimi-k3-in-c önem 38gpt6-luna uyum 20gpt6-luna 9.465
kimi-k3-in-c, Kimi K3 modelinde inference çalıştırmayı hedefleyen bağımlılıksız bir C99 motorudur.
Neden yükseliyor · 57 günde 8.683 yıldız alması ve Kimi K3'ü 8 GB RAM'li CPU'da çalıştırma iddiası dikkat çekiyor; ancak son 28 gündeki 12 commit'in tek yazardan gelmesi, ilginin bağımsız teknik doğrulama veya geniş katkıcı tabanıyla desteklendiğini göstermiyor.
100,7/gün ort. +191 son gün +19,9 son 30g 0 commit 0 yazar C 01 Ağu 2026 güncellendi 02 Eki 2026
avx2 c99 cpu-inference deep-learning from-scratch inference-engine kimi-k3 linear-attention
9.465
2
peonist-ai/halogen-flash-server önem 56gpt6-luna uyum 25gpt6-luna 1.196
halogen-flash-server, Qwen3.8-Flash-Next modelini AMD Strix Halo (gfx1151) donanımında çalıştırmak için özelleştirilmiş bir inference server'dır.
Neden yükseliyor · 32 günlük repo için 722 yıldız ve son 28 günde 99 commit dikkat çekiyor. README, belirli donanım üzerindeki ölçümleri ve ölçüm koşullarını açıklıyor; ancak performans iddiaları proje tarafından sunulmuş ve bağımsız doğrulama bilgisi burada yok. 99 commit'in tek yazardan gelmesi geliştirme hızını gösterirken bakım kapasitesine dair kanıtı sınırlıyor.
17,3/gün ort. +15 son gün +12,3 son 30g — commit Shell 26 Ağu 2026 güncellendi 3 gün önce
amd gfx1151 gpu-inference hip inference-engine llm llm-serving local-llm
1.196
3
carloslfu/slotstream önem 64gpt6-luna uyum 38gpt6-luna 645
Slotstream, büyük bir MoE modelini SSD’den parça parça yükleyip yoğun kullanılan expert’leri bellekte önbelleğe alarak Apple Silicon Mac’lerde çalıştıran yerel bir inference engine’dir.
Neden yükseliyor · README, 48 GB M5 Pro üzerinde belirli koşullarda 15.86 tok/s ölçümü ve prompt işleme iyileştirmeleri yayımlıyor; son 28 günde 271 commit ve 5 farklı yazar da yoğun geliştirme faaliyetine işaret ediyor. Ancak proje yalnızca 30 günlük ve mevcut sürüm için nitelikli tam yanıt hızı ölçümünün hâlâ beklediği belirtiliyor.
9,6/gün ort. +5 son gün +7,8 son 30g — commit Swift 28 Ağu 2026 güncellendi dün
apple-silicon llm llm-inference local-llm macos mixture-of-experts mlx ollama
645
4
zhongkaifu/TensorSharp 652
A native .NET LLM inference engine and agent runtime for GGUF models. TensorSharp provides a console application, a web-based chatbot interf
3/gün ort. +2 son gün +4,2 son 30g — commit C# 03 Nis 2026 güncellendi bugün
gemma inference inference-engine llm qwen transformers gemma4 gguf
652
5
giannisanni/pulsar 234
SSD-streaming inference engine for giant MoE models (Rust + CUDA). GLM 5.2 743B at 2 tok/s and Hy3 295B at 7 tok/s on two consumer 16GB GPUs
2,1/gün ort. +3 son gün +0,3 son 30g — commit Rust 13 Tem 2026 güncellendi 01 Eyl 2026
cuda gguf glm inference-engine llm local-llm mixture-of-experts moe
234
6
Geekgineer/needle-rs 107
600 KB WASM runtime for Cactus Compute's Needle AI tool-calling models, Needle 3, 2 and 1 from one build. Browser, Cloudflare Workers, Node.
0,6/gün ort. +1 son gün +0,2 son 30g — commit Rust 17 May 2026 güncellendi 20 Eyl 2026
ai browser-ai function-calling llm no-std rust tool-calling transformer
107
7
FareedKhan-dev/glm-5.2-in-c 75
GLM-5.2, a 744 billion parameter mixture of experts model, in a pure C inference engine: quantized to int4, experts streamed from disk, depl
0,7/gün ort. +0 son gün +0,1 son 30g — commit C 15 Tem 2026 güncellendi 15 Tem 2026
c consumer-hardware cpu-inference cuda deep-learning edge-ai glm inference-engine
75
8
Llaminar/llaminar 47
🚿 Llaminar: an LLM inferencing engine in C++.
0,2/gün ort. +0 son gün +0,1 son 30g — commit C++ 16 Nis 2026 güncellendi dün
ai inference-engine llm
47
9
xigh/herbert-rs 44
Local LLM inference engine written from scratch in Rust — hand-written AVX-512 assembly kernels, Metal & Vulkan compute shaders. Supports Qw
0,2/gün ort. +0 son gün +0,1 son 30g — commit Rust 15 Mar 2026 güncellendi 2 gün önce
gemma ia llm moe opensource openweight qwen inference
44
10
shyringo/deepseek-v4-flash-0731-in-c 28
Run the native 284B-A13B DeepSeek-V4-Flash-0731 LLM locally on one laptop CPU: pure C, 8 GB RAM minimum, no GPU, best TPOT 0.892 s/token, re
0,4/gün ort. +0 son gün +0,1 son 30g — commit C 16 Ağu 2026 güncellendi 09 Eyl 2026
c deepseek deepseek-v4 inference-engine llm llm-inference local-llm mixture-of-experts
28
11
melonmath/microkimi 26
The Kimi K3 and DeepSeek-V4-Flash-0731 architectures, reimplemented from scratch in pure Rust (zero dependencies) and verified 1:1 against t
0,3/gün ort. +0 son gün +0,1 son 30g — commit Rust 31 Tem 2026 güncellendi 19 Ağu 2026
from-scratch inference-engine kimi linear-attention llm machine-learning mixture-of-experts moe
26
12
ferrumox/fox 190
A local LLM server built for concurrent work. Drop-in replacement for Ollama and/or OpenAI and Ollama APIs on one port. Requests that share
0,8/gün ort. +0 son gün +0 son 30g — commit Rust 08 Mar 2026 güncellendi 22 Ağu 2026
cuda gguf inference-engine llama-cpp llm local-llm mlx ollama
190
13
prayangshuuu/hummingbird 61
hummingbird is a lightweight, zero dependency runtime for massive open source Mixture of Experts (MoE) language models. It unifies SSD, RAM,
0,6/gün ort. +0 son gün +0 son 30g — commit C 21 Tem 2026 güncellendi 31 Tem 2026
c17 ai-inference artificial-intelligence cross-platform deepseek glm gpt-oss inference-engine
61
14
zouyee/dmlx 61
Big models. Small Macs. Zero excuses.
0,3/gün ort. +0 son gün +0 son 30g — commit Zig 28 Nis 2026 güncellendi 07 Eyl 2026
apple apple-silicon inference-engine llm llms mlx
61
15
Bellman281/esp32-tinyLLM 48
Rust inference engine for a 28.9M-parameter PLE TinyLM on the ESP32-S3 — 9.4 tok/s, faster than the C implementation it was ported from
0,5/gün ort. +0 son gün +0 son 30g — commit Rust 02 Ağu 2026 güncellendi 20 Ağu 2026
esp32 rust rust-crate rust-lang embedded esp32-s3 inference-engine llm
48
16
iBz-04/quaynor 35
AI inference library for mobile devices
0,2/gün ort. +0 son gün +0 son 30g — commit Rust 28 Nis 2026 güncellendi 29 Ağu 2026
inference-engine llm-inference local-ai ollama llamacpp rust python-ai flutter
35
17
RightNow-AI/TIDE 34
Dynamic per-token early exit for LLM inference. Skip layers tokens don't need
0,1/gün ort. +0 son gün +0 son 30g — commit Python 17 Mar 2026 güncellendi 18 Eyl 2026
early-exit inference inference-api inference-engine llm optimization transformer
34
18
zengxiao-he/tessera 558
From teacher to tiles — a from-scratch LLM distillation & serving engine: custom Triton/CUDA kernels, FSDP distillation, paged-KV continuous
3,7/gün ort. +0 son gün -0,2 son 30g — commit Python 05 Haz 2026 güncellendi 24 gün önce
cuda flash-attention fsdp inference-engine jax knowledge-distillation kv-cache llm
558