Depo ayrıntısı

harshitkhandelwal208/hk

Local LLMs that run lean, load instantly and keep getting smarter. A from-scratch runtime + model format in Zig: zero-copy mmap, CPU/CUDA/Vulkan engines, OpenAI-compatible server, 2:4 sparsity, Net2Net growth, in-file version history, self-learning loops.

Zig Apache-2.0 13 Eylül 2026 son push 22 Ekim 2026 3 fork

ai cuda gguf huggingface inference llm mmap model-container model-format net2net openai-compatible quantization safetensors self-learning sparsity vulkan zig

GitHub'da aç

Yıldız

24+4 · 42 gün

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.