Havuz

A blazingly fast programmatic video engine, made for agents.

🧱 Experimental library for building inference engines

Uncensored DeepSeek-V4.1-Flash IQ2_XS on Google Colab

tty7, oturumları uygulama kapandıktan sonra da sürdüren; shell, SSH ve coding agent iş akışlarını bir araya getiren Rust tabanlı bir terminal workbench’tir.

Neden yükseliyor · 83 günlük yaşına karşın 1124 yıldız ve son 28 günde 320 commit, projeye belirgin ilgi ve yoğun geliştirme olduğunu gösteriyor. README’deki persistent sessions, agent desteği ve SSH özelliklerini tek bir terminal workbench’te birleştirmesi de dikkat çekici; ancak son dönemdeki 4 farklı yazar, geliştirme etkinliğinin sınırlı sayıda kişide toplandığını gösteriyor.

OpenLake, GPU tabanlı LLM inference ve training iş yükleri için dağıtık, kalıcı ve yüksek throughput hedefleyen bir storage engine'dir.

Neden yükseliyor · 154 günlük bir repo için 2.658 yıldız dikkat çekici; KV cache offload ve GPU kullanımını artırma gibi güncel, maliyetle doğrudan ilişkili bir altyapı sorununa odaklanıyor. Son 28 günde 16 commit var, ancak bunlar yalnızca 3 farklı yazardan geliyor. README'deki benchmark ve performans iddiaları proje tarafından yayımlanmış; verilen bilgiler bağımsız doğrulamayı göstermiyor.

A high-performance framework for training LLMs, VLMs, diffusion, and embodied models on NVIDIA GPUs and Kunlun XPUs. Supports Pi0.5, GR00T

Berth is a lightweight GPU resource manager written in Go. It controls which applications get access to your GPU, when they get it, and how

System monitor for workstations, laptops and NAS — terminal UI and native GUI, many hosts over SSH. A btop alternative.

P104-100 (GP104) PCIe Gen2 x4 unlock tool for Windows. Gen1 x4 -> Gen2 x4: 0.78 -> 1.55 GB/s measured.

High-performance native SSH client in Rust, GPU-rendered with GPUI: host manager, terminal, WinSCP-style SFTP and port forwarding. Rust 编写、G

Serve your models fast on your own infra in 3 steps.

Programmable, verifiable execution on Xbox Series X Developer Mode, with agent-native workflows, XVM, CPU/GPU runtimes and evidence-bound ex

Nuvex, Solana üzerinde ECVRF kanıtlarıyla doğrulanabilir randomness sunmayı hedefleyen, henüz erken aşamadaki bir oracle ve verifiable compute protokolüdür.

Neden yükseliyor · 137 yıldızın 1 günlük bir repoda dikkat çektiği görülüyor; ancak bunun nedenini mevcut verilerden çıkarmak mümkün değil. Son 28 günde 4 commit ve 1 farklı yazar var; bu nedenle yıldızlar tek başına benimsenme veya olgunluk kanıtı sayılmaz.

SiliconScope, Apple Silicon Mac’lerde sistem kaynaklarını ve özel hızlandırıcıları izleyen, ayrıca uzaktaki makineleri aynı panele ekleyebilen bir macOS monitörüdür.

Neden yükseliyor · 111 günde 966 yıldıza ulaşması ve son 28 günde 48 commit alması dikkat çekiyor; README’deki ANE ve memory-bandwidth ölçümleriyle uzaktaki makineleri tek panelde toplama özellikleri de ayırt edici bir kullanım vaadi sunuyor. Üç farklı yazar aktiviteye işaret etse de ekip genişliği sınırlı; yıldızlar tek başına benimseme veya kalite kanıtı değil.

Feel how fast a local LLM runs before you buy the hardware

🔥 AI agent that ports CUDA code to AMD ROCm using local LLMs — FastAPI + React + Ollama | Live: rocmporter-agent.vercel.app

An open-source inference engine for AI functions in SQL

Self-hosted homelab dashboard in one container — GPU, local-AI VRAM, Docker, systemd, energy costs. Read-only MCP server so AI agents can ex

PantheonSim: GPU simulator for CUDA and ROCm. Run CUDA and HIP programs unmodified on a CPU, no GPU needed: simulated NVIDIA and AMD GPUs fo

Local-first AI assistant for Windows: voice (Whisper+Piper), webcam vision, FLUX image gen, image-to-3D, memory, 80+ tools. OpenAI-compatibl

An agentic system that auto-optimizes LLM workloads on AMD GPUs.

ModelSphere is an open-source LLM inference infrastructure designed to make production-grade model serving simple, efficient, and continuous

Sleek, mobile-friendly web UI for NVIDIA LocateAnything-3B — open-vocabulary object detection & grounding on your own GPU, via one docker co

Real-time hardware and LLM inference monitoring — GPU, CPU, memory, and vLLM metrics streamed to a dashboard.

Agent-friendly GPU profile-query CLI

Fastest MoE/LLM inference runtime for consumer and edge Blackwell GPUs. SN74 on Gittensor.

CLI-native local AI image and video generation for people, scripts, and agents — CUDA on Linux, Metal on macOS, plus desktop, web, iPhone, R

Overclock or undervolt your NVIDIA RTX GPU from the command line — a no-background-process MSI Afterburner alternative for Windows.

A native macOS terminal built in Swift, with Metal rendering, CJK input, and a dependency-free terminal core.

Glyd, model ağırlıklarını ve KV cache'i bit düzeyinde kayıpsız biçimde sıkıştırıp GPU'da kullanmayı hedefleyen bir compression yazılımıdır.

Neden yükseliyor · README, yaygın bir maliyet sorununa doğrudan yanıt verdiğini ve 32B ile 72B modellerde daha az GPU ile çalışmaya dair ölçümler sunuyor; ancak 9 günlük repoda 170 yıldız ve 474 commit'in yalnızca 2 farklı yazardan gelmesi, ilginin ve geliştirme temposunun geniş bir katkıcı tabanına dayandığını göstermiyor. Yükselişin kesin kaynağı veya bağımsız benimsenme verisi bilinmiyor.

collabosm, kullanıcının Google Colab hesabında GPU başlatıp Qwen3.8 modellerini yerel uygulama ve OpenAI uyumlu API üzerinden kullanmasını sağlar.

Neden yükseliyor · 3 günlük bir repoda 87 yıldız dikkat çekici bir başlangıç; ancak yıldızların neden geldiği ve kullanıcıların uygulamayı gerçekten çalıştırıp çalıştırmadığı mevcut verilerden anlaşılamıyor. Son 28 günlük commit ve farklı yazar ölçümleri de yok.

Talos ağına bağlanıp yerel Ollama üzerinden açık model inference işleri çalıştıran bir GPU worker client.

Neden yükseliyor · 87 günde 686 yıldız almış; bu, kısa sürede görünürlük kazandığını gösteriyor. Ancak son 28 günde commit ve farklı yazar sayısı sıfır, dolayısıyla güncel geliştirme veya topluluk katkısı açısından destekleyici kanıt yok.

Single-GPU LLM fine-tuning preflight: memory estimates, runnable LoRA/QLoRA recipes, and local measurements.

Run any local LLM engine, auto-tuned to your GPU — polished web UI + OpenAI/Anthropic-compatible API. Point Claude Code at your own machine

Turn any document or a whole zip into an interactive knowledge graph, using a self-hosted Qwen3.6-35B-A3B-MTP on a single NVIDIA L4

Beautiful shader components, built on vgpu and TypeGPU. 100% Free, Zero config, one command setup.

A lightweight, private system monitor that lives in your macOS menu bar. CPU, memory, battery, network, disk, GPU, temperature, fans. Zero t

GPU-accelerated transparent compression S3-compatible storage gateway. Drop-in replacement for AWS S3 endpoints; cuts your S3 bill 50-80% wi

A GPU-rendered, terminal-first workspace: Agent framework, real shells, IDE, Markdown, and multiplayer — one Rust engine.

Self-hosted vLLM made simple. Git-friendly YAML for models and profiles, full lifecycle from an intuitive CLI and TUI.

Local AI agent sandbox runtime with Firecracker, gVisor, and NVIDIA GPU sandbox support.

Legacy: self-hosted LLM/RAG stack installer for DGX Spark (arm64). The work continued as AGmind Systems Lab — measured local-LLM performance

A fancy NVIDIA GPU monitor for the terminal. One Python file, no dependencies.

A highly compliant C++ gpu accelerated html5 rendering engine as a (mostly) single header C++ zero-dependency lib - designed to run real-wor

Your all-in-one funscript editor, generator, and player. Free tracking algorithms. A Pro Pass unlocks the next level AI generation right on

Hands-on GPU/HPC infrastructure operations: K8s GPU scheduling, HAMi sharing, Slurm, observability & vLLM inference. Learn it free on a lapt

Model Dispatch and Memory Allocator: an LLM inference engine for the hardware you own. Custom CPU, ROCm, Vulkan, CUDA, Metal and Level Zero

Catch local LLMs spilling into the CPU. One run shows GPU placement, prefill, decode, memory, power and a verdict.

One command spins up Qwen3.8-27B (abliterated, NVFP4) on a rented Blackwell GPU at ~150 tok/s and wires it into your local coding agent via

Native macOS terminal with GPU rendering, durable sessions, coding-agent workflows, and SSH connectivity. Session host, daemon, and CLI supp