Havuz

TokenSpeed, agentic workloads için LLM inference sunumunu hızlandırmayı ve istek yönetimini daha güvenli hale getirmeyi amaçlayan bir inference engine’dir.

Neden yükseliyor · 144 günde 2.178 yıldız ve son 28 günde 385 commit ile 20 farklı yazar, hem ilgi hem de yakın dönem geliştirme faaliyeti gösteriyor. README ayrıca PyTorch Ecosystem’e katılımı ve yeni model desteğini vurguluyor; performans iddiaları ise proje tarafından sunulan kıyaslamalara dayanıyor.

Slotstream, büyük bir MoE modelini SSD’den parça parça yükleyip yoğun kullanılan expert’leri bellekte önbelleğe alarak Apple Silicon Mac’lerde çalıştıran yerel bir inference engine’dir.

Neden yükseliyor · README, 48 GB M5 Pro üzerinde belirli koşullarda 15.86 tok/s ölçümü ve prompt işleme iyileştirmeleri yayımlıyor; son 28 günde 271 commit ve 5 farklı yazar da yoğun geliştirme faaliyetine işaret ediyor. Ancak proje yalnızca 30 günlük ve mevcut sürüm için nitelikli tam yanıt hızı ölçümünün hâlâ beklediği belirtiliyor.

MAC, doğal dildeki tasarım brief’lerinden düzenlenebilir CAD parçaları ve deneysel olarak çok parçalı assembly’ler üretir.

Neden yükseliyor · 59 günde 1006 yıldıza ulaşması, doğal dilden CAD üretimine yönelik ilgiyi ve görsel olarak etkileyici parça/assembly demolarını yansıtıyor. Ancak README, assembly örneklerinin seçilmiş çıktılar olduğunu ve ölçülmüş prompt başarı oranı sunmadığını belirtiyor; 28 günde 22 commit olsa da farklı yazar sayısının 1 olması benimseme ve sürdürülebilirlik kanıtını sınırlıyor.

halogen-flash-server, Qwen3.8-Flash-Next modelini AMD Strix Halo (gfx1151) donanımında çalıştırmak için özelleştirilmiş bir inference server'dır.

Neden yükseliyor · 32 günlük repo için 722 yıldız ve son 28 günde 99 commit dikkat çekiyor. README, belirli donanım üzerindeki ölçümleri ve ölçüm koşullarını açıklıyor; ancak performans iddiaları proje tarafından sunulmuş ve bağımsız doğrulama bilgisi burada yok. 99 commit'in tek yazardan gelmesi geliştirme hızını gösterirken bakım kapasitesine dair kanıtı sınırlıyor.

Academic Commercialization Assessment Agent, araştırma makaleleri veya konularından kaynak bağlantılı ticarileştirme değerlendirme taslakları üretir.

Neden yükseliyor · 94 günde 770 yıldıza ve son 28 günde 267 commite ulaşması görünür ilgi ve yoğun geliştirme gösteriyor. Ancak commitlerin tek yazardan gelmesi, bu aktivitenin bağımsız katkıcı veya topluluk benimsemesiyle doğrulanmadığı anlamına geliyor; ilginin kaynağı verilen bilgilerden kesinleştirilemiyor.

collabosm, kullanıcının Google Colab hesabında GPU başlatıp Qwen3.8 modellerini yerel uygulama ve OpenAI uyumlu API üzerinden kullanmasını sağlar.

Neden yükseliyor · 3 günlük bir repoda 87 yıldız dikkat çekici bir başlangıç; ancak yıldızların neden geldiği ve kullanıcıların uygulamayı gerçekten çalıştırıp çalıştırmadığı mevcut verilerden anlaşılamıyor. Son 28 günlük commit ve farklı yazar ölçümleri de yok.

PS5LM, jailbreak yapılmış PS5 üzerinde llama.cpp tabanlı GGUF modellerini çalıştırmak için hazırlanmış bir homebrew payload’ıdır.

Neden yükseliyor · Bir gün yaşında 27 yıldız almış; PS5 üzerinde yerel LLM çalıştırma fikri ve gösterilebilir demo dikkat çekici. Ancak son 28 günlük commit ve farklı yazar verisi ölçülmediğinden ilginin sürdürülebilirliği ve geliştirme temposu hakkında kanıt yok.

A harness optimized to smaller LLMs

Local AI app and inference engine for agents. Run open-weight LLMs locally — private, 100% offline on your computer. Join our Discord: https

Open-source AI browser agent for Chrome and Firefox (monorepo) 🧠

🎬 Generate images from any camera viewpoint via 3D interactive control. Drag the camera in 3D space or use sliders to set azimuth/elevation/

Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimiz

A native .NET LLM inference engine and agent runtime for GGUF models. TensorSharp provides a console application, a web-based chatbot interf

Self-hosted API-first AI call center: AI talks, code controls the call. AI agents answer every call; humans take over without dropping it. R

Official repository for MemT-1.0

Fully uncensored, capability-enhanced abliteration of Qwen3.6-27B. NVFP4 + z-lab DFlash speculative decoding (n=12) on the unified ghcr.io/a

帮你的 Claude Science 一键接入你自己的 API：DeepSeek / 通义千问 / 智谱 GLM / Kimi / MiniMax / 小米 MiMo / 硅基流动 / OpenRouter / 任意 OpenAI·Anthropic 兼容端点

A computer, compiled into the weights of a language model. An exact CPU inside Qwen3.5-4B, with Gated DeltaNet state as RAM.

Downloadable models and conversion recipes for Apple's Core AI on iPhone and Mac. Chat, vision, speech and generative models with per-model

Free open-source AI desktop app for audiobooks, podcasts, documentaries, films and animated videos with local models, cloud APIs and editabl

Open-source AI pair programming for desktop: a Mentor + Executor agent cross-check each other's code to catch AI hallucinations. Works with

本机优先的 AI 办公工作台 · A local-first AI office workbench. Turn requests and source material into editable PPTX, DOCX, XLSX and HTML files. Choose

Official Model Studio CLI（阿里云百炼 CLI）built for AI Agent frameworks, exposing models, search, multimodal, and workflow capabilities as structu

A self-improving agent. Tested on DeepSeek, Qwen, Kimi, GLM models. Supports MCP, Skills.

verl for a single consumer GPU. PPO, GRPO and on-policy distillation on NVIDIA GPUs.

Your car as a chat-room agent: Raspberry Pi 5 + dashcam + local AI. CodeWatch's sibling for the garage.

AI-enabled Intelligent Document Processing for Python: 12+ LLM backends, Pydantic schemas, self-hosted OCR (Nanonets-OCR2-3B), auto-schema d

本地运行的大模型聚合网关，GUI桌面端app，零代码部署，把Coding Plan、大模型 API 额度聚合成一个虚拟 Plan，一键接入 Claude Code、Claude Desktop App、OpenClaw、OpenCode 等工具。Bundle your scatt

Diktafon is a private, open-source voice memo app that transcribes and summarizes your recordings entirely on your device — organized like c

Refusal removal as a loadable KV-cache graft — zero weight modification, no refusal-direction projection, fully reversible.

To know what models don't say out loud.

dgx-spark-qwen38 is an open-source installer that turns an NVIDIA DGX Spark, or any GB10 machine (ASUS, Dell, HP, Lenovo, MSI, GIGABYTE, Ace

Automatically resume Claude Code, Codex CLI, Grok, Qwen Code, Kimi CLI, OpenCode, and Antigravity sessions when 5-hour or weekly usage limit

Open-source local AI client and coding agent for DeepSeek, Qwen, ChatGPT and EconomyOS with memory, voice, browser tools, OpenAI/Anthropic-c

Turn any document or a whole zip into an interactive knowledge graph, using a self-hosted Qwen3.6-35B-A3B-MTP on a single NVIDIA L4

🚀🚀 A multimodal System One decision model that gives calibrated answers to typed questions about screens, photos, video and text in one forw

Use 30+ AI models (DeepSeek, Kimi, GLM, Claude, GPT-5.5, Gemini, Grok) in GitHub Copilot Chat - free via BYOK. No Copilot Pro needed.

llama.cpp fork for significantly improved performance on Ampere generation Nvidia cards (especially RTX 3090 / 3090 Ti): example: 110+ tok/s

Drop-in OpenAI-compatible API gateway for Qwen AI models. Use your Qwen account (chat.qwen.ai) as a free AI API provider in any OpenAI-compa

🎨 Agentic skill for Qwen-Image-2.1: Rewrites and optimizes text-to-image and multi-image editing prompts using official Alibaba specificatio

Practical local LLM recipes and benchmarks for RTX 5060 Ti setups

Proxy API OpenAI-compatible que usa automação com Playwright para rotear requisições para modelos do Qwen com suporte a múltiplas contas, to

SpeakMore：口述成文，划词即译。开源、免费的语音输入与翻译工具，支持 Mac 与 Windows：语音输入、语音翻译、划词翻译。兼容 Gemini、OpenAI、通义千问、DeepSeek、Kimi、智谱 GLM、MiniMax 及任意 OpenAI 兼容服务，语音输入亦

Fully local vulnerability research pipeline - 14B code-specialized LLM reviews every source file exhaustively.

为 Claude Code 赋能多模态视觉能力，适配 纯文本 LLM 底座，用于截图 / UI / 图表分析；搭配 browser-harness 可做前端布局自动化检查。

Your smart, reliable, and friendly personal AI assistant.

Tinybot is a lightweight personal AI Agent that is constantly evolving

Your friendly, blazing-fast, self-hostable AI gateway

Clone a voice from a few minutes of audio and generate speech locally — Qwen3-TTS fine-tuning pipeline with CLI and web UI

Give any AI agent a full desktop — it sees the screen, clicks, types, and runs apps like a human. Automate anything with a UI: browsers, leg