Havuz

A computer, compiled into the weights of a language model. An exact CPU inside Qwen3.5-4B, with Gated DeltaNet state as RAM.

多模态检索实战：意图识别、Prompt 工程、Qwen LoRA、EmbeddingGemma 2 与 InfoNCE 对比学习。含真实演示、自有数据接入、训练评测及 RAG 检索组件学习指南。

Pure-Rust MoE inference engine for Qwen3.5/3.6/3.8 GGUF. CPU+GPU hybrid experts, NVRTC CUDA kernels, OpenAI-compatible server. 2x llama.cpp

halogen-flash-server, Qwen3.8-Flash-Next modelini AMD Strix Halo (gfx1151) donanımında çalıştırmak için özelleştirilmiş bir inference server'dır.

Neden yükseliyor · 32 günlük repo için 722 yıldız ve son 28 günde 99 commit dikkat çekiyor. README, belirli donanım üzerindeki ölçümleri ve ölçüm koşullarını açıklıyor; ancak performans iddiaları proje tarafından sunulmuş ve bağımsız doğrulama bilgisi burada yok. 99 commit'in tek yazardan gelmesi geliştirme hızını gösterirken bakım kapasitesine dair kanıtı sınırlıyor.

Open-source AI browser agent for Chrome and Firefox (monorepo) 🧠

PS5LM, jailbreak yapılmış PS5 üzerinde llama.cpp tabanlı GGUF modellerini çalıştırmak için hazırlanmış bir homebrew payload’ıdır.

Neden yükseliyor · Bir gün yaşında 27 yıldız almış; PS5 üzerinde yerel LLM çalıştırma fikri ve gösterilebilir demo dikkat çekici. Ancak son 28 günlük commit ve farklı yazar verisi ölçülmediğinden ilginin sürdürülebilirliği ve geliştirme temposu hakkında kanıt yok.

Black-box LLM distillation for any verifiable task, with text or image inputs: teacher API -> rejection sampling -> SFT -> eval -> GRPO

Source code of Local Code, a private AI agent for Mac, iPad and iPhone. Runs DeepSeek 4.1 on device, with Python, Node.js and a shell built

Local AI app and inference engine for agents. Run open-weight LLMs locally — private, 100% offline on your computer. Join our Discord: https

TokenSpeed, agentic workloads için LLM inference sunumunu hızlandırmayı ve istek yönetimini daha güvenli hale getirmeyi amaçlayan bir inference engine’dir.

Neden yükseliyor · 144 günde 2.178 yıldız ve son 28 günde 385 commit ile 20 farklı yazar, hem ilgi hem de yakın dönem geliştirme faaliyeti gösteriyor. README ayrıca PyTorch Ecosystem’e katılımı ve yeni model desteğini vurguluyor; performans iddiaları ise proje tarafından sunulan kıyaslamalara dayanıyor.

Self-hosted API-first AI call center: AI talks, code controls the call. AI agents answer every call; humans take over without dropping it. R

llama.cpp fork for significantly improved performance on Ampere generation Nvidia cards (especially RTX 3090 / 3090 Ti): example: 110+ tok/s

Official repository for MemT-1.0

Qwen3.8-Flash-Next (125B MoE) up to 1M context on one or two RTX cards (tuned on 3080 10gb). A measured, tuned and benchmarked fork of Str

🚀🚀 A multimodal System One decision model that gives calibrated answers to typed questions about screens, photos, video and text in one forw

本机优先的 AI 办公工作台 · A local-first AI office workbench. Turn requests and source material into editable PPTX, DOCX, XLSX and HTML files. Choose

Slotstream, büyük bir MoE modelini SSD’den parça parça yükleyip yoğun kullanılan expert’leri bellekte önbelleğe alarak Apple Silicon Mac’lerde çalıştıran yerel bir inference engine’dir.

Neden yükseliyor · README, 48 GB M5 Pro üzerinde belirli koşullarda 15.86 tok/s ölçümü ve prompt işleme iyileştirmeleri yayımlıyor; son 28 günde 271 commit ve 5 farklı yazar da yoğun geliştirme faaliyetine işaret ediyor. Ancak proje yalnızca 30 günlük ve mevcut sürüm için nitelikli tam yanıt hızı ölçümünün hâlâ beklediği belirtiliyor.

Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimiz

SpeakMore：口述成文，划词即译。开源、免费的语音输入与翻译工具，支持 Mac 与 Windows：语音输入、语音翻译、划词翻译。兼容 Gemini、OpenAI、通义千问、DeepSeek、Kimi、智谱 GLM、MiniMax 及任意 OpenAI 兼容服务，语音输入亦

This repository is a collection of independent skills and tools for software development and automation. Each skill is a self-contained proj

A native .NET LLM inference engine and agent runtime for GGUF models. TensorSharp provides a console application, a web-based chatbot interf

A structured, versioned archive of adversarial prompt engineering techniques against Large Language Models — for AI safety research, red-tea

🔥🔥 Accelerating decision inference with exact state forking

This project is for learning: it shows how an agent loop works underneath, in a way more intuitive and visual than reading about it. Behind

Free, open-source connector agent chatbot AI browser to many App via MCP.

Open Source Brain Platform | AI training and inference in Rust

Practical local LLM recipes and benchmarks for RTX 5060 Ti setups

The fastest way to run Qwen3.8 27B on Strix Halo (gfx1151)

MAC, doğal dildeki tasarım brief’lerinden düzenlenebilir CAD parçaları ve deneysel olarak çok parçalı assembly’ler üretir.

Neden yükseliyor · 59 günde 1006 yıldıza ulaşması, doğal dilden CAD üretimine yönelik ilgiyi ve görsel olarak etkileyici parça/assembly demolarını yansıtıyor. Ancak README, assembly örneklerinin seçilmiş çıktılar olduğunu ve ölçülmüş prompt başarı oranı sunmadığını belirtiyor; 28 günde 22 commit olsa da farklı yazar sayısının 1 olması benimseme ve sürdürülebilirlik kanıtını sınırlıyor.

A harness optimized to smaller LLMs

Diktafon is a private, open-source voice memo app that transcribes and summarizes your recordings entirely on your device — organized like c

🎨 Agentic skill for Qwen-Image-2.1: Rewrites and optimizes text-to-image and multi-image editing prompts using official Alibaba specificatio

Academic Commercialization Assessment Agent, araştırma makaleleri veya konularından kaynak bağlantılı ticarileştirme değerlendirme taslakları üretir.

Neden yükseliyor · 94 günde 770 yıldıza ve son 28 günde 267 commite ulaşması görünür ilgi ve yoğun geliştirme gösteriyor. Ancak commitlerin tek yazardan gelmesi, bu aktivitenin bağımsız katkıcı veya topluluk benimsemesiyle doğrulanmadığı anlamına geliyor; ilginin kaynağı verilen bilgilerden kesinleştirilemiyor.

Kyojin: open-source engine that runs 100 GB-class open models (GLM-5.3, Qwen3.8, DeepSeek V4.1) on one desktop machine. AMD Strix Halo, NVID

An inference framework customized for AI MAX 395, compatible with both Linux and Windows, and supports deploying only qwen3.8-flash-next. Th

The fastest inference engine for Qwen3.8-27B on the NVIDIA RTX 5090: up to 500 tokens/s for one agent and up to 2,000 tokens/s for many, con

dgx-spark-qwen38 is an open-source installer that turns an NVIDIA DGX Spark, or any GB10 machine (ASUS, Dell, HP, Lenovo, MSI, GIGABYTE, Ace

A 4B decision model: calibrated probabilities for yes/no, choice and score questions over long inputs.

OpenAI-compatible inference server for Qwen3.8 on one RTX 5090 / RTX PRO 6000: the 27B at ~170 tok/s (peaks ~370), Flash-Next (125B MoE) at

Curated list of open-weight AI models with commercially exploitable licenses, verified benchmarks, and no EU restrictions.

Carefully human hand written llm jailbreaks for the latest models that are available on the market. GPT-6 Astra, GPT-6.1 SoL, Opus 4.7, Opus

Private, offline AI assistant for Android and Windows: run local LLMs (Gemma 4, Qwen, any GGUF) on your phone or PC with llama.cpp, CUDA and

Hybrid GPU + CPU inference for mixture-of-experts models, written in Rust down to the CUDA kernels. A drop-in llama-server.

A 6.87 GiB GGUF build of Qwen 3.8 27B — full 27B quality on 8 GB RAM. 96.7% HumanEval, 92.9% MMLU retention, no distillation.

Automatically resume Claude Code, Codex CLI, Grok, Qwen Code, Kimi CLI, OpenCode, and Antigravity sessions when 5-hour or weekly usage limit

🤖 Full-stack AI agent app built with React, TypeScript and LangGraph JS. Streaming, multimodal input, human-in-the-loop, native + MCP tools,

One ComfyUI skill for every AI coding agent (Claude Code, Codex, Gemini CLI, Qwen Code): drives a local ComfyUI end to end. 75 model prompt

Open-source AI dating agent — bring your own Tinder token and any LLM (OpenAI, Claude, Gemini, DeepSeek, Qwen, and more). Screens dates, mak

A self-improving agent. Tested on DeepSeek, Qwen, Kimi, GLM models. Supports MCP, Skills.

Your car as a chat-room agent: Raspberry Pi 5 + dashcam + local AI. CodeWatch's sibling for the garage.