Havuz

AI API 中转站评测排行与切换工具：实测可用率、延迟与价格 · Open-source AI API relay benchmark, rankings & switcher for Claude Code / Codex

Project Maya - run GLM-5.3-Flash (321B MoE), DeepSeek-V4.1-Flash-1017 (748B MoE) and MiniMax-M3.1-Flash (428B MoE) privately on your own GPU

Memmy Agent, farklı AI agent’lar arasında ortak ve kalıcı bağlam sunan bir memory hub ile agent runtime sağlayan bir uygulamadır.

Neden yükseliyor · 73 günlük yaşına rağmen 1.987 yıldız ve son 28 günde 499 commit ile 15 farklı yazarın katkısı var; bu, yalnızca README iddialarından ibaret olmayan belirgin bir geliştirme hareketliliğine işaret ediyor. Farklı agent’lar arasında bağlamı taşıma ihtiyacı da güncel ve görünür bir kullanım alanı.

halogen-flash-server, Qwen3.8-Flash-Next modelini AMD Strix Halo (gfx1151) donanımında çalıştırmak için özelleştirilmiş bir inference server'dır.

Neden yükseliyor · 32 günlük repo için 722 yıldız ve son 28 günde 99 commit dikkat çekiyor. README, belirli donanım üzerindeki ölçümleri ve ölçüm koşullarını açıklıyor; ancak performans iddiaları proje tarafından sunulmuş ve bağımsız doğrulama bilgisi burada yok. 99 commit'in tek yazardan gelmesi geliştirme hızını gösterirken bakım kapasitesine dair kanıtı sınırlıyor.

Slotstream, büyük bir MoE modelini SSD’den parça parça yükleyip yoğun kullanılan expert’leri bellekte önbelleğe alarak Apple Silicon Mac’lerde çalıştıran yerel bir inference engine’dir.

Neden yükseliyor · README, 48 GB M5 Pro üzerinde belirli koşullarda 15.86 tok/s ölçümü ve prompt işleme iyileştirmeleri yayımlıyor; son 28 günde 271 commit ve 5 farklı yazar da yoğun geliştirme faaliyetine işaret ediyor. Ancak proje yalnızca 30 günlük ve mevcut sürüm için nitelikli tam yanıt hızı ölçümünün hâlâ beklediği belirtiliyor.

Self-hosted LLM router with a managed safety net. OpenAI-compatible. BYOK. Single-workspace. Streaming. For more advanced routing choose hos

Pentest Harness, yetkili güvenlik testleri için farklı LLM sağlayıcılarını ve pentest araçlarını yerel bir arayüzde birleştiren self-hosted bir agent çalışma alanıdır.

Neden yükseliyor · 33 günlük bir repoda 398 yıldız dikkat çekiyor; ancak README dışındaki benimseme verisi bilinmiyor ve son 28 günde 2 commit ile 2 farklı yazar görülmesi geliştirme temposu hakkında güçlü kanıt sunmuyor.

⚡ 别让支付卡死 AI 生产力！用 CoreGold 彻底解决 Cursor / Claude 充值风控

Gemini web → OpenAI-compatible + native Gemini API, self-hosted, no API key. Reverse-proxies gemini.google.com into /v1/chat/completions + /

Uncensored DeepSeek-V4.1-Flash IQ2_XS on Google Colab

Anything to API (万物皆可2API): put an AI agent, a script, or even yourself behind an OpenAI-compatible API

Local security audit for AI API relays and LLM proxies: detects prompt injection, model substitution, tool-call rewriting, SSE anomalies, er

在线检测：veridrop.app｜AI API 中转站检测工具：Claude 中转站检测、OpenAI 中转站检测、Gemini 中转站检测，中转站真伪检测、长上下文验证、思维签名验证、中转站红黑榜，自托管开源。

⚡ Native MLX Swift LLM inference server for Apple Silicon. OpenAI-compatible API, SSD streaming for 100B+ MoE models, TurboQuant KV cache co

dgx-spark-qwen38 is an open-source installer that turns an NVIDIA DGX Spark, or any GB10 machine (ASUS, Dell, HP, Lenovo, MSI, GIGABYTE, Ace

Self-hosted AI marketplace, token billing engine & OpenAI-compatible Go API gateway with atomic PostgreSQL ledger, escrow commerce, and Stri

Turn your Android phone into an OpenAI-compatible LLM inference server - Fully local, private and Open Source

collabosm, kullanıcının Google Colab hesabında GPU başlatıp Qwen3.8 modellerini yerel uygulama ve OpenAI uyumlu API üzerinden kullanmasını sağlar.

Neden yükseliyor · 3 günlük bir repoda 87 yıldız dikkat çekici bir başlangıç; ancak yıldızların neden geldiği ve kullanıcıların uygulamayı gerçekten çalıştırıp çalıştırmadığı mevcut verilerden anlaşılamıyor. Son 28 günlük commit ve farklı yazar ölçümleri de yok.

The fastest way to run Qwen3.8 27B on Strix Halo (gfx1151)

Run any local LLM engine, auto-tuned to your GPU — polished web UI + OpenAI/Anthropic-compatible API. Point Claude Code at your own machine

把腾讯 WorkBuddy 账号变成 OpenAI 兼容 API 的多账号网关。请求头照官方桌面端逐项对齐，主备入口 + HTTPDNS 自动切换，国内 / 国际双域合池，企业号可用 Claude，签到与成长任务全自动，React 管理面板支持一键更新。原版 workbuddy2

Windows 微信群聊机器人：按设定人设回复群消息，本地运行、接入你自己的模型 API。控制台为原生桌面窗口（27 个面板），发消息/切会话/发图/发表情走后台投递——不动鼠标、不要求微信窗口可见。非官方产品，与腾讯无关。

The fastest inference engine for Qwen3.8-27B on the NVIDIA RTX 5090: up to 500 tokens/s for one agent and up to 2,000 tokens/s for many, con

Serve your models fast on your own infra in 3 steps.

Turn a model gateway into a standard OpenAI-compatible API with a built-in web console. Zero deps (Node.js built-ins only). 把华为云果办 OfficeAce

⚡ CLI toolkit for Google Flow — Nano Banana Pro images, Omni Flash videos, MCP v2 & OpenAI API.

Turn scattered notes, docs and transcripts into a queryable Markdown wiki — an LLM knowledge-base compiler with MCP access, no embeddings, s

Use your own DeepSeek web account through OpenAI & Anthropic-compatible APIs. FastAPI reverse proxy with tool calling, vision & streaming.

The full featured self-hosted Codex gateway, for teams, agents and you

Open-source local AI client and coding agent for DeepSeek, Qwen, ChatGPT and EconomyOS with memory, voice, browser tools, OpenAI/Anthropic-c

Published: 2026-10-18

OpenAI-compatible speech serving in Rust: streaming TTS and full-duplex voice over GPT-Live. 128 concurrent PersonaPlex sessions on one GPU.

The lowest-overhead LLM router. Production-ready, highly available, one OpenAI-compatible endpoint in front of 80 providers and your own vLL

llama.cpp/ik_llama.cpp launcher: loads big MoE models across mismatched multi-GPU rigs by exact VRAM math.

JoyCode API 代理 — 协议翻译成 Anthropic/OpenAI 兼容格式，让 Claude Code 直接调用 JoyCode支持的模型，比如GLM 5.1等

Self-hosted, Docker-first OpenAI-compatible LLM gateway with provider routing, fallbacks, API keys, and usage controls.

FreeDeepseekAPI-EN, DeepSeek Web oturumunu yerel ve OpenAI uyumlu API uçları üzerinden istemcilere bağlayan deneysel bir proxy sunar.

Neden yükseliyor · DeepSeek Web’i yaygın API uyumlu araçlara bağlama ve resmi API dışında kullanım olanağı sunma vaadi dikkat çekebilir. Ancak 22 günlük yaş, 37 yıldız ve son 28 günde tek commit ile tek yazar, ilginin sürdürülebilir benimsemeye dönüştüğünü göstermek için henüz zayıf kanıt.

感谢马斯克 让我grok自由，免费注册grok 无数个号。然后cpa自由使用

Open-source control panel for the real llama.cpp: see where a model lands in your VRAM before loading, every llama-server flag per model, on

Zero-leak online detection of LLM decoding corruption and Free Web Search for your AI agents! Catch repetition loops, language drift and gar

CPU-first LLM inference server on llama.cpp. Runs useful models on free-tier ARM boxes; rewriting the input made it ~6x faster and more accu

Get more intelligence from every bit. Better quantization formats and smarter calibration let larger, stronger models run smoothly on the ha

Turn WorkBuddy / CodeBuddy (Tencent) quota into a local OpenAI + Anthropic compatible API. Zero-dependency Node.js, multi-account pool with

Native Rapid-MLX provider for DeepSeek Harness (dsh) — dsh reads model facts from the server instead of your settings.yaml.

IELTS Writing marker: band scores for all four criteria, every mistake marked in your text, and a plan for your next band using OpenAI API

OpenAI-compatible inference server for Qwen3.8 on one RTX 5090 / RTX PRO 6000: the 27B at ~170 tok/s (peaks ~370), Flash-Next (125B MoE) at

A local LLM server built for concurrent work. Drop-in replacement for Ollama and/or OpenAI and Ollama APIs on one port. Requests that share

Selfhost modern LLM stacks. Run the whole fleet from your terminal

把 CodeArts Agent（华为云码道）桌面端的上游模型服务复刻成 OpenAI / Anthropic 兼容的 Go 网关 · 复用本机已登录凭据 · 纯标准库零依赖

An open standard for portable, interoperable AI memory across tools, sessions, and devices.