Havuz
Takip ettiğimiz konularda yükselen açık kaynak projeler — yıldız ivmesi, gerçek geliştirme aktivitesi ve AI değerlendirmesiyle.
Yalnız hareketli, son 28 günde commit almamış repoları gizler (yıldızı olan ama bırakılmış projeler). Commit sayısı henüz ölçülmemiş repolar da gizlenir.
EtiketTüm GitHub etiketleri — repo sahiplerinin koyduğu topic'lergöster
Etiketler yükleniyor…
- 1
iFixAi, AI agent’ları yapılandırılabilir testler ve model judge’larıyla denetleyip puan kartı ve raporlar üreten bir Python aracıdır.
Neden yükseliyor · 153 günlük bir depoda 15.702 yıldız ve son 28 günde 9 commit ile 5 farklı yazar görünmesi güçlü ilgiye ve devam eden katkıya işaret ediyor. README’de birden fazla kullanım yolu ve agent ekosistemi entegrasyonları öne çıkarılıyor; ancak yıldızlar ürün kalitesini veya değerlendirmelerin doğruluğunu kanıtlamaz.
225,2/gün ort. +870 son gün 209 commit 13 yazar Python 27 Nis 2026 güncellendi 4 gün önce - 2
SkillSpector, AI agent skills paketlerini yüklemeden önce güvenlik riskleri açısından tarayan bir Python aracıdır.
Neden yükseliyor · AI agent skills ekosistemindeki güvenlik ihtiyacına doğrudan yanıt veriyor ve NVIDIA Verified Skills pipeline'ıyla bağlantılı. 191 günlük bir repo için 18.391 yıldızın yanı sıra son 28 günde 144 commit ve 24 farklı yazar, dikkat çekmenin yalnızca README iddialarına dayanmadığını gösteriyor.
105,6/gün ort. +151 son gün 914 commit 27 yazar Python 21 Mar 2026 güncellendi dün - 3
十五个 AI 客户端的内置提示词一键替换：双击即用、可自证、改前备份、一键还原。v8.26：一键破甲全程托管（自动结束进程+注入+自动拉起）、注入步骤实时提示、写后自检回滚、托盘常驻。免装 Python 单文件 exe，完全免费开源。
21,5/gün ort. +18 son gün 71 commit 2 yazar Python 17 Eyl 2026 güncellendi 2 gün önce - 4
mu, coding agent kararlarının bir kısmını küçük bir judge modeline devrederek pi tabanlı CLI ve desktop agent sunar.
Neden yükseliyor · 14 günlük yaşına rağmen 386 yıldız, son 28 günde 731 commit ve 11 farklı yazar raporlanıyor; bu kısa sürede dikkat ve geliştirme hareketliliğine işaret ediyor. Ancak bu veriler kalıcı benimseme veya üretim olgunluğunu tek başına kanıtlamıyor.
13,9/gün ort. +6 son gün 1.447 commit 9 yazar TypeScript 22 Eyl 2026 güncellendi dün - 5
ADR, AI agent’ları keşfetmek, etkinliklerini gözlemlemek ve riskli davranışları tespit etmek için araçlar ile benchmark’lar sunan açık kaynaklı bir güvenlik sistemidir.
Neden yükseliyor · AI agent güvenliği güncel ve kurumsal ölçekte büyüyen bir ihtiyaç; Uber’in projeyi açık kaynak olarak yayımlaması, README’de üretimde kullanıldığını ve MLSys 2026’da kabul edilen bir makaleyle desteklendiğini belirtmesi ilgiyi artırıyor. 167 günde 1.620 yıldızın yanı sıra son 28 gündeki 44 commit ve 15 farklı yazar, kayda değer proje etkinliğine işaret ediyor; ancak yıldız geçmişi olmadan yükseliş hızını doğrulamak mümkün değil.
10,6/gün ort. +1 son gün 56 commit 6 yazar Python 19 Nis 2026 güncellendi 3 gün önce - 6
Local privacy proxy for AI coding agents. Keep PII and secrets out of LLMs with deterministic pseudonymization.
7,3/gün ort. +12 son gün 50 commit 1 yazar Python 21 Eki 2026 güncellendi 3 gün önce - 7
9Router — Pro edition of 9Router with Prompt Injection (system prompt or chat script per global / API key / model), per-key token quotas, ac
6,4/gün ort. +2 son gün 392 commit 2 yazar JavaScript 20 Eki 2026 güncellendi dün - 8
AI Agent Identity and Access Management and Inference Firewall
6,3/gün ort. +0 son gün 7 commit 2 yazar Python 22 Ağu 2026 güncellendi 10 gün önce - 9
A honeypot and guestbook for AI agents that land on a machine they weren't invited to
6/gün ort. +3 son gün 6 commit 1 yazar PowerShell 23 Eki 2026 güncellendi 10 gün önce - 10
Open-source antivirus and firewall for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugi
4,8/gün ort. +7 son gün 3.148 commit 6 yazar Python 28 Mar 2026 güncellendi dün - 11
Local security audit for AI API relays and LLM proxies: detects prompt injection, model substitution, tool-call rewriting, SSE anomalies, er
4,2/gün ort. +1 son gün 11 commit 1 yazar Python 30 Mar 2026 güncellendi 7 gün önce - 12
A Hub/research area, for jailbreaking LLM's, and breaking their safety filters.
4,1/gün ort. +11 son gün 118 commit 1 yazar Roff 27 Eyl 2026 güncellendi dün - 13
DodoGuard: Take AI Agents to Production. Test, validate, and operate AI Agents before and after deployment.for Dify, Coze, FastGPT, n8n, Ten
4/gün ort. +0 son gün 0 commit 0 yazar TypeScript 25 Ağu 2026 güncellendi 26 gün önce - 14
Open-source runtime AI agent security tool - monitors and controls AI agents, catching malicious tool use, prompt injection, and policy drif
3,4/gün ort. +1 son gün 1 commit 1 yazar Python 11 May 2026 güncellendi 13 gün önce - 15
An intentionally vulnerable OWASP LLM Top 10 training platform for AI Security, Prompt Injection, RAG Security, Agent Security, and GenAI pe
3,2/gün ort. +0 son gün 2 commit 2 yazar Python 15 Tem 2026 güncellendi 14 gün önce - 16
Auto mode for every coding agent, built on Jev: risk-scores every tool call with session context (deny / ask / allow), flags prompt injectio
3,1/gün ort. +2 son gün 0 commit 0 yazar JavaScript 17 Eyl 2026 güncellendi 02 Eki 2026 - 17
破甲next · macOS 版 | WorkBuddy + Codex 人格注入装载台（WorkBuddy 六层靶点 / Codex 双锚点 + 封条完整性保护 + 反去标识化声明）。纯 Python 标准库 + Bash，零第三方依赖、零网络请求、改前自动备份、随时一键还原。
2,9/gün ort. +3 son gün 3 commit 1 yazar Python 28 Eyl 2026 güncellendi 24 gün önce - 18
Open-source adversary emulation for AI agents and MCP servers.
2,8/gün ort. +0 son gün 0 commit 0 yazar TypeScript 06 Nis 2026 güncellendi 3 gün önce - 19
Open-source AI security verification for model artifacts, live endpoints, MCP servers, and recorded agent traces. Reproducible evidence for
2,7/gün ort. +3 son gün 204 commit 8 yazar Python 18 Tem 2026 güncellendi dün - 20
许愿特化器 · Wish Specializer — DSH 插件：让模型更出色地，不误解你的意思地，完成你的“愿望”。在短提示词+自带的Wish预设（PTC也可以）+重度的情况下，可以起到巨大的表现增益
2,7/gün ort. +0 son gün 275 commit 3 yazar JavaScript 11 Eyl 2026 güncellendi 7 gün önce - 21
Enterprise Zero-Trust AI Security & Governance Gateway: Real-Time Prompt Injection Defense, Action Scoping, HITL Approvals, Post-Quantum Mer
2,6/gün ort. +1 son gün — commit TypeScript 25 Eki 2026 güncellendi dün - 22
A structured, versioned archive of adversarial prompt engineering techniques against Large Language Models — for AI safety research, red-tea
2,4/gün ort. +2 son gün 15 commit 1 yazar Roff 30 Eyl 2026 güncellendi dün - 23
AutoHarness: Automated Harness Engineering for AI Agents
2,2/gün ort. +1 son gün 0 commit 0 yazar Python 02 Nis 2026 güncellendi 02 Nis 2026 - 24
Deterministic safety solutions for probabilistic AI agents
2,1/gün ort. +0 son gün 30 commit 2 yazar Python 04 Nis 2026 güncellendi 4 gün önce - 25
Engineering deterministic, production-grade systems around non-deterministic LLMs — FSM, durable execution, retries, DAGs, agent runtimes, m
1,7/gün ort. +0 son gün 0 commit 0 yazar Python 20 Tem 2026 güncellendi 21 Tem 2026 - 26
Free local guardrail for AI coding agents: every tool_call judged on-device (regex + Laya), allow/review/block
1,6/gün ort. +1 son gün — commit Python 11 Eki 2026 güncellendi dün - 27
小怪 DSH 完美破甲 v0.4.3 - DeepSeek Harness 本地提示词注入插件，双击 BAT 一键注入，离线可用，输入框上方实时状态条
1,6/gün ort. +0 son gün — commit PowerShell 24 Eki 2026 güncellendi 9 gün önce - 28
Agent Canary 3.0: open-source MCP, SDK, and CLI security toolkit with a guarded execution gateway, decoy signals, local tests, and public ac
1,5/gün ort. +9 son gün — commit JavaScript 12 Eyl 2026 güncellendi dün - 29
Universal Zero-Refusal Agent Framework - 40+ jailbreak templates (T1-T119), 1128 curated skills, executable framework-core, installer untuk
1,4/gün ort. +0 son gün — commit Python 24 Ağu 2026 güncellendi 26 Ağu 2026 - 30
Context bomb strings
1,4/gün ort. +1 son gün 0 commit 0 yazar 10 Tem 2026 güncellendi 14 Eyl 2026 - 31
Chinese-first LLM jailbreak benchmark & red-team toolkit | 中文LLM安全评测框架 | by POJIA.AI
1,2/gün ort. +1 son gün — commit JavaScript 24 Eyl 2026 güncellendi 27 Eyl 2026 - 32
Typed judgment tools for MCP agents. TypeSafe's Jev model as verify, screen, find, classify, rerank, decide, compare, extract, review, gate,
1,2/gün ort. +0 son gün — commit Python 23 Eyl 2026 güncellendi 8 gün önce - 33
Curated archive of jailbreak and prompt-injection experiments for AI model robustness research, red-teaming, and defensive evaluation.
1,2/gün ort. +0 son gün 0 commit 0 yazar Batchfile 18 Ağu 2026 güncellendi 09 Eyl 2026 - 34
Provenance-aware runtime security for AI agents with deterministic ALLOW / REVIEW / BLOCK enforcement.
1,2/gün ort. +0 son gün — commit Python 18 Ağu 2026 güncellendi 19 Ağu 2026 - 35
从 165 个顶级 AI 产品系统提示词中蒸馏出的 15 个可执行 Agent skill
1,2/gün ort. +1 son gün 0 commit 0 yazar 04 May 2026 güncellendi 04 May 2026 - 36
rook by TestMu AI: Agent Assurance from the terminal. Test how your AI agents actually behave across workflows, tools, and actions, and catc
1/gün ort. +0 son gün — commit Shell 13 Ağu 2026 güncellendi 4 gün önce - 37
Agent-ergonomic CLI for TypeSafe's Jev: fast calibrated judgments (pick, rate, check, rank, triage, guard) from the shell
1/gün ort. +0 son gün — commit TypeScript 16 Eyl 2026 güncellendi 4 gün önce - 38
Alignment-research scaffold (autoresearch-style) for LLM guardrails: search over a single policy.md surface
0,9/gün ort. +0 son gün — commit Python 15 Haz 2026 güncellendi 01 Eki 2026 - 39
Security scanner for MCP servers, source trees, and packages, with explicit findings and coverage reporting.
0,9/gün ort. +1 son gün — commit Go 26 Eyl 2026 güncellendi 14 gün önce - 40
Myrtia — agent-native red teaming for LLMs and AI agents: a deliberating council of attacker models (propose, cross-critique, Borda vote, ch
0,8/gün ort. +1 son gün — commit Python 21 Eyl 2026 güncellendi 7 gün önce - 41
⚡ Millisecond System-1 judgement for every tool call in DeepSeek Harness — Jev-powered risk classification & evidence-gated auto-approval. F
0,8/gün ort. +0 son gün — commit TypeScript 22 Eyl 2026 güncellendi 6 gün önce - 42
Open-source AI agent framework for PHP. Tools, memory, security guards and a ReAct loop built in. Works with Laravel, Symfony, WordPress, Dr
0,8/gün ort. +1 son gün — commit PHP 23 Eyl 2026 güncellendi 18 gün önce - 43
🛡️ Regex catches 0%, Meta's Prompt Guard 2 catches 1% of 629 realistic AgentDojo injection attacks when they're buried in tool output. Repro
0,8/gün ort. +0 son gün — commit Python 23 Eyl 2026 güncellendi 10 gün önce - 44
Governed Postgres access for AI assistants: an MCP gateway with OAuth 2.1 and OIDC login, one Postgres role per person, database-enforced re
0,7/gün ort. +0 son gün — commit Python 28 Eyl 2026 güncellendi 7 gün önce - 45
An open database of real-world AI agent incidents.
0,6/gün ort. +0 son gün — commit HTML 18 Eyl 2026 güncellendi dün - 46
A collection of public writeups on attacks against AI agents: prompt injection, tool abuse, memory poisoning, and data exfiltration.
0,6/gün ort. -1 son gün — commit 21 Ağu 2026 güncellendi 22 Ağu 2026 - 47
Research artifacts for provenance-bound agent authorization, signed effect evidence, and reproducible security evaluation.
0,6/gün ort. +0 son gün — commit Python 13 Ağu 2026 güncellendi 8 gün önce - 48
Benchmarking repository-borne prompt injection attacks and lightweight defenses for local coding agents. DL4C @ ICML 2026.
0,6/gün ort. +0 son gün — commit Python 29 Haz 2026 güncellendi 03 Eki 2026 - 49
AI 应用合规网关 · 一行命令体检 AI 项目的「数据出境 / 硬编码密钥 / 个人信息暴露」（网安法·PIPL·等保2.0·数据出境·AI标识），并给出境内模型替代建议；可作运行时防护拦截注入与数据外泄 · 中文优先 · 零依赖 · 开源
0,6/gün ort. +0 son gün — commit TypeScript 12 Mar 2026 güncellendi 29 Eyl 2026 - 50
Security control plane for AI agents — identity and delegation, capability policy, data-flow taint and a live audit trail, enforced over MCP
0,6/gün ort. +0 son gün — commit TypeScript 22 Tem 2026 güncellendi 27 Tem 2026