Havuz

iFixAi, AI agent’ları yapılandırılabilir testler ve model judge’larıyla denetleyip puan kartı ve raporlar üreten bir Python aracıdır.

Neden yükseliyor · 153 günlük bir depoda 15.702 yıldız ve son 28 günde 9 commit ile 5 farklı yazar görünmesi güçlü ilgiye ve devam eden katkıya işaret ediyor. README’de birden fazla kullanım yolu ve agent ekosistemi entegrasyonları öne çıkarılıyor; ancak yıldızlar ürün kalitesini veya değerlendirmelerin doğruluğunu kanıtlamaz.

Future AGI, LLM ve AI agent uygulamalarını değerlendirme, izleme, simüle etme ve koruma işlerini self-host edilebilen tek bir platformda birleştiriyor.

Neden yükseliyor · Konu, agent uygulamalarında evaluation ve observability ihtiyacının artmasıyla örtüşüyor; 157 günlük repo yaşına karşılık 2.081 yıldız ve son 28 günde 597 commit geliştirme temposuna işaret ediyor. Farklı yazar sayısı 6; bu veriler ilginin nedenini tek başına kanıtlamaz ve yıldızlar benimseme ya da kalite ölçüsü değildir.

Reverify, AI agent’larının reverse engineering ve kod doğrulama iddialarını deterministik araçlarla sınayan, CLI ve MCP server sunan bir Python aracıdır.

Neden yükseliyor · Repo yalnızca 28 günlük olmasına rağmen 1.245 yıldıza ve son 28 günde 83 commit’e ulaşmış; AI agent’ları için doğrulanabilir çıktı ihtiyacıyla MCP entegrasyonu dikkat çekmiş olabilir. Dört farklı yazarın katkısı aktiviteyi destekliyor, ancak yıldızlar tek başına benimseme veya kalite kanıtı değil.

Zero-cost epistemic uncertainty quantification & hallucination detection for LLMs (90,000x faster than Semantic Entropy)

~97% token reduction for AI coding sessions — zero deps, 38 languages, MCP server

Cut AI context cost without trusting the compressor. Every reduction is reversible, byte-exact recoverable, and carries an auditable receipt

Zero-leak online detection of LLM decoding corruption and Free Web Search for your AI agents! Catch repetition loops, language drift and gar

SIRIN is a Python library for detecting and analyzing contextual inconsistencies in systems that use LLMs

Verifiable AI coding agent harness / 可验证的 AI 编码代理：evidence hash-chain · hollow-answer gate · manual verification checklist · 6 engines + MCP

Grade every agent, scraper and model in a claim's chain — provenance, trust scoring and audit evidence for LLM pipelines

AI Firewall & LLM security toolkit - protect your AI applications from prompt injection, jailbreaks, PII leakage, and adversarial attacks

Detect hallucinations in LLM responses. Verify every claim against source documents using hybrid STS + NLI. Works with LangChain, LlamaIndex

Lightweight RAG provenance middleware. Verifies every claim in an LLM response is grounded in a retrieved source - without an LLM call.

Open-source test harness for AI agents. Stress-test production agents with adversarial multi-turn scenarios in CI

Literature-fetching & citation-auditing skill for LLM agents (Claude/Codex) — 讓 AI 引用經得起追問:找文獻、查核引用真偽與支持度、文獻支撐寫作,防幻覺引用。

Verify that an AI agent's on-chain claims are actually true. A claim-level groundedness checker for Solana / memecoin agents.

Python SDK for LLM guardrails with safety classification, PII detection, prompt injection defense, and grounding checks. Protect AI applicat

Practical LLM evaluation for teams that ship to production. Deterministic + LLM-as-judge evaluators, dataset support, CI/CD integration.

(개요) 국가법령정보센터와 알리오의 공공기관 내부규정을 검색·비교·분석하는 MCP. (도구) 법제처 87 + ALIO 공공기관 규정 23 = 110개 MCP 도구. (데이터) 1,600 법률, 10,000 행정규칙, 수만건 판례, 344개 공공기관 3

Zero-dependency guardrail framework for AI agents. Stops runaway loops, prompt injection, hallucination and unsafe tool calls before they ex