Havuz

Open memory & reliability layer for AI agents + independent judging/verification (NACRE judge, caliber-bench meta-benchmark, preregistered c

Track 42,331+ AI benchmark, eval, dataset, and data-quality records from 40 public sources, with linked evidence and daily updates.

The first exam for code agents in the physical world: frozen robot tasks from many benchmark suites, each answered with a program and verifi

Multi-tier framework for evaluating AI agent skills with quality gates, semantic overlap detection, synthetic evaluation dataset generation,

ParseBench - A Document Parsing Benchmark for AI Agents

Run your real agent with and without your skills, MCPs, and rules. See which ones actually help, and what they cost in tokens. Supports Clau

Robot-agent harness with a CLI and local Web console for LIBERO short evaluation

Unified World Model Inference & Evaluation Infrastructure

Open-source benchmark for browser AI agents on daily tasks.

A clinical decision-evidence benchmark: pull the one fact an answer rests on, and see whether the assistant's action moves with the evidence

Open source evals for physical AI. Run any LLM/VLA on any arm/humanoid against any real/sim benchmark.

🦞 ResearchClawBench: Evaluating AI Agents for Automated Research from Re-Discovery to New-Discovery

DecisionPivot: a diagnostic benchmark for decision models in LLM systems. Contrast pairs that differ in one decisive detail, generators with

LoopArena, uzun süreli yazılım görevlerinde bir coding agent’ı yönlendiren modelleri ortak koşullarda karşılaştırmak için benchmark ve çalıştırma altyapısı sunuyor.

Neden yükseliyor · Coding agents’ın uzun süreli iş akışlarında nasıl yönlendirileceği güncel bir araştırma konusu; LoopArena bu konuya açık protokol, benchmark sonuçları ve bir arXiv paper ile dikkat çekiyor. Ancak 146 yıldız, 28 günlük repo yaşı ve son 28 günde tek farklı yazar, ilginin henüz yaygın benimsemeye dönüştüğünü göstermiyor.

The Fable Method, coding agent’lar için görevleri sınıflandırma, kanıt toplama, değişiklik yapma ve sonucu doğrulama adımlarını tanımlayan skills ve bunları sınayan eval’ler sunuyor.

Neden yükseliyor · 83 günde 2294 yıldız almış olması dikkat çekici. README’de belirli senaryolara ait sonuçlar, başarısızlıklar ve ham çıktılara bağlantılar sunulması ilgi görmesini açıklayabilir; ancak yükselişin kesin nedeni bilinmiyor. Son 28 günde commit ve farklı yazar etkinliği yok.

Yao Meta Skill, tekrar kullanılabilir agent skills oluşturma, değerlendirme, paketleme ve yönetişim süreçlerini tek bir araç zincirinde birleştiren Python projesidir.

Neden yükseliyor · Agent skills ve bunların platformlar arasında taşınabilirliği gündemde; proje, üretimin yanı sıra eval ve yönetişim süreçlerini de kapsayan geniş bir kapsam sunuyor. 180 günde 2675 yıldız ilgiye işaret etse de son 28 günde commit ve farklı yazar olmaması güncel geliştirme veya topluluk ivmesi için kanıt sağlamıyor.

EvoTrace, Claude Code ve Codex oturumlarını inceleyip eğitim, değerlendirme ve doğrulama için yeniden kullanılabilir varlıklara dönüştürür.

Neden yükseliyor · 39 günde 292 yıldız, coding agent oturumlarından eğitim ve değerlendirme varlığı üretme fikrine ilgi olduğunu gösteriyor; ancak bu ilginin nedeni ölçümlerden anlaşılamıyor. Son 28 günde commit ve farklı yazar olmaması, ilginin devam eden geliştirme veya benimsemeyle desteklendiğine dair kanıt sunmuyor.

Harness-oriented agent system framework for production-grade LLM agent applications

HarnessEval-W: Agentifying the Evaluation of Visual Worlds

GAN-style self-improvement loop for any text artifact: mutate, grade with a SEPARATE model, keep only verified wins (pairwise-judged), rever

Alignment-research scaffold (autoresearch-style) for LLM guardrails: search over a single policy.md surface

The marketplace for verifiable AI outcomes: state a task, get a fixed price upfront, and Primitive Bench routes across tools to complete it,

⚡ Unit tests for AI. Test prompts, compare models, save money.

Litefuse - Agent Observability and Evaluation Platform

:dog: Beagle is designed to be the unified platform for the broader Recursive Self-Improvement (RSI) ecosystem. Think of it as Hugging Face

Self-evolving agentic reward framework for image-editing evaluation — 47.4% on EditReward-Bench from only 100 preference demos, no reward-mo