Depo ayrıntısı

spinfinc/spinf-serve

Bulk classification and decision inference on one GPU: the content is read once, every question about it is scored in the same pass. OpenAI-compatible, Apache 2.0

Python Apache-2.0 25 Ekim 2026 son push 29 Ekim 2026 0 fork

batch-inference classification content-moderation decision-model extraction fp8 gemma inference-engine llm openai-compatible scoring self-hosted text-classification

GitHub'da aç Site

Yıldız

20+2 · 3 gün

Commit · 28g

—

son 28 günde

Yazar · 28g

—

farklı katkıcı

Detaylı değerlendirme

Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.