ghuntley/underclass
underclass: an OpenAI-compatible pooling proxy that pins sessions to one account (prompt cache stays warm), cools quota-exhausted subscriptions until their window resets, and fails fast with the earliest Retry-After when the whole pool is dry.
Hızlı değerlendirme
Özet
underclass, ChatGPT/Codex ve GitHub Copilot aboneliklerini tek bir OpenAI-compatible endpoint arkasında birleştiren Rust proxy’sidir.
Profiline uyum
OpenAI uyumlu proxy sunuyor, ancak profiliniz API modelleri kullanıyor ve abonelik kotası yönetimi ihtiyacından bahsetmiyor.
Neden yükseliyor
Yedi günlük yaşına rağmen 173 yıldız, son 28 günde 27 commit ve 3 farklı yazar görünür bir erken ilgi ve geliştirme hareketliliğine işaret ediyor. Abonelik kotalarını havuzlama ve oturum sabitleme önerisi de net bir kullanım ihtiyacına hitap ediyor; ilginin kesin nedenini veya kullanıcı benimsemesini bu verilerle doğrulamak mümkün değil.
Problem
Tek bir aboneliğin kota sınırına takılması ve istemcilerin farklı hesaplar arasında geçiş yapması, isteklerin kesilmesine veya istemci yapılandırmasının karmaşıklaşmasına yol açabilir.
Çözüm
Birden fazla hesabı havuzda tutar; istekleri model uygunluğu ve yük durumuna göre yönlendirir, prompt cache için oturumları sabit hesaba bağlar ve kotası dolan hesapları reset zamanına kadar devre dışı bırakır. Havuzun tamamı kullanılamıyorsa bekletmek yerine 429 ve Retry-After döndürür.
Yenilik
Temel yaklaşım yeni bir proxy veya load balancer kategorisi yaratmıyor; abonelik kotası nedeniyle hesapları soğutma, prompt cache için sticky sessions ve reset zamanına göre fail-fast davranışını bir araya getirmesi kullanım alanına özgü bir bileşim.
Teknolojiler
- Rust
- SQLite
- OpenAI-compatible API
- OAuth device flow
Riskler
- Proje yalnızca 7 günlük; 27 commit ve 3 yazar olumlu erken sinyaller olsa da uzun vadeli bakım ve kararlılık kanıtı sınırlı.
- Abonelik hesaplarını bu şekilde havuzlamanın ilgili sağlayıcıların kullanım koşullarıyla uyumluluğu README'den anlaşılamıyor; benimsemeden önce ayrıca doğrulanmalı.
- OAuth credentials ve proxy erişim anahtarları yerel veritabanında tutuluyor; makinenin ve state dosyasının güvenliği kullanıcıya bağlı.
- Upstream API, kota yanıtı veya authentication davranışındaki değişiklikler entegrasyonu bozabilir.
- Fail-fast tasarımında istekler kuyruğa alınmıyor; streaming başladıktan sonraki upstream hataları otomatik olarak başka hesaba aktarılmıyor.
Detaylı değerlendirme
Bu repo için detaylı değerlendirme henüz yapılmadı. Analiz, Ayarlar'daki uyum profilini hesaba katarak "bu işime yarar mı" sorusunu cevaplıyor. Bir kez çalışır; günlük koşular buna dokunmaz. Saatlik sınır var — bir kaynaktan en fazla 3 analiz.