Havuz

Needle, küçük cihazlarda tool calling, structured extraction ve embedding çalıştırmayı hedefleyen kompakt bir model ve yazılım paketidir.

Neden yükseliyor · Küçük cihazlarda yerel tool calling ve extraction ihtiyacına odaklanması, 216 günde 12.730 yıldıza ulaşması ve son 28 gündeki 36 commit ile 15 farklı yazarın katkısı dikkat çekiyor. Yıldızlar ilginin göstergesi; model performansının bağımsız doğrulaması değil.

audio.cpp, ggml tabanlı ortak bir C++ runtime üzerinden farklı ses modellerinde yerel inference çalıştırmayı sağlayan bir framework’tür.

Neden yükseliyor · 96 günlük yaşına rağmen 3067 yıldızın yanı sıra son 28 günde 272 commit ve 18 farklı yazar görünüyor; bu, README’deki geniş model desteğinin yanında kayda değer bir geliştirme hareketliliğine işaret ediyor. README performans iyileştirmeleri ve yeni model desteği bildiriyor, ancak bu kıyasların bağımsız doğrulaması verilen bilgilerden anlaşılamıyor.

OAK, C++ ile cihaz üzerinde AI agent çalıştırmayı hedefleyen, bazı agent özelliklerini açık kaynak modüller olarak sunan alpha aşamasındaki bir projedir.

Neden yükseliyor · 48 günde 1170 yıldız almış; on-device AI, gizlilik ve Qualcomm NPU desteği ilgi çekici bir konumlandırma. Ancak yükselişin özel nedenini mevcut veriden belirlemek mümkün değil. Son 28 günde commit ve farklı yazar sayısı sıfır; README’deki performans ve karşılaştırma iddiaları da burada bağımsız doğrulanmış kanıt sunmuyor.

Run MoE models bigger than your RAM. Frontier-size MoE on a phone, laptop, edge. Lossless, on stock llama.cpp. An adaptive streaming optimiz