← Ana Sayfa

FlashML-org/FreeToken

Python ⭐ 16.2k 🍴 1.6k 🔥 +653 today

Orijinal Aciklama

FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.

📄 Apache-2.0
Lisans
470
Açık Issue
16 gün önce
Son Commit
100
İzleyici
deepseek-v4edgeglminferenceminimaxmoeqwentransformer

🤖 AI Analizi (Turkce)

FreeToken, büyük ölçekli modelleri yerel olarak hızlı ve verimli bir şekilde çalıştıran bir kenar-native Mixture-of-Experts (MoE) sunum motorudur. Bu motor, çeşitli kenar kaynaklarını - GPU'lar, CPU'lar, ana bilgisayar belleği ve ara bağlantılar - birleşik, esnek bir çıkarım platformu olarak ele alır. FreeToken, 290 milyar parametreli sınır modellerini oyun bilgisayarlarında etkileşimli hızlarda yerel olarak çalıştırabilir.

🎯 Hedef Kitle: Yapay zeka ve makine öğrenimi geliştiricileri, özellikle büyük ölçekli modellerle çalışanlar

TEMEL OZELLIKLER

  • Fast Edge-Native Runtime
  • Semantic-Aware Caching
  • Elastic Memory Management
  • Broad MoE & Ecosystem Support

💡 Kullanım Örneği

Bir yazılım mühendisi, büyük ölçekli bir dil modelini yerel makinesinde çalıştırarak geliştirme sürecini hızlandırmak istiyor. FreeToken'ı kullanarak, 290 milyar parametreli bir modeli oyun bilgisayarında etkileşimli hızlarda çalıştırabilir ve böylece geliştirme sürecini hızlandırabilir.

📊 Trend Gecmisi

2026-11-03 Gunluk #9 ⭐ 16.2k
2026-11-02 Gunluk #14 ⭐ 15.5k
2026-09-23 Aylik #7 ⭐ 13.6k
2026-09-22 Aylik #8 ⭐ 13.5k

🔗 Benzer Projeler

anthropics/skills

Public repository for Agent Skills

Python197.3k
sherlock-project/sherlock

Hunt down social media accounts by username across social networks

Python114.2k
ZhuLinsen/daily_stock_analysis

LLM 驱动的多市场股票智能分析系统:多源行情、实时新闻、决策看板与自动推送,支持零成本定时运行。 LLM-powered multi-market stock…

Python73.4k
mvanhorn/last30days-skill

AI agent skill that researches any topic across Reddit, X, YouTube, HN, Polymark…

Python70.2k
HKUDS/DeepTutor

DeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.

Python60.6k
GitHub'da Gor →

💬 Yorumlar