← Ana Sayfa

youssofal/MTPLX

Python ⭐ 2.3k 🍴 168 🔥 +1.1k this month

Orijinal Aciklama

3x faster speeds on MLX | Qwen 3.8 27B | Native MTP Speculative Decoding On Apple Silicon With No External Drafter.

📄 Apache-2.0
Lisans
102
Açık Issue
2 ay önce
Son Commit
17
İzleyici
anthropic-compatibleapple-siliconinference-enginelocal-aimetalmlxmtpmtplx

🤖 AI Analizi (Turkce)

MTPLX, yerel dil modellerini çoklu token öngörüsü ile çalıştıran bir Mac uygulaması ve komut satırı aracıdır. Modern modeller gibi Qwen 3.5/3.6/3.8, yerleşik MTP başlıkları ile birlikte gelir, ancak neredeyse hiç bir çalışma zamanı bunları kullanmaz. MTPLX, modelin birkaç token ilerisini taslakladığı, her taslak bloğunu tek bir toplu ileri geçişte doğruladığı ve artık düzeltmesi ile tam reddetme örneklemesi yoluyla tokenleri taahhüt ettiği bir yöntem kullanır.

🎯 Hedef Kitle: Apple Silicon tabanlı Mac kullanıcıları, özellikle M1 veya daha yeni işlemcili Mac'lerde yerel dil modellerini çalıştıran geliştiriciler ve araştırmacılar

TEMEL OZELLIKLER

  • Native MTP Speculative Decoding
  • Multi-token prediction
  • Apple Silicon optimized
  • Qwen 3.8 27B support

💡 Kullanım Örneği

Bir yazılım geliştiricisi, MTPLX'i kullanarak yerel bir dil modelini Apple Silicon tabanlı Mac'inde çalıştırabilir ve kodlama görevlerinde hızlanmayı deneyimleyebilir. Örneğin, Qwen 3.8 27B Optimized Speed modelini kullanarak kodlama hızını artırabilir ve aynı zamanda doğru sonuçlar elde edebilir.

📊 Trend Gecmisi

2026-09-13 Aylik #17 ⭐ 2.3k
2026-09-11 Aylik #18 ⭐ 2.2k
2026-09-08 Aylik #19 ⭐ 2.2k
2026-09-06 Aylik #17 ⭐ 2.1k
2026-09-05 Aylik #19 ⭐ 2.1k
2026-09-04 Aylik #15 ⭐ 2.0k
2026-09-03 Aylik #16 ⭐ 2.0k
2026-09-02 Aylik #12 ⭐ 1.9k

🔗 Benzer Projeler

anthropics/skills

Public repository for Agent Skills

Python197.3k
sherlock-project/sherlock

Hunt down social media accounts by username across social networks

Python114.2k
ZhuLinsen/daily_stock_analysis

LLM 驱动的多市场股票智能分析系统:多源行情、实时新闻、决策看板与自动推送,支持零成本定时运行。 LLM-powered multi-market stock…

Python73.4k
mvanhorn/last30days-skill

AI agent skill that researches any topic across Reddit, X, YouTube, HN, Polymark…

Python70.2k
HKUDS/DeepTutor

DeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.

Python60.6k
GitHub'da Gor →

💬 Yorumlar