← Ana Sayfa

NVIDIA/Model-Optimizer

Python ⭐ 4.8k 🍴 669 🔥 +357 today

Orijinal Aciklama

A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.

📄 Apache-2.0
Lisans
424
Açık Issue
1 ay önce
Son Commit
37
İzleyici

🤖 AI Analizi (Turkce)

NVIDIA Model Optimizer, derin öğrenme modellerini hızlandıran state-of-the-art model optimizasyon tekniklerini içeren bir kütüphanedir. Bu teknikler arasında nicelendirme, budama, Neural Architecture Search (NAS), damıtma, spekülatif kodlama ve seyrekleştirme bulunur. Model Optimizer, Hugging Face, PyTorch veya ONNX modellerini destekler ve optimize edilmiş nicelendirilmiş kontrol noktalarını dışa aktarmak için Python API'leri sağlar.

🎯 Hedef Kitle: Derin öğrenme modeli geliştiricileri, yapay zeka mühendisleri ve büyük ölçekli dil modelleri ile çalışan araştırmacılar

TEMEL OZELLIKLER

  • Nicelendirme
  • Budama
  • Neural Architecture Search (NAS)
  • Damıtma
  • Spekülatif Kodlama
  • Seyrekleştirme
  • TensorRT-LLM entegrasyonu

💡 Kullanım Örneği

Bir derin öğrenme modeli geliştiricisi, büyük bir dil modelini hızlandırmak için Model Optimizer'ı kullanabilir. Modeli nicelendirme ve budama teknikleriyle optimize edebilir, ardından optimize edilmiş modeli TensorRT-LLM kullanarak daha hızlı bir şekilde çalıştırabilir.

📊 Trend Gecmisi

2026-09-27 Gunluk #7 ⭐ 4.8k
2026-09-26 Gunluk #8 ⭐ 4.5k
2026-09-25 Gunluk #13 ⭐ 4.1k

🔗 Benzer Projeler

anthropics/skills

Public repository for Agent Skills

Python197.3k
sherlock-project/sherlock

Hunt down social media accounts by username across social networks

Python114.2k
ZhuLinsen/daily_stock_analysis

LLM 驱动的多市场股票智能分析系统:多源行情、实时新闻、决策看板与自动推送,支持零成本定时运行。 LLM-powered multi-market stock…

Python73.4k
mvanhorn/last30days-skill

AI agent skill that researches any topic across Reddit, X, YouTube, HN, Polymark…

Python70.2k
HKUDS/DeepTutor

DeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.

Python60.6k
GitHub'da Gor →

💬 Yorumlar