MLX-VLM is a package for inference and fine-tuning of Vision Language Models (VLMs) on your Mac using MLX.
MLX-VLM, Mac bilgisayarlarda MLX kullanarak Vision Language Models (VLMs) ve Omni Modellerin (ses ve video desteği olan VLMs) çıkarım ve ince ayarlaması için bir pakettir. Bu paket, çeşitli modellerle çalışmayı destekler ve CLI, Gradio tabanlı sohbet arayüzü ve Python betikleri üzerinden kullanım imkanı sunar. MLX-VLM ayrıca aktivasyon kuantizasyonu, çoklu görüntü sohbet desteği ve TurboQuant KV önbelleği gibi özelliklerle gelir.
🎯 Hedef Kitle: Makine öğrenimi ve yapay zeka alanında çalışan geliştiriciler ve araştırmacılar, özellikle Mac kullanıcıları
Bir veri bilimcisi, MLX-VLM paketini kullanarak Mac'inde bir Vision Language Modeli'nin ince ayarlamasını yapabilir ve CLI üzerinden modelin performansını test edebilir. Örneğin, bir görüntü ve ses girişi için modelin tepkisini almak üzere 'mlx_vlm.generate' komutunu kullanabilir.