Votre premier LLM en MLX, sans Terminal

MLX est un environnement optimisé pour les puces Apple Silicon. Dans POP Switcher, il permet d’utiliser des modèles locaux compatibles. Le nom correct est MLX, parfois confondu avec « MTX ».

Avant de commencer

Utilisez un Mac Apple Silicon. 16 Go de mémoire unifiée sont un point de départ pour des modèles raisonnables ; le besoin réel dépend de leur taille, de leur quantification et du contexte. Sur Mac Intel, utilisez plutôt le parcours GGUF avec llama.cpp.

1 · Préparer le moteur

Ouvrez Réglages > Dépendances et utilisez le bouton d’installation du moteur MLX proposé par l’app. Cette étape peut nécessiter internet, comme le téléchargement des modèles. L’inférence pourra ensuite rester locale.

2 · Télécharger un modèle complet

Dans les réglages des fournisseurs, repérez Modèle MLX Hugging Face. Indiquez l’identifiant du dépôt, sous la forme organisation/modele, puis choisissez Télécharger le dossier complet.

Un modèle MLX n’est pas un simple fichier GGUF. Il faut un dossier avec config.json, le tokenizer et les fichiers de poids, parfois répartis en plusieurs parties. Un fichier .safetensors seul ne suffit pas.

POP Switcher range ces modèles dans WorkFlow/LLM/MLX. Choisissez un dépôt compatible avec votre version du moteur et une taille adaptée à votre Mac.

3 · Assigner MLX à un rôle

Dans les fournisseurs par rôle, choisissez MLX local, sélectionnez le dossier du modèle, puis appliquez vos réglages. Ouvrez Chat et lancez une petite question pour confirmer le chargement.

4 · Ajuster sans surcharger la machine

Sur les Mac de 16 à 24 Go, l’option Optimiser MLX pour POP Switcher limite notamment la concurrence et le cache KV. Elle s’applique au prochain chargement du modèle.

Commencez avec un contexte modéré et fermez les applications gourmandes. MLX utilise le GPU Apple via Metal : il ne faut pas confondre ce parcours avec l’Apple Neural Engine.

En cas d’échec

Consultez le journal : dossier incomplet, architecture non prise en charge et manque de mémoire sont des problèmes différents. Essayez un modèle plus petit avant d’augmenter les réglages.