Télécharger

En marche en une minute.

Python 3.10 ou plus récent est le seul prérequis. MAFDET installe llama.cpp et les modèles lui-même, avec une barre de progression pour chaque téléchargement. Version actuelle : v0.4.1, notes de version sur GitHub.

En double-cliquant

  1. Téléchargez MAFDET : sur GitHub, Code → Download ZIP, puis décompressez-le (ou git clone).
  2. Double-cliquez sur start_mafdet.bat. La première fois, il crée un environnement Python dans .venv et installe MAFDET, environ une minute. Il faut Python 3.10 ou plus récent.
  3. Ensuite, un double-clic ouvre MAFDET en moins d'une seconde. Après une mise à jour, il installe lui-même les nouvelles bibliothèques.

Depuis PyPI

Avec le Python de python.org, pip fonctionne tel quel.

$ pip install mafdet
$ mafdet

Tourne sur NVIDIA via CUDA (référence : RTX 2060, 6 Go), sur AMD Radeon via Vulkan (en place, pas encore mesuré), ou sur le CPU.

Dans les deux cas : MAFDET demande s'il faut ouvrir la fenêtre ou l'appli terminal, examine votre machine, installe la bonne build de llama.cpp (CUDA, Vulkan, Metal ou CPU) et télécharge le modèle qui tourne le mieux. Pas de PyTorch, pas de téléchargements manuels.

Prérequis

Construit pour le matériel que la plupart des gens possèdent.

Windows

Un GPU NVIDIA avec des pilotes à jour (cible testée : RTX 2060, 6 Go), une AMD Radeon via Vulkan (en place, pas encore mesuré), ou juste un CPU.

Testé

macOS

Apple Silicon (M1 ou plus récent) : les modèles tournent sur le GPU via Metal, dans la mémoire unifiée. Testé sur un M2 Pro avec 16 Go, macOS 26.2 : Qwen3-4B lit 593 tokens/s et en écrit 57. Les Mac Intel tournent sur le CPU.

Testé

Linux

Les builds de llama.cpp et les chemins de code sont en place (CUDA, Vulkan, CPU), mais personne ne l'a encore fait tourner de bout en bout. Dites-nous comment ça s'est passé.

Pas encore testé

Python

3.10 ou plus récent (testé avec 3.12). Pas de PyTorch : llama.cpp fait tourner les modèles, transformers ne fournit que les tokenizers.

Disque

Environ 0,7 Go pour llama.cpp avec CUDA (100 Mo avec Vulkan, 60 Mo pour le CPU), plus les modèles : de 0,6 Go (Qwen3-0.6B) à 2,3 Go pour le 4B recommandé sur les cartes de 6-8 Go.

Mémoire

16 Go de RAM recommandés pour les exécutions sur CPU seul et pour les modèles plus gros que la VRAM. Les modèles plus gros que la VRAM tournent en partie sur le CPU : ça marche, mais plus lentement, et moins de raisonnement tient avant Entrée.

Le premier démarrage

Ce qui se passe quand vous l'ouvrez.

  1. 01

    Fenêtre ou terminal ? Le lanceur demande, et peut se souvenir de votre choix (mafdet --ask le redemande).

  2. 02

    Votre machine. MAFDET examine le GPU, la mémoire et le CPU, et installe la bonne build de llama.cpp : CUDA pour une carte NVIDIA, Vulkan pour une Radeon, Metal sur un Mac Apple Silicon, CPU sinon.

  3. 03

    Le modèle. Le catalogue dit ce que fait chaque modèle sur votre matériel avant que vous ne le téléchargiez, et marque celui qui tourne le mieux. Qwen3-4B est le choix sur une carte de 6-8 Go.

  4. 04

    Chat. Commencez à taper : la ligne d'état montre ce que le modèle lit et pense pendant que vous écrivez. Chaque réponse se termine par ses chiffres.