Scarica
In funzione in un minuto.
Python 3.10 o successivo è l'unico requisito. MAFDET installa da solo llama.cpp e i modelli, con una barra di avanzamento per ogni download. Versione attuale: v0.4.1, note di rilascio su GitHub.
Con un doppio clic
- Scarica MAFDET: su GitHub, Code → Download ZIP, e decomprimilo (oppure
git clone). - Fai doppio clic su
start_mafdet.bat. La prima volta crea un ambiente Python in.venve installa MAFDET, circa un minuto. Serve Python 3.10 o successivo. - Da lì in poi, un doppio clic apre MAFDET in meno di un secondo. Dopo un aggiornamento installa da solo le nuove librerie.
Da PyPI
Con il Python di python.org, pip funziona così com'è.
$ pip install mafdet $ mafdet
Gira su NVIDIA con CUDA (riferimento: RTX 2060, 6 GB), su AMD Radeon con Vulkan (pronto, non ancora misurato) o sulla CPU.
Con un doppio clic
- Scarica MAFDET (Code → Download ZIP, oppure
git clone). - Fai doppio clic su
start_mafdet.command. Python 3.10 o successivo: da python.org, oppurebrew install python@3.12. - Se il Finder dice che non può verificare il file: clic destro, Apri, poi di nuovo Apri. Solo la prima volta.
Da PyPI, con pipx
Il Python di Homebrew rifiuta pip install fuori da un ambiente virtuale: pipx dà a MAFDET un ambiente tutto suo.
$ brew install pipx $ pipx ensurepath # poi apri un nuovo terminale $ pipx install mafdet $ mafdet
Apple Silicon (M1 o successivo) esegue i modelli sulla GPU con Metal, nella memoria unificata. Testato su un M2 Pro con 16 GB. I Mac Intel girano su CPU.
Non ancora testato
Linux ha le build di llama.cpp e i percorsi di codice pronti (CUDA, Vulkan, CPU), ma nessuno ci ha ancora eseguito MAFDET da cima a fondo. Se ci provi, una issue con l'output di mafdet doctor è la cosa più utile che puoi mandare.
Da PyPI, con pipx
Le Ubuntu e Debian recenti bloccano pip install con externally-managed-environment: usa pipx.
$ sudo apt install pipx $ pipx ensurepath # poi apri un nuovo terminale $ pipx install mafdet $ mafdet
In un terminale
Anche per le misurazioni in research/.
$ git clone https://github.com/TheLastOxygen/mafdet.git $ cd mafdet $ python -m venv .venv # Windows: py -3.12 -m venv .venv $ source .venv/bin/activate # Windows: .venv\Scripts\Activate.ps1 $ pip install -e . $ mafdet
Aggiornare
$ pipx upgrade mafdet # oppure: pip install -U mafdet
Gli script a doppio clic aggiornano da soli il loro ambiente dopo un git pull.
Requisiti
Costruito per l'hardware che ha la maggior parte delle persone.
Windows
Una GPU NVIDIA con driver aggiornati (riferimento testato: RTX 2060, 6 GB), una AMD Radeon con Vulkan (pronta, non ancora misurata), oppure solo una CPU.
Testato
macOS
Apple Silicon (M1 o successivo): i modelli girano sulla GPU con Metal, nella memoria unificata. Testato su un M2 Pro con 16 GB, macOS 26.2: Qwen3-4B legge 593 token/s e ne scrive 57. I Mac Intel girano su CPU.
Testato
Linux
Le build di llama.cpp e i percorsi di codice sono pronti (CUDA, Vulkan, CPU), ma nessuno l'ha ancora eseguito da cima a fondo. Raccontaci com'è andata.
Non ancora testato
Python
3.10 o successivo (testato con 3.12). Niente PyTorch: llama.cpp esegue i modelli, transformers fornisce solo i tokenizer.
Disco
Circa 0.7 GB per llama.cpp con CUDA (100 MB con Vulkan, 60 MB per la CPU), più i modelli: da 0.6 GB (Qwen3-0.6B) a 2.3 GB per il 4B consigliato sulle schede da 6-8 GB.
Memoria
16 GB di RAM consigliati per girare solo su CPU e per i modelli più grandi della VRAM. I modelli più grandi della VRAM girano in parte sulla CPU: funziona, ma più lentamente, e prima di Invio ci sta meno ragionamento.
Il primo avvio
Cosa succede quando lo apri.
- 01
Finestra o terminale? Il launcher lo chiede, e può ricordare la tua scelta (
mafdet --asklo mostra di nuovo). - 02
La tua macchina. MAFDET guarda GPU, memoria e CPU, e installa la build giusta di llama.cpp: CUDA per una scheda NVIDIA, Vulkan per una Radeon, Metal su un Mac Apple Silicon, CPU altrimenti.
- 03
Il modello. Il catalogo dice cosa fa ogni modello sul tuo hardware prima che tu lo scarichi, e segna quello che gira meglio. Qwen3-4B è la scelta su una scheda da 6-8 GB.
- 04
Chat. Comincia a scrivere: la riga di stato mostra cosa legge e pensa il modello mentre scrivi. Ogni risposta finisce con i suoi numeri.