Vai al contenuto principale
Motore locale pronto

Mistral Small 4

2 GPU consumer possono eseguire Mistral Small 4 in Q4 nativamente. Soglie VRAM precise e benchmark qui sotto.

2 GPU compatibili
2 con offloading
119B parametri
256K contesto
Top pick
M4 Ultra · 128 GB VRAM runs Q4 natively

Prices and availability may change · affiliate link

Javier Morales
Javier Morales Specialista hardware IA — 8 anni di esperienza
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · ROCm 6 · aggiornato mensilmente · metodologia →

Contesto di esecuzione

ARCHITETTURA TRANSFORMER
CONTESTO 256K TOKENS
QUANTIZZAZIONE 4-BIT GGUF
FORNITORE Mistral AI
LICENZA Apache 2.0
REQUISITO VRAM
65.5 GB
4GB 8GB 12GB 16GB 24GB+
Decisione hardware

Questo modello richiede unaGPU flagship (48 GB+ VRAM)

Minimo

M4 Ultra

Funziona in Q4 — utilizzabile, con qualche attesa

128 GB VRAM
Vedi configurazione compatibile
Bilanciato

M3 Ultra

Miglior rapporto valore/prestazioni per uso quotidiano

192 GB VRAM
Vedi configurazione compatibile
Ottimale

M4 Ultra

Qualita massima, inferenza piu rapida

128 GB VRAM
Vedi configurazione compatibile

Compatible GPUs for Mistral Small 4

Le migliori opzioni per compatibilita, margine VRAM e valore: prezzi e disponibilita possono cambiare.

M4 Ultra
128 GB VRAM · Q4 nativo Amazon

M4 Ultra

0.0 (0 recensioni)

Pro

  • Runs Mistral Small 4 at Q4 natively
  • 128 GB VRAM — adequate headroom
M3 Ultra
192 GB VRAM · Q4 nativo Amazon

M3 Ultra

0.0 (0 recensioni)

Pro

  • Runs Mistral Small 4 at Q4 natively
  • 192 GB VRAM — adequate headroom
Vedi M3 Ultra su Amazon →
M4 Max 48GB
48 GB VRAM · Offloading Amazon

M4 Max 48GB

0.0 (0 recensioni)

Pro

  • Works via CPU offloading
  • 48 GB VRAM — adequate headroom

Alcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.

*Prezzi e disponibilita possono cambiare. Alcuni link sono affiliati.

Requisiti di sistema

VRAM GPU 65.5 GB GPU fascia alta
RAM di sistema 99 GB 64 GB or more
Archiviazione 59.5 GB Q4 · SSD consigliato
CPU Qualsiasi CPU moderna GPU richiesta

VRAM per quantizzazione

Quantizzazione VRAM necessaria Spazio su disco Qualita
FP16 (qualita massima) 261.8 GB 238 GB Massima
Q8 (alta qualita) 130.9 GB 119 GB Quasi senza perdita
Q4 (consigliato) Miglior equilibrio 65.5 GB 59.5 GB Consigliata
Q2 (minimo) 32.7 GB 29.8 GB Perdita di qualita

Dettagli modello

Sviluppatore Mistral AI
Parametri 119B
Finestra di contesto 256,000 token
Licenza Apache 2.0
Casi d uso chat, reasoning, coding, vision
Rilasciato 2026-03

Installa con Ollama

ollama run mistral-small4:latest

Hugging Face

mistralai/Mistral-Small-4-119B-2603
Vedi su HF →
Requisiti tecnici

La tua GPU puo eseguire Mistral Small 4?

Mistral Small 4 richiede <strong class="text-primary-container">65.5 GB di VRAM</strong> in Q4. 2 GPU consumer raggiungono questa soglia. Sotto 8 GB o 63.5 GB incontrerai una latenza di offload significativa.

32.7GB Minimo critico
65.5GB Ottimale Q4
130.9GB Alta qualita Q8
261.8GB Massimo FP16

Matrice prestazioni hardware

2 Q4 nativo · 2 offload

Unita GPU VRAM Compatibilita Velocita stimata Azione
M4 Ultra 128GB Ottimale 45 tok/s Calcola →
M3 Ultra 192GB Ottimale 38 tok/s Calcola →
M4 Max 48GB 48GB Offload 20 tok/s Calcola →
M4 Max 36GB 36GB Offload Calcola →

GPU consigliate per Mistral Small 4

Benchmark reali
Nessuna recensione a pagamento
Scelta editoriale
Basato sui dati

Le migliori opzioni per compatibilita, margine VRAM e valore: prezzi e disponibilita possono cambiare.

Alcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.

Mistral Small 4 — Guida compatibilita

Mistral Small 4 con 119B parametri si esegue completamente solo su configurazioni multi-GPU o server. Considera eventuali versioni distillate. Il calcolatore VRAM puo aiutarti a trovare alternative compatibili.

Confronta le GPU per Mistral Small 4

Quale GPU conviene? Specifiche reali e benchmark a confronto.

Componenti compatibili

GPU che eseguono Mistral Small 4 in Q4, ordinate per punteggio di prestazioni IA.

Benchmark reali
Nessuna recensione a pagamento
Basato sui dati
M4 Ultra

Apple · 128 GB VRAM

Q4 OK
45 tok/s > $1000
M3 Ultra

Apple · 192 GB VRAM

Q4 OK
38 tok/s > $1000

Alcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.

Alternative piu pratiche

Modelli simili nella categoria chat con requisiti VRAM comparabili.

Non sai quale GPU ti serve per Mistral Small 4?

Il calcolatore VRAM ti dice esattamente quale quantizzazione puo gestire il tuo hardware.

M4 Ultra

Controlla disponibilita

Prezzi aggiornati ogni giorno