32 GB VRAM · Q4 nativo Amazon
RTX 5090
Ventajas
- Ejecuta Mistral Small 3.2 Q4 nativo
- 32 GB VRAM — margen suficiente
Modelo listo para CPU
Mistral Small 3.2
21 GPUs de consumo pueden ejecutar Mistral Small 3.2 en Q4 de forma nativa. Umbrales de VRAM y benchmarks precisos abajo.
21 GPUs compatibles
18 con offloading
24B parámetros
128K contexto
Mejor opción
RTX 5090 · 32 GB VRAM Q4 nativo
Precios y disponibilidad pueden cambiar · enlace de afiliado
Javier Morales Especialista en hardware IA — 8 años de experiencia
GitHub: github.com/javier-morales-ia
llama.cpp 0.2.x · CUDA 12 · ROCm 6 · actualizado mensualmente · metodología →
Contexto de ejecución
ARQUITECTURA TRANSFORMER
CONTEXTO 128K TOKENS
CUANTIZACIÓN 4-BIT GGUF
PROVEEDOR Mistral AI
LICENCIA Apache 2.0
Decisión de hardware
Este modelo requiere unaGPU gama media (16 GB VRAM)
Equilibrado
RTX 4070 Ti Super
Mejor relación valor/rendimiento diario
16 GB VRAM
Ver configuración compatibleGPUs compatibles para Mistral Small 3.2
Mejores opciones por compatibilidad, margen de VRAM y valor — precios y disponibilidad pueden cambiar.
24 GB VRAM · Q4 nativo Amazon
RTX 4090
Ventajas
- Ejecuta Mistral Small 3.2 Q4 nativo
- 24 GB VRAM — margen suficiente
128 GB VRAM · Q4 nativo Amazon
M4 Ultra
Ventajas
- Ejecuta Mistral Small 3.2 Q4 nativo
- 128 GB VRAM — margen suficiente
Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.
Cómo ejecutar este modelo
CPU vs GPU para Mistral Small 3.2 →
Calculadora VRAM — compatibilidad instantánea
RTX 5090
32 GB · Ejecuta Q4 nativo · Ver disponibilidad
*Los precios y la disponibilidad pueden cambiar. Algunos enlaces son de afiliado.
Requisitos del sistema
VRAM GPU 13.2 GB GPU gama media
RAM del sistema 24 GB
32 GB recomendado
Almacenamiento 12 GB Q4 · SSD recomendado
CPU i7 → 1 tok/s Funciona sin GPU
VRAM por cuantización
| Cuantización | VRAM necesaria | Espacio en disco | Calidad |
|---|---|---|---|
| FP16 (calidad máxima) | 52.8 GB | 48 GB | Máxima |
| Q8 (alta calidad) | 26.4 GB | 24 GB | Casi sin pérdida |
| Q4 (recomendado) Mejor equilibrio | 13.2 GB | 12 GB | Recomendada |
| Q2 (mínimo) | 6.6 GB | 6 GB | Pérdida de calidad |
Detalles del modelo
| Desarrollador | Mistral AI |
| Parámetros | 24B |
| Ventana de contexto | 128,000 tokens |
| Licencia | Apache 2.0 |
| Casos de uso | chat, reasoning, coding, analysis |
| Lanzamiento | 2025-06 |
Instalar con Ollama
ollama run mistral-small3.2:24b Hugging Face
mistralai/Mistral-Small-3.2-24B-Instruct-2506 Requisitos técnicos
¿Tu GPU puede ejecutar Mistral Small 3.2?
Mistral Small 3.2 requiere <strong class="text-primary-container">13.2 GB de VRAM</strong> en Q4. 21 GPUs de consumo cumplen este umbral. Por debajo de 8 GB o 11.2 GB verás una latencia de offload notable.
6.6GB Mínimo crítico
13.2GB Óptimo Q4
26.4GB Alta calidad Q8
52.8GB Máximo FP16
Matriz de rendimiento de hardware
21 Q4 nativo · 18 offload
GPUs recomendadas para Mistral Small 3.2
Benchmarks Reales
Sin Reviews Pagadas
Selección Editorial
Basado en Datos
Mejores opciones por compatibilidad, margen de VRAM y valor; precios y disponibilidad pueden cambiar.
RTX 5090
32 GB VRAM
Q4 nativo
Ver disponibilidad →
RTX 4090
24 GB VRAM
Q4 nativo
Ver disponibilidad →
M4 Ultra
128 GB VRAM
Q4 nativo
Ver disponibilidad →
Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.
Mistral Small 3.2 — Guía de compatibilidad
Mistral Small 3.2 puede ejecutarse en CPU sin GPU dedicada, algo poco habitual para un modelo de 24B. En un i7-13700K con llama.cpp Q4 alcanza 1 tok/s (lento pero usable). Con GPU obtienes entre 4 y 6 veces más velocidad; revisa la calculadora de VRAM para ver los detalles.
Compara GPUs para Mistral Small 3.2
¿Qué GPU merece la pena? Especificaciones y benchmarks reales lado a lado.
Hardware compatible
GPUs que ejecutan Mistral Small 3.2 en Q4, ordenadas por rendimiento en IA.
Benchmarks Reales
Sin Reviews Pagadas
Basado en Datos
Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.
Alternativas más prácticas
Modelos similares en la categoría chat con requisitos de VRAM comparables.
¿No sabes qué GPU necesitas para Mistral Small 3.2?
La calculadora de VRAM te dice exactamente qué cuantización soporta tu hardware.
RTX 5090
Ver disponibilidad
Los precios cambian a diario