DeepSeek V3
DeepSeek V3 requiere hardware multi-GPU o de servidor. Umbrales de VRAM y benchmarks precisos abajo.
llama.cpp 0.2.x · CUDA 12 · ROCm 6 · actualizado mensualmente · metodología →
Contexto de ejecución
Cómo ejecutar este modelo
Requisitos del sistema
VRAM por cuantización
| Cuantización | VRAM necesaria | Espacio en disco | Calidad |
|---|---|---|---|
| FP16 (calidad máxima) | 1644 GB | 1370 GB | Máxima |
| Q8 (alta calidad) | 822 GB | 685 GB | Casi sin pérdida |
| Q4 (recomendado) Mejor equilibrio | 411 GB | 343 GB | Recomendada |
| Q2 (mínimo) | 206 GB | 171 GB | Pérdida de calidad |
Detalles del modelo
| Desarrollador | DeepSeek |
| Parámetros | 685B |
| Ventana de contexto | 128,000 tokens |
| Licencia | MIT |
| Casos de uso | chat, coding, reasoning, analysis |
| Lanzamiento | 2024-12 |
Hugging Face
deepseek-ai/DeepSeek-V3 ¿Tu GPU puede ejecutar DeepSeek V3?
DeepSeek V3 requiere <strong class="text-error">411 GB de VRAM</strong>. Ninguna GPU de consumo actual tiene VRAM suficiente para inferencia local; considera variantes destiladas.
Matriz de rendimiento de hardware
0 Q4 nativo · 0 offload
| GPU | VRAM | Compatibilidad | Velocidad est. | Acción |
|---|
DeepSeek V3 requiere 411 GB VRAM (Q4)
Ninguna GPU de consumo tiene suficiente VRAM para este modelo. Considera alternativas más ligeras o hardware profesional.
DeepSeek V3 — Guía de compatibilidad
DeepSeek V3 con 685B parámetros solo se ejecuta completamente en configuraciones multi-GPU o de servidor. Considera versiones destiladas si existen. La calculadora de VRAM puede ayudarte a encontrar alternativas compatibles.
Hardware compatible
GPUs que ejecutan DeepSeek V3 en Q4, ordenadas por rendimiento en IA.
Ninguna GPU de consumo tiene VRAM suficiente para este modelo.
Considera versiones destiladas o cuantización Q2.
Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.
Alternativas más prácticas
Modelos similares en la categoría chat con requisitos de VRAM comparables.
¿No sabes qué GPU necesitas para DeepSeek V3?
La calculadora de VRAM te dice exactamente qué cuantización soporta tu hardware.