¿Qué GPU necesito para ejecutar IA local?

Para IA local se recomienda una GPU con al menos 8 GB de VRAM. La NVIDIA RTX 3060 (12 GB) es una gran opción de entrada y ejecuta Llama 3.1 8B a unos 30 tokens/s en Q4.

¿Cuánta VRAM necesito para Llama 3?

Llama 3.1 8B requiere alrededor de 5 GB VRAM en Q4. Para Llama 3.3 70B se necesitan alrededor de 42 GB de VRAM o Apple Silicon con 48 GB de memoria unificada.

¿Puedo ejecutar IA sin GPU?

Sí. Modelos pequeños como Phi-3-mini pueden correr en CPU a 10-15 tokens/s en un i7 moderno. Necesitas al menos 16 GB de RAM y aceptar menor rendimiento.

Elige un modelo.
Te diremos qué hardware necesitas.

Name: RunAIatHome
Author: RunAIatHome

Requisitos exactos de VRAM, benchmarks reales y GPUs compatibles, sin suposiciones.

Deja de adivinar. Encuentra la GPU que determina qué modelos de IA puedes ejecutar">VRAM y GPU exactas que necesitas en menos de 5 minutos.

Selección activa de modelo

Llama 3.1 8B Phi-4 Stable Diffusion Qwen2.5 Coder

Empieza con un modelo Ver configuraciones reales

Perfil del modelo

Phi-4

Microsoft · 14B parametros

OPTIMIZADO

Requisito de VRAM

8.4 GB

4GB8GB12GB16GB 24GB+

Nodos locales recomendados

Inferencia FP16

Latencia 24ms

Por qué esto es difícil

Ejecutar IA local es más difícil de lo que debería

Las specs no bastan

TFLOPS, CUDA cores o tensor ops no te dicen qué modelos puedes ejecutar de verdad. El rendimiento real depende de ancho de banda y cuantización.

Decisiones de hardware equivocadas

Comprar la GPU equivocada te puede limitar durante años. La VRAM es el cuello de botella principal en LLMs y muchas GPUs de consumo se quedan cortas.

Sin respuestas claras

Muchas guías son vagas o están desactualizadas. Cuando un tutorial se publica, arquitecturas y optimizaciones ya cambiaron.

Elimina la incertidumbre.

Nuestro motor de diagnóstico cruza las capacidades exactas de tu máquina con cada modelo del catálogo. Sin benchmarks sintéticos: inferencia real en hardware real.

Analiza tu hardware en 2 minutos

Cómo funciona