RX 7900 XTX
81 AI models fit in 24 GB VRAM at Q4 native. 7 more run with CPU offloading. Real benchmarks below.
llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · methodology →
Execution Context
Aktuelles Angebot prüfen
Amazon affiliate link for RX 7900 XTX
Einige Links sind Amazon-Partnerlinks. Wir koennen ohne Mehrkosten fuer Sie eine Provision erhalten. Amazon-Cookies koennen nach Ihrem Klick bis zu 24 Stunden bestehen.
Full Specifications
AMD · 2022-12
| VRAM | 24 GB GDDR6 |
| Bandwidth | 960 GB/s |
| FP16 TFLOPS | 61.4 |
| AI Score | 70 / 140 |
| CUDA Cores | 6,144 |
| TDP | 355 W |
| PCIe | Gen 4 |
| Slots | 2.5 |
| Power Connector | 2x 8-pin |
| Price Band | Oberklasse |
| Released | 2022-12 |
AI Benchmarks
Real inference measurements — llama.cpp Q4_K_M
| Task | Result |
|---|---|
| Llama 1B Q4 | 400 tok/s |
| Llama 3B Q4 | 200 tok/s |
| Llama 7B Q4 | 80 tok/s |
| Llama 13B Q4 | 45 tok/s |
| Llama 30B Q4 | 22 tok/s |
| Llama 70B Q4 | Offload or multi-GPU |
| Stable Diffusion 512px | 3.5s / img |
| Whisper Large RTF | 0.45x |
RTF < 1.0 = faster than real time. For Stable Diffusion and Whisper lower is better; for tokens/s higher is better.
Compare RX 7900 XTX with another GPU
Is an upgrade worth it? Compare specs and real benchmarks side by side.
Open comparator →Compatible AI Models — RX 7900 XTX
81 models run fully in VRAM · 7 with CPU offloading
Flux.1 Dev
Whisper Large V3
Stable Diffusion 3.5 Large
FLUX.2 Dev
Qwen2.5-Coder 32B
DeepSeek R1 Distill 32B
Qwen2.5 32B
Stable Diffusion 3.5 Medium
Show all 81 compatible models →
Also runs with CPU offloading (7)
- Llama 3.3 70B 21 GB Q2 How to install →
- Qwen2.5 72B 21 GB Q2 How to install →
- Llama 3.1 70B 20 GB Q2 How to install →
- Qwen3-Coder-Next 80B-A3B 22 GB Q2 How to install →
- Mixtral 8x7B 14 GB Q2 How to install →
- Hermes 3 70B 20 GB Q2 How to install →
- Nous Hermes 2 Mixtral 8x7B 13 GB Q2 How to install →
RX 7900 XTX · Amazon
GPU-Preise schwanken haeufig zwischen Haendlern. Pruefen Sie vor dem Kauf das aktuelle Angebot.
Aktuelles Angebot prüfenEinige Links sind Amazon-Partnerlinks. Wir koennen ohne Mehrkosten fuer Sie eine Provision erhalten. Amazon-Cookies koennen nach Ihrem Klick bis zu 24 Stunden bestehen.
RX 7900 XTX for Local AI
La RX 7900 XTX con 24GB de GDDR6 es una GPU de alto rendimiento para IA local. Puede ejecutar modelos de 7B, 13B y hasta 70B parámetros en cuantización Q2, cubriendo la mayoría de los casos de uso prácticos: asistentes de chat, generación de código, análisis de texto y generación de imágenes con Stable Diffusion.
En benchmarks reales, la RX 7900 XTX alcanza 80 tokens/segundo en Llama 7B Q4 — velocidad suficiente para conversación fluida en tiempo real. Los modelos de 13B como Phi-4 o Qwen2.5 14B corren cómodamente en Q4, y modelos 70B son accesibles via Q2 con 7 opciones.
La relación rendimiento-precio de la RX 7900 XTX la hace una de las mejores opciones para usuarios técnicos que quieren IA local seria. Usa la calculadora de VRAM para ver exactamente qué cuantización necesita cada modelo, o consulta nuestra guía para elegir GPU.
Plan your full AI build
RX 7900 XTX · 24 GB VRAM — configure PSU, RAM, storage and check compatible models.
Related articles
Not sure which model to run on your RX 7900 XTX?
The VRAM calculator tells you exactly which quantization you need.
Get the best price for RX 7900 XTX
Open Amazon with our affiliate link and check availability, variants, and current deals.