Vai al contenuto principale
Motore locale pronto

RTX 3060 Ti

51 modelli IA entrano in 8 GB di VRAM in Q4 nativo. 17 altri funzionano con offloading CPU. Benchmark reali qui sotto.

51 Modelli compatibili
17 con offloading
8GB GDDR6
200W TDP
Javier Morales
Javier Morales Specialista hardware IA — 8 anni di esperienza
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · metodologia →

RTX 3060 Ti

Contesto di esecuzione

MARCA NVIDIA
BANDA 448 GB/s
FP16 TFLOPS 16.2
AI SCORE 38 / 140
FASCIA PREZZO Buon rapporto qualita-prezzo
MSRP (LAUNCH) $399
AI SCORE (RELATIVE)
38 /140
Ingresso Valore Media Alta Flagship
MSRP at launch: $399 Current street price varies on Amazon

Controlla l'offerta attuale

Link affiliato Amazon per RTX 3060 Ti

Alcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.

Specifiche complete

NVIDIA · 2020-12

VRAM 8 GB GDDR6
Banda 448 GB/s
FP16 TFLOPS 16.2
AI Score 38 / 140
CUDA Cores 4,864
Tensor Cores 152
TDP 200 W
PCIe Gen 4
Slots 2
Power Connector 2x 8-pin
Fascia di prezzo Buon rapporto qualita-prezzo
Rilascio 2020-12

Benchmark IA

Misurazioni reali di inferenza — llama.cpp Q4_K_M

Attivita Risultato
Llama 1B Q4 236 tok/s
Llama 3B Q4 94 tok/s
Llama 7B Q4 32 tok/s
Llama 13B Q4 VRAM N/D
Llama 30B Q4 VRAM N/D
Llama 70B Q4 Offload o multi-GPU
Stable Diffusion 512px 5.5s / img
Whisper Large RTF 0.65x

RTF < 1.0 = piu veloce del tempo reale. Per Stable Diffusion e Whisper, piu basso e meglio; per tokens/s, piu alto e meglio.

Confronta RTX 3060 Ti con un altra GPU

Vale la pena fare l upgrade? Confronta specifiche e benchmark reali fianco a fianco.

Apri comparatore →
Confronti rapidi: vs RX 6700 XT · vs M3 Pro

Modelli IA compatibili — RTX 3060 Ti

51 modelli entrano interamente in VRAM · 17 con offloading CPU

Vedi tutti i 51 modelli compatibili →

Funziona anche con offloading CPU (17)

RTX 3060 Ti · Amazon

I prezzi delle GPU cambiano spesso tra i rivenditori. Controlla l offerta attuale prima di acquistare.

Controlla l'offerta attuale

Alcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.

RTX 3060 Ti per IA locale

RTX 3060 Ti con 8GB di GDDR6 e un'opzione solida per IA locale. Questa GPU copre i modelli piu usati in quantizzazione Q4 e permette carichi piu grandi in base alla VRAM disponibile.

Nei benchmark reali, RTX 3060 Ti raggiunge 32 token/secondo su Llama 7B Q4. Puoi eseguire 51 modelli interamente in VRAM, con altri 17 modelli in offloading CPU.

Per verificare in dettaglio la compatibilita di ogni modello, usa il calcolatore VRAM. Puoi anche consultare le guide introduttive per configurare il tuo ambiente locale.

Pianifica la tua build IA completa

RTX 3060 Ti · 8 GB VRAM — configura PSU, RAM, storage e verifica i modelli compatibili.

Configura la tua build →

Non sai quale modello eseguire sulla tua RTX 3060 Ti?

Il calcolatore VRAM ti dice esattamente quale quantizzazione ti serve.

Apri calcolatore →

Ottieni il miglior prezzo per RTX 3060 Ti

Open Amazon with our affiliate link and check availability, variants, and current deals.

Ottieni il miglior prezzo →