Aller au contenu principal
Moteur local prêt

M3 Ultra

94 modèles IA tiennent dans 192 GB de VRAM en Q4 natif. 3 autres fonctionnent avec offloading CPU. Benchmarks réels ci-dessous.

94 Modèles compatibles
3 avec offloading
192GB Unified Memory
80W TDP
Javier Morales
Javier Morales Spécialiste matériel IA — 8 ans d’expérience
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · méthodologie →

M3 Ultra

Contexte d’exécution

MARQUE Apple
BANDE PASSANTE 800 GB/s
FP16 TFLOPS 28
AI SCORE 82 / 140
FOURCHETTE PRIX Integree
PRIX LANCEMENT $5,999
AI SCORE (RELATIVE)
82 /140
Entrée Valeur Milieu Haut Flagship
Prix de lancement: $5,999 Le prix actuel varie sur Amazon

Vérifier l'offre actuelle

Lien affilié Amazon pour M3 Ultra

Certains liens sont des liens d'affiliation Amazon. Nous pouvons toucher une commission sans coût supplémentaire pour vous. Le cookie Amazon peut durer jusqu'à 24 heures après votre clic.

Spécifications complètes

Apple · 2024-05

VRAM 192 GB Unified Memory
Bande passante 800 GB/s
FP16 TFLOPS 28
AI Score 82 / 140
Tensor Cores 80
TDP 80 W
Fourchette de prix Integree
Sortie 2024-05

Benchmarks IA

Mesures réelles d’inférence — llama.cpp Q4_K_M

Tâche Résultat
Llama 1B Q4 400 tok/s
Llama 3B Q4 168 tok/s
Llama 7B Q4 95 tok/s
Llama 13B Q4 37 tok/s
Llama 30B Q4 19 tok/s
Llama 70B Q4 38 tok/s
Stable Diffusion 512px 3s / img
Whisper Large RTF 0.35x

RTF < 1.0 = plus rapide que le temps réel. Pour Stable Diffusion et Whisper, plus bas est meilleur ; pour les tokens/s, plus haut est meilleur.

Comparer M3 Ultra avec un autre GPU

Mise à niveau utile ? Comparez les specs et benchmarks réels côte à côte.

Ouvrir le comparateur →
Comparaisons rapides : vs RTX 4080 Super · vs RTX 5080

Modèles IA compatibles — M3 Ultra

94 modèles fonctionne entièrement en VRAM · 3 avec offloading CPU

Voir les 94 modèles compatibles →

Fonctionne aussi avec offloading CPU (3)

M3 Ultra · Amazon

Les prix des GPU changent souvent selon les vendeurs. Verifiez l offre actuelle avant achat.

Vérifier l'offre actuelle

Certains liens sont des liens d'affiliation Amazon. Nous pouvons toucher une commission sans coût supplémentaire pour vous. Le cookie Amazon peut durer jusqu'à 24 heures après votre clic.

M3 Ultra pour l’intelligence artificielle locale

M3 Ultra avec 192GB de Unified Memory est une option solide pour l'IA locale. Cette carte couvre les modèles populaires en quantification Q4 et permet d'aller plus loin selon la VRAM disponible.

En benchmarks réels, M3 Ultra atteint 95 tokens/seconde sur Llama 7B Q4. Vous pouvez aussi exécuter 94 modèles entièrement en VRAM, avec 3 modèles supplémentaires en offloading CPU.

Pour vérifier précisément la compatibilité de chaque modèle, utilisez le calculateur VRAM. Vous pouvez également consulter les guides de démarrage pour configurer votre environnement local.

Planifiez votre build IA complet

M3 Ultra · 192 GB VRAM — configurez PSU, RAM, stockage et vérifiez les modèles compatibles.

Configurer votre build →

Vous ne savez pas quel modèle exécuter sur votre M3 Ultra ?

Le calculateur VRAM vous indique exactement quelle quantification utiliser.

Ouvrir le calculateur →

Obtenez le meilleur prix pour M3 Ultra

Ouvrez Amazon via notre lien affilié et vérifiez la disponibilité, les variantes et les offres actuelles.

Voir le meilleur prix →