Fondamentaux de la quantification#

Les approches fondamentales qui définissent quand et comment la quantification est appliquée pendant le cycle de vie d'un modèle. Comprendre ces deux paradigms (QAT vs PTQ) est essentiel avant d'aborder toute méthode spécifique.

Pages de cette catégorie#

  • Quantization-Aware Training (QAT) — La quantification est simulée pendant l'entraînement. Le modèle apprend à être robuste à la basse précision, offrant la meilleure qualité au prix d'un coût d'entraînement élevé.
  • Post-Training Quantization (PTQ) — La quantification est appliquée après l'entraînement, sans ré-entraînement. Rapide, pratique, largement utilisée pour le déploiement. La majorité des autres méthodes du guide sont des variantes de PTQ.

← Retour à l'index quantification · Voir le comparatif complet

ia llm quantification fondamentaux qat ptq