
SACQ : quantification de codebook sensible à la structure pour les modèles vision-langage-action (VLA) à très faible précision en bits
SACQ (Structure-Aware Codebook Quantization) est un cadre de quantification des poids à très bas débit binaire pour les modèles Vision-Language-Action (VLA), publié sur arXiv. Il s'applique ici à GR00T N1.7, le modèle de fondation robotique de NVIDIA. Sur les quatre suites du benchmark LIBERO, la méthode atteint 93,85 % de succès moyen avec 1,5 bit par poids pour les composantes langage et action, ce qui réduit l'empreinte mémoire du modèle d'un facteur 4,83. En ajoutant une quantification INT8 des activations et une attention en basse précision, le taux de succès reste à 93,55 % et l'inférence tourne 1,51 fois plus vite qu'en BF16. Sur SimplER, avec 2 bits par poids langage/action, SACQ obtient 63,76 % (Visual Matching) et 52,27 % (Variant Aggregation), contre 58,90 % et 53,45 % pour la référence BF16. Les gains sont donc réels sur un cas et quasi neutres sur l'autre.
L'enjeu est très concret pour les intégrateurs et les équipes embarquées : les VLA sont gourmands en mémoire, ce qui limite leur déploiement sur les calculateurs contraints d'un robot mobile ou d'un humanoïde. Les recettes de quantification post-entraînement (PTQ) héritées des grands modèles de langage se dégradent nettement sous les 2 bits quand on les applique telles quelles aux VLA. SACQ cible cette faiblesse en tenant compte de la structure des opérations en aval et de l'effet de chaque couche sur l'action finale, plutôt que de seulement minimiser l'erreur de reconstruction des poids. Le résultat suggère qu'une compression d'environ un facteur 5 est possible sans perte sensible de performance, au moins en simulation. Il faut toutefois rester prudent : LIBERO et SimplER sont des benchmarks simulés, sans mesure sur robot réel, ni de latence de bout en bout en conditions de production. Le gain de vitesse de 1,51x est modeste comparé à la compression mémoire.
Techniquement, SACQ repose sur trois briques. La première est un ajustement de codebooks vectoriels avec des métriques quadratiques propres à chaque rôle de couche, reflétant les statistiques d'entrée et la sensibilité en aval. La deuxième est une allocation de bits variable selon les couches, guidée par l'augmentation de l'erreur sur l'action finale quand une couche est compressée. La troisième est un raffinement en deux étapes après quantification : réaffectation des indices de codewords avec compensation d'erreur du second ordre, puis calibration des codebooks et des échelles par groupes de lignes sur l'action décodée. Ce travail s'inscrit dans la course à l'efficacité des VLA, face à d'autres approches de compression et de distillation de modèles comme Pi-0 ou OpenVLA. Il reste à voir si le code sera publié et si la méthode se valide sur matériel embarqué réel, étape indispensable avant toute adoption industrielle.
Pas d\'impact direct sur la France/UE
Dans nos dossiers




