
Compression des modèles de langage embarqués pour les robots spatiaux sous contrainte de fidélité comportementale
Une équipe de recherche publie sur arXiv QSelect, une méthode de compression de modèles de langage destinée aux robots spatiaux, où le modèle sert d'interface entre les commandes d'un opérateur et un catalogue de compétences déjà vérifiées. La compression est traitée comme une étape du segment sol. QSelect assemble un unique modèle quantifié à faible nombre de bits à partir de points de contrôle compatibles AWQ, GPTQ et AutoRound. Chaque module linéaire est attribué à une seule famille de quantification, et chaque substitution est évaluée sur la distribution finale du prochain token. Le mode par défaut n'exige ni étiquettes ni seuils réglés : il n'accepte une substitution que si la divergence KL directe par rapport à la référence BF16 diminue. Un mode optionnel ajoute la vraisemblance des réponses sur un petit jeu étiqueté. Sur DeepSeek-R1-Distill-Qwen-7B, Llama-3.1-8B et Llama-3.2-3B, à 3 et 4 bits, les modèles composés obtiennent une perplexité moyenne plus basse que chaque famille seule dans les six configurations. Sur les deux Llama à 3 bits, le mode adapté à la cible gagne 4,3 et 4,5 points d'exactitude agrégée sur la meilleure famille unique.
L'intérêt tient au cahier des charges de vol, que la quantification post-entraînement générique laisse implicite : budget mémoire et format de stockage fixes, artefact statique sous gestion de configuration, comportement proche du modèle pleine précision validé au sol. Le résultat le plus transférable est méthodologique : noter les substitutions sur la sortie finale donne une KL plus faible que la similarité de représentations dans les 12 essais appariés. Un chiffre rappelle aussi une contrainte pratique : à 3 bits, les couches d'embedding et de sortie non quantifiées représentent 43 à 46 % de l'artefact empaqueté, ce qui limite le gain réel de mémoire.
Il s'agit toutefois d'un préprint académique, sans qualification de vol. Toutes les évaluations portent sur des benchmarks généralistes et un GPU au sol. Aucune tâche spatiale, aucun matériel embarqué et aucun robot ne sont testés, et le gain d'exactitude suppose des étiquettes issues des familles de tâches évaluées. Le contexte est l'intérêt croissant pour les interfaces en langage naturel sur des systèmes à calcul, énergie et bande passante contraints, où AWQ, GPTQ et AutoRound s'utilisent d'ordinaire séparément. Les auteurs renvoient les tâches spatiales et le matériel de vol à de futurs travaux. Aucun calendrier de pilote n'est annoncé.
Pas d\'impact direct sur la France/UE
Dans nos dossiers




