
Apprendre à absorber les corrections : flux résiduel pondéré par un critique pour l'insertion guidée par la vision
Des chercheurs présentent ACT-Flow, un cadre d'apprentissage en ligne pour l'insertion guidée par la vision, qui associe un Action Chunking Transformer (ACT) adaptatif à une politique de flux résiduel conditionnelle. Après une phase de préchauffage guidée par des ancres, ACT absorbe par clonage comportemental les actions exécutées avec succès, et les cibles résiduelles sont recalculées par rapport à ce prior mis à jour. Un critique évaluant des segments d'actions (chunks) apprend à partir des interactions réussies et échouées, et note les actions finales composées. Ses estimations pondèrent les candidats résiduels générés pour l'entraînement par flow matching, en complément d'une supervision issue des exécutions réelles réussies. Le framework est évalué sur cinq tâches : insertion de prise électrique, de clé USB et de clé, routage de câble et enfilage d'aiguille. À 20 000 pas d'interaction après l'initialisation, le taux de succès moyen atteint 66 %, soit 18 points de pourcentage de plus que la meilleure référence au même point de contrôle. Avec le résiduel désactivé, le succès moyen d'ACT passe de 16 % à 76 % entre les points de contrôle comparés.
Ces résultats concernent un problème que les intégrateurs connaissent bien : l'assemblage de précision, où quelques millimètres de désalignement suffisent à faire échouer une insertion, alors que les politiques apprises par démonstration reproduisent bien le geste global mais corrigent mal ces écarts. L'intérêt tient à la séparation des rôles. Le modèle de base absorbe progressivement les corrections réussies, tandis que le résiduel traite l'erreur fine. Le critique n'intervient qu'à l'entraînement : au déploiement, la politique n'utilise que des images RGB et échantillonne un seul résiduel par chunk, sans surcoût de scoring ni capteur d'effort dédié. Les ablations indiquent que l'absorption comportementale, la pondération par la valeur et la supervision par actions réussies se complètent. Le chiffre le plus parlant est la progression d'ACT seul de 16 % à 76 %, qui laisse penser que l'apprentissage en ligne améliore le prior lui-même, et pas seulement la couche de correction.
Plusieurs réserves s'imposent. Il s'agit d'un preprint arXiv (v1), sans relecture par les pairs, sur cinq tâches de laboratoire. Rien n'est précisé sur le nombre d'essais, les variations d'objets ou la robustesse hors distribution, et un taux moyen de 66 % reste loin des exigences d'une ligne industrielle. L'avantage de 18 points est mesuré à un seul point de contrôle, donc pas nécessairement à convergence. Le travail s'inscrit dans la lignée d'ACT, popularisé avec ALOHA, et des méthodes d'apprentissage par renforcement résiduel et de politiques à flow matching, comme les approches de type Pi-0, qui cherchent à affiner des politiques issues de démonstrations en conditions réelles. La suite logique serait une validation sur davantage de tâches et de matériels, avec des mesures de fiabilité plus proches d'un usage en production.
Dans nos dossiers




