Les trajectoires imaginées sont cinématiques, pas dynamiques : diagnostic d'un échec des modèles du monde à long horizon
Des chercheurs proposent un nouveau diagnostic pour expliquer pourquoi les modeles du monde (world models) utilises en apprentissage par renforcement echouent sur les longs horizons de prediction. Publie sur arXiv (2607.05966v1), le papier avance que l'explication habituelle, l'erreur qui s'accumule au fil des pas de simulation, est trop generique et ne dit rien sur la nature de cette erreur. Les auteurs proposent une distinction cinematique versus dynamique: un modele du monde peut imaginer des trajectoires qui restent plausibles au niveau des positions et vitesses (cinematique) sans respecter les forces, frottements et contraintes physiques reelles (dynamique). Pour le mesurer, ils introduisent l'iKCE (imagined Kinematic-Consistency Error), un indicateur pas-a-pas qui compare une trajectoire imaginee a une reference cinematique en forme close, complete par un protocole de perturbation testant si l'iKCE reagit quand les conditions physiques franchissent une frontiere de regime. Applique a un checkpoint public de DreamerV3 entraine sur la tache walker-walk du DeepMind Control Suite, l'iKCE des trajectoires imaginees est environ cent fois superieur a celui de trajectoires reelles equivalentes.
Le resultat le plus parlant vient d'un balayage du coefficient de friction traversant la frontiere ou la marche du robot s'effondre: la recompense de la politique entrainee chute brutalement dans cette zone, mais l'iKCE du modele reste statistiquement plat, preuve que le modele n'a jamais vraiment integre la dynamique physique sous-jacente et se contente d'extrapoler des formes de mouvement. Pour l'industrie qui mise sur les modeles du monde pour la planification robotique ou l'apprentissage par simulation, ce travail fournit un outil concret pour distinguer un modele qui "a compris la physique" d'un modele qui reproduit des motifs de surface, une nuance cruciale avant tout transfert vers du controle reel.
Le papier s'inscrit dans la lignee des travaux sur les world models (PlaNet, Dreamer, DreamerV3) largement utilises en RL base sur modele, ou la fiabilite des rollouts imagines conditionne directement la qualite des politiques apprises. Les auteurs precisent que leur diagnostic est surtout discriminant aux horizons depassant la periode de marche de l'agent, ouvrant la voie a des benchmarks de robustesse dynamique applicables a d'autres architectures et environnements que DMC walker-walk.
Dans nos dossiers




