EG
Exemple de navigation ouverte SoftNav : scène 3D en vue de dessus avec les vues de départ et d'objectif et la trajectoire du robot pour l'instruction « Find the toilet »
ResearchJuly 26, 2026Stax

SoftNav : des tokens de scène 3D transforment un VLM gelé en navigateur transférable

SoftNav, accepté à IROS 2026, injecte des tokens de scène 3D au niveau entité directement dans l'espace latent d'un VLM gelé — 74,2 % de réussite sur HM3D-OVON avec seulement ~17M de paramètres entraînables et ~1 200 échantillons, puis transfert zéro-shot sur un vrai Unitree Go2.

#SoftNav#embodied navigation#VLM#3D scene understanding#IROS 2026#open-vocabulary navigation#quadruped robot
Reading in French

Les piles de navigation incarnée ont un problème de plomberie. Le module de perception 3D cartographie la scène, puis transmet sa compréhension à un modèle vision-langage (VLM) pour le raisonnement — en aplatissant généralement une géométrie riche en coordonnées, graphes de scène ou texte brut. Un article soumis sur arXiv le 16 juillet et accepté à IROS 2026 pose la question évidente : combien de géométrie, de sémantique et de relations spatiales se perdent dans cette traduction ? Sa réponse, SoftNav, supprime purement la traduction.

Un token souple par objet, directement dans l'espace latent

Au lieu de sérialiser la scène en mots, SoftNav injecte des représentations continues 3D au niveau entité — un token par objet détecté ou frontière d'exploration — directement dans l'espace latent du VLM sous forme de tokens souples, via un projecteur léger. Une ablation contrôlée confirme le choix : le transfert direct au niveau des embeddings surpasse significativement les formats de sérialisation textuelle évalués, preuve que le « fossé de représentation » suspecté par les auteurs est réel et coûteux.

L'efficacité est le deuxième titre. Avec l'encodeur 3D et le VLM tous deux gelés, SoftNav n'exige que ~17M de paramètres entraînables et ~1 200 échantillons — une fraction de ce que consomment les politiques de navigation de bout en bout.

État de l'art, puis zéro-shot partout ailleurs

Sur le benchmark ouvert HM3D-OVON, SoftNav affiche 74,2 % / 68,3 % / 66,7 % de taux de réussite sur les trois divisions, dépassant toutes les méthodes antérieures en SR comme en SPL. Plus intéressant encore : là où le même checkpoint va ensuite sans réentraînement ni modification d'architecture — GOAT-Bench (67,2 % SR), SG3D (47,2 % s-SR), et un robot physique.

Le test réel est un quadrupède Unitree Go2 équipé d'une RealSense D435i, exécutant une politique entraînée entièrement dans la simulation Habitat, la perception 3D et la planification tournant sur une unité de calcul externe. Sur couloir, hall et extérieur — dix essais chacun — le robot a réussi 19/30 (63,3 %), dont la moitié des parcours extérieurs alors que ces scènes sortent de la distribution d'entraînement intérieure. Les auteurs sont francs sur les limites : succès jugés par des humains, calcul non embarqué, et les ratés de la perception amont restent le goulot d'étranglement du système.

Pourquoi c'est important

SoftNav ne remplace ni la détection 3D, ni la cartographie, ni l'association de données — il améliore la façon dont l'information 3D existante entre dans la décision. C'est une répartition du travail significative pour le domaine : à mesure que les VLM fondationnels progressent, une interface économique à backbone gelé qui leur permet d'exploiter réellement la géométrie pourrait devenir l'équipement standard des piles de navigation, plutôt que mille heures supplémentaires d'ingénierie de prompts sérialisés.

Source: arXiv
Language: French- Showing content in French