Motional et le MIT : CW‑Net explique les choix d’une voiture autonome

Motional et des chercheurs du MIT ont conçu CW‑Net, un dispositif qui expose en temps réel les concepts guidant la conduite autonome. Évalué sur route à Las Vegas avec un conducteur de sécurité, il affiche moins de 1 % d’écart face aux meilleurs algorithmes, tout en rendant traçables des décisions critiques. L’approche, publiée dans Nature, est présentée comme une réponse aux attentes de transparence des autorités et des opérateurs.

Moins de 1 % d’écart de performance malgré l’explicabilité

Les chercheurs ont comparé CW‑Net à des algorithmes de conduite de référence et observent un écart de capacité de conduite inférieur à un pour cent. Motional reconnaît que l’explicabilité peut peser sur la vitesse et la performance, mais la mesure obtenue situe ce coût sous un seuil serré. Les essais menés à Las Vegas sont présentés comme éclairants pour l’exploitation plutôt que pour la seule recherche. Un conducteur de sécurité qui voit si un arrêt provient d’une hallucination de véhicule ou d’un système de secours peut adapter sa réaction et remonter une information plus précise que s’il s’en tenait au comportement observé. Cette visibilité nourrit aussi la rapidité de diagnostic des équipes et la capacité à différencier une manœuvre voulue d’un défaut.

Essais autour de Las Vegas : deux incidents décryptés

L’équipe de Motional et du MIT a déployé CW‑Net sur un véhicule autonome conduit par un opérateur de sécurité expérimenté, en recueillant des données sur circuit privé et sur routes publiques autour de Las Vegas. Contrairement aux travaux d’IA explicable souvent cantonnés aux simulations, les essais ont utilisé une version expérimentale antérieure du planificateur d’apprentissage profond, jugée compétitive mais perfectible. Dans un premier cas, la voiture s’est arrêtée à plusieurs reprises près d’un cône. Même retiré, l’arrêt persistait. L’affichage CW‑Net a révélé une hallucination de véhicule arrêté par le planificateur expérimental, retracée à des motifs issus de l’entraînement, ce qui a permis de comprendre, anticiper et corriger l’anomalie. Dans un second cas, le véhicule a bien détecté un cycliste et s’est arrêté, mais CW‑Net a montré que le planificateur ne se fondait pas sur la présence du cycliste. Le conducteur de sécurité a accru sa prudence, et une analyse ultérieure a confirmé que le freinage venait d’un système de secours et non du planificateur principal.

Rendre lisible la décision : concepts actionnables et traçables

CW‑Net convertit la logique interne de la conduite autonome en concepts interprétables, par exemple « Véhicule arrêté à proximité » ou « Proche d’un cycliste ». Motional indique que ces concepts pourraient être affichés sur un tableau de bord, pour visualiser ceux qui influencent la décision au moment où elle est prise. Le système de décision final agit directement sur ces concepts, de sorte qu’un freinage se rattache à un déclencheur explicite : une conception qualifiée de causalement fidèle par Motional, à la différence des explications en langage naturel parfois plausibles sans exactitude garantie. L’objectif de CW‑Net, proposé par Motional et le MIT, est de traduire le calcul interne vers des éléments humains tout en traitant la critique de la boîte noire, alors que les réseaux de neurones de plus en plus utilisés et efficaces n’exposent pas leur raisonnement et sont qualifiés de boîtes noires par les ingénieurs.

Publication, positionnement et attentes des régulateurs

Les résultats ont été publiés dans Nature par une équipe réunissant Motional, avec sa PDG Laura Major, et des chercheurs du MIT CSAIL. Laura Major soutient l’intérêt d’une interprétabilité native face à une approche purement de bout en bout, qu’elle estime capable d’atteindre 80 à 90 %, voire 95 %, sans suffire à retirer le conducteur ni à rallier la confiance des collectivités et des clients. Motional rattache CW‑Net à une pression accrue sur les opérateurs à mesure que la conduite autonome s’étend sur de nouveaux marchés et juridictions. Les autorités exigent plus de transparence sur la façon dont l’IA prend ses décisions, et Motional s’attend à ce que des outils de ce type passent du statut de projet de recherche à celui d’exigence de base. Au‑delà des voitures particulières, les drones autonomes et la chirurgie robotique sont cités parmi les domaines critiques pour la sécurité où des moyens d’explication des capacités, des limites et des comportements inattendus seront nécessaires.