Raffi Krikorian alerte sur les dangers du FSD de Tesla après un crash

Raffi Krikorian et son expérience avec le FSD de Tesla

Raffi Krikorian, qui a dirigé le programme de conduite autonome d'Uber entre 2015 et 2017, a récemment partagé une expérience personnelle marquante concernant les systèmes d'intelligence artificielle. Dans un article publié dans The Atlantic, il a révélé que sa Tesla avait été gravement endommagée lors d'un accident survenu alors qu'il utilisait le mode Full Self-Driving (FSD) l'année dernière.

Krikorian, bien conscient des dangers potentiels de confier le contrôle à l'IA, a expliqué que la performance impressionnante de la technologie rendait difficile de ne pas lui faire confiance. L'accident de sa Tesla Model X, qui a percuté un mur, lui a servi de leçon sur les risques de dépendance excessive à l'égard de l'IA. Dans son essai, il décrit comment le véhicule a soudainement effectué des mouvements inattendus, le forçant à reprendre le contrôle sans comprendre ce que le système avait tenté de faire.

Un avertissement personnel

L'accident a causé à Krikorian une commotion cérébrale, bien que personne d'autre n'ait été blessé. L'incident s'est produit alors qu'il se rendait à une réunion des Boy Scouts à San Francisco. Malgré une demande de commentaire, Tesla n'a pas répondu. Krikorian, désormais directeur technique chez Mozilla, a souligné la facilité avec laquelle on peut se déconnecter mentalement lorsque les systèmes semblent presque parfaits.

Il a décrit la difficulté de passer instantanément du rôle de passager à celui de pilote, un défi accentué par des mois de confiance accumulée dans le système. Les systèmes modernes comme le FSD de Tesla sont conçus pour gérer la plupart des situations de conduite, mais ils ne sont pas infaillibles. Les conducteurs doivent rester vigilants et prêts à intervenir à tout moment.

Les dangers des systèmes presque parfaits

Krikorian a mis en lumière le danger des machines qui fonctionnent presque parfaitement. Contrairement à une machine infaillible qui ne nécessite aucune supervision, une machine presque parfaite peut induire un faux sentiment de sécurité. Cette confiance excessive peut avoir des conséquences désastreuses.

Historique des incidents liés au FSD

Les erreurs commises par le système FSD de Tesla sont bien documentées. L'entreprise fait face à des enquêtes réglementaires suite à des incidents où des véhicules ont circulé à contresens, brûlé des feux rouges, ou tenté de traverser des passages à niveau de manière inappropriée.

Tesla a également été impliqué dans plusieurs poursuites judiciaires après des accidents mortels liés au FSD et à son prédécesseur, l'Autopilot. En 2019, un accident tragique a coûté la vie à une jeune femme de 22 ans, entraînant une condamnation de plus de 242 millions de dollars en dommages et intérêts pour Tesla.

Publicité trompeuse et autres fabricants en difficulté

Tesla a été critiqué pour sa manière de promouvoir le FSD et l'Autopilot, un juge californien ayant statué que les publicités de Tesla donnaient l'impression que les voitures pouvaient se conduire seules. Mais Tesla n'est pas le seul constructeur à faire face à des défis avec ses systèmes d'assistance à la conduite.

Ford, par exemple, est sous enquête pour deux accidents mortels en 2024 impliquant sa technologie BlueCruise. Les documents du National Transportation Safety Board (NTSB) ont révélé que les conducteurs étaient distraits avant les accidents. Uber a également connu des difficultés avec sa technologie de conduite autonome. En 2018, un véhicule d'essai d'Uber a heurté et tué un piéton en Arizona, une enquête du NTSB pointant du doigt une surveillance inadéquate de l'opérateur de sécurité.

Uber a finalement abandonné ses projets de développement de voitures autonomes en interne en 2020, après avoir été critiqué pour sa culture de sécurité insuffisante.