Un nouveau rapport basé sur des entretiens avec d’anciens pilotes d’essai qui faisaient partie de l’équipe interne de conduite autonome de Tesla révèle les extrêmes dangereux que Tesla est prêt à aller pour tester ses technologies de conduite autonome.
Bien que l’on puisse faire valoir que les clients de Tesla sont des conducteurs d’essais de conduite autonome alors que le constructeur automobile déploie ce qu’il appelle son système de « conduite autonome supervisée » (FSD), l’entreprise exploite également une flotte interne de testeurs.
Nous avons déjà signalé que Tesla avait embauché des chauffeurs dans tout le pays pour tester ses dernières mises à jour logicielles « FSD ».
Aujourd’hui, Business Insider publie un nouveau rapport après avoir interrogé neuf de ces pilotes d’essai qui travaillent sur un projet spécifique appelé « Rodeo ». Ils décrivent le projet :
Les pilotes d’essai ont déclaré avoir parfois dû faire face à des scénarios périlleux, en particulier les conducteurs de l’équipe « d’intervention critique » du Project Rodeo, qui affirment être formés pour attendre le plus longtemps possible avant de prendre les commandes de la voiture. Les ingénieurs de Tesla disent qu’il y a une raison à cela : plus la voiture continue de rouler toute seule, plus elle doit travailler sur des données. Les experts en technologie de conduite autonome et en sécurité affirment que ce type d’approche pourrait accélérer le développement du logiciel mais risque de mettre en danger la sécurité des pilotes d’essai et des personnes sur la voie publique.
L’un de ces anciens pilotes d’essai l’a décrit comme « un cow-boy sur un taureau et vous essayez simplement de vous accrocher aussi longtemps que vous le pouvez » – d’où le nom du programme.
Outre l’utilisation parfois d’une version de Tesla FSD qui n’a pas été distribuée aux clients, les pilotes d’essai utilisent généralement FSD comme la plupart des clients, la principale différence étant qu’ils essaient plus fréquemment de le pousser dans ses limites.
Business Insider explique plus en détail « l’équipe d’intervention critique » avec le projet Rodeo :
Les pilotes d’essais d’intervention critique, qui comptent parmi les plus expérimentés du Project Rodeo, laissent le logiciel continuer à conduire même après avoir commis une erreur. Ils sont formés pour organiser des « interventions » – prendre le contrôle manuel de la voiture – uniquement pour éviter un accident, ont déclaré les trois pilotes d’intervention critique et cinq autres pilotes familiers avec la mission de l’équipe. Les conducteurs de l’équipe et les documents internes indiquent que les voitures ont franchi des feux rouges, ont fait un écart dans d’autres voies ou n’ont pas respecté les limites de vitesse affichées alors que le FSD était engagé. Les chauffeurs ont déclaré qu’ils avaient permis au FSD de garder le contrôle pendant ces incidents parce que les superviseurs les encourageaient à éviter de prendre le relais.
Ce sont des comportements que FSD est connu pour adopter dans les véhicules des clients, mais les conducteurs prennent généralement le relais avant d’aller trop loin.
Le but de cette équipe est d’aller trop loin.
L’un des pilotes d’essai a déclaré :
« Vous roulez à l’adrénaline pendant tout le quart de travail de huit heures. On a le sentiment que l’on est au bord de quelque chose qui ne va vraiment pas. »
Un autre pilote d’essai a décrit comment le Tesla FSD s’est approché à quelques mètres d’un cycliste :
« Je me souviens très bien de ce type sautant de son vélo. Il était terrifié. La voiture s’est jetée sur lui et tout ce que j’ai pu faire, c’est appuyer sur les freins.
L’équipe aurait été satisfaite de l’incident. «Il m’a dit : ‘C’était parfait.’ C’était exactement ce qu’ils voulaient que je fasse”, a déclaré le chauffeur.
Vous pouvez lire le rapport complet de Business Insider pour découvrir de nombreux autres exemples de l’équipe faisant des choses très dangereuses en présence de membres du public sans méfiance, y compris des piétons et des cyclistes.
Comment cela se compare-t-il à d’autres entreprises développant des technologies de conduite autonome ?
Le leader du marché, Waymo, aurait une équipe effectuant un travail similaire à celui de « l’équipe d’intervention critique » de Tesla Rodeo, mais la différence est qu’ils effectuent les tests dans des environnements fermés avec des mannequins.
Le point de vue d’Electrek
Cela semble être un symptôme de l’approche de Tesla consistant à « avancer vite, casser les choses », mais je ne pense pas que ce soit approprié.
Pour être honnête, aucun des neuf pilotes d’essai interrogés par BI n’a déclaré avoir eu un accident, mais ils ont tous décrit des situations très dangereuses dans lesquelles des étrangers ont été entraînés dans les essais à leur insu.
Je pense que c’est une mauvaise idée et une erreur éthique. Elon Musk affirme que Tesla donne la priorité à « la sécurité », mais les exemples contenus dans ce rapport semblent tout sauf sûrs.
FTC : Nous utilisons des liens d’affiliation automatique générateurs de revenus. Plus.