Tesla affirme que le pilote automatique rend ses voitures plus sûres. Les victimes de l’accident disent que ça tue.

Benjamin Maldonado et son fils adolescent faisaient marche arrière après un tournoi de football sur une autoroute californienne en août 2019 lorsqu’un camion a ralenti devant eux. M. Maldonado a fait clignoter son clignotant et s’est déplacé vers la droite. En quelques secondes, son pick-up Ford Explorer a été heurté par une Tesla Model 3 voyageant à environ 60 miles par heure en pilote automatique.

Une vidéo de six secondes capturée par la Tesla et les données enregistrées montrent que ni le pilote automatique – le système tant vanté de Tesla qui peut diriger, freiner et accélérer une voiture par lui-même – ni le conducteur n’ont ralenti le véhicule à une fraction de seconde avant Crash. Jovani, 15 ans, qui était assis sur le siège passager avant et ne portait pas de ceinture de sécurité, a été éjecté de la Ford et est décédé, selon le rapport de police.

L’accident, qui s’est produit à quatre miles de la principale usine automobile de Tesla, fait maintenant l’objet d’un procès contre la société. Il s’agit de l’un des nombreux accidents de pilote automatique qui ont alimenté les inquiétudes concernant les lacunes de la technologie et pourraient remettre en question le développement de systèmes similaires utilisés par les constructeurs automobiles concurrents. Et comme les voitures prennent de plus en plus en charge les tâches précédemment effectuées par les humains, le développement de ces systèmes pourrait avoir des implications importantes – non seulement pour les conducteurs de ces voitures, mais aussi pour les autres conducteurs, les piétons et les cyclistes.

Fondée en 2003, Tesla et son PDG Elon Musk ont ​​audacieusement défié l’industrie automobile, attiré des fans et des clients enthousiastes et établi une nouvelle norme pour les véhicules électriques sur laquelle comptent d’autres constructeurs automobiles établis. L’entreprise vaut plus que plusieurs grands constructeurs automobiles réunis.

Mais les accidents du pilote automatique pourraient menacer la réputation de Tesla et forcer les régulateurs à prendre des mesures contre l’entreprise. La National Highway Traffic Safety Administration a environ deux douzaines d’enquêtes actives sur des accidents de pilote automatique.

Au moins trois conducteurs de Tesla sont morts depuis 2016 dans des accidents où le pilote automatique était activé et n’a pas réussi à détecter les obstacles sur la route. Dans deux cas, le système n’a pas freiné sur des tracteurs routiers traversant des autoroutes. Dans le troisième, elle n’a pas réussi à identifier une barrière en béton. En juin, l’agence fédérale de sécurité routière a publié une liste indiquant qu’au moins 10 personnes ont été tuées dans huit accidents de pilote automatique depuis 2016. Cette liste n’inclut pas l’accident qui a tué Jovani Maldonado.

La crédibilité de Tesla a pris un coup, et certains experts en conduite autonome disent qu’il est difficile de ne pas remettre en question d’autres affirmations de M. Musk et de l’entreprise. Par exemple, il a déclaré à plusieurs reprises que Tesla était sur le point de perfectionner l’auto-conduite complète, une technologie qui permettrait aux voitures de conduire de manière autonome dans la plupart des circonstances – ce que d’autres entreprises automobiles et technologiques ont déclaré qu’elles prendraient des années.

Musk et Tesla n’ont pas répondu aux multiples demandes de commentaires.

Le pilote automatique n’est pas un système de conduite autonome. Il s’agit plutôt d’une suite de logiciels, de caméras et de capteurs conçus pour aider le conducteur et prévenir les accidents en prenant en charge de nombreux aspects de la conduite d’une voiture – même en changeant de voie. Les dirigeants de Tesla ont affirmé que le transfert de ces fonctions aux ordinateurs rendrait la conduite plus sûre, car les conducteurs humains sont sujets aux erreurs et aux distractions, causant la plupart des quelque 40 000 décès sur les routes qui surviennent aux États-Unis chaque année.

“Les ordinateurs ne vérifient pas leur Instagram en conduisant”, a déclaré le directeur de l’intelligence artificielle de Tesla, Andrei Karpathy, lors d’un atelier en ligne sur la conduite autonome le mois dernier.

Pendant que le pilote automatique est aux commandes, les conducteurs peuvent se détendre mais ne sont pas censés s’éteindre. Au lieu de cela, ils sont censés garder les mains sur le volant et les yeux sur la route, prêts à prendre le relais si le système devient confus ou ne reconnaît pas les objets ou les scénarios de circulation dangereux.

Mais n’ayant rien d’autre à faire que de regarder droit devant, certains conducteurs ne peuvent s’empêcher de laisser leur attention vagabonder lorsqu’ils sont en pilote automatique. Des vidéos ont été publiées sur Twitter et ailleurs montrant des conducteurs au volant de Teslas en train de lire ou de dormir.

L’entreprise a souvent blâmé les conducteurs de ses voitures et, dans certains cas, leur a reproché de ne pas garder les mains sur le volant et les yeux sur la route lors de l’utilisation du pilote automatique.

Mais le National Transportation Safety Board, qui a conclu des enquêtes sur des accidents impliquant le pilote automatique, a déclaré que le système manquait de garanties pour prévenir les abus et ne surveillait pas efficacement les conducteurs.

Des systèmes similaires proposés par General Motors, Ford Motor et d’autres constructeurs automobiles utilisent des caméras pour suivre les yeux du conducteur et émettre des avertissements s’il quitte la route. Après quelques avertissements, le système Super Cruise de GM s’arrête et invite le conducteur à reprendre le contrôle.

Ce printemps, Tesla a déclaré aux propriétaires de certaines de ses voitures qu’une caméra commencerait à “détecter et alerter les conducteurs en cas d’inattention”. Mais les experts en sécurité automobile ont déclaré que les voitures n’émettent que parfois des avertissements et ne désactivent pas de manière fiable le pilote automatique si les conducteurs restent distraits. Le système continue parfois à fonctionner même si le conducteur n’a le volant que quelques secondes à la fois.

“Ce système de surveillance est fondamentalement faible car il est facile de tricher et ne surveille pas de manière très cohérente”, a déclaré Raj Rajkumar, professeur à l’Université Carnegie Mellon qui se concentre sur la technologie de conduite autonome.

Consumer Reports a déclaré en mai qu’un de ses ingénieurs avait réussi à mettre une Tesla en pilote automatique et à se glisser sur le siège arrière pendant que la voiture continuait à rouler. La California Highway Patrol a déclaré en mai avoir arrêté un homme qui s’était levé du siège conducteur de son modèle 3 alors qu’il conduisait.

Le pilote automatique peut également être utilisé dans les rues de la ville où les intersections, les piétons et la circulation venant en sens inverse rendent la conduite plus difficile que sur les autoroutes. Le Super Cruise de GM ne fonctionne que sur les autoroutes divisées.

Malgré cela, M. Musk a souvent défendu le pilote automatique. La société a cité ses propres statistiques pour affirmer que les voitures qui roulent avec le système sont impliquées dans moins d’accidents par mile que les autres voitures. Jeudi dernier, il a écrit sur Twitter que “Les accidents sur pilote automatique se font plus rares.”

La National Highway Traffic Safety Administration n’a pas forcé Tesla à changer ou à désactiver le pilote automatique, mais en juin, elle a déclaré qu’elle obligerait tous les constructeurs automobiles à signaler les accidents impliquant de tels systèmes.

Plusieurs poursuites ont été intentées contre Tesla cette année seulement, dont une en avril devant un tribunal de l’État de Floride pour un accident survenu en 2019 à Key Largo. Une Tesla Model S avec pilote automatique activé n’a pas réussi à s’arrêter à un carrefour en T et a percuté un Chevrolet Tahoe garé sur une épaule, tuant Naibel Leon, 22 ans. Une autre action en justice a été déposée en Californie en mai par Darel Kyle, 55 ans, qui a subi de graves blessures à la colonne vertébrale lorsqu’une Tesla sous contrôle de pilote automatique a dépassé la camionnette qu’il conduisait.

L’accident qui a tué Jovani Maldonado est un cas rare où des vidéos et des données de la voiture Tesla sont devenues disponibles. L’avocat des Maldonados, Benjamin Swanson, les a reçus de Tesla et les a partagés avec le New York Times.

M. Maldonado et son épouse, Adriana Garcia, ont déposé leur plainte auprès de la Cour supérieure du comté d’Alameda. Leur plainte allègue que le pilote automatique a des lacunes et n’a pas répondu aux conditions de circulation. Le procès nomme également le conducteur de la Tesla, Romeo Lagman Yalung de Newark, en Californie, et sa femme Vilma, propriétaire de la voiture et occupant le siège passager, comme accusés.

M. Yalung et son avocat n’ont pas répondu aux demandes de commentaires. Lui et sa femme, qui n’ont pas été signalés blessés dans l’accident, n’ont pas encore porté plainte de la famille Maldonado devant les tribunaux.

Dans les dossiers judiciaires, Tesla n’a pas encore répondu aux allégations selon lesquelles le pilote automatique était défectueux ou défectueux. Dans des courriels envoyés à la société de M. Swanson comme preuve devant le tribunal, un avocat de Tesla, Ryan McCarthy, a déclaré que le conducteur, et non Tesla, était responsable.

“La police a blâmé le conducteur de la Tesla – et non la voiture – pour son inattention et sa conduite à une vitesse dangereuse”, a écrit McCarthy. Il n’a pas répondu aux courriels demandant des commentaires.

M. Maldonado travaille pour PepsiCo et fournit des boissons aux détaillants. La famille, qui comprend deux autres enfants, vit à San Lorenzo, à environ 15 miles au nord de Fremont.

Dans des réponses écrites aux questions, M. Maldonado a déclaré que lui et sa femme étaient trop dévastés pour parler dans une interview. “Nous vivons au jour le jour”, a-t-il déclaré. « Il y a tellement de tristesse en moi. Nous faisons des promenades en famille et essayons de faire des choses ensemble comme aller à l’église. Il y a un énorme trou dans la famille.

M. Maldonado a décrit son fils comme un étudiant sortant du secondaire qui aimait chanter et prévoyait d’aller à l’université. Son rêve était de devenir footballeur professionnel et d’acheter une maison à ses parents. “Comme tout enfant reconnaissant, il voulait prendre soin de ses parents comme ils l’ont fait pour lui”, a déclaré M. Maldonado.

Les données et la vidéo fournissent un aperçu détaillé du fonctionnement du pilote automatique dans les secondes précédant l’accident. Les véhicules Tesla enregistrent en permanence de courts extraits de caméras orientées vers l’avant. Si un crash se produit, la vidéo est automatiquement enregistrée et téléchargée sur les serveurs de Tesla, a déclaré un employé de l’entreprise dans des e-mails inclus dans les pièces soumises par M. Swanson.

La vidéo capturée depuis la voiture que conduisait M. Yalung montre des véhicules passant à droite et à gauche. Quatre secondes avant l’impact, M. Maldonado a allumé son clignotant. Il a clignoté quatre fois alors que son explorateur était sur sa trajectoire d’origine. Un cinquième flash est venu alors que son camion traversait les voies. Dans des documents judiciaires, M. Maldonado a déclaré avoir remarqué dans son rétroviseur que la Tesla approchait rapidement et avait tenté de reculer.

Dans la plupart des vidéos, la Tesla a maintenu une vitesse de 69 mph, mais juste avant l’impact, selon les données de la voiture, elle a brièvement accéléré à 70 mph, puis a ralenti dans la dernière seconde.

M. Rajkumar de Carnegie Mellon, qui a examiné la vidéo et les données à la demande du Times, a déclaré que le pilote automatique n’avait peut-être pas freiné pour l’Explorer parce que les caméras de Tesla étaient pointées vers le soleil ou parce que l’Explorer était confus par le camion devant. La Tesla est également venue avec un capteur radar, mais cela ne semble pas avoir aidé.

“Le radar aurait détecté le pick-up et empêché la collision”, a déclaré M. Rajkumar dans un e-mail. “Donc, les sorties radar n’ont probablement pas été utilisées.”

Le camion de M. Maldonado s’est renversé et s’est écrasé contre une barrière, selon le rapport de police. Il avait un pare-brise brisé et un toit froissé, et l’essieu arrière s’était détaché. La Tesla avait un toit froissé, sa partie avant était mutilée, son pare-chocs était partiellement détaché et son pare-brise était fissuré.

Jovani Maldonado a été retrouvé face contre terre sur l’épaule de l’Interstate 880, son sang s’accumulant.

oigari