En brûlant une voiture, certains habitants de San Francisco ont-ils eu l’idée qu’ils brûlaient aussi un logiciel défectueux ? Si les motivations qui ont poussé à la destruction du véhicule sans conducteur de la société Waymo n’ont pas été éclaircies, l’incident fait suite à l’accrochage quelques jours plus tôt d’un véhicule du même type avec un cycliste. Waymo, filiale d’Alphabet (la société mère de Google), n’est d’ailleurs pas la seule entreprise à faire face à ces mésaventures. En octobre, c’est un « robotaxi » du constructeur General Motors qui avait traîné sur plusieurs mètres un passant. Dans ce cas, le tollé était aussi venu de la façon dont l’entreprise avait réagi et mal informé le public ; l’ouverture d’une enquête sur le sujet le mois dernier appelant d’ailleurs à de futures suites judiciaires.
Ces actualités renvoient évidemment aux difficultés de développement et à la complexité d’adaptation de notre société aux véhicules autonomes. La défiance que peuvent susciter des voitures sans conducteur évoque les mêmes craintes que celles liées au renforcement des capacités des intelligences artificielles. Et elles dépassent de loin, parfois irrationnellement, l’apparition d’autres usages connectés, comme ceux du paiement, dans les véhicules. C’est en effet la question de la confiance dans un avenir plus numérique qui se pose en filigrane.
Or, le fait divers à San Francisco n’a pas été la seule actualité difficile pour Waymo cette semaine. Son dernier communiqué pose lui aussi la question de la confiance dans le numérique.
En effet, l’entreprise a également procédé le 13 février au « rappel volontaire des anciens logiciels » intégrés dans ses véhicules, à travers un signalement officiel auprès de la National Highway Traffic Safety Administration (NHTSA) américaine. Dans les faits, la flotte actuelle du constructeur ne serait pas concernée, car elle aurait bénéficié de mises à jour depuis la survenue des incidents ayant attiré l’attention sur le problème. Mais elle a dû communiquer malgré tout. « Généralement, un rappel sert à informer le propriétaire d’un véhicule d’une réparation requise. Dans notre cas, nous avons déposé un avis de rappel, qui sert à informer le public d’une mise à jour logicielle que nous avons commencé à déployer sur notre flotte en décembre 2023 », souligne ainsi Waymo sur son site. En janvier, Tesla avait été obligé de faire des rappels similaires pour 1,6 million en Chine et en décembre, elle avait dû se livrer à l’exercice pour 2 millions de voitures aux États-Unis. En février, bis repetita, pour encore 360 000 véhicules.
Ces notifications sont intéressantes car elles montrent la tension provoquée, notamment avec les régulateurs nationaux, par la rencontre entre le monde du développement logiciel, ses habitudes et fonctionnements itératifs, avec les cadres stricts des règles industrielles. Les constructeurs automobiles savent gérer le rappel opérationnel de millions de véhicules. Les entreprises de la tech, elles, découvrent souvent un monde où un incident implique systématiquement une notification officielle et, généralement, des gros titres dans la presse, liés à l’obligation de communiquer sur le rappel (même virtuel) des voitures. Un exploit pour une « simple » mise à jour de logiciel !
Cet entremêlement des deux univers ces dernières années interroge en fait plus largement sur la responsabilité des éditeurs dans les défaillances potentielles de leurs produits et sur la possibilité de véritables « rappels de logiciels ». La gestion des mises à jour et des maintenances est un sujet de frustration permanent pour les grandes organisations qui utilisent des centaines de logiciels et sont à la recherche de stabilité et de fiabilité. Cette vieille question devient aujourd’hui plus aiguë face à la montée des préoccupations sur la cybersécurité d’un côté et la complexité grandissante des systèmes d’information, et de leur transformation « agile », de l’autre.
En 2020, un rapport adressé au Conseil général de l’économie, de l’industrie, de l’énergie et des technologies, pointait encore le déséquilibre existant dans la relation entre les fournisseurs de produits et services numériques et leurs clients. Et montrait que l’existence d’un produit physique encapsulant de facto le logiciel (comme une voiture) contribuait à rétablir l’équilibre, du fait de l’existence de dispositifs juridiques plus contraignants. À l’heure où le logiciel a dévoré le monde et où l’IA s’apprête à nous faire franchir une étape supplémentaire, l’exigence de transparence et d’engagement du secteur automobile ne devrait donc pas rester une exception.