La vandalisation de la signalisation routière berne les voitures autonomes

886
Photo D. R.

Une équipe de chercheurs des universités de Washington, de Stony Brook et de Berkeley vient de prendre la mesure du long chemin qu’il reste à parcourir en matière de conduite autonome. Les chercheurs ont mis en évidence un important écueil dans un domaine essentiel à ces systèmes : la reconnaissance des panneaux de signalisation.

Si nous disposons de systèmes de capteurs capables de déchiffrer la signalétique, il est facile de fausser l’interprétation des informations fournies par la signalisation routière.

Les chercheurs ont volontairement altéré les panneaux en y collant des autocollants savamment placés, avant d’analyser l’algorithme utilisé par le système embarqué de classification d’images, puis a employé différentes méthodes pour manipuler les panneaux.

Les machines bernées

Elle a ainsi tendu des pièges aux machines et à leur système d’apprentissage automatique.

Les chercheurs ont par exemple fait croire à un système de reconnaissance de panneaux qu’un « stop » était une limitation de vitesse à 70km/h. Il n’est pas difficile de comprendre les graves conséquences qu’une telle erreur aurait dans la vie réelle.

Les chercheurs ont identifié quatre moyens de berner les systèmes de reconnaissance à l’aide d’une imprimante couleur et d’un appareil photo. Leurs résultats ont été publiés dans un article intitulé « Robust Physical-World Attacks on Machine Learning Models » (« Attaques énergiques dans le monde réel des modèles d’apprentissage des machines« ).

Photo University of Washington

Des obstacles surmontables

Plus inquiétant, tous ces « piratages » ne sont pas forcément décelés par l’oeil humain puisqu’ils passent pour des graffitis ou de l’art intégré à l’imagerie du panneau.

L’une des méthodes consiste à imprimer une affiche recouvrant complètement le panneau. Celui-ci paraît totalement normal, bien qu’un peu abîmé par endroits. Les conséquences pour la reconnaissance informatisée sont désastreuses. Sous différents angles et à différentes distances, le système a identifié à chaque fois un panneau « stop » comme étant une limitation de vitesse.

La bonne nouvelle est qu’il est possible de surmonter cet écueil. Les systèmes peuvent être programmés pour prendre en considération le contexte, grâce à des critères comme la localisation, pour éviter les erreurs d’interprétation. Si un panneau de vitesse autorisée sur autoroute apparaît en zone urbaine, le système décèlera une anomalie.

Dans tous les cas, il s’agit d’un aperçu fascinant de l’ampleur des paramètres à prendre en compte avant de réellement mettre en circulation des voitures autonomes.

SOURCEAFP
SHARE