La vandalisation de la signalisation routière berne les voitures autonomes
Si nous disposons de systèmes de capteurs capables de déchiffrer la signalétique, il est facile de fausser l'interprétation des informations fournies par la signalisation routière.
Les chercheurs ont volontairement altéré les panneaux en y collant des autocollants savamment placés, avant d'analyser l'algorithme utilisé par le système embarqué de classification d'images, puis a employé différentes méthodes pour manipuler les panneaux.
Les machines bernées
Elle a ainsi tendu des pièges aux machines et à leur système d'apprentissage automatique.
Les chercheurs ont par exemple fait croire à un système de reconnaissance de panneaux qu'un "stop" était une limitation de vitesse à 70km/h. Il n'est pas difficile de comprendre les graves conséquences qu'une telle erreur aurait dans la vie réelle.
Les chercheurs ont identifié quatre moyens de berner les systèmes de reconnaissance à l'aide d'une imprimante couleur et d'un appareil photo. Leurs résultats ont été publiés dans un article intitulé "Robust Physical-World Attacks on Machine Learning Models" ("Attaques énergiques dans le monde réel des modèles d'apprentissage des machines").
Des obstacles surmontables
Plus inquiétant, tous ces "piratages" ne sont pas forcément décelés par l'oeil humain puisqu'ils passent pour des graffitis ou de l'art intégré à l'imagerie du panneau.
L'une des méthodes consiste à imprimer une affiche recouvrant complètement le panneau. Celui-ci paraît totalement normal, bien qu'un peu abîmé par endroits. Les conséquences pour la reconnaissance informatisée sont désastreuses. Sous différents angles et à différentes distances, le système a identifié à chaque fois un panneau "stop" comme étant une limitation de vitesse.
La bonne nouvelle est qu'il est possible de surmonter cet écueil. Les systèmes peuvent être programmés pour prendre en considération le contexte, grâce à des critères comme la localisation, pour éviter les erreurs d'interprétation. Si un panneau de vitesse autorisée sur autoroute apparaît en zone urbaine, le système décèlera une anomalie.
Dans tous les cas, il s'agit d'un aperçu fascinant de l'ampleur des paramètres à prendre en compte avant de réellement mettre en circulation des voitures autonomes.