Avant de rouler librement sur nos routes, chaque modèle de voiture autonome devra obtenir une certification de Transports Canada, une étape qui viendra seulement si ces voitures sont imperméables aux attaques informatiques. (Photo Eschenzweig, licence CC BY-SA 4.0).

En laissant le volant à une intelligence artificielle (IA) embarquée, les concepteurs de véhicules autonomes ouvrent grandes leurs portes à des vulnérabilités pouvant compromettre la sécurité des utilisateurs et des personnes se trouvant tout autour des voitures. Gabriela Nicolescu, professeure titulaire au Département de génie informatique et génie logiciel à Polytechnique Montréal, amène cette industrie - et plusieurs autres - à repenser ses façons de concevoir des systèmes embarqués pour garantir la sécurité de ces ordinateurs ambulants, et ce, dès l’étape de leur conception.

Une voiture incapable de reconnaître un panneau d’arrêt obligatoire au coin de la rue. Une autre pour qui un piéton est devenu invisible. Un camion qui accélère à la vue d’un feu de signalisation au rouge. Ces mises en situation hypothétiques pourraient devenir réalité si des pirates informatiques s’attaquaient au code d’un véhicule autonome.

L’histoire nous a déjà démontré que ces voitures ne sont pas immunisées aux attaques, comme dans cette expérience menée en 2015 par des chercheurs universitaires et un journaliste du magazine Wired.

Bien sûr, les logiciels embarqués s’améliorent d’année en année, mais des failles demeurent toujours possibles avec l’arrivée de nouveaux modèles. Tesla, par exemple, l’a appris en 2019 dans le cadre du concours Pwn2Own où des chercheurs en sécurité informatique essaient de trouver les failles de différents systèmes informatiques. Le Sénégalais Amat Cama et l’Américain Richard Zhu avaient alors identifié un problème dans le logiciel embarqué de la Tesla 3.

La « sécurité par conception » des systèmes embarqués

Pre Gabriela Nicolescu (Photo : Polytechnique Montréal)

Comme chaque entreprise conçoit ses propres solutions, chacune doit valider leur « étanchéité » aux attaques informatiques.

P^re Gabriela Nicolescu y veille aussi.

Spécialisée en conception de systèmes sécuritaires dans l’Internet des objets, elle collabore notamment avec un géant américain du logiciel-matériel pour assurer la sécurité de ses solutions embarquées destinées aux véhicules autonomes. Elle l’a même amené à modifier sa façon de concevoir ses solutions, en ajoutant des étapes spécifiques à la sécurité dès le départ.

« Auparavant, la conception des systèmes était surtout faite en fonction de besoins de performance et de précision », explique-t-elle. « Aujourd’hui, on a ajouté la sécurité des systèmes dans les premières étapes du flot de conception. »

Le défi, selon elle, c’est de faire en sorte que ces fonctionnalités additionnelles ne viennent pas à la fois alourdir les systèmes et augmenter leur consommation d’énergie. « Les véhicules autonomes fonctionnent avec des ressources et une puissance de calcul limitées », rappelle-t-elle. « Les concepteurs sont donc amenés à compresser et optimiser au maximum les logiciels d’IA embarquée et ça crée parfois des brèches. »

Ces brèches rendent possibles différents types d’attaques. Modifications malicieuses ou injection de code, extraction de la propriété intellectuelle : voilà seulement quelques-unes des menaces qui planent sur l’IA embarquée des véhicules autonomes. Des menaces particulièrement importantes pour le système de vision par ordinateur des véhicules, selon P^re Nicolescu.

Les drones sont également vulnérables aux attaques qui peuvent provoquer, entre autres, un déni de service (en saturant le système avec des requêtes) ou l’usurpation des communications entre les drones. L’équipe de Pre Nicolescu développe une stratégie pour éviter l’apparition de faille dès l’étape de la conception en repensant le flot de conception de ces appareils. (Photo : Trotaparamos, licence CC BY-NC-SA 2.0.)

« En attaquant l’algorithme de ce système, les pirates peuvent faire en sortes que l’IA ne soit plus capable de reconnaître les panneaux ou les feux de circulation, par exemple », dit-elle. « Les conséquences pourraient être dramatiques. »

Des raisons de concurrence sont aussi en jeu, ajoute la spécialiste en cybersécurité de Polytechnique Montréal. « Les enjeux de propriété intellectuelle sont importants parce qu’une implémentation qui requiert très peu de puissance de calcul aura beaucoup de valeur pour celui qui le possède », explique-t-elle.

Pareil travail se transpose aussi dans l’univers un peu plus lointain des « drones autonomes ».

P^re Nicolescu et son équipe travaillent à établir les bases de nouvelles architectures logicielles et matérielles pour ces appareils afin de les rendre sécuritaires et leur permettre, un jour, de se déplacer en toute autonomie sans risquer de causer un incident pour les gens qui se trouvent en dessous. Encore ici, la « sécurité par conception » est à la base de ce qui amènera ces appareils vers une certification par les agences gouvernementales.

Automatiser... La fluidité des personnes

Des outils d’aide à la décision faciliteront bientôt la circulation des passagers dans les gares et stations de métro. (PHOTO : STM) Dans le cadre d’un autre projet impliquant un partenaire industriel, l’équipe de Pre Nicolescu travaille également à sécuriser des systèmes d’aide à la décision qui supervisent en temps réel les déplacements effectués par les véhicules d’une même flotte. Des systèmes qui surveillent aussi le trajet emprunté par des utilisateurs et des utilisatrices en gare afin de faciliter la fluidité de leurs déplacements. « Notre rôle ici est moins un enjeu de cybersécurité que de sureté », confie la spécialiste. « Les circuits des bornes peuvent être sujets à des défaillances, alors on s’assure de bien surveiller le niveau d’énergie de chacune, leur température, etc. pour détecter les problèmes avant qu’ils nuisent au bon fonctionnement du système. » « Ces systèmes intégrant de l’IA fonctionnent grâce à des capteurs qui génèrent énormément de données », ajoute-t-elle. « Le travail ici consiste surtout à optimiser les paramètres pour réduire la consommation globale d’énergie du système et détecter les défaillances de ces systèmes embarqués. »

En savoir plus

Fiche d'expertise de la professeure Gabriela Nicolescu
Site du Département de génie informatique et génie logiciel