Carrefour de l'actualité

Intelligence artificielle : une chaire en IA Canada-CIFAR pour le professeur Foutse Khomh

7 décembre 2021 - Source : NOUVELLES

L’équipe de Foutse Khomh, professeur titulaire au Département de génie informatique et génie logiciel à Polytechnique Montréal, se voit octroyer une chaire en IA Canada-CIFAR.

Foutse Khomh, professeur agrégé au Département de génie informatique et génie logiciel à Polytechnique Montréal.


Cette chaire, d’une durée de 5 ans, vient appuyer le travail du professeur Khomh et des membres du laboratoire SWAT (SoftWare Analytics and Technologies) de Polytechnique Montréal qui développent des outils pour décortiquer les algorithmes d’apprentissage automatique afin de garantir leur efficacité, fiabilité, sécurité, et sureté.

Car si les algorithmes d’intelligence artificielle (IA) apprennent par eux-mêmes, il n’en demeure pas moins qu’il faut valider leurs compétences. C’est à ce niveau qu’intervient l’équipe SWAT.

« Les modèles fonctionnent parfois très bien dans l’environnement de recherche où ils ont été entraînés, mais avant de les amener en production (NDLR : c’est-à-dire dans le vrai monde), il faut s’assurer qu’ils ne comportent pas de biais ou de problèmes qui fassent en sorte qu’ils ne soient pas fiables lorsqu’on leur présentera de nouvelles données », explique Pr Khomh.

Pour ce faire, son équipe conçoit des techniques et des outils logiciels permettant d’évaluer « comment » un algorithme effectue son apprentissage et à quel point il a atteint ses limites d’apprentissage. Les techniques et outils développés par l’équipe SWAT permettent d’assurer la qualité des systèmes logiciels basés sur apprentissage automatique, tout au long de leur cycle de vie, de la phase de conception à la mise en production.


Objectif : certification de l’IA

Ces travaux revêtent un intérêt important dans différents secteurs où l’IA est appelée à agir comme aide à la décision. Le professeur Khomh pense d’emblée au secteur médical où des outils d’IA permettent déjà d’identifier à partir d’images quels sont les tissus susceptibles d’être cancéreux.

Son groupe s’intéresse aussi à l’utilisation de l’IA en aéronautique, avec pour objectif de permettre la certification des systèmes d’IA par les agences gouvernementales.

« Pour certifier un système, il faut démontrer que l'on comprend très bien son fonctionnement et être capable de garantir qu’il est digne de confiance », souligne le chercheur, qui est également affilié à l’Institut québécois d’intelligence artificielle (MILA) et à l’institut de valorisation des données (IVADO). « Les outils développés par mon équipe permettent de mieux comprendre le fonctionnement des systèmes d’IA, d’identifier les défaillances dans ces systèmes, de suggérer des correctifs, et de fournir des garanties sur leur fonctionnement, ce qui nous permet de nous rapprocher de cet objectif de certification. Cependant beaucoup reste à faire. »

Les chaires en IA Canada-CIFAR sont octroyées chaque année depuis 2017. Un total de 114 professeures et professeurs canadiens en ont bénéficié jusqu’ici. En plus du Pr Foutse Khomh, quatre autres professeures et professeurs affiliés au MILA se sont vus décerner une de ces chaires cette année.

Outre le professeur Khomh, deux autres chercheurs à Polytechnique sont titulaires de chaires en IA Canada-CIFAR. Il s’agit du professeur titulaire Christopher Pal et du professeur adjoint Sarath Chandar Anbil Parthipan, qui font également partie du Département de génie informatique et génie logiciel.

Félicitations au professeur Khomh!


En savoir plus

Fiche d’expertise du professeur Foutse Khomh
Site du Laboratoire SWAT (en anglais)
Site du Département de génie informatique et génie logiciel
Site de CIFAR

À lire aussi

4 avril 2024
Magazine Poly

Notre reflet dans le miroir de l’IA

4 avril 2022
Magazine Poly

L’IA et la sécurité : enjeux et promesses