Nouvelles
Le Pr Matthew J. Kusner obtient une chaire en IA Canada-CIFAR
Comment s'assurer que les systèmes d’IA fonctionnent de manière fiable, même dans des situations imprévues ? C'est à ce défi que s'adresse Matthew J. Kusner, professeur agrégé au Département de génie informatique et génie logiciel et membre académique principal à Mila, récemment nommé titulaire d’une chaire en intelligence artificielle Canada-CIFAR.
Cette nomination s'inscrit dans la dernière cohorte de 11 sommités internationales accueillies par le CIFAR, pilier de la Stratégie pancanadienne en matière d'IA. Le financement quinquennal de 1 175 000 $ permettra au Pr Kusner et à son équipe de mener des projets de recherche transformationnels et de former la relève en innovation.
Trois grands défis pour une IA plus robuste
Le programme de recherche quinquennal de Matthew J. Kusner aborde trois enjeux fondamentaux qui détermineront la fiabilité future de l'intelligence artificielle.
L'adaptation hors contexte : développer des méthodes permettant aux modèles de s'adapter à de nouveaux contextes tout en garantissant leur précision.
La détection des comportements problématiques : les grands modèles de langage exhibent parfois des comportements imprévisibles, particulièrement face à des requêtes inhabituelles ou malveillantes. L’objectif est de développer des méthodes d'audit rigoureuses pour détecter ces anomalies de manière garantie, essentiel pour les applications en contextes critiques.
La standardisation des évaluations : établir des cadres d'évaluation rigoureux pour mesurer véritablement les progrès en IA et éviter de surestimer les capacités réelles des systèmes.
Fiabilité et démocratie
« Dans des domaines comme la santé, les modèles qui font des prédictions incorrectes peuvent avoir des conséquences qui changent une vie. On a vu par exemple des systèmes d'IA ont encouragé des troubles alimentaires sur des lignes d'aide ou conseillé à des entreprises de violer la loi. Actuellement, impossible de garantir qu'un modèle d'IA fournira une solution correcte, ni même qu'il saura reconnaître quand il est incertain », constate le Pr Kusner.
Le chercheur souhaite que sa recherche permette de freiner le déploiement précipité de l'IA dans des contextes critiques en exposant les usages dangereux. Sa vision de l'IA responsable mise sur la démocratisation, en mettant des outils d'évaluation entre les mains des non-experts.
Le financement obtenu pour sa chaire contribuera également à former la prochaine génération de spécialistes en développement de systèmes d’IA à la fois puissants et fiables.
Toutes nos félicitations au Pr Kusner!
Matthew J. Kusner, professeur agrégé au Département de génie informatique et génie logiciel, titulaire d’une chaire en intelligence artificielle Canada-CIFAR
