Responsabilité des ingénieurs et de Polytechnique dans le développement de l’intelligence artificielle (IA)

Nous vivons dans un monde caractérisé par l’interdépendance des sphères économique, politique, environnementale et financière, par l’imprévisibilité et par la vitesse des changements. Le développement de l’IA accroît cette complexité en transformant radicalement et rapidement toutes les activités industrielles ainsi que la vie quotidienne des personnes qui utiliseront ces produits.

Les ingénieurs doivent adhérer à la mission de leur association professionnelle (l’Ordre des ingénieurs du Québec), qui est de protéger le public, et respecter ses règles d’éthique. Puisque la mission de Polytechnique est de former les ingénieurs et les ingénieures, ainsi que les chercheurs et chercheuses qui créeront et utiliseront les technologies basées sur l’IA pour répondre aux besoins de ce monde complexe, nous avons un rôle important à jouer pour que ces technologies puissent profiter au plus grand nombre et pour limiter les impacts négatifs qu’elles pourraient avoir sur la société.

Polytechnique assume ce rôle en accentuant dans sa formation les notions-clés que sont :

• La responsabilité, car nous voulons que les ingénieurs issus de ses rangs soient conscients de l’impact des solutions nouvelles qu’ils développent. Ces solutions, ne l’oublions pas, sont susceptibles d’orienter l’avenir de la société toute entière.
• L’éthique, puisque l’ingénieur devra s’assurer que ces nouveaux systèmes fonctionneront de façon responsable, dans le plus grand respect des droits humains.
• Le regard critique que l’ingénieur doit savoir porter sur ses décisions.

Multidisciplinarité affirmée

Polytechnique s’est toujours démarquée par la formation d’ingénieurs possédant et exerçant des connaissances scientifiques de haut niveau et des compétences techniques de pointe. Ce fait demeure, mais, aujourd’hui, la formation polytechnicienne est particulièrement axée aussi sur la multidisciplinarité.

Les solutions basées sur l’IA touchant toutes les disciplines, il est naturel que celles-ci collaborent à leur développement. Polytechnique prépare en conséquence ses futurs ingénieurs à pratiquer en équipes multidisciplinaires et à développer une vision de l’efficience collective.

Respecter le droit des citoyens au travail

La puissance de l’IA suscite des craintes, notamment celle que l’IA en vienne à rendre l’humain obsolète. Or, il me semble important de rappeler que les systèmes intelligents ont pour vocation, du moins dans bien des cas, d’aider l’humain à prendre des décisions et non à le remplacer. À cet égard, le terme d’ « intelligence augmentée » me semblerait donc plus juste.
Néanmoins, les droits au travail, tels qu’énoncés par l’article 23 de la Charte des droits de l’homme des Nations Unies ( « Toute personne a droit au travail, au libre choix de l’emploi, à des conditions de travail justes et favorables et à la protection contre le chômage. »), peuvent être menacés par la convergence de l’IA, des mégadonnées, de l’automatisation, de la logistique et des chaînes d’approvisionnement qui amènent davantage de précarité.

Polytechnique estime que sa responsabilité est de fournir aux futurs travailleurs l’accès continu à de la formation adéquate pour affronter les changements. Notre conception de cette formation est prioritairement axée sur les compétences (techniques et transversales) et non sur l’emploi.
Enfin, nous sommes conscients que l’éducation de base pourrait ne plus suffire, d’où notre volonté d’offrir une formation continue de pointe, en particulier dans le domaine numérique. Nos certificats en cybersécurité en sont un exemple.

Éviter les biais de discrimination par la diversité

Récemment, un logiciel de reconnaissance faciale a défrayé la chronique parce qu’il opérait une discrimination raciale. Cet exemple rappelle que les algorithmes d’intelligence artificielle, entraînés par des données provenant de la société, peuvent, en effet, ne pas être exempts de biais inconscients de race ou de genre. Afin d’éviter de semblables violations du droit contre la discrimination, il est important que la programmation des algorithmes s’effectue avec un vaste ensemble de données neutres. En tant que pépinière de jeunes entreprises technologiques, Polytechnique tient à sensibiliser ses entrepreneurs à ces risques.

De plus, Polytechnique s’affirme comme un milieu ouvert à la diversité. D’une part, 29 % de ses étudiants proviennent de l’extérieur du Canada et sont issus de 128 pays. D’autre part, elle se distingue par son taux de féminisation, avec une proportion d’étudiantes s’élevant à 28 %, tous programmes confondus.

Présence marquée de polytechnique au coeur de l’écosystème de l’IA

Cofondatrice de l’Institut de valorisation des données IVADO et partenaire de l’Institut québécois d’intelligence artificielle, le Mila, Polytechnique est très active au sein de l’écosystème montréalais de l’intelligence artificielle et de l’optimisation qui représente la plus grande concentration au monde de chercheurs indépendants dans ces domaines.

Elle participe au développement des pratiques éthiques de l’écosystème, notamment par sa contribution à des initiatives comme la Déclaration de Montréal pour une IA responsable, lancée en décembre dernier. Celle-ci émet des lignes directrices pour encadrer le développement de l’intelligence artificielle, afin qu’elle adhère aux valeurs sociales et génère le progrès social, en s’appuyant sur les valeurs-clés suivantes : bien-être, autonomie, justice, vie privée, connaissances, démocratie et responsabilité.

Polytechnique est également partenaire de l’Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (OIISIAN). À ce titre, elle participera aux mandats de recherche, de veille, de formation, de consultation publique et de recommandation en matière de lois et de politiques publiques de cet organisme, qui vise à encadrer les développements de l’intelligence artificielle et du numérique.

Polytechnique encourage ses chercheurs, ses étudiants et ses représentants à prendre part sur les scènes nationale et internationale aux réflexions sur l’avenir de l’IA, ses impacts et les démarches éthiques et responsables qui doivent l’accompagner. C’est, par exemple, dans cette optique que j’ai participé à une rencontre internationale sur l’intelligence artificielle, les sociétés du savoir et la bonne gouvernance, organisée l’automne dernier à Paris par l’UNESCO et l’Internet Society.

L’IA annonce un âge d’or de l’innovation. C’est ainsi qu’en anticipant les besoins de la société et en adaptant nos programmes sur la base du principe d’utilisation responsable de la technologie – comme le précise notre plan stratégique – que nous pourrons réaliser les promesses de l’IA de façon socio-responsable. La plus belle étant qu’entre l’humain et la machine intelligente s’instaure une relation d’une efficacité sans précédent pour améliorer la santé, la sécurité ou le bien-être de la population.

De nombreux chercheurs de Polytechnique réalisent des projets innovateurs qui le démontrent. On peut mentionner, entre autres : les outils conçus par le P^r Andrea Lodi pour aider les chirurgiens et leurs patients en attente d’une greffe de rein à prendre la décision la plus éclairée possible quant à l’acceptation ou au refus d’un greffon, et ainsi optimiser le succès des greffes ; les logiciels prédictifs entraînés par le P^r Samuel Kadoury à déterminer si de jeunes patients atteints de scoliose auront besoin d’une chirurgie ; la sonde de détection du cancer du cerveau développée par le P^r Frédéric Leblond ; ou encore les systèmes de surveillance et d’intervention automatisée créés par le P^r James Goulet pour prévenir les défaillances des infrastructures civiles.

Ne craignons donc pas l’IA, accueillons-la plutôt comme une alliée. En libérant l’humain de certaines tâches, l’IA permettra à celui-ci de concentrer ses compétences là où il excelle : dans la conception d’idées nouvelles et la création.