Apprendre le langage des modèles pour mieux parler d’éthique en IA

Jonathan St-Onge

Samedi, Concordia – 11h45 à 12h30

L’éthique en intelligence artificielle (IA) est intimement liée aux modèles utilisés dans le domaine. Plus précisément, les notions de responsabilité et justification reposent sur l’interprétabilité des modèles. D’un côté du spectre, nous retrouvons les modèles linéaires qui sont interprétables et fréquemment utilisés en statistique classique, alors que de l’autre côté, nous retrouvons des modèles comme l’apprentissage profond populaire en apprentissage machine, lesquels produisent de meilleures prédictions, mais sont difficilement interprétables. Pour parvenir à un compromis entre performance prédictive et interprétabilité, et ainsi permettre une discussion collective sur l’éthique en IA, il est impératif de se retrouver sur ce spectre.

Pour s’y faire, cette activité a pour but d’introduire deux approches en IA. Selon la première approche, laquelle remonte au moins à Leibniz et à son concept du calculus ratiocinator, l’IA est principalement une machine à calculer. Bien qu’il y ait un couplage entre questions et réponses, elle vise simplement à mieux prédire le monde. Afin de transcender les limites cognitives de l’individu, cette approche met l’accent sur des modèles sous forme de ‘boîtes noires’ qui compilent des données massives. Cette première approche permet difficilement la responsabilité et la justification. La seconde approche met l’accent sur le processus itératif de construction de modèles génératifs à l’aide d’un langage probabiliste bayésien. Cette approche, dite d’augmentation cognitive, permet de discuter l’éthique en IA car la relation entre l’interface de haut-niveau et l’individu vise la compréhension mutuelle, laquelle permet une explication des modèles plus sophistiqués développés pour rendre compte des phénomènes complexes du monde. Pour exemplifier les similarités et distinctions entre ces deux approches, l’activité comprend un aperçu de la programmation qui sous-tend les différents modèles.