Colloque

Agents moraux artificiels (AMA) et l’approche de Stuart Russell

Dominic Martin

Membre a labase

Dominic Martin : UQAM - Université du Québec à Montréal

Résumé de la communication

Dans cette présentation, je m’intéresserai à la possibilité de créer des systèmes d’intelligence artificielle (IA) capable de prendre des décisions alignées avec la moralité humaine. Dans un premier temps, je donnerai un peu plus d’information sur le contexte dans lequel s’inscrivent les travaux sur les AMA et sur la manière dont il faut comprendre l’idée d’alignement éthique ou de compétence morale chez un agent artificiel. J’expliquerai, dans un deuxième temps, l’approche de Stuart Russell et sa solution au problème de l’alignement éthique. Je soulignerai certaines forces de cette approche, notamment l’idée d’amener le système à toujours vouloir découvrir les préférences des agents humains avec lesquels il interagit et l’utilisation de l’apprentissage par renforcement inverse (inverse reinforcement learning) pour découvrir ces préférences. Dans un troisième temps, je discuterai des difficultés soulevées par cette approche : type d’approche axiologique basée sur l’utilitarisme, hypothèse de la capacité de calcul illimitée et le choix du degré de satisfaction des préférences comme valeur à optimiser.

Résumé du colloque

Depuis une dizaine d’années, le domaine de l’intelligence artificielle (IA), considéré auparavant comme un domaine de recherche scientifique abstrait, prend des formes beaucoup plus concrètes auprès des industries, mais aussi des individus.

Les applications potentielles de l’IA sont immenses. Des exemples peuvent déjà être vus au sein de nos systèmes bancaires, nos systèmes de santé, nos véhicules autonomes, le marketing numérique, etc. Cependant, ces exemples demeurent sporadiques et ne reflètent pas la révolution culturelle tant acclamée. La réalité est que la maîtrise des techniques de l’IA reste limitée à un nombre de chercheurs spécialisés, ce qui se traduit par des investissements considérables — souvent plusieurs millions — de la part des institutions (bancaires, médicales, industrielles) pour intégrer l’intelligence artificielle dans leurs systèmes. De plus, l’ampleur des capacités de la technologie est elle aussi mal connue de ceux qui pourront en bénéficier le plus.

La présence importante de l’IA dans les médias et réseaux sociaux a donné une fausse apparence de démocratisation de la technologie, de laquelle nous sommes encore loin. Selon un sondage mené et publié en 2018 par Forbes Insights auprès de 305 dirigeants d’entreprise dans 10 pays, le Canada se classe au dernier rang en ce qui concerne le déploiement de technologies d’IA faible comme l’apprentissage profond et l’apprentissage automatique.

En effet, les entreprises canadiennes font face à de nombreux défis, autres que l’utilisation des technologies connexes de l’IA, tels que la formation de personnel compétent pour l’exploitation des données qui devront elles-mêmes être centralisées et structurées dans des infrastructures informatiques à mettre en place.

Avec seulement 68 % des entreprises canadiennes ayant adopté une ou plusieurs technologies d’IA, cela est révélateur d’un domaine mal connu du grand public et où règne la confusion entre les fantasmes de science-fiction et la réalité scientifique.