Colloque

Reddition de compte algorithmique : l’obligation de rendre compte et ses limites

Dominic Martin

Membre a labase

Dominic Martin : UQAM - Université du Québec à Montréal

Résumé de la communication

La reddition de compte algorithmique désigne une situation où on rend compte de la manière dont on a conçu, ou utilisé, un algorithme. L’usage croissant de l’apprentissage machine, des mégadonnées et des technologies de l’information soulève des enjeux éthiques importants à cet égard. Par exemple, une entreprise doit-elle expliquer comment elle entraîne un système de reconnaissance faciale pour éviter les biais raciaux? Ou encore, peut-on utiliser la reconnaissance faciale sans porter préjudice à la vie privée et aux droits et libertés fondamentales des individus? Sous quelles conditions le système de justice d’un gouvernement peut-il utiliser un système de prédiction de la jurisprudence?

Cette présentation sera divisée en trois parties. La reddition de compte est importante pour le bon fonctionnement des entreprises et des institutions publiques, mais c’est aussi une notion complexe. Dans un premier temps, je montrerai comment on peut la définir tout en la distinguant d’autres caractéristiques importantes comme la transparence, l’imputabilité ou la responsiveness. Je montrerai dans un deuxième temps comment notre obligation de rendre compte peut être limitée pour différentes raisons, notamment la protection de la vie privée, les effets contre-productifs, des contraintes épistémiques et des contraintes de coûts. Dans un troisième temps, j’appliquerai ces limites pour clarifier l’étendue de notre obligation de rendre compte de l’usage des algorithmes.

Résumé du colloque

Les développements récents en intelligence artificielle (IA) et particulièrement dans le domaine de l’apprentissage machine ont mené à des percées technologiques importantes (Le Cun, Bengio et Hinton). L’IA permet de créer des systèmes de traitement du langage naturel, de reconnaissance de la voix, de l’image ou de reconnaissance faciale. Elle permet aussi de créer de la musique, des textes littéraires ou d’autres contenus artistiques. Elle trouve des applications en transport, en droit, en finance ou en médecine.

Par exemple, le Naval Medical Center de San Diego et Google AI auraient récemment développé un système capable de détecter des cellules cancéreuses du sein avec une fiabilité de 99 %, un taux supérieur ou équivalent à celui des pathologistes humains dans bien des cas. Dans leur livre The Second Machine Age, Erik Brynjolfsson et Andrew McAfee montrent comment l’IA peut transformer le monde du commerce en permettant d’automatiser ou d’optimiser des procédés existants, mais aussi en créant des modèles d’affaires complètement nouveaux, comme pouvaient l’être Facebook ou Google à leur époque.

Bref, l’IA nous promet une hausse de la productivité, de meilleurs soins de santé ou l’accès à de nouveaux savoirs. Mais elle n’est pas sans soulever des enjeux importants. Premièrement, on en sait peu sur les incidences de l’IA et sur la transformation de la dynamique sociétale. Deuxièmement, ce qu’on sait soulève des inquiétudes : comment rendre des comptes de l’usage d’une technologie dont la complexité interne dépasse parfois la capacité de compréhension des êtres humains? Comment éviter la discrimination algorithmique, les violations de la vie privée ou l’opacité souvent associées à l’usage de ces technologies? Comment réduire l’accroissement des inégalités économiques et l’apparition d’une nouvelle fracture numérique? Finalement, comment s’assurer de la juste appropriation de ces technologies par tous les acteurs impliqués, incluant ceux de la société civile?