Colloque

Réflexions pour une recherche responsable et éthique en intelligence artificielle

Mylène Deschênes

Membre a labase

Mylène Deschênes : Fonds de recherche du Québec

Résumé de la communication

Cette présentation a pour but de partager certaines des réflexions des Fonds de recherche du Québec sur la recherche éthique et responsable en intelligence artificielle (IA). En effet, l’exploitation de l’IA ouvre non seulement des voies novatrices de traitement et d’analyse de données massives, elle transforme les méthodologies et les stratégies de recherche. De plus, la notion même de ‘participant’ en recherche, au cœur de l’analyse éthique de la recherche, est recadrée. Il n’est plus nécessaire de compter sur la « participation active » d’êtres humains: la captation de données suffit et est souvent plus fiable qu’un questionnaire distribué aux participants. Le consentement à la recherche se résume-t-il dès lors, à une simple autorisation d’utilisation de données ? Comment assurer la fondamentale protection de la vie privée et la confidentialité des données des participants en recherche alors que l’IA offre des outils sophistiqués d’intrusion potentielle dans les secrets bien gardés des individus. Les comités d’éthique à la recherche ont-ils pour mandat d’examiner ce genre de projets dont les risques sont souvent jugés minimaux? Leur revient-il la responsabilité de questionner, dès la genèse des projets, les biais algorithmiques, pointés du doigt comme cause d’inéquité et de traitement inadéquats ?

Ce ne sont là que quelques-unes des questions pour lesquelles les FRQ ont été interpellés.

Résumé du colloque

Les développements récents en intelligence artificielle (IA) et particulièrement dans le domaine de l’apprentissage machine ont mené à des percées technologiques importantes (Le Cun, Bengio et Hinton). L’IA permet de créer des systèmes de traitement du langage naturel, de reconnaissance de la voix, de l’image ou de reconnaissance faciale. Elle permet aussi de créer de la musique, des textes littéraires ou d’autres contenus artistiques. Elle trouve des applications en transport, en droit, en finance ou en médecine.

Par exemple, le Naval Medical Center de San Diego et Google AI auraient récemment développé un système capable de détecter des cellules cancéreuses du sein avec une fiabilité de 99 %, un taux supérieur ou équivalent à celui des pathologistes humains dans bien des cas. Dans leur livre The Second Machine Age, Erik Brynjolfsson et Andrew McAfee montrent comment l’IA peut transformer le monde du commerce en permettant d’automatiser ou d’optimiser des procédés existants, mais aussi en créant des modèles d’affaires complètement nouveaux, comme pouvaient l’être Facebook ou Google à leur époque.

Bref, l’IA nous promet une hausse de la productivité, de meilleurs soins de santé ou l’accès à de nouveaux savoirs. Mais elle n’est pas sans soulever des enjeux importants. Premièrement, on en sait peu sur les incidences de l’IA et sur la transformation de la dynamique sociétale. Deuxièmement, ce qu’on sait soulève des inquiétudes : comment rendre des comptes de l’usage d’une technologie dont la complexité interne dépasse parfois la capacité de compréhension des êtres humains? Comment éviter la discrimination algorithmique, les violations de la vie privée ou l’opacité souvent associées à l’usage de ces technologies? Comment réduire l’accroissement des inégalités économiques et l’apparition d’une nouvelle fracture numérique? Finalement, comment s’assurer de la juste appropriation de ces technologies par tous les acteurs impliqués, incluant ceux de la société civile?