Colloque

Le rôle de la société civile dans la gouvernance de l’intelligence artificielle : de l'art aux lois

Valentine Goddard

Membre a labase

Valentine Goddard : Alliance Impact IA (AIIA)

Résumé de la communication

Arriver à un consensus international sur l’encadrement normatif du développement et de l’implantation de l’intelligence artificielle (IA) est un objectif d'une grande importance, mais ce processus exigera des efforts et une collaboration considérable. Ce déroulement est complexifié par une concurrence économique féroce qui nuit à l'efficacité des groupes de travail mis en place pour adapter directives et réglementation aux changements technologiques. Les organismes de la société civile (OSC) sont très peu représentés au sein des groupes de travail sur la gouvernance de l'IA et, pourtant, ils ont un rôle fondamental à jouer pour assurer la qualité et la stabilité de l'encadrement normatif de l'IA.

Nos lois sont des codifications des valeurs sociales, et les OSC doivent veiller à ce que cet encadrement normatif soit représentatif des valeurs de l'ensemble des citoyens. En effet, pour s'assurer que les valeurs entendues, automatisés et codifiées soient inclusives et représentatives de l'ensemble de la population, les OSC sont les experts les mieux placés pour faciliter un dialogue inclusif, et informer les décideurs en innovation réglementaire. Il est donc essentiel que les gouvernements se mobilisent pour protéger la délibération collective et renforcent la capacité des OSC à encadrer l'IA sur le plan éthique et normatif de l’IA.

Notre présentation approfondira ces prémisses et explorera des solutions, notamment celle des arts à la rescousse de l'innovation réglementaire.

Résumé du colloque

Les développements récents en intelligence artificielle (IA) et particulièrement dans le domaine de l’apprentissage machine ont mené à des percées technologiques importantes (Le Cun, Bengio et Hinton). L’IA permet de créer des systèmes de traitement du langage naturel, de reconnaissance de la voix, de l’image ou de reconnaissance faciale. Elle permet aussi de créer de la musique, des textes littéraires ou d’autres contenus artistiques. Elle trouve des applications en transport, en droit, en finance ou en médecine.

Par exemple, le Naval Medical Center de San Diego et Google AI auraient récemment développé un système capable de détecter des cellules cancéreuses du sein avec une fiabilité de 99 %, un taux supérieur ou équivalent à celui des pathologistes humains dans bien des cas. Dans leur livre The Second Machine Age, Erik Brynjolfsson et Andrew McAfee montrent comment l’IA peut transformer le monde du commerce en permettant d’automatiser ou d’optimiser des procédés existants, mais aussi en créant des modèles d’affaires complètement nouveaux, comme pouvaient l’être Facebook ou Google à leur époque.

Bref, l’IA nous promet une hausse de la productivité, de meilleurs soins de santé ou l’accès à de nouveaux savoirs. Mais elle n’est pas sans soulever des enjeux importants. Premièrement, on en sait peu sur les incidences de l’IA et sur la transformation de la dynamique sociétale. Deuxièmement, ce qu’on sait soulève des inquiétudes : comment rendre des comptes de l’usage d’une technologie dont la complexité interne dépasse parfois la capacité de compréhension des êtres humains? Comment éviter la discrimination algorithmique, les violations de la vie privée ou l’opacité souvent associées à l’usage de ces technologies? Comment réduire l’accroissement des inégalités économiques et l’apparition d’une nouvelle fracture numérique? Finalement, comment s’assurer de la juste appropriation de ces technologies par tous les acteurs impliqués, incluant ceux de la société civile?