Colloque

L'IA au service du travail humanitaire: espoirs et difficultés

François CLAVEAU

Guillaume Dandurand

Membre a labase

François CLAVEAU : Université de Sherbrooke

Résumé de la communication

L'intelligence artificielle suscite de grands espoirs au sein des organismes humanitaires. Les « humanitaires numériques » (Digital Humanitarians, Meyer 2015) y trouvent des techniques de collecte et de traitement de l'information pour améliorer significativement la production et l'utilisation de connaissances en contexte d'urgence. En même temps, l'IA suscite des craintes et du scepticisme au sein des organismes humanitaires. Des travailleurs humanitaires « de terrain » y voient, au mieux, une source de rêves éveillés et, au pire, une technologie qui, par un déploiement prématuré, nuira concrètement à leur objectif ultime, c.-à-d. sauver des vies. Sur la base d'une étude ethnographique et épistémologique de l'unité développant des solutions d'IA chez Médecins sans frontières, cette communication analysera comment l'IA se fraie avec difficulté un chemin dans le monde humanitaire.

Résumé du colloque

Les développements récents en intelligence artificielle (IA) et particulièrement dans le domaine de l’apprentissage machine ont mené à des percées technologiques importantes (Le Cun, Bengio et Hinton). L’IA permet de créer des systèmes de traitement du langage naturel, de reconnaissance de la voix, de l’image ou de reconnaissance faciale. Elle permet aussi de créer de la musique, des textes littéraires ou d’autres contenus artistiques. Elle trouve des applications en transport, en droit, en finance ou en médecine.

Par exemple, le Naval Medical Center de San Diego et Google AI auraient récemment développé un système capable de détecter des cellules cancéreuses du sein avec une fiabilité de 99 %, un taux supérieur ou équivalent à celui des pathologistes humains dans bien des cas. Dans leur livre The Second Machine Age, Erik Brynjolfsson et Andrew McAfee montrent comment l’IA peut transformer le monde du commerce en permettant d’automatiser ou d’optimiser des procédés existants, mais aussi en créant des modèles d’affaires complètement nouveaux, comme pouvaient l’être Facebook ou Google à leur époque.

Bref, l’IA nous promet une hausse de la productivité, de meilleurs soins de santé ou l’accès à de nouveaux savoirs. Mais elle n’est pas sans soulever des enjeux importants. Premièrement, on en sait peu sur les incidences de l’IA et sur la transformation de la dynamique sociétale. Deuxièmement, ce qu’on sait soulève des inquiétudes : comment rendre des comptes de l’usage d’une technologie dont la complexité interne dépasse parfois la capacité de compréhension des êtres humains? Comment éviter la discrimination algorithmique, les violations de la vie privée ou l’opacité souvent associées à l’usage de ces technologies? Comment réduire l’accroissement des inégalités économiques et l’apparition d’une nouvelle fracture numérique? Finalement, comment s’assurer de la juste appropriation de ces technologies par tous les acteurs impliqués, incluant ceux de la société civile?