Colloque

Respect de la vie privée et problématiques éthiques à l’ère des données massives

Sébastien Gambs

Membre a labase

Sébastien Gambs : UQAM - Université du Québec à Montréal

Résumé de la communication

Dans notre société de l’information, le profilage des utilisateurs à des fins de personnalisation et de recommandation est devenu la norme, ce qui a permis le développement de services qui sont ciblés sur les besoins spécifiques des individus, mais soulèvent aussi d’importantes questions éthiques et en terme de protection de la vie privée. En particulier, l’absence de transparence sur le processus de profilage et de personnalisation a conduit à une perte de contrôle des individus sur la collecte et l’usage qui est fait de leurs données personnelles tout en rendant impossible la possibilité pour un individu de questionner la décision prise par l’algorithme et de le rendre « imputable » par rapport à cette décision. De plus, la transparence est un prérequis afin de pouvoir analyser les biais possibles que les algorithmes de personnalisation pourraient avoir (par exemple en discriminant contre un groupe sensible de la population) dans le but de pouvoir ensuite les corriger. Dans cette présentation, je passerai en revue les principaux défis en terme de problématiques éthiques et de respect de la vie privée qui sont apparus récemment avant de présenter les principales approches qui ont été proposées pour répondre à ces défis. Enfin, je conclurai en soulignant quelques questions ouvertes.

Résumé du colloque

Depuis une dizaine d’années, le domaine de l’intelligence artificielle (IA), considéré auparavant comme un domaine de recherche scientifique abstrait, prend des formes beaucoup plus concrètes auprès des industries, mais aussi des individus.

Les applications potentielles de l’IA sont immenses. Des exemples peuvent déjà être vus au sein de nos systèmes bancaires, nos systèmes de santé, nos véhicules autonomes, le marketing numérique, etc. Cependant, ces exemples demeurent sporadiques et ne reflètent pas la révolution culturelle tant acclamée. La réalité est que la maîtrise des techniques de l’IA reste limitée à un nombre de chercheurs spécialisés, ce qui se traduit par des investissements considérables — souvent plusieurs millions — de la part des institutions (bancaires, médicales, industrielles) pour intégrer l’intelligence artificielle dans leurs systèmes. De plus, l’ampleur des capacités de la technologie est elle aussi mal connue de ceux qui pourront en bénéficier le plus.

La présence importante de l’IA dans les médias et réseaux sociaux a donné une fausse apparence de démocratisation de la technologie, de laquelle nous sommes encore loin. Selon un sondage mené et publié en 2018 par Forbes Insights auprès de 305 dirigeants d’entreprise dans 10 pays, le Canada se classe au dernier rang en ce qui concerne le déploiement de technologies d’IA faible comme l’apprentissage profond et l’apprentissage automatique.

En effet, les entreprises canadiennes font face à de nombreux défis, autres que l’utilisation des technologies connexes de l’IA, tels que la formation de personnel compétent pour l’exploitation des données qui devront elles-mêmes être centralisées et structurées dans des infrastructures informatiques à mettre en place.

Avec seulement 68 % des entreprises canadiennes ayant adopté une ou plusieurs technologies d’IA, cela est révélateur d’un domaine mal connu du grand public et où règne la confusion entre les fantasmes de science-fiction et la réalité scientifique.