Colloque

L’opacité des algorithmes en médecine est-elle un problème ?

Juliette Ferry-Danini

Membre a labase

Juliette Ferry-Danini : University of Toronto

Résumé de la communication

Les concepts d' « opacité » et de « transparence » appliqués aux algorithmes partent généralement de l’idée que l'opacité dans l'intelligence artificielle (IA) est quelque chose à éviter et qu'inversement la transparence est un objectif à atteindre. Cependant, le concept de transparence demeure ambiguë. On pourrait d'abord le définir de manière épistémique : un algorithme serait dit transparent lorsqu’on peut comprendre comment il fonctionne et que nous pouvons l'expliquer. Dans le cas des algorithmes décisionnels en médecine, la principale préoccupation concerne la manière dont les professionnels de santé sont en mesure de justifier un diagnostic sans pour autant pouvoir expliquer comment ils l'ont obtenu et pourquoi. Toutefois, on pourrait faire valoir qu'une telle opacité épistémique est déjà constitutive de la médecine fondée sur les preuves, où les mécanismes sont souvent inconnus. Pour autant, les concepts de « transparence » ou d' « opacité » ont au moins une deuxième signification qui va au-delà de la question de l'explicabilité. L'objectif de cet exposé sera donc double : premièrement, dresser la carte des différentes significations des concepts de « transparence » et d’« opacité » d’une part dans l'éthique de l'IA et d’autre part dans la philosophie de la médecine et la bioéthique. Deuxièmement, mon objectif sera d'ouvrir la voie pour comprendre si et dans quel sens (éthique et/ou épistémologique) l'opacité doit être évitée en médecine et dans le cadre de l’IA

Résumé du colloque

Afin de faire écho au thème du 88^e congrès de l’Acfas, intitulé Du jamais su, la Société de philosophie du Québec invite ses membres à réfléchir aux invisibles et aux inaudibles de la philosophie. Bien que la philosophie se veuille une recherche de vérité, une quête de sagesse, on peut se questionner sur ses angles morts. Qu’est-ce qui est mis de côté dans cette quête, et pourquoi? Nous pouvons penser à la philosophie grecque qui s’échafaude sur un rejet de la mythologie afin de fonder un discours rationnel. À la philosophie médiévale, dans la lignée de l’héritage de la tradition chrétienne, qui a, de son côté, contribué à un rejet du corps et du monde ici-bas. À Kant, dans son geste de déconstruction de la métaphysique, qui a séparé ce qu’il était possible de penser de ce qu’il était possible de connaître. Ou plus près de nous, au tournant linguistique qui est venu remettre en question le langage même de la métaphysique en traquant les énoncés mal formés et sans signification réelle.

Chaque époque, chaque courant philosophique semble mettre de côté certains aspects ou certaines expériences afin de délimiter son objet de connaissance et les possibilités de connaître, reléguant ces éléments à l’invisibilité ou à l’inaudibilité. Certains de ces aspects semblent ensuite être « redécouverts » par les courants subséquents, ouvrant ainsi des débats dans l’histoire de la philosophie. S’intéresser aux invisibles et aux inaudibles pourrait se révéler une manière de penser à nouveaux frais l’histoire des débats philosophiques et la formation du canon en philosophie; une manière de réfléchir à ceux et celles qui font l’histoire et du même coup, à ceux et celles qui sont tombé.e.s dans l’oubli, aux voix marginalisées. Qu’est-ce qui se cache dans les marges de la philosophie? Y a-t-il du jamais su?