Médecine, algorithme et responsabilité

Les algorithmes sont aujourd’hui capables de diagnostiquer ou prédire les évolutions d’une maladie. Grâce aux progrès récents de reconnaissance d’image, ils repèrent efficacement des anomalies dans le corps.

Pourraient-ils devenir plus performants que l’humain ?
Qui porte alors la responsabilité des décisions médicales d’un·e patient·e ?
Le médecin, le programme, le·la programmeur·euse ?

L’ESPGG vous invite à réagir et questionner des spécialistes à l’occasion de cette « conférence-réaction » dédiée aux algorithmes médicaux.

Mardi 22 janvier, de 18h30 à 20h, dans la mezzanine de l’Espace des Sciences Pierre-Gilles de Gennes.

Intervenante : Claire Mathieu, Informatique et mathématique, Directrice de Recherche au CNRS.

Lorsqu’une chercheuse en informatique qui a travaillé sur l’algorithme de ParcourSup rencontre des internes en médecine, la conversation débute avec les algorithmes qui sélectionnent et traitent les candidatures. Que ce soit pour un stage en médecine ou pour le choix d’une Université, comment ces algorithmes fonctionnent-ils ?
Comment s’assurer de leur impartialité ?

Un diagnostic médical et un algorithme, même combat ?
La recherche d’un diagnostic peut se comparer à la résolution d’un problème pour un algorithme. Cependant, si un algorithme cherche rapidement la solution la plus probable, un·e médecin commence par éliminer les possibilités les plus graves et peu probable. Ainsi il (ou elle) évite de passer à côté d’un cas dangereux, et de mettre en danger la vie de son (sa) patient·e.

Quel est l’avis de l’intervenante sur le consentement éclairé de la population face à la complexité des algorithmes ?
Pour Claire Mathieu, un bon moyen de connaître la vertu d’un algorithme sans avoir à comprendre l’intégralité de son code, est d’en comprendre les propriétés. Qu’est-ce que l’algorithme considère comme un succès ? Est-ce le profit ? la résolution du problème ? La satisfaction de l’utilisateur·rice ?

Les algorithmes ont le gros défaut d’être conçu pour considérer que “le succès” de leur problème signifie “obtenir une solution conforme à ce qui se trouve dans le passé”. Ainsi, les bases de données qui fournissent la vision du “succès passé” peuvent, si elles sont incomplètes ou mal construites, provoquer des inégalités et des erreurs.
C’est le cas par exemple pour les algorithmes médicaux qui se réfèrent à une base de données d’anciens patients majoritairement masculins et caucasiens. Ils ne peuvent alors traiter efficacement les données d’un·e patient·e avec des caractéristiques différentes.

Ensuite, il est possible d’ajouter à l’algorithme un certain nombre de garde fou, des paramètres qui vont l’empêcher de susciter des injustices ou des inégalités. Enfin, il faut donner aux algorithmes la capacité d’apprendre de leurs erreurs, d’avoir un retour sur leurs résultats pour ne pas perpétuer (et accentuer) les inégalités.

Et si l’on concevait les algorithmes comme on concevait des médicaments ?
Avec un protocole similaire à celui de la validation d’une molécule pharmaceutique, il est possible de réguler les algorithmes et de s’assurer d’avoir anticipé leurs effets secondaires.

La discussion s’achève sur cette idée. Les algorithmes sont déjà bien installés dans le monde médical. Ils assistent efficacement les médecin·es et promettent de belles collaborations futures dans la réalisation des diagnostics, de l’interprétation de l’imagerie médicale ou encore pour traiter et exploiter les données des patient·es. Ainsi, il ne faut pas craindre l’utilisation des algorithmes dans la médecine mais plutôt s’assurer que leur conception soit contrôlée et réfléchie.

Événement soutenu par la région Ile-de-France dans le cadre du projet La Science du Choix.