Le 14 novembre dernier, nous apprenions le lancement de l’École de l’intelligence artificielle en santé (ÉIAS), mise sur pied conjointement par le Centre hospitalier de l’Université de Montréal (CHUM) et l’Université de Montréal.
L’objectif de l’École est, d’abord, « d’accompagner et de soutenir les acteurs des systèmes de santé dans l’appropriation, l’implantation et la valorisation de [l’intelligence artificielle], au bénéfice des équipes, des patients et de la population ». L’École traitera plus spécifiquement des thèmes de l’acceptabilité, autant d’un point de vue social, juridique qu’éthique des applications de l’intelligence artificielle (IA) dans le domaine de la santé, en plus de se pencher sur les divers impacts que l’IA pourrait entrainer pour les travailleurs et pour l’organisation du système de santé. Considérant que 80 projets du CHUM utilisent déjà l’IA, la création d’une École qui peut assurer un suivi plus systématique de son utilisation en santé semble bienvenue.
L’intelligence artificielle promet de modifier grandement les pratiques liées à la santé, que ce soit dans la prévention des maladies que dans la gestion du personnel travaillant dans le système de santé. Ces modifications pourraient faire en sorte que l’IA apporte de nombreux bénéfices en santé, dont un traitement plus rapide et plus efficace de certaines maladies. Toutefois, l’IA soulève quelques inquiétudes importantes, notamment en ce qui a trait à la protection de la vie privée des patients.
D’abord, il est nécessaire d’expliquer ce qu’est l’intelligence artificielle. L’IA est, principalement, le domaine de l’informatique qui cherche à simuler l’intelligence humaine. L’IA permet entre autres des avancées importantes en robotique, autant par la reconnaissance faciale que par l’analyse du langage naturel. Elle permet aussi d’analyser de très grands ensembles de données par l’utilisation d’algorithmes d’apprentissage. C’est le domaine de l’apprentissage-machine.
D’ailleurs, Watson, le programme informatique développé par IBM et devenu champion du jeu télévisé américain Jeopardy en 2011, est maintenant utilisé comme expert-conseil en matière de diagnostic médical. Par l’analyse d’une base de données importante, Watson peut faire plusieurs combinaisons, explorer plusieurs possibilités, et ceci bien plus rapidement qu’un humain pourrait le faire. De manière similaire, l’intelligence artificielle permet, par la reconnaissance et l’analyse d’images, d’assister les radiologistes dans leur travail. Des programmes informatiques peuvent ainsi permettre aux radiologistes de traiter plus de cas et de diagnostiquer, par exemple, des tumeurs plus rapidement.
Dans ces cas, l’objectif des développements en intelligence artificielle n’est pas de remplacer le médecin, mais de l’assister, que ce soit par l’automatisation de certaines tâches répétitives ou par l’analyse d’un ensemble complexe de données.
C’est l’accès à des ensembles importants de données qui permet le développement de l’intelligence artificielle en santé. En effet, c’est entre autres parce que les images utilisées par les radiologistes sont numérisées depuis plusieurs années que l’IA peut assister le travail de ceux-ci.
L’objectif des chercheurs en santé qui utilisent l’IA est d’avoir à la fois accès aux données et à la possibilité de les analyser, dans le but d’avoir une meilleure compréhension des causes de certaines maladies et de mieux prédire ou prévenir celles-ci. C’est d’ailleurs ce que promettent les systèmes de santé apprenants, où la collecte et le partage des données sont essentiels dans le but d’améliorer les soins et services. Les outils informatiques occupent ici une place importante, dont les outils liés à l’intelligence artificielle.
Les exemples précédents ne sont que quelques exemples de ce que permettent les développements en intelligence artificielle une fois qu’ils sont appliqués au domaine de la santé. Bien qu’il existe des défis techniques pour déployer de tels systèmes, entre autres l’accès à des données fiables, il est indéniable que l’IA peut faciliter le développement des systèmes de santé apprenants et apporter des contributions importantes pour le domaine de la santé.
Il demeure néanmoins quelques inquiétudes qu’il faut prendre au sérieux. D’abord, lorsqu’il est question de recueillir des données personnelles sur les individus, il existe un enjeu éthique certain par rapport à la protection de la vie privée et de l’autonomie des individus. En effet, les systèmes opérant une collecte de données doivent absolument recueillir ces données, avant tout, en s’assurant du libre consentement des individus, en plus de s’assurer que celles-ci soient manipulées avec soin et sans mettre à risque la vie privée de ceux-ci.
Une solution souvent mise de l’avant pour protéger la vie privée des individus dans ce contexte de collecte massive de données est l’anonymisation de celles-ci : les données sont ainsi traitées de telle manière qu’il n’est pas possible de faire de liens entre celles-ci et les individus.
Une telle solution a toutefois des limites lorsqu’appliquée au domaine de la recherche en santé. En effet, si l’objectif est d’en arriver à une meilleure capacité de prédire si et quand un individu pourrait être malade, il semble indéniable que certaines données personnelles à propos de cet individu ne puissent pas être rendues anonymes. Il semble donc important qu’un cadre légal vienne régir la collecte et la manipulation des données personnelles, dans le but de protéger la vie privée des individus.
Aussi, dans la situation où un algorithme d’intelligence artificielle puisse être un expert-conseil pour le diagnostic médical, il est primordial que le processus décisionnel de cet algorithme soit, du moins sommairement, accessible au médecin et au patient. Ceci est nécessaire pour éviter le phénomène de la boîte noire : bien qu’il soit possible d’avoir accès aux données qui nourrissent un algorithme et aux conclusions de celui-ci, il n’est pas toujours évident de reproduire le chemin que l’algorithme a suivi pour en arriver à une conclusion. Ce phénomène de la boîte noire est également présent pour les concepteurs de ces algorithmes d’intelligence artificielle : même ceux-ci ne peuvent pas toujours identifier comment un algorithme en arrive à une certaine conclusion.
Un tel phénomène soulève l’enjeu de la justification et de l’explication de la prise de décision : il faut en effet que le médecin soit en mesure de justifier et d’expliquer au patient pourquoi un traitement plutôt qu’un autre devrait être privilégié. Il faut donc que le médecin, ou tout autre intervenant, ait accès à cette fameuse boîte noire. En d’autres termes, il faut que l’algorithme devienne plus transparent.
Un autre enjeu lié à l’intelligence artificielle, et qui prend tout son sens lorsque ces techniques informatiques sont appliquées au domaine de la santé, est le potentiel parti pris ou biais des algorithmes dû principalement à un ensemble non représentatif de données. Cet enjeu soulève des questions par rapport à l’équité, plus particulièrement la possibilité d’être traité de manière impartiale par le personnel traitant. Si les données ne sont pas représentatives, ou si elles contiennent même des préjugés ou reflètent des pratiques discriminatoires par rapport à un ensemble de la population (une minorité ethnique, par exemple), alors il est possible que l’équité dans l’attribution des ressources en santé ne soit pas respectée. De plus, le manque de représentativité des données affecterait la validité des recommandations thérapeutiques pour les groupes non, ou mal, représentés par celles-ci.
Bien que les développements en IA engendreront vraisemblablement des bénéfices importants, à la fois pour les patients, pour les professionnels de santé et pour le système de santé, il est important de prendre ces préoccupations en considération afin de réduire les risques inhérents à ces développements.
Si l’enregistrement des fichiers de témoins est activé sur votre navigateur, la visite de ce site placera un fichier de témoins sur votre ordinateur, ou un fichier de témoins sera lu si vous avez déjà visité ce site auparavant. Notre utilisation des fichiers de témoins vise uniquement à améliorer votre expérience comme utilisatrice ou utilisateur sur le site Web de la Commission.