Au-delà de ses atouts technique indiscutables, l’intelligence artificielle fait émerger de nouveaux dilemmes éthiques. Elle interroge en particulier l’autonomie du médecin dans la décision médicale. Est-ce un appui, un atout? Une limitation ou une contrainte? Et plus profondément, qu’en est-il du soin en tant que relation intersubjective? Les réponses de François Langevin, de la Chaire de Management des Technologies de Santé de l’EHESP, pour le magazine Architecture Hospitalière. 
François Langevin,
Chaire de Management des Technologies de Santé de l’EHESP
Qu’est-ce que précisément l’intelligence artificielle?
L’intelligence artificielle est étroitement liée à l’histoire de la logique, depuis Aristote ou Descartes. Le XXe siècle compte certaines étapes majeures dans le processus de compréhension de la logique par l’homme, notamment les travaux d’Alan Turing et de sa fameuse machine éponyme. Les pères de l’intelligence artificielle moderne, Hyman Minsky, Claude Shannon et John McCarthy se rencontrent de manière décisive en 1956. Zadeh, fondateur de la logique floue, apporte à partir de 1965, un grand enrichissement en sortant de la logique binaire. Les premiers grands systèmes sont apparus dès les années 70, tels que le système expert Mycin basé sur 600 règles : il battait déjà les spécialistes pour l’identification des bactéries. Le grand public a, quant à lui, a surtout retenu la défaite du joueur d’échecs professionnel Garry Kasparov face au système Deep Blue conçu par IBM, puis en 2016, celle Lee Sedol, joueur de go professionnel !
L’intelligence artificielle est divisée en deux grandes familles d’algorithmes. La première, c’est le Deep Learning, basée sur les réseaux de neurones, notamment les plus utilisés dits réseaux convolutifs. Le père de cette dernière méthode est Yann Le Cun, ingénieur et chercheur français, directeur scientifique de Facebook, et titulaire en 2016 de la Chaire « informatique et sciences numériques » du Collège de France. La seconde famille rassemble différents algorithmes qui permettent de donner une représentation des mécanismes à modéliser, elle est dite cognitive, ou symbolique, car elle emploie des modèles explicatifs. Cela peut provenir du savoir d’expert dont il faut faire « accoucher » la connaissance, véritable et difficile maïeutique, ou d’un raisonnement probabiliste (méthode bayesienne) ou encore à partir de méthodes floues. Ces familles diffèrent grandement. La première, bien qu’utilisée par près de 80 % des entreprises recourant à l’intelligence artificielle, fonctionne par apprentissage à base d’algorithmes non explicables et ne produit que des « boites noires », ce qui pose problème dès qu’il peut y avoir des décisions vitales à prendre ou des justifications légales.
L’autre famille implique, quant à elle, une véritable implication des experts pour partager leurs connaissances afin de les intégrer dans la machine. Des méthodes mixtes émergent maintenant qui empruntent à ces deux familles et peuvent proposer des solutions satisfaisantes, comme celles de la logique floue augmentée, par exemple. Face à l’effervescence du secteur de l’intelligence artificielle mais aussi à leurs modèles économiques encore peu stabilisés, certaines entreprises vont se consolider tandis que d’autres seront amenées à disparaître. On voit dans le monde médical des bouquets d’applications complets aux quels les établissements peuvent s’abonner. De nombreux pays investissent massivement dans le développement très compétitif de l’intelligence artificielle, parmi eux, les leaders sont la Chine, les États-Unis, le Royaume-Uni, l’Allemagne et la France.
Dans quelle mesure l’intelligence artificielle s’est-elle développée dans le secteur de la santé, et notamment le domaine hospitalier?
Dans le secteur de la santé, l’intelligence artificielle est omniprésente. Lors du congrès mondial de radiologie, le RSNA, organisé chaque année à Chicago, des centaines d’entreprises participantes présentent leurs nouvelles applications et toutes, sans exception, affichent des solutions utilisant l’intelligence artificielle. Ce domaine est donc aujourd’hui incontournable à la fois pour des raisons d’efficacité et de marketing. L’intelligence artificielle connaît donc un développement important et généralisé mais elle n’est pas encore arrivée à maturité. En France, l’expérience des Health Data Hub (plateformes de données de santé) est également très intéressante dans le domaine scientifique.
Quelles sont les problématiques liées au recours de l’intelligence artificielle dans le domaine de la santé?
Il existe beaucoup de problématiques, à commencer par celles liées à l’éthique. Concernant les systèmes d’intelligence artificielle manipulant de grande quantité de données, il est important de pouvoir clairement comprendre les méthodes de recueil, le traitement des données et leur utilisation. Pour les outils de Deep Learning, les solutions utilisées doivent être supervisées par une validation humaine en dernière étape. D’autres problématiques concernent la cyber-sécurité, un sujet très sensible pour les hôpitaux, où les outils d’intelligence artificielle sont devenus incontournables, mais pas ceux du deep learning, car accessibles maintenant en libre accès et donc aux hackers mal intentionnés de toutes sortes. Enfin, la question de la fracture numérique est étroitement liée à l’accès à l’intelligence artificielle donnant un avantage aux très grands groupes privés ou publics grâce aux volumes de données à disposition. Une grande évolution des métiers de l’hôpital est à prévoir, tant au niveau médical que paramédical, en redessinant le périmètre des gestes quotidiens, des qualifications et des effectifs.
Comment les métiers de l’hôpital sont-ils appelés à évoluer face à l’avancée de ces technologies?
Il est toujours difficile d’anticiper l’évolution d’un secteur si dynamique à plus de 3 ou 5 ans. Cependant, nous verrons sans doute, dans le domaine médical, un recours renforcé à l’intelligence artificielle dans des spécialités où un volume croissant de connaissances et d’informations devient difficile à assimiler, même pour un expert. Cancérologie, pandémies, médecine personnalisée, figureront parmi les premiers, mais toutes les étapes du « drug design » et de l’industrie pharmaceutique, hautement concurrentielle et politique sont également concernées. Les métiers seront également touchés par l’automatisation et la robotisation, intimement liées à l’intelligence artificielle. Ces évolutions entraîneront un remaniement des effectifs au sein des services hospitaliers et une redéfinition des périmètres d’activité d’un bon nombre de professionnels. A l’image du secteur industriel, le secteur hospitalier sera touché par l’émergence de ces solutions numériques, automatiques et intelligentes. D’autre part, nous nous orientons vers un monde caractérisé par la très grande présence de capteurs miniaturisés et discrets (ou Internet of Things – IOT) envoyant des messages automatiques (tweet). Ceux-ci devront probablement être contrôlés par des solutions d’intelligence artificielle au vu de leur nombre.
Les établissements de santé ont-ils conscience des atouts techniques de l’intelligence artificielle?
L’approche de l’intelligence artificielle par les professionnels hospitaliers varie en fonction des cultures et de la sensibilité de chacun. En France, de nombreux hôpitaux suivent les évolutions liées au domaine de l’IA avec un grand intérêt, tels le groupe hospitalier St Joseph Marie Lannelongue à Paris, le CH de Valenciennes, ou encore le SSR St Hélier à Rennes tandis que d’autres restent plus circonspects. Cela étant, l’avancée de ces techniques étant inéluctable, il est sage d’essayer de comprendre leur fonctionnement et d’anticiper leur évolution. Avec un regard positif, il est facile d’observer les améliorations apportées par l’intelligence artificielle dans le domaine hospitalier. On peut espérer que des solutions employant l’intelligence artificielle permettront de limiter les erreurs médicales, identifiées en 2016 par le British Journal of Medecine comme la troisième cause de mortalité aux États-Unis. A contrario, on peut regretter la dimension non humaine de cette évolution et le risque de perte de contrôle et de compréhension de plus en plus sensible, par une voie de la démesure, d’hubris technique généralisé.
Dans ce contexte, quels sont les enjeux en matière de formation?
Des enjeux stratégiques concernent les nations qui développent des instituts dédiés, tels que les Instituts Interdisciplinaires d’Intelligence Artificielle (3IA) en France. On doit stimuler les recherches de ce domaine. Au sein des hôpitaux, il est clair que des formations systématiques doivent être envisagées pour permettre à l’ensemble des personnels de comprendre le fonctionnement, l’intérêt et les limites de tels outils. Ces formations doivent également stimuler une réflexion éthique ou philosophique.
Comment envisagez-vous l’avenir de l’intelligence artificielle au sein des établissements de santé?
Dans le domaine de la conception des hôpitaux, l’intelligence artificielle peut jouer aussi un rôle intéressant. A l’image du projet de l’Hôpital Universitaire de Berne, elle peut permettre de modéliser les flux des patients dans un hôpital, d’étudier les questions de proximité entre les services, d’optimisation des parcours internes, voire de résoudre des problématiques de flexibilité et de modifications architecturales en cours de projet. Au cours des dernières décennies, nous sommes progressivement entrés dans le monde de la complexité. Dans ce contexte, je soutiens l’idée de développer des structures hospitalières de petite taille, à échelle humaine, satellites d’hôpitaux de référence, et capables de répondre aux besoins de proximité de la population. Une répartition harmonieuse des personnes sur un territoire est un enjeu essentiel d’accès aux soins. L’intelligence artificielle, dans le cadre des réglementations liées à l’éthique et au respect de chacun, pourrait alors permettre de suivre les personnes fragiles consentantes et d’anticiper leurs risques de décompensation ou de besoins sanitaires.
Pour en savoir plus: Hôpital numérique, mythe ou réalité ?
Propos recueillis par Christophe Pradier (Architecture Hospitalière)
