L'IA dans la santé avance plus vite que les régulateurs ne peuvent la suivre. Voici ce qui est réellement déployé.

L'IA en santé a dépassé la phase pilote. En radiologie, en pathologie, en soins primaires, en découverte de médicaments et en administration clinique, les systèmes d'IA ne sont pas en cours d'évaluation : ils fonctionnent dans des flux de travail de production, influencent les diagnostics et transforment la manière dont les organisations cliniques organisent leurs équipes et gèrent leurs activités. Les cadres réglementaires conçus pour encadrer les dispositifs médicaux traitent un arriéré de demandes liées à l'IA qui grandit plus vite que le processus d'approbation ne peut l'absorber. Il en résulte un écart important entre ce qui est déployé et ce qui a été rigoureusement validé.

Là où l'IA est déjà intégrée à la pratique clinique

La radiologie est la spécialité clinique où l'IA est la plus profondément implantée. Des algorithmes approuvés par la FDA pour détecter le pneumothorax, l'embolie pulmonaire, l'hémorragie intracrânienne et le cancer du sein sur des examens d'imagerie fonctionnent dans des hôpitaux aux États-Unis et dans l'UE. Plusieurs systèmes de santé ont mis en place des systèmes de tri par IA qui signalent les résultats critiques et les placent en tête de la file de lecture, quelle que soit la date de prescription de l'examen. Ce changement a réduit de manière mesurable le délai avant traitement pour les pathologies où chaque heure compte.

La documentation clinique est le deuxième grand domaine de déploiement. Les outils de transcription par IA, des systèmes d'écoute ambiante qui transcrivent et structurent les consultations directement dans le dossier médical électronique (DME), ont été adoptés par de grands systèmes de santé comme par des cabinets indépendants. Les gains de temps sont considérables : les médecins déclarent récupérer 60 à 90 minutes par jour auparavant consacrées à la documentation. Epic, le fournisseur dominant de DME, a intégré nativement la documentation ambiante par IA, ce qui signifie que le déploiement ne nécessite plus de projet de mise en œuvre distinct.

La découverte de médicaments a produit les résultats scientifiques les plus spectaculaires. Les prédictions de structure des protéines d'AlphaFold sont devenues une infrastructure standard pour le développement précoce de médicaments dans les grandes entreprises pharmaceutiques. Des molécules conçues par IA entrent dans des essais cliniques chez l'humain. Le rythme d'identification des cibles et de génération de composés candidats s'est accéléré au point de restructurer la manière dont les entreprises pharmaceutiques dotent en personnel leurs activités de découverte.

Là où le vide réglementaire crée un risque

La procédure d'autorisation 510(k) de la FDA, conçue pour des dispositifs médicaux disposant d'un dispositif de référence, n'a pas été pensée pour des systèmes d'IA qui se mettent à jour en continu, se comportent différemment selon les populations de patients et peuvent se dégrader lorsque la distribution des données d'entrée évolue. Un algorithme autorisé sur les données d'imagerie d'un hôpital peut être nettement moins performant sur les images d'un autre hôpital si les modèles de scanners, la démographie des patients ou les protocoles d'imagerie diffèrent. Des exigences de suivi des performances après mise sur le marché existent pour les dispositifs médicaux à base d'IA, mais elles sont largement reconnues comme insuffisantes pour détecter la dégradation des performances en conditions réelles.

Le problème du biais algorithmique dans l'IA en santé est documenté et sérieux. Plusieurs études ont montré que des outils diagnostiques commerciaux fonctionnant à l'IA sont nettement moins performants pour les patients issus de populations sous-représentées dans les données d'entraînement. Une IA dermatologique entraînée principalement sur des peaux claires a une précision sensiblement plus faible sur les peaux plus foncées. Un algorithme de prédiction du sepsis validé sur la population d'un centre médical universitaire américain peut être mal calibré lorsqu'il est déployé dans un hôpital communautaire dont la démographie des patients est différente. Il ne s'agit pas de risques théoriques : ce sont des résultats documentés de systèmes déployés.

Ce que cela signifie pour les organisations de santé qui évaluent l'IA

La bonne question pour toute décision d'adoption d'une IA en santé n'est pas « cet outil a-t-il été approuvé par la FDA ? », mais « a-t-il été validé sur une population de patients et un environnement clinique qui correspondent aux nôtres ? ». L'approbation de la FDA vous indique que l'algorithme a atteint un seuil réglementaire à un moment donné. Elle ne vous dit pas qu'il fonctionnera bien dans votre contexte spécifique.

Les structures de gouvernance pour la supervision de l'IA, telles que les comités d'IA clinique, les protocoles de suivi des performances et les exigences de supervision humaine pour les décisions à fort enjeu, deviennent incontournables pour un déploiement responsable. Les organisations qui déploient l'IA sans ces structures prennent des risques institutionnels et de responsabilité qui apparaîtront au grand jour lorsqu'une défaillance de performance se produira.

À retenir en pratique : si vous évaluez des outils d'IA pour une application de santé, exigez du fournisseur qu'il vous fournisse des données de performance ventilées par sous-groupe démographique et qu'il décrive sa méthodologie de surveillance après mise sur le marché. Ces deux demandes vous en diront long sur la manière dont le fournisseur a réfléchi sérieusement au déploiement en conditions réelles.