L'IA medicale cherche encore son responsable

La sante est le secteur ou l’IA promet le plus facilement d’etre pardonnable. Qui voudrait refuser un meilleur diagnostic, un tri plus rapide, un essai clinique mieux cible, une pharmacovigilance plus fine ou une synthese medicale moins lente ? L’argument moral arrive vite : si la machine peut aider, pourquoi attendre ?

C’est justement parce que l’argument est fort qu’il faut le ralentir.

La Commission europeenne a ouvert, du 2 au 26 juin 2026, une consultation sur l’IA dans la sante et la pharmacie. Le texte parle de benefices, de facteurs d’adoption, de barrieres et de passage a l’echelle. Les mots sont attendus. Ils disent pourtant quelque chose d’utile : l’Europe ne demande plus seulement si l’IA peut entrer dans la sante. Elle demande dans quelles conditions elle peut y rester.

La nuance est decisive. Un prototype peut impressionner avec quelques cas bien choisis. Un systeme de sante, lui, doit vivre avec les cas ordinaires, les dossiers incomplets, les donnees mal codees, les patients atypiques, les logiciels historiques, les urgences, les responsabilites juridiques, la fatigue des equipes et les erreurs qui ne se corrigent pas par une demo.

L’IA medicale n’a donc pas seulement un probleme de performance. Elle a un probleme de reponse : qui repond quand elle se trompe ?

La promesse est trop grande pour rester abstraite

L’IA en sante couvre des realites tres differentes. Aide a l’imagerie, recherche clinique, decouverte de medicaments, codage administratif, resume de dossiers, orientation des patients, aide a la decision, surveillance epidemiologique, politique publique fondee sur les preuves. Mettre tout cela sous une seule etiquette produit un effet de brouillard.

Dans ce brouillard, la promesse gagne toujours. Elle prend la forme d’un gain de temps, d’une penurie de soignants soulagee, d’un diagnostic plus precoce, d’un meilleur acces aux soins ou d’une innovation pharmaceutique acceleree. Ces promesses ne sont pas absurdes. Certaines sont plausibles. Plusieurs sont deja testees.

Mais une promesse plausible n’est pas une responsabilite definie.

La question utile n’est pas : “L’IA peut-elle aider un medecin ?” Bien sur qu’elle le peut, dans certains cas. La question utile est plus plate : dans quel geste exact, avec quelle donnee, pour quel patient, sous quelle supervision, avec quelle trace, quelle explication, quel droit de contestation et quelle procedure d’arret ?

Ce sont des questions moins seduisantes que les benchmarks. Elles sont aussi plus proches de la medecine reelle.

Le systeme ne soigne pas comme il experimente

Un article, une conference ou une page produit peut isoler un cas d’usage. Un hopital ne le peut pas aussi proprement. Le soin est une chaine. Une information saisie par une personne devient une alerte pour une autre, un tri pour une troisieme, une decision pour une quatrieme, une facture, une prescription, une trace legale, parfois un contentieux.

L’IA s’insere rarement dans un vide. Elle arrive dans un millefeuille de logiciels, de protocoles, de contraintes budgetaires, de normes professionnelles et d’habitudes locales. Elle ne modifie pas seulement une tache. Elle deplace parfois la confiance.

Si un outil signale un risque, qui doit regarder ? Si le signal est faux, qui perd du temps ? S’il est vrai mais ignore, qui porte la faute ? Si l’outil resume un dossier et oublie une nuance, qui relit ? Si le patient demande pourquoi une recommandation a ete faite, qui peut expliquer autre chose que “le systeme l’a propose” ?

Une architecture medicale serieuse commence ici : non pas dans le modele, mais dans la circulation de la responsabilite.

Le mot “humain dans la boucle” ne suffit pas. Il est devenu une formule commode. Il faut nommer quel humain, a quel moment, avec quel pouvoir reel. Un humain qui clique “valider” sous pression n’est pas une boucle de controle. C’est parfois une decoration de responsabilite.

Les institutions demandent deja moins de magie

Les sources recentes convergent vers une prudence tres concrete. La consultation europeenne interroge les conditions d’adoption dans la sante et la pharmacie. L’OCDE, dans ses travaux sur le passage a l’echelle de l’IA en sante, insiste sur les donnees, les garde-fous, la confiance, les professionnels et la capacite des systemes a deployer proprement. L’OMS rappelle depuis plusieurs annees que l’ethique, les droits humains et la gouvernance doivent encadrer les usages d’IA en sante.

La nouveaute n’est pas que ces mots existent. La nouveaute est qu’ils deviennent la partie dure du projet.

Un modele peut progresser vite. Un hopital ne change pas aussi vite son interop, sa politique de donnees, sa formation, ses achats, son assurance qualite, son droit d’acces, ses responsabilites entre service informatique, direction medicale, fournisseur et praticien.

L’Agence europeenne des medicaments donne un autre signal. Sa page sur l’IA parle de cycle de vie du medicament, de cadre d’utilisation des outils, de collaboration, de changement organisationnel, d’experimentation coordonnee. Ce vocabulaire est moins spectaculaire que “revolution”. Il est plus honnete. Dans les secteurs a risque, l’innovation devient credible quand elle accepte d’etre administree.

Ce n’est pas une punition bureaucratique. C’est le prix d’un outil qui touche la confiance publique.

La donne medicale n’est pas une matiere premiere neutre

Le discours IA adore les donnees. Il les traite parfois comme un minerai : plus il y en a, mieux ce sera. En sante, cette image est pauvre.

Une donnee medicale est une trace produite dans une situation de soin, avec des conventions, des oublis, des biais, des contraintes de temps, des codes de remboursement, des habitudes d’etablissement, des absences, des approximations, des silences. Elle peut etre exacte et incomplete. Complete et trompeuse. Ancienne et encore decisive. Mal codee et pourtant cliniquement importante.

Quand un modele apprend ou agit sur cette matiere, il herite de tout cela. Il peut amplifier un trou dans le dossier, rendre invisible une population moins bien documentee, transformer une pratique locale en pseudo-verite generale, ou donner une apparence statistique a un vieux biais organisationnel.

La gouvernance des donnees n’est donc pas un prealable administratif. C’est une partie du soin.

Avant de demander si un systeme est intelligent, une organisation devrait demander ce qu’elle lui donne a manger, ce qu’elle lui interdit, ce qu’elle sait corriger et ce qu’elle ne voit pas. Une IA medicale branchee sur des donnees confuses ne devient pas prudente par contrat. Elle devient seulement plus polie dans sa maniere de reproduire la confusion.

Le fournisseur ne peut pas etre le seul adulte dans la piece

Il est tentant de deplacer la responsabilite vers le fournisseur. C’est son modele, son logiciel, son interface, son contrat. Il doit documenter, tester, securiser, surveiller, corriger. C’est vrai.

Mais cela ne suffit pas.

Un fournisseur ne connait pas toujours le contexte reel d’usage. Il ne voit pas toutes les exceptions locales. Il ne sait pas quelle alerte est ignoree parce qu’elle arrive au mauvais moment. Il ne sait pas quelle donnee est saisie pour satisfaire une case administrative plutot qu’une realite clinique. Il ne sait pas quel service n’a pas les moyens humains de verifier ce que l’outil produit.

L’etablissement, le reseau de soins, l’autorite publique ou l’industriel pharmaceutique qui deploie l’outil doit donc rester responsable de l’usage. Pas seulement de l’achat.

Cela implique une competence interne minimale : lire une documentation technique, refuser un cas d’usage trop flou, organiser un pilote mesurable, suivre les erreurs, ecouter les professionnels, suspendre le systeme quand le signal devient mauvais. Ce n’est pas forcement une grande equipe IA. C’est une fonction de jugement.

Sans cette fonction, l’organisation achete une boite noire et espere que le contrat fera office de conscience.

La vraie echelle est celle du suivi

Le passage a l’echelle est souvent presente comme une victoire : sortir du pilote, deployer dans plusieurs services, generaliser. En sante, l’echelle devrait plutot etre mesuree par la qualite du suivi.

Un outil qui fonctionne bien pendant trois mois dans un service peut se degrader quand les pratiques changent, quand le profil des patients evolue, quand une mise a jour modifie le comportement, quand les equipes apprennent a contourner l’interface, quand la confiance devient routine. Le risque n’est pas seulement l’erreur initiale. C’est l’erreur qui s’installe parce que personne ne la cherche plus.

Le suivi devrait donc etre considere comme une partie du produit. Quels indicateurs ? Quels evenements indesirables ? Quelle comparaison avec la pratique precedente ? Quelle revue par les professionnels ? Quel canal pour les patients ? Quelle periodicite ? Quelle decision si le systeme n’apporte rien ?

La medecine connait deja cette logique : surveiller les effets, declarer, corriger, retirer si necessaire. L’IA doit entrer dans cette culture plutot que pretendre qu’un modele valide une fois reste vrai par nature.

Un systeme medical sans surveillance apres deploiement n’est pas un systeme mature. C’est un pari prolonge.

Le contrepoint : attendre a aussi un cout

Il serait trop facile de conclure qu’il faut ralentir jusqu’a ne rien faire. Ce serait une autre forme d’irresponsabilite.

Les systemes de sante sont sous pression. Les files d’attente, la demographie, la penurie de certains professionnels, la complexite administrative, les couts de recherche et la masse documentaire ne disparaissent pas parce que l’IA est imparfaite. Refuser tout outil sous pretexte qu’il peut se tromper revient parfois a proteger un statu quo qui se trompe deja, mais plus silencieusement.

Le point n’est donc pas d’opposer prudence et innovation. Le point est de refuser l’innovation sans repondant.

Une IA qui reduit une charge administrative, signale une incoherence, aide a retrouver une information ou soutient une decision sous controle peut etre utile. Elle peut meme etre necessaire. Mais son utilite ne l’exonere pas de l’architecture de responsabilite qui manque trop souvent aux discours commerciaux.

La bonne prudence ne dit pas “non”. Elle dit : “Montrez le geste, la preuve, la limite et la personne qui repond.”

Ce qui doit rester en jachere

L’IA medicale merite mieux que deux caricatures. Elle n’est ni le medecin synthetique qui sauvera le systeme, ni le danger absolu qu’il faudrait bannir par principe. Elle est un ensemble d’outils qui peuvent rendre certains gestes plus fiables, plus rapides ou plus visibles, a condition de ne pas oublier ce qu’ils deplacent.

Ils deplacent la confiance. Ils deplacent la charge de verification. Ils deplacent parfois la faute. Ils deplacent la frontiere entre conseil, decision, documentation et automatisation.

C’est pourquoi la question centrale n’est pas “quelle IA pour la sante ?” mais “quelle responsabilite autour de l’IA en sante ?”

Une organisation qui ne sait pas repondre devrait commencer plus bas. Nommer un cas d’usage. Nommer un responsable. Nommer les donnees admises. Nommer les erreurs attendues. Nommer la validation humaine. Nommer la procedure d’arret. Nommer ce qui sera dit au patient ou au professionnel quand l’outil intervient.

Ce vocabulaire parait moins moderne que les promesses d’agent, de diagnostic augmente ou de pharmacie acceleree. Il est pourtant le socle.

La sante n’a pas besoin d’une IA qui parle plus fort que les soignants. Elle a besoin d’outils qui acceptent de rendre des comptes dans un systeme deja fragile.

Tant que ce compte n’est pas tenu, la promesse peut attendre. Elle n’est pas perdue. Elle reste en jachere.