Un radiologue de mes connaissances a mis six mois à faire confiance à un logiciel de détection. Six mois. Pas parce que l'outil se trompait souvent, mais parce qu'il ne savait pas pourquoi l'outil décidait. C'est là que se joue aujourd'hui toute la question de l'IA dans la santé : on a résolu une bonne partie du problème technique, et on bute sur le problème éthique.
Je suis ce dossier depuis un moment, et franchement, ce qui m'agace dans la plupart des articles sur le sujet, c'est leur ton. On nous explique que l'IA va sauver l'hôpital, ou qu'elle va le détruire. Les deux sont faux. La réalité est plus ennuyeuse et plus intéressante : une série d'arbitrages concrets entre performance, responsabilité et protection des patients.
Points clés à retenir
- L'IA en santé recouvre des usages très différents : aide au diagnostic, triage, suivi prédictif, recherche de molécules. Leurs enjeux éthiques ne se ressemblent pas.
- Le vrai point d'achoppement n'est pas la performance brute, mais la responsabilité en cas d'erreur et la traçabilité de la décision.
- Les biais algorithmiques constituent le risque le plus sous-estimé : un modèle entraîné sur une population non représentative produit des écarts de soins.
- Le cadre juridique existe (RGPD, règlement européen sur l'IA, loi de bioéthique pour la génétique) mais il est encore mal outillé pour les systèmes qui évoluent après leur mise sur le marché.
- L'humain dans la boucle n'est pas une garantie magique : il doit être formé, outillé et responsabilisé pour que ça fonctionne.
IA dans la santé : à quoi ça sert vraiment, au-delà du discours marketing
Quand on parle d'intelligence artificielle dans les soins, on mélange souvent trois choses distinctes : l'aide à l'interprétation d'images, la prédiction sur des données de santé, et la découverte de traitements. Ce ne sont pas les mêmes métiers, ni les mêmes risques.
L'aide au diagnostic et à l'imagerie
C'est l'usage le plus mature. Des systèmes entraînés sur des centaines de milliers d'examens repèrent des lésions, classent des anomalies, hiérarchisent des priorités. Sur certaines tâches très cadrées (rétinopathie diabétique, nodules pulmonaires sur imagerie standardisée), ces outils atteignent un niveau comparable à celui d'un praticien expérimenté. Mais dès qu'on sort du cadre bien balisé, les performances chutent. Le fameux « ça marche en labo, ça coince à l'hôpital ».
Prédiction sur les parcours de soins
Ici on croise des données administratives, biologiques, parfois sociales, pour anticiper une décompensation, une réadmission, une complication. J'ai vu des équipes hospitalières obtenir des gains réels sur la détection précoce de sepsis en réanimation. J'en ai vu d'autres se planter complètement : un modèle qui prédisait surtout… les patients déjà connus du service. Bref, un bel outil de confirmation de ce qu'on savait déjà.
Les enjeux éthiques : là où le débat devient sérieux
Avouons-le : la plupart des textes sur « l'éthique de l'IA en santé » restent au niveau des principes. Respect de la vie privée. Transparence. Autonomie du patient. Ce sont de bonnes boussoles, mais elles ne vous disent pas quoi faire quand un modèle estime à 87 % de probabilité un diagnostic, que le praticien n'est pas d'accord, et qu'il faut décider dans les dix minutes.
Les biais algorithmiques, le risque le plus sous-estimé
Un modèle apprend sur ce qu'on lui donne. Si vos données d'entraînement surreprésentent une tranche d'âge, un sexe, ou une population urbaine, le système sera moins bon ailleurs. Ce n'est pas de la théorie : c'est ce qui se produit dès qu'on industrialise un dispositif validé sur une cohorte trop étroite.
Le problème est d'autant plus vicieux que le biais ne se voit pas. Un modèle qui sous-performe sur une minorité produit des erreurs invisibles à l'échelle individuelle, mais mesurables à l'échelle d'une population. Résultat : des inégalités d'accès et de qualité de prise en charge qui se creusent silencieusement.
Qui est responsable en cas d'erreur ?
La question tient en une phrase et personne n'a envie d'y répondre frontalement. Le praticien qui a suivi la recommandation de l'outil ? L'éditeur qui l'a conçu ? L'établissement qui l'a déployé ? Le principe du « human in the loop » (un humain valide la décision) est brandi partout comme solution. Sauf qu'il faut que l'humain ait les moyens de valider.
Je l'ai constaté sur un projet de triage aux urgences : si le praticien n'a que quelques secondes par dossier et qu'il ne comprend pas sur quoi se fonde l'alerte, il valide en aveugle. L'humain dans la boucle devient alors un tampon qui engage sa responsabilité sans avoir l'information. Franchement, c'est intenable.
Protection des données de santé
Le RGPD classe les données de santé comme hautement sensibles. C'est clair et c'est utile. Là où ça devient compliqué, c'est quand un modèle suppose un entraînement sur des données massives. Comment concilier apprentissage et minimisation ? Comment gérer un système qui continue d'apprendre après la mise sur le marché, alors que l'autorisation portait sur un état donné du modèle ?
Le règlement européen sur l'IA (l'AI Act) range justement la santé dans les usages à haut risque, avec des obligations renforcées en matière de documentation, de supervision et de qualité des jeux de données. La loi de bioéthique, de son côté, encadre strictement les usages liés à la génétique et à certains traitements de données. Sur le papier, le dispositif est là. Dans la pratique, l'articulation entre ces textes et la réalité clinique reste rugueuse.
Comment les différents acteurs répondent (ou pas) à ces enjeux
| Approche | Point fort | Limite concrète |
|---|---|---|
| Validation réglementaire classique (dispositif médical) | Cadre éprouvé, traçabilité forte | Difficile à appliquer aux modèles qui apprennent en continu |
| Approche « IA de confiance » côté éditeurs | Communique sur la transparence, la documentation | Reste souvent déclarative, peu vérifiable en pratique |
| Supervision humaine renforcée | Garde-fou éthique clair | Dépend de la formation et du temps disponible |
| Audits de biais indépendants | Détecte les disparités invisibles | Coûteux, encore peu systématisés |
Questions qu'on me pose souvent
Quel est l'avantage éthique de la e-santé en termes d'accessibilité aux soins ?
L'argument principal est celui de la réduction des inégalités territoriales. Un patient isolé qui n'a pas accès à un spécialiste peut, via une plateforme de télémédecine couplée à un outil d'aide au diagnostic, obtenir un premier niveau d'évaluation plus rapide. C'est un vrai bénéfice éthique, au sens où il améliore l'égalité d'accès. Mais il n'est réel que si l'outil est fiable pour cette population et si la connexion existe. Sinon, on crée un accès à deux vitesses.
Existe-t-il une IA plus éthique qu'une autre ?
La question revient souvent, formulée comme un comparatif entre tel assistant et tel autre. Ma réponse est sans doute décevante : la dimension éthique ne tient pas au nom de l'outil, mais à l'usage qu'on en fait, au périmètre qu'on lui donne, et aux garde-fous qu'on installe. Un assistant généraliste et un système de diagnostic médical n'ont pas les mêmes responsabilités. Poser la question en termes de « quel modèle est le plus éthique » passe à côté du sujet.
La France et la Suisse avancent-elles différemment ?
En France, le débat s'inscrit dans le sillage du RGPD, de l'AI Act et de la loi de bioéthique. En Suisse, l'accent est historiquement mis sur la protection de la personne et la gouvernance des données de santé, dans un cadre fédéral où les cantons jouent un rôle important. Les deux pays partagent le même fond : une défiance prudente envers les systèmes opaques. La différence tient davantage à la structure institutionnelle qu'à la philosophie.
Ce que je retiens, après avoir retourné le sujet dans tous les sens
Le débat sur l'éthique de l'IA en santé ne se gagnera pas avec des principes généraux. Il se gagnera sur des détails très concrets : la composition des jeux de données d'entraînement, la lisibilité des alertes pour le praticien, la manière dont on documente une décision algorithmique, la formation de ceux qui valident.
Mon avis, et je l'assume : le principal risque aujourd'hui n'est pas que l'IA se trompe. C'est qu'on la déploie dans des environnements où personne n'a les moyens de la contester. Un système qu'on ne peut pas interroger, qu'on ne peut pas auditer, qu'on ne peut pas arrêter sans casser le service, n'est pas un progrès médical quel que soit son taux de performance.
La bonne nouvelle, c'est que ces questions ne sont pas réservées aux juristes ou aux informaticiens. Elles concernent quiconque travaille en santé, et même, à un moment ou un autre, quiconque sera patient. Ce qui, statistiquement, nous inclut tous.
