L’Intelligence Artificielle (IA) pour la prise de décision par délégation ?

Alors que le rôle de la personne de confiance est précisé depuis 2002 en France dans la loi du 4 mars [1], on découvre à l’usage que les décisions prises à la suite de son intervention s’accompagnent de problèmes. Souvent cette personne ne sait pas ce que le patient souhaite, croit le savoir mais commet des erreurs, propose des choix qui sont les siens et non ceux des patients. Alors qu’elle doit simplement et seulement témoigner de la volonté de la personne en France [2]. Cela dans le contexte exclusif où le patient serait en incapacité de comprendre et de s’exprimer quant aux soins qui lui sont proposés [3].

Une solution suggérée serait d’encourager la discussion en amont entre la personne désignée et le patient pour définir ses préférences et ses valeurs.

Malheureusement, il existe des données récentes montrant que plus vous connaissez quelqu’un, plus votre relation avec lui est intime, plus vous êtes partial en affirmant les choix que le patient aurait effectué.

Pour couronner le tout, une personne de confiance peut éprouver des regrets, aller jusqu’à présenter un syndrome de stress post-traumatique qui peut durer des années, des symptômes dépressifs, des sentiments de culpabilité pour ne pas avoir proposé une solution différente [4].

L’IA peut-elle faire mieux ?  Déjà présente dans le domaine de la santé, peut-elle être utilisée pour la prise de décision par procuration, prédire ce que les patients auraient souhaité s’ils étaient en mesure de comprendre ce qui leur est proposé et de s’exprimer ?

L’IA fonctionne à partir d’algorithmes qui exigent le recueil d’une énorme masse de données. Les sources touchent à l’infini : dossiers médicaux dont consultations, médicaments consommés, apparitions sur internet dont comportements d’achats, lectures de presse, interventions sur les réseaux sociaux…

Comment justifier devant la famille la décision proposée par l’IA ? Faut-il déclarer fièrement : « la proposition vient d’Amazon, de Facebook et de Google, croyez-moi, c’est du solide ». Avec la progression de l’IA, il faudra plutôt dire : « DeepSeek, Gemini, Copilot, ChatGPT, Mistral, etc. ».

L’IA pourrait être utile pour le pourcentage croissant de patients qui perdent leur capacité décisionnelle, sont seuls, isolés, non représentés ou n’ayant désigné aucune personne de confiance. Et qui n’ont même pas écrit leurs directives anticipées [5]. Elle pourrait devenir la seule source fiable d’information sur eux.

La plus grande inquiétude des chercheurs est de voir l’IA manipulée. Les algorithmes pourraient être choisis pour orienter les décisions vers des soins coûteux plus rentables pour l’hôpital et Big Pharma, ou au contraire vers un maximum d’économies pour les mutuelles.

Il n’existe encore aucun outil de ce genre, mais d’après les chercheurs, tout n’est qu’une question d’argent, et de temps ? Avec un financement qui permettrait de faire appel à un nombre suffisant de techniciens pour le créer, le tester et le valider, il serait disponible dans dix ans.

Commentaires de Bernard Pradines. Cette publication possède un caractère qui semble décalé, irréel. Elle nous vient initialement des USA où le rôle de la personne de confiance est bien plus décisif que chez nous (healthcare proxy, power of the attorney). Mais ne faut-il pas la prendre au sérieux à l’heure de l’explosion de l’IA dans le domaine de la médecine ? Simple question de délai ? Ses alertes sont-elles purs fantasmes ? Je ne le pense pas car l’élan de rationalisation développé par Max Weber, il y a plus de cent ans, ne connait pas de limites. Pas encore !

Références :

Geripal, animé par   Alex Smith MD et Eric Widera MD, invités Jenny Blumenthal-Barby, philosophe et bioéthicienne, Teva Brender MD, médecine interne, Dave Wendler MD, responsable de l’éthique de la recherche.  

AI for surrogate decision making? Dave Wendler, Jenny Blumenthal-Barby, Teva Brender

Surrogate decision making has some issues.  Surrogates often either don’t know what patients would want, or think they know but are wrong, or make choices that align with their own preferences rather than the patients.  After making decisions, many surrogates experience regret, PTSD, and depressive symptoms.  Can we do better? Or, to phrase the question for 2024, “Can AI do better?”

Et aussi et surtout :

Brender TD, Smith AK, Block BL. Can Artificial Intelligence Speak for Incapacitated Patients at the End of Life? JAMA Intern Med. 2024 Sep 1;184(9):1005-1006.

Benzinger L, Epping J, Ursin F, Salloch S. Artificial Intelligence to support ethical decision-making for incapacitated patients: a survey among German anesthesiologists and internists. BMC Med Ethics. 2024 Jul 18;25(1):78. doi: 10.1186/s12910-024-01079-z.

Grady D. Artificial Intelligence as Surrogate Decision-Maker. JAMA Intern Med. 2024 Sep 1;184(9):1007. doi: 10.1001/jamainternmed.2024.2679. JAMA Internal Medicine  Editor's Note Deborah Grady, MD, MPH Artificial Intelligence as Surrogate Decision-Maker