Le pape Léon XIV met en garde contre le risque que l'IA alimente des «idéologies anti-humaines» dans le domaine médical

Le message du pape est intervenu au lendemain d'une autre de ses déclarations sur l'éthique de l'IA qui a suscité une controverse sur la plateforme de médias sociaux X. Le milliardaire Marc Andreessen a publié une référence moqueuse à l'appel lancé par Leo à l'industrie de l'IA « pour développer des systèmes qui reflètent la justice, la solidarité et un véritable respect de la vie ». Après une avalanche de réponses critiques, Andreessen a apparemment supprimé son propre message.

Les préoccupations pro-vie concernant la facturation de l'IA dans l'assurance médicale
Les remarques du pape lundi interviennent alors que les médecins catholiques s'inquiètent de plus en plus de la manière dont l'intelligence artificielle pourrait influencer l'accès aux soins et le respect de la dignité humaine dans les systèmes de santé du monde entier.

Le Dr Kathleen Berchelmann, pédiatre et fondatrice de My Catholic Doctor, un réseau de télésanté qui met en relation les familles à la recherche de soins catholiques avec des prestataires partageant les mêmes valeurs, a déclaré à CNA qu'elle était alarmée par la manière dont les compagnies d'assurance déploient l'IA aux États-Unis.

Elle a déclaré que les systèmes de facturation basés sur l'IA « poussent davantage les prestataires de soins de santé pro-vie hors du marché de l'assurance vers le marché du paiement direct, réduisant ainsi l'accès aux soins de santé pro-vie en Amérique ».

« Ce que je vois dans l'IA et les soins de santé, c'est une course à l'armement technologique », a déclaré Mme Berchelmann. « Et malheureusement, les personnes qui ont beaucoup d'argent disposent d'une technologie plus avancée, et... ce sont les compagnies d'assurance. Il s'agit de United Health Care, Anthem Blue Cross Blue Shield, Elevance Health, Aetna, Cigna... Ce sont ces entreprises qui investissent des milliards dans la gestion de l'utilisation, ce qui signifie des refus. »

Le 1er octobre, Aetna et Cigna ont mis en place des paiements automatisés par IA à l'échelle nationale, une mesure qui a conduit à ce que les détracteurs appellent le « downcoding », où les assureurs déclassent automatiquement les demandes de remboursement des médecins afin de réduire les niveaux de remboursement sans examiner les détails des consultations.

« Dans le domaine des soins de santé pro-vie en particulier, nous constatons un downcoding automatique, car la médecine reproductive réparatrice, qui consiste à rechercher la cause profonde de l'infertilité et à la traiter, prend plus de temps qu'un bref examen et une orientation vers la FIV », a déclaré Mme Berchelmann.

« Ce temps supplémentaire nécessite un codage plus élevé. Mais si je fais un examen très rapide, je peux établir un code moins élevé pour cela. Ainsi, l'IA prédictive ne reconnaît pas que je fais un meilleur travail pour trouver la cause profonde de la maladie », a-t-elle ajouté.

Mme Berchelmann a déclaré qu'elle voyait « un énorme potentiel pour l'IA en termes de capacité de diagnostic et d'utilisation clinique » et espère que les modèles prédictifs démontreront que « les soins de santé pro-vie sont beaucoup moins coûteux que la FIV ». Mais pour l'instant, a-t-elle déclaré, « les compagnies d'assurance, les employeurs qui paient les soins de santé et les sociétés pharmaceutiques disposant d'une assurance utilisent tous largement l'IA pour ne pas payer vos soins ».

Dans son message, le pape Léon a reconnu l'influence des intérêts économiques dans les domaines des soins de santé et de la technologie.

« Compte tenu des intérêts économiques considérables souvent en jeu dans les domaines de la médecine et de la technologie, et de la lutte pour le contrôle qui en découle, il est essentiel de promouvoir une large collaboration entre tous ceux qui travaillent dans le domaine des soins de santé et de la politique, bien au-delà des frontières nationales », a déclaré le pape.

L'IA ne remplace pas la « rencontre humaine » en médecine
Le pape Leo a souligné que « les dispositifs technologiques ne doivent jamais nuire à la relation personnelle entre les patients et les prestataires de soins de santé ».

« Si l'IA doit servir la dignité humaine et la fourniture efficace de soins de santé, nous devons veiller à ce qu'elle améliore véritablement les relations interpersonnelles et les soins prodigués », a-t-il déclaré.

Leo a décrit les nouvelles avancées technologiques apportées par l'IA comme « plus omniprésentes » que celles apportées par la révolution industrielle, soulignant leur potentiel à modifier « notre compréhension des situations et la façon dont nous nous percevons nous-mêmes et percevons les autres ».

« Nous interagissons actuellement avec les machines comme si elles étaient des interlocuteurs, et devenons ainsi presque une extension d'elles », a-t-il déclaré. « En ce sens, nous courons non seulement le risque de perdre de vue les visages des personnes qui nous entourent, mais aussi d'oublier comment reconnaître et chérir tout ce qui est véritablement humain. »

La conférence de trois jours organisée par le Vatican sur l'IA et la médecine, qui se tiendra du 10 au 12 novembre, est l'une des nombreuses conférences organisées ces derniers mois sur l'éthique de l'IA, une question que le pape Léon XIV a désignée comme une priorité de son pontificat.

Lors du Builders AI Forum qui s'est tenu à Rome la semaine dernière et qui a abordé le défi que représente l'IA pour les catholiques et les institutions catholiques dans divers domaines, des professeurs de facultés de médecine, des dirigeants d'entreprises de soins de santé, des directeurs de compagnies d'assurance, des aumôniers médicaux et des entrepreneurs du secteur se sont réunis pour discuter et débattre de l'avenir de l'IA dans les soins de santé catholiques.

Louis Kim, ancien vice-président des systèmes personnels et de l'IA chez HP, a déclaré qu'à l'issue du forum, ces professionnels étaient parvenus à un consensus selon lequel « l'IA peut aider, mais ne doit jamais se substituer à la rencontre humaine [dans les soins de santé catholiques] et doit rester clairement identifiable comme non humaine afin de préserver l'intégrité pastorale et sacramentelle des soins ».

Daniel J. Daly, directeur exécutif du Centre de théologie et d'éthique dans la santé catholique et professeur associé de théologie morale au Boston College, a déclaré à CNA qu'il craignait que si les modèles d'IA utilisés dans les hôpitaux catholiques étaient uniquement formés pour maximiser « l'efficacité et le profit », cela pourrait conduire à « un échec massif des soins de santé catholiques ».

« Ce qui m'inquiète, c'est que dans le domaine des soins de santé, l'IA pourrait remplacer ce témoignage incarné du royaume de Dieu », a déclaré M. Daly. « Cela ne peut jamais arriver dans les soins de santé catholiques, car ceux-ci ne se limitent pas à la médecine. Ils concernent également Jésus-Christ et le témoignage de son ministère de guérison que nous voyons dans les Écritures. »

« Je pense que le plus important est que, quoi que fasse l'IA, elle nous libère pour accomplir les œuvres de miséricorde, elle ne nous libère pas des œuvres de miséricorde », a-t-il ajouté. « Autrement dit, elle ne remplace pas les soins incarnés et les soins ministériels que nous fournissons par le biais de la médecine. »