22 septembre 2021

L’intelligence artificielle (IA) permet à des machines d’apprendre par l’expérience, l’adaptation des données et la réalisation de tâches humaines. Elle fait intervenir des systèmes d’auto-apprentissage (machine et deep learning) utilisant l’exploration des données (data science), la reconnaissance de schémas et le traitement du langage naturel, afin de reproduire une forme d’intelligence réelle. Au cœur de la médecine du futur avec les opérations assistées, le suivi des patients à distance, les prothèses intelligentes, les traitements personnalisés,… l’IA est regroupée dans des catégories bien distinctes, de l’hôpital à la médecine de ville.

Pascal Wolff – Le Cardiologue n° 440 – mai-juin 2021

Les applications et objets connectés

 

La m-santé – appelé également « mHealth » pour Mobile Health – désigne l’ensemble des services touchant de près (ou de loin) à la santé, disponibles en permanence via un appareil connecté à un réseau (smartphones, enceintes, montres…).
Le rapprochement entre l’attitude des premiers praticiens, découvrant le stéthoscope de Laennec en 1816 et les médecins face aux applications Santé et objets connectés est peut-être hasardeux, mais il est intéressant de comprendre que la méconnaissance et le doute sur l’utilité de ces outils et leur éventuelle implication quant à la responsabilité du prescripteur sont les premiers freins de ces technologies. On rappelle également l’ardeur qu’ont les Gafam de s’immiscer dans cette catégorie numérique qui peut réellement inquiéter tant la santé et le bien-être peuvent être un savant mélange d’intérêts financiers très associable et discutable.
Afin de rendre les applications plus efficientes, et dans un souci de normalisation, l’UNHCR (Fondation des Nations-Unies) a distingué six catégories d’applications dans le domaine de la santé mobile (1) :

– éducation et sensibilisation,

– téléassistance, diagnostic et traitement de soutien,

– communication et formation pour les professionnels de santé,

– maladie et suivi d’une épidémie, surveillance,

– collecte de données à distance.

 

Les tests génétiques

 

Pour certains, l’intelligence artificielle nous emmène à l’ère de la médecine prédictive : le but n’est plus de soigner les patients, mais de les empêcher de tomber malade. Comme son nom l’indique, l’une des promesses de l’IA est sa capacité à prévoir les affections, même si elles sont liées à l’imperfection des marqueurs génétiques et pathogéniques de la maladie. Mais la probabilité se porte sur une population générique et non individuelle et ne détermine pas celle d’un individu, (2) même s’il est porteur en moyenne d’une centaine de maladies génétiques.
Le concept en lui-même n’est pas nouveau, mais à terme, l’exploitation de l’intelligence artificielle et du machine-learning dépendra de la qualité des informations disponibles. Les données-patients utilisées pour l’apprentissage devront être particulièrement fiables, d’où l’importance d’une politique engagée sur les données de Santé avec des interactions réelles et efficaces entre les pays couvrant la même volonté de soins.

 

L’Exploitation des données

 

La croissance exponentielle du Big data et de l’intelligence artificielle sont devenus intimement liés dans leur évolution. Leurs prises de décisions seront la prochaine évolution.
Toute la difficulté réside dans la récupération des données, et c’est dans ce but que la Plateforme des Données de Santé (PDS), infrastructure créée fin 2019, devrait faciliter le partage des données de santé issues de sources très variées afin de favoriser la recherche. Cette plateforme, plus connue sous le nom de Health Data Hub, ambitionne de répondre au défi de l’usage des traitements algorithmiques (dits d’« intelligence artificielle »)
dans le domaine de la santé. (3) En regroupant toutes les données issues d’organismes publics de santé français (Assurance-maladie, AP-HP), elle permettrait aux chercheurs d’accéder aux vastes ensembles de données de santé du Système National des Données de Santé (SNDS) afin d’entraîner des modèles d’intelligence artificielle.
Ses missions sont d’organiser et de mettre à disposition des données, d’informer les patients sur leurs droits, de contribuer à l’élaboration des référentiels de la CNIL, de faciliter la mise à disposition de jeux de données de santé présentant un faible risque d’impact sur la vie privée, de contribuer à diffuser les normes de standardisation pour l’échange et l’exploitation des données de santé.
Plusieurs projets ont été retenus, dont Hydro qui permet de croiser des données cardiaques collectées en temps réel à partir de prothèses avec des données d’hospitalisation afin de créer un modèle IA capable de prédire les crises cardiaques.
Deepsarc, une autre start-up, qui utilisera le Hub afin d’identifier les meilleurs schémas thérapeutiques pour le traitement du sarcome. ARAC qui cherchera à mesurer et comprendre les restes à charge réels des patients, et Ordei qui quantifiera la proportion de patients touchés par un effet indésirable.
Ces données sont bien sûr la providence de l’intelligence artificielle et de ses sources. Les organismes officiels doivent être vigilants et garder à l’esprit que l’exploitation des données doit se faire dans un but de responsabilité collective afin de promouvoir la Santé dans un contexte sécuritaire. Le Livre Blanc (4) publié en 2018 par le Cnom a eu ce principe fort : « Une personne et une société libres et non asservies par les géants technologiques ».
Malgré tout, des scandales ont eu lieu, comme par exemple l’entreprise Amazon qui – en concluant en 2018 un contrat avec le NHS – avait pu avoir accès à des millions de données. Cette source avait permis aux britanniques de recevoir de meilleurs conseils médicaux par le biais de l’assistant vocal Alexa…
La protection des données est devenu un centre majeur pour le big data. Toutes les informations collectées sont stockées et analysées par les acteurs des nouvelles technologiques – sans réelle éthique – notamment par les Gafam (Google, Amazon, Facebook, Apple, Microsoft) et Baxt (Baidu, Alibaba, Tencent et Xiaomi), et dans le bien commun par les organismes officiels. Le législateur devra donc être extrêmement vigilant, s’il le peut, afin de protéger autant les professionnels de Santé que les patients.

 

Les responsabilités éthiques et juridiques

 

L’exploitation de l’intelligence artificielle est technologiquement incontournable et le défi dans les années à venir sera son intégration au sein du corps médical. Car, enthousiastes ou sceptiques, les médecins devront composer avec les algorithmes. Il n’est cependant pas question de les remplacer ou d’entrer en compétition avec une machine, mais de redistribuer les compétences médicales afin de ne pas se laisser dépasser par le big data. L’IA doit servir les besoins de l’être humain et non de rendre une machine complètement autonome. C’est d’ailleurs dans ce but que des chercheurs ont créé la XAI (eXplainable Artificial Intelligence) afin de rendre les algorithmes plus transparents et explicables (voir notre numéro 434).
Mais de cette exploitation se posera un problème épique : celui des responsabilités juridiques et éthiques sur la protection des données, les droits des robots et la responsabilité des algorithmes. Si une machine délivre un mauvais diagnostic, qui en sera responsable… ? L’introduction de l’intelligence artificielle nécessite donc un cadre éthique et légal et un régime juridique particulier.

 

Le droit des robots

Ce débat juridico-législatif s’intensifiera avec le droit des robots. Si ce droit peut faire sourire aujourd’hui, il doit surtout interpeller. Le robot est de nature à modifier en profondeur les modes de travail et de production et doit donc entrer dans un espace juridique. Les robots savent lire, écrire et apprendre. Ils sont libres et autonomes dans leurs décisions. Nul ne sait les orientations et décisions que vont prendre leurs algorithmes. Il faudra donc, tout comme l’homme, réguler leur décision.
Il faudra doter le robot des moyens d’assurer sa liberté tout en opérant une transparence totale sur la qualité du codage et des règles de transparence faites par l’homme afin qu’il n’y ait ni discrimination, ni partialité, ni biais cognitif.
Ni objet, ni personne, le robot n’est juridiquement rien. La solution serait peut-être d’envisager une responsabilité commune entre le programmateur, le fabricant, l’utilisateur et… le robot.
Un autre point important apparaît, même si le secteur de la Santé n’est aujourd’hui pas impacté, est la mise en place des cobots qui est une robotique collaborative issue du secteur de l’automatisation. Réservée pour l’instant à l’industrie, il est fort probable que, vues les compétences techniques de ces cobots, on les retrouve dans les milieux hospitaliers.

 

La logique opaque des algorythmes
Les algorithmes, quant à eux, ont une prégnance et un impact tels que l’on n’hésite plus aujourd’hui de parler d’une « gouvernementalité algorithmique ». Il faut cependant distinguer les algorithmes classiques de programmation qui servent à automatiser une tâche précise et les algorithmes qui pilotent des machines sans qu’elles aient été programmés, la machine écrivant elle-même les instructions qu’elle exécute (ou machine learning).
La Cnil définit l’algorithme comme « une suite finie et non ambiguë d’instructions permettant d’aboutir à un résultat à partir de données fournies en entrée », qui permet par exemple de « proposer un diagnostic médical…», mais « leur logique reste incompréhensible et opaque, y compris à ceux qui les construisent… » (5) Des lois ont déjà posé les bases législatives (loi Informatique et Libertés, loi pour une République numérique, RGPD) sur le principe d’interdiction de décision sur le seul fondement d’un algorithme et le droit à une explication en cas de décision prise par un algorithme. C’est donc à l’Administration publique d’informer chacun sur la façon dont les algorithmes traitent les données.

Ce qu’il faut en retenir
L’intelligence artificielle est une technologie inévitable qui doit rester l’outil complémentaire du professionnel de santé et non pas son remplaçant. Il est donc essentiel de la maîtriser dans un cadre clair qui lui a été fixé, et pour cela, il faut être conscient qu’elle reste, et doit rester, une machine.
Elle ne doit pas non plus déshumaniser la médecine et casser la relation médecin/patient comme par exemple au Japon où une maison médicalisée a choisit la robotique devant un manque criant de personnel.
Mais chercheurs et scientifiques s’accordent pour faire évoluer et progresser l’IA et ses technologies sans (trop) mettre en péril les métiers actuels, ou bien trouver des solutions et faire évoluer les métiers de demain.

 


 

(1) Macsf
(2) Armelle de Bouvet, Pierre Boitte, Grégory Aiguier, Questions éthiques en médecine prédictive, John Libbey Eurotext, 2006, p. 43.
(3) Cnil
(4) Source Cnom
(5) Le Point Tech&Net

Vérifiez vos adresses mails !

Il n’y a pas que votre ordinateur qui peut être piraté. Vos adresses mails on pu être subtilisées dans d’autres bases de données (Santé, Gafam, réseaux sociaux…). Pour le savoir et éviter une usurpation de votre identité, de l’hameçonnage ou autre méfait, vérifiez auprès du site  haveibeenpwned s’il y a eu violation de vos adresses. Si tel est le cas, le site vous indique sur quels sites vos données ont été volées… et changez vos mots de passe.

la CNIL et vos données

Le médecin libéral doit donc protéger ses données personnelles et médicales. Pour ce faire, il doit passer par des protocoles précis : hébergement certifié données de Santé avec demande préalable auprès de la Commission Nationale de l’Informatique et des Libertés (CNIL). 

 

La CNIL a récemment sanctionné deux médecins libéraux pour ne pas avoir suffisamment protégé les données de leurs patients, des milliers d’images médicales hébergées sur des serveurs étaient en accès libre. Toutes ces données pouvaient donc être consultées et téléchargées, et étaient, selon les délibérations de la CNIL, « suivies notamment des nom, prénoms, date de naissance et date de consultation des patients ». Le problème venait simplement d’un mauvais paramétrage de leur box internet et du logiciel d’imagerie qui laissait en libre accès les images non chiffrées.

A lire également

Cybersécurité – banalisation sur toile

Intelligence artificielle – la santé au cœur du futur

Les préoccupations liées à l’intelligence artificielle

Les 50 ans d’internet

Les virus

De l’impression 3D à la bio-impression

Retour vers le futur – les prédictions médicale dans les années 1950

image_pdfimage_print