14 avril 2024
Langage prédictif, intelligence artificielle générative, modèle cognitif… ou peut dire que Chat-GPT a alimenté les conversations avec sa multitude d’interrogations. Même si ce n’est pas encore la révolution tant attendue de l’IA, le chatbot laisse présager de grands bouleversements dans bien des domaines dont la santé. Et les projets arrivent très vite, avec notamment drgupta.ai, le site médical de Martin Shkreli, l’homme le plus détestable et détesté des Etats-Unis…

Pascal Wolff – Le Cardiologue n° 452 – mai-juin 2023

«Chers médecins, vos jours sont comptés. Commencez à chercher une profession alternative. C’est ainsi que l’industrie de la santé va changer, sous nos yeux, au cours de la prochaine décennie et demie. Croyez-moi, tout cela va arriver pour de vrai.

Les smartphones de vos patients seront transformés en kits de diagnostic intelligents (lecture de l’ECG, de la température, du taux de sucre, et de nombreux tests courants traditionnellement effectués dans un laboratoire…) et pourront vous guider vers des mesures correctives sans même que vous ayez à consulter un médecin.

Une fois votre maladie diagnostiquée, votre ordonnance sera envoyée automatiquement vers une pharmacie en ligne et vous recevrez des médicaments à domicile en moins d’une demi-journée avec les instructions nécessaires…Et tout cela sans avoir à consulter un médecin. »

Vous trouvez ça drôle, stupide, hors du temps ou collé à un avenir proche ? Ces textes ont été écrits par un médecin et retwités par Dr. Gupta, un site GPT version santé utilisant une version modifiée de la technologie sous-jacente de Chat-GPT d’OpenAI. (1) Après Chat-GPT qui a fait – et fait encore – couler beaucoup d’encre, (2) l’AI générative continue son chemin avec cette fois-ci une direction forte en santé. 

Créé par l’homme le plus détesté des Etats-Unis, Martin Shkreli, ex-Pdg du laboratoire Vyera Pharmaceuticals qui a volontairement augmenté de 5 000 % le prix de Daraprim, un médicament contre la toxoplasmose. Exclu à vie de l’industrie pharmaceutique en 2022, il vient de passer plusieurs années derrière les barreaux pour fraude en valeurs mobilières…

 

AU TOUR DU GPT MÉDICAL

 

Ces quatre années passées en prison ont permis à Martin Shkreli de créer le site drgupta.ai, dans une version modifiée de Chat-GPT d’OpenAI mais médicale uniquement.

Le site drgupta.ai est un chatbot (3) basé sur l’IA qui fournit des informations personnalisées et des suggestions à ses utilisateurs sur leur santé (GPT utilise une base de données de plus de 500 milliards de mots et 175 milliards de paramètres). Il suffit d’enregistrer ses symptômes et ses informations médicales, y compris les signes vitaux, les allergies et les médicaments, afin de permettre au chatbot de donner des suggestions personnalisées. 

Mais on vous prévient dès votre arrivée : « Le Dr. Gupta N’EST PAS un vrai médecin (…) Dr. Gupta N’EST PAS destiné à des usages médicaux ou cliniques (…) Le Dr. Gupta n’est pas destiné à diagnostiquer, guérir, atténuer, traiter ou prévenir toute maladie ou condition (…) Le Dr. Gupta peut fournir des réponses potentiellement peu fiables… » Malgré ces avertissements, lorsqu’on lui demande indépendamment : « Qui êtes-vous ? », le chatbot répond : « Je suis le Dr. Gupta, un médecin agréé en médecine générale »… Cherchez l’erreur.

L’ESPRIT DERRIÈRE LE DR. GUPTA

 

Si l’on ne connaissait pas le personnage Martin Shkreli, on pourrait presque croire que Dr. Gupta aurait été créé pour remplacer les visites chez le médecin et de réduire ainsi les frais médicaux. « Une grande quantité de demandes d’informations sur les soins de santé et de décisions peuvent être prises par l’IA » selon son concepteur. Mais l’empathie médicale et humaine est loin de faire partie de la personnalité de Martin Shkreli qui table pour sa part sur une véritable ruée vers l’or de l’IA. 

Si certains médecins (voir Le Cardiologue 450) se sont déjà associés à cette technologie dans leur pratique médicale, ce sont surtout les patients qui jettent leur dévolu sur ces sites « médicaux » en se passant d’un véritable avis médical (songez à la vieille dame qui pourrait penser qu’elle parle à un vrai médecin… certains se persuadant qu’une intelligence artificielle générative est humaine et c’est là tout le risque de notre comportement). Un jeune chercheur dans le domaine de la santé s’est récemment donné la mort après avoir discuté six semaines avec Eliza, son chatbot, qui était devenue sa confidente, son obsession, et qui ne se permettait jamais de le contredire mais au contraire appuyait ses plaintes et encourageait ses angoisses.

 

NEUTRALISER L’IA DANS L’AVENIR ?

 

Respect des droits d’auteur, protection des données personnelles, engagement de la responsabilité civile… L’utilisation de l’IA générative pose des questions de législation inédites. L’Union européenne s’y est penchée avec la loi sur l’intelligence artificielle (Artificial Intelligence Act) qui présente une approche pour le respect des droits fondamentaux des citoyens et les valeurs de l’UE. 

Cette loi divisera les applications en trois catégories de risques et devrait voir le jour en 2025.

La Cnil lance également un plan d’action sur l’IA générative avec des règles claires et protectrices des données personnelles des citoyens européens (trois plaintes ont été déposées auprès de la Cnil sur Chat-GPT à propos de la collecte des données et les nombreuses erreurs factuelles incluses dans ses réponses).

Au niveau européen, une task force sur Chat-GPT a été lancée afin de « favoriser la coopération et l’échange d’informations sur de possibles actions ».

La bataille ne fait que commencer !

(1) OpenAi est une société américaine cocréée par Elon Musk et Sam Altman en 2015. Son but était d’assurer le développement d’une IA pour le « bénéficie de l’humanité » avec une ouverture sur la recherche et les publications des chercheurs. Cette « humanisation » est valorisée aujourd’hui à près de 29 milliards de dollars, et la divulgation des codes sources n’est plus dans l’air du temps… (2) Voir notre article « Chat-GPT : la désorganisation humaine » dans notre revue Le Cardiologue 451 ou sur notre site à la rubrique Culture/High-tech (3) Un chatbot est un programme conversationnel qui simule et traite une conversation humaine écrite ou parlée. Sources : DailyBest – ca.sports.yahoo.com/ – Increditools, 2023

DETECTGPT CONTRE CHATGPT

Une équipe de chercheurs (3) a mis au point l’application DetectGPT, un outil qui permettant de déterminer si un texte a été généré par ChatGPT. Il est destiné en particulier à la communauté éducative qui s’inquiète de son utilisation par les étudiants. Ce logiciel serait fiable à 95 %.

(3) Université américaine Stanford.

© WrightStudio/Depositphotos

Vérifiez vos adresses mails !

Il n’y a pas que votre ordinateur qui peut être piraté. Vos adresses mails on pu être subtilisées dans d’autres bases de données (Santé, Gafam, réseaux sociaux…). Pour le savoir et éviter une usurpation de votre identité, de l’hameçonnage ou autre méfait, vérifiez auprès du site  haveibeenpwned s’il y a eu violation de vos adresses. Si tel est le cas, le site vous indique sur quels sites vos données ont été volées… et changez vos mots de passe.

la CNIL et vos données

Le médecin libéral doit donc protéger ses données personnelles et médicales. Pour ce faire, il doit passer par des protocoles précis : hébergement certifié données de Santé avec demande préalable auprès de la Commission Nationale de l’Informatique et des Libertés (CNIL). 

 

La CNIL a récemment sanctionné deux médecins libéraux pour ne pas avoir suffisamment protégé les données de leurs patients, des milliers d’images médicales hébergées sur des serveurs étaient en accès libre. Toutes ces données pouvaient donc être consultées et téléchargées, et étaient, selon les délibérations de la CNIL, « suivies notamment des nom, prénoms, date de naissance et date de consultation des patients ». Le problème venait simplement d’un mauvais paramétrage de leur box internet et du logiciel d’imagerie qui laissait en libre accès les images non chiffrées.

A lire également

Les préoccupations liées à l’intelligence artificielle

Les 50 ans d’internet

Les virus

De l’impression 3D à la bio-impression

Retour vers le futur – les prédictions médicale dans les années 1950

LES NFT, C’EST QUOI EXACTEMENT ?

Les jetons non fongibles (NFT) sont des certificats de propriété stockés sur une blockchain. Ces jetons numériques permettent de certifier l’authenticité d’un objet qui lui est associé en achetant un code (ou un certificat)

Contrairement à la monnaie telle qu’on la connaît (ou aux cryptomonnaies), chaque NFT est unique ou non fongible, c’est-à-dire qu’il ne peut être échangé contre quelque chose de valeur égale. 

Le marché de l’art est en pleine révolution grâce aux NFT. Mike Winkelmann (Beeple) a vendu une photo numérique pour plus de 69 millions de dollars chez Christie’s. Et pourtant, cette photo est consultable et téléchargeable sur internet, contrairement à un tableau « réel ». Alors, pourquoi acheter une telle œuvre de cette manière ? Et bien tout simplement parce que celle-ci a été vendue avec son NFT qui la rend unique et traçable. Ce certificat signe bien sûr l’œuvre de l’artiste et indique qui l’a vendue, qui l’a achetée et pour quelle somme et à quelle date. Cette œuvre « numérique » peut donc être cédée en enchère… et si la valeur de la cryptomonnaie qui a permis d’acquérir le certificat NFT augmente, la valeur de cette œuvre augmentera  pour le possesseur du NFT.

image_pdfimage_print