ChatGPT – La désorganisation humaine
Les progrès des systèmes d’intelligence artificielle ont été considérables ces dernières années, et il devient de plus en plus difficile de savoir si des images vous montrant des scènes ont réellement eu lieu, si la voix que vous entendez est bien celle de la personne que vous connaissez ou si ce que vous lisez sur votre écran a bien été écrit par un humain. Quel changement nous offrent ces perspectives pour l’avenir ? Saurons-nous nous construire avec cette technologie et y voir un atout en termes d’aide et de formation ou supprimer l’humanité qui est en nous ?
Pascal Wolff – Le Cardiologue n° 451 – mars-avril 2023
Depuis la mise en ligne de ChatGPT en novembre 2022, ce chatbot, développé par OpenAI (1), qui est une combinaison d’outils issus de l’Intelligence artificielle générative, est capable d’imiter l’humain. Il en a également surpris plus d’un avec des résultats étonnants et parfois impressionnants, d’autant que cette technologie naissante s’offre à nous avec une facilité déconcertante.
GPT, TOUT D’ABORD, C’EST QUOI ?
GPT (pour “generative pre-trained model” ou « transformateur générique pré-entraîné ») est un agent conversationnel (chatbot [2]) utilisant des outils de l’intelligence artificielle spécialisé dans le dialogue.
Il est issu d’un type d’algorithme entraîné pour prédire la probabilité d’une séquence de mots donnée à partir du contexte de mots précédents appelé LLM (large language models ou grands modèles de langage). Il peut engager une conversation ou fournir des réponses précises à des questions dans tous ses domaines de connaissances.
La version de GPT (3.5) [passée à la 4.0 depuis peu – ndlr] utilise un algorithme entraîné sur des bases de données (Wikipédia, articles web, forum…) et un modèle créé par les ingénieurs d’OpenAI (instructGPT). Celui-ci permet d’affiner l’entraînement des modèles de langues en intégrant des jugements humains. L’IA dispose de 175 milliards de paramètres pour ses décisions textuelles et se performe grâce au machine learning (« apprentissage automatique ») en se corrigeant au fur et à mesure.
Le chatbot traite donc votre demande en fonction des informations dont il dispose. Petite note amusante : ChatGPT ne travaille pas en temps réel car le contenu de ses données sont antérieures à 2021, ce qui peut poser un réel problème de recherche.
Nous avons posé une question simple : « Quel a été la dernière équipe championne du monde de football ? » Réponse de ChatGPT : « La dernière championne du monde de football est l’équipe de France, qui a remporté la Coupe du Monde FIFA 2018 en Russie en battant en finale l’équipe de Croatie sur le score de 4-2. »
LA CONTRE-OFFENSIVE DES TÉNORS
La venue de ChatGPT sur le net date de 2015 avec la création de la société-mère OpenAi par Elon Musk et Sam Altman sous la forme d’une association « éthique ».
L’ouverture en novembre 2022 de l’application ChatGPT a suscité un emballement médiatique et une accélération technologique tels que les annonces des ténors du net ne se sont pas fait attendre.
• Microsoft a investi 10 milliards de dollars dans OpenAI avec une intégration de ChatGPT dans son moteur de recherche Bing. Une opération qui pourrait se faire en ce début d’année 2023.
• Google avec le chat conversationnel dénommé Bard dévoilé le 6 février dernier. Il fonctionne de manière similaire à ChatGPT avec une différence fondamentale : il exploitera toutes les informations disponibles sur le web. Son lancement a été contrarié lors de sa première démonstration par une réponse inexacte, causant une chute du cours de bourse de l’entreprise.
• Alibaba. Le géant chinois de l’e-commerce a déclaré début février travailler sur l’IA générative depuis 2017 sans autre précision.
• Baidu. Le moteur de recherche chinois a récemment détaillé son chatbot conçu sur le modèle de ChatGPT : Ernie bot. Celui-ci devrait être intégré au moteur de recherche, à ses services cloud et à son assistant vocal. Il devra sans nul doute s’accommoder de la censure du régime chinois et compromettre fortement l’expérience utilisateur.
• Meta. L’entreprise a fait une démonstration unique de son chatbot Galactica en novembre dernier puis retiré l’application trois jours à peine après sa mise en ligne suite au déluge de la communauté scientifique : dates incorrectes dans des faits scientifiques établis, faux noms d’animaux, invites racistes et religieux, propos complotistes… la liste est longue.
Dans un tweet publié le jour de la mise en ligne du projet, Papers With Code expliquait que Galactica était un grand modèle de langage pour la science qui « peut résumer la littérature académique, résoudre des problèmes de maths, générer des articles Wikipédia, écrire du code scientifique, annoter des molécules et des protéines, et plus encore ».
• Amazon se sert de l’IA pour « écrire » des livres, c’est ce qu’a dévoilé Reuters. La boutique Kindle d’Amazon – dédiée à l’achat de livres électroniques – contient pas moins de 200 ouvrages pour lesquels ChatGPT est répertorié comme auteur ou coauteur. (3)
LA SANTÉ
La presse s’est déchaîné sur ChatGPT et son « pouvoir des réponses », mais qu’en est-il dans le domaine de la santé ? Car selon Sam Altman, le fondateur de ChatGPT, les utilisateurs pourraient être tentés de se faire soigner par des IA conseillères médicales capable d’adapter un traitement en fonction des symptômes donnés. Elles se révéleraient également d’une grande aide pour les médecins lorsqu’ils formulent des diagnostics et prescrivent des traitements. Certains entendrons par « Grande aide » ce qu’ils ont envie de comprendre.
Pour nombre de personnes, consulter le web suite à une maladie ou un traitement afin d’en savoir plus sur leur état et rechercher des informations est déjà courant. Pour certains, l’autodiagnostic de l’internet fait partie de leur protocole de santé. L’intelligence artificielle générative sera probablement plus largement utilisée pour rechercher des réponses rapides concernant le traitement et la gestion d’une maladie.
Il doit donc y avoir débat sur les problématiques posés par l’IA générative : déléguation de certaines fonctions médicales, sources d’erreurs suite à l’absence du dossier médical complet du patient intégré à l’application, risque de désinformation par la prise en compte de données issues de robots malveillants, sources bibliographiques inconnues, plagiat dans l’enseignement et la littérature médicale, relation médecine-patient inexistante et pourtant capitale. Bref, la liste est longue, mais cela n’a pas empêché aux chercheurs de se pencher sur la question…
« Presque » diplômé de médecine aux Etats-Unis !
Des essais ont donc été réalisés dans différents pays, et bien sûr aux Etats-Unis où des chercheurs (4) ont soumis ChatGPT à l’examen de médecine américain USMLE (5) qui est requis pour l’obtention d’un permis médical. Cet examen est divisé en trois parties pour évaluer les connaissances des étudiants tout au long de leur parcours (biochimie, bioéthique, raisonnement diagnostique…). Sur les 376 questions posées, ChatGPT a répondu à 350 avec comme résultats des scores compris entre 52,4 % et 75 %, là où le niveau de réussite requis est de 60 % ainsi qu’une concordance de 94,6 % dans toutes ses réponses. ChatGPT a obtenu ce résultat sans bien sûr le concours de formateurs humains, et, selon les auteurs de l’étude, « en affichant un raisonnement compréhensible et des informations cliniques valides ».
Et en France ?
Le succès des examens de l’USMLE peut-il faire des émules en France ? Des spécialistes se sont portés sur la question, et notamment le Pr Gabriel Steg, cardiologue à l’Hôpital Bichat-Claude Bernard, qui a posé treize questions à ChatGPT (issues des épreuves de cardiologie des ECN [épreuves classantes nationales]) que l’on peut retrouver sur le site Medscape. (6) L’IA a obtenu 4 bonnes réponses sur les 13 auxquelles il a répondu.
D’après l’analyse du Pr Steg, « le score relativement faible est à nuancer car certaines questions peuvent être jugées ambiguës ou critiquables d’autant que les évolutions attendues dans un avenir proche vont considérablement améliorer la performance de ce type d’IA. On peut s’attendre à ce que, dans les années à venir, les nouvelles générations d’IA fassent bien mieux que les étudiants en médecine… A nous de nous organiser pour utiliser ce qui doit être vu comme un outil bien plus qu’un concurrent. »
CONCLUSION
Alors que les modèles d’IA « traditionnels » évoluent selon le deep learning, c’est-à-dire conçu pour apprendre et reconnaître des configurations de données, ChatGPT offre un tournant inévitable des sciences humaines que l’IA est susceptible de remplacer, ou tout au moins de compléter (dans un premier temps). A ce titre, il devrait être un sérieux signal d’alarme pour la communauté scientifique et médicale. Cette révolution dite anthropologique pour certains, devrait sérieusement nous faire réfléchir sur l’implication de l’homme dans sa manière de traiter son évolution. Que faisons-nous et dans quel but ?
« Enlever l’humanité des humains nous tuera tous », « opposer IA et savoir humain », « atouts en termes de formation et d’aide à la décision »… les réflexions vont bon train, mais le problème ne serait-il pas juste l’humain qui devrait apprendre à gérer cette technologie ? Après tout, c’est lui qui l’a inventé !
L’émergence de l’IA générative va entraîner de nouvelles considérations juridiques sur le droit d’auteur mais elle suscite également de vives inquiétudes quant à ses implications en matière de cybercriminalité. Prenons le scénario suivant : vous recevez un email de votre associé ou votre collègue vous demandant de lui transmettre des données très sensibles. Le message que vous lisez est familier dans son vocabulaire avec un sens de la plaisanterie qui vous est habituel. C’est persusasif, convaincant et vous en souriez. Le problème ? C’est juste qu’il a été conçu par une IA générative à partir d’informations découvertes sur les réseaux sociaux.
Enfin, ChatGPT n’est plus accessible en Italie depuis le 31 mars dernier. Bloqué par la Cnil italienne qui accuse la start-up Open AI de ne pas respecter la législation sur « la collecte et le stockage massifs de données personnelles dans le but d’entraîner les algorithmes sous-jacents au fonctionnement de la plateforme et d’une absence de filtre pour les moins de 13 ans ». Le début d’une prise de conscience ?
(1) OpenAi est une société américaine cocréée par Elon Musk et Sam Altman en 2015. Son but à l’époque était d’assurer le développement d’une intelligence artificielle pour le bénéficie de l’humanité avec une ouverture sur la recherche et les publication des chercheurs.Cette « humanisation » est valorisée aujourd’hui à près de 29 milliards de dollars, et la divulgation des codes sources n’est plus dans l’air du temps…
(2) Un chatbot est un programme conversationnel qui simule et traite une conversation humaine écrite ou parlée.
(3) capital.fr/entreprises-marches/
(4) Start-up AnsibleHealth (cabinet médical virtuel).
(5) United States Medical Licensing Exam.
(6) francais.medscape.com/voirarticle/3609683.
DETECTGPT CONTRE CHATGPT
Une équipe de chercheurs (3) a mis au point l’application DetectGPT, un outil qui permettant de déterminer si un texte a été généré par ChatGPT. Il est destiné en particulier à la communauté éducative qui s’inquiète de son utilisation par les étudiants. Ce logiciel serait fiable à 95 %.
(3) Université américaine Stanford.
© WrightStudio/Depositphotos
Vérifiez vos adresses mails !
Il n’y a pas que votre ordinateur qui peut être piraté. Vos adresses mails on pu être subtilisées dans d’autres bases de données (Santé, Gafam, réseaux sociaux…). Pour le savoir et éviter une usurpation de votre identité, de l’hameçonnage ou autre méfait, vérifiez auprès du site haveibeenpwned s’il y a eu violation de vos adresses. Si tel est le cas, le site vous indique sur quels sites vos données ont été volées… et changez vos mots de passe.
la CNIL et vos données
Le médecin libéral doit donc protéger ses données personnelles et médicales. Pour ce faire, il doit passer par des protocoles précis : hébergement certifié données de Santé avec demande préalable auprès de la Commission Nationale de l’Informatique et des Libertés (CNIL).
La CNIL a récemment sanctionné deux médecins libéraux pour ne pas avoir suffisamment protégé les données de leurs patients, des milliers d’images médicales hébergées sur des serveurs étaient en accès libre. Toutes ces données pouvaient donc être consultées et téléchargées, et étaient, selon les délibérations de la CNIL, « suivies notamment des nom, prénoms, date de naissance et date de consultation des patients ». Le problème venait simplement d’un mauvais paramétrage de leur box internet et du logiciel d’imagerie qui laissait en libre accès les images non chiffrées.
A lire également
Cybersécurité – banalisation sur toile
Intelligence artificielle – la santé au cœur du futur
L’intelligence artificielle – Introduction à la Santé
Les préoccupations liées à l’intelligence artificielle
Les 50 ans d’internet
Les virus
De l’impression 3D à la bio-impression
Retour vers le futur – les prédictions médicale dans les années 1950
LES NFT, C’EST QUOI EXACTEMENT ?
Les jetons non fongibles (NFT) sont des certificats de propriété stockés sur une blockchain. Ces jetons numériques permettent de certifier l’authenticité d’un objet qui lui est associé en achetant un code (ou un certificat)
Contrairement à la monnaie telle qu’on la connaît (ou aux cryptomonnaies), chaque NFT est unique ou non fongible, c’est-à-dire qu’il ne peut être échangé contre quelque chose de valeur égale.
Le marché de l’art est en pleine révolution grâce aux NFT. Mike Winkelmann (Beeple) a vendu une photo numérique pour plus de 69 millions de dollars chez Christie’s. Et pourtant, cette photo est consultable et téléchargeable sur internet, contrairement à un tableau « réel ». Alors, pourquoi acheter une telle œuvre de cette manière ? Et bien tout simplement parce que celle-ci a été vendue avec son NFT qui la rend unique et traçable. Ce certificat signe bien sûr l’œuvre de l’artiste et indique qui l’a vendue, qui l’a achetée et pour quelle somme et à quelle date. Cette œuvre « numérique » peut donc être cédée en enchère… et si la valeur de la cryptomonnaie qui a permis d’acquérir le certificat NFT augmente, la valeur de cette œuvre augmentera pour le possesseur du NFT.