Sam Altman, reconnu pour son « techno-optimisme », est en tournée mondiale six mois après la sortie de ChatGPT lorsqu’il s’exprime sur le futur de l’intelligence artificielle. « Nous pouvons bâtir une intelligence artificielle générale. Nous pouvons coloniser l’espace. Nous pouvons faire marcher la fusion nucléaire et massifier l’énergie solaire. Nous pouvons guérir toutes les maladies. Nous pouvons construire de nouvelles réalités », avait-il encore précisé quelque temps avant le lancement de DALL-E (2).

Ces propos illustrent également la position des géants du numérique de Google à Elon Musk qui estime que le monde numérique, grâce à l’intelligence artificielle, restructurera la condition humaine, où travailler ne sera plus « nécessaire ».

« Les progrès technologiques que nous ferons dans les cent prochaines années dépasseront largement tout ce que nous avons fait depuis que nous avons maîtrisé le feu et inventé la roue », y prédisait le dirigeant d’OpenAI, concédant un « semblant utopique ».

Tout est donc clair et la course est lancée. L’IA est devenu un atout stratégique de tout premier ordre, autant dans son développement que dans ses effets pervers.

LES RISQUES LIÉS À L’IA

L’Union européenne a récemment lancé son premier cadre juridique en adoptant un règlement sur les risques liés à l’IA. Ceux-ci sont définis sur quatre niveaux :

1. Risque inacceptable

Cette catégorie interdit les systèmes qui représentent une menace évidente pour la sécurité ou les droits de l’Homme.

2. Risque élevé

Sont considérées comme élevées les infrastructures critiques qui constituent une menace pour la sécurité humaine ou les droits fondamentaux (transports, éducation, composants de sécurité des produits, l’emploi, la gestion des travailleurs et l’accès au travail indépendant, les services publics et privés essentiels, les services répressifs susceptibles d’interférer avec les droits fondamentaux des personnes, la gestion de la migration, de l’asile et du contrôle aux frontières, l’administration de la justice et processus démocratiques.

3. Risque limité

La loi doit garantir que toute personne doit être informée lors de l’utilisation de chatbots (programme informatique simulant ou traitant une conversation humaine écrite ou parlée telle que ChatGPT) et que les contenus sont générés artificiellement. Les contenus audio et vidéo, qui peuvent se caractériser par des contrefaçons importantes, font partie de cet encadrement.

4. Risque minimal ou nul

Le risque minimal ou nul inclut des applications telles que les jeux vidéo compatibles avec l’IA ou les filtres antispam. La grande majorité des systèmes actuellement utilisés dans l’Union européenne relèvent de cette catégorie.

L’UTILISATION DES ALGORITHMES

Les algorithmes suivent les instructions d’un programme pour effectuer des tâches spécifiques, comme par exemple le contenu des réseaux sociaux qui sont gérés par l’interaction des utilisateurs avec d’autres contenus tels les likes, les commentaires et les partages. Ils façonnent ainsi notre réalité de manière omniprésente, de la recommandation de contenu en ligne à la prise de décisions critiques dans tous les domaines et particulièrement ceux de la finance, de la santé et de la justice. Ils peuvent avoir de nombreux effets pervers et dangereux : les malwares avec une incroyable capacité d’adaptation, le pishing (comme cet exercice pour les Jeux olympiques où 500 gendarmes se sont fait piéger par un faux mail venu de leur hiérarchie), un robot détourné de sa fonction première pour identifier et détruire une cible, un système prédictif de perturbation civile et autres fake news…

La désinformation

L’un des dangers les plus préoccupants de l’utilisation des algorithmes est la désinformation. Les plateformes de médias sociaux et les moteurs de recherche utilisent des algorithmes pour personnaliser le contenu présenté à chaque utilisateur, créant ainsi des bulles de filtres et des chambres d’écho qui est « l’endroit » où les gens ne voient que des informations tournées vers leurs croyances et leurs opinions.

La systématisation des discriminations

Les algorithmes peuvent aggraver les discriminations présents dans la société lorsqu’ils sont formés sur des données historiques qui reflètent des préjugés humains. Ils peuvent ainsi perpétuer – voire amplifier – ces biais. Par exemple, les systèmes de recrutement basés sur des algorithmes ont été accusés de favoriser certains groupes démographiques au détriment d’autres, renforçant ainsi les inégalités sur le marché du travail.

La cybercriminalité

La sophistication des algorithmes a donné lieu à de nouvelles formes de cybercriminalité. 

Des attaques de phishing ciblées en exploitant les algorithmes pour maximiser leur efficacité donneront dans le futur des perturbations majeures dans les données informatiques, comme cette cyberattaque menée contre France Travail (anciennement Pôle Emploi) sur les 43 millions d’inscrits.

Pertes massives d’emplois

L’automatisation alimentée par des algorithmes a le potentiel de perturber de manière significative le marché du travail, entraînant des pertes massives d’emplois dans de nombreux secteurs. 

Comme l’a souligné  Sam Altman (1), les progrès rapides de l’intelligence artificielle et de la robotique signifient que de plus en plus de tâches effectuées autrefois par des travailleurs humains peuvent désormais être accomplies par des machines. 

Si ces tendances se poursuivent sans régulation adéquate, cela pourrait entraîner un chômage structurel généralisé et des inégalités économiques croissantes.

ET LES DICTATURES DANS TOUT CELA ?

Les dictatures ont un fort potentiel à exploiter l’intelligence artificielle pour consolider leur pouvoir à l’intérieur de leurs frontières et leur influence à l’étranger. Ces préoccupations majeures en matière de droits de l’homme, de liberté d’expression et de démocratie soulignent la nécessité d’une réglementation stricte et de vigilance internationale pour encadrer l’utilisation de l’IA dans le monde entier.

Surveillance de la population 

Pour détecter rapidement toute opposition ou dissidence et de réprimer efficacement toute forme de contestation, les dictatures utiliseront l’intelligence artificielle sur leur population en collectant et en analysant toutes les données provenant des réseaux sociaux, des caméras de surveillance et des communications… 

Contrôle de l’information

Contrôler et manipuler l’information accessible à la population font partie des régimes autoritaires. 

Cela peut inclure la censure en ligne, la manipulation des résultats de recherche, la propagande sur l’opinion publique conformément à la narrative officielle du régime.

En utilisant des techniques de reconnaissance faciale et d’analyse de comportement bien plus efficace que celles actuellement utilisées, les dictatures pourront identifier et surveiller plus aisément les individus considérés comme des dissidents ou des opposants politiques. Cela peut conduire à des arrestations arbitraires, des détentions secrètes et d’autres formes de répression, comme cela se passe déjà aujourd’hui.

Utilisation de la désinformation à l’étranger

Les algorithmes d’IA pourront être utilisés pour mener des campagnes de désinformation à l’étranger, dans le but de semer la confusion, de diviser les populations étrangères et d’affaiblir les démocraties rivales. Cela peut se faire via les réseaux sociaux, les sites web et les médias étrangers contrôlés par les différents régimes.

Développement de technologies de surveillance pour d’autres dictatures

Certains régimes autoritaires peuvent développer, vendre ou s’allier avec ces technologies de surveillance basées sur l’IA à d’autres dictatures, contribuant ainsi à renforcer le contrôle gouvernemental et la répression dans d’autres pays.

EST-CE QUE L’INTELLIGENCE ARTIFICIELLE EST L’AVENIR DE L’HUMANITÉ ?

Il est évident que l’intégration de l’IA dans de nombreux domaines (médical, scientifique, industriel ou autres), donnera une approche beaucoup plus précise et rapide grâce à l’analyse des données en grande quantité.

L’idée de créer des systèmes capables de penser, d’apprendre et d’agir comme des êtres humains suscite une curiosité ou une fascination évidente pour certains, et pour d’autres une exploitation ou une forte dégradation humaine. L’IA représente un réel défi intellectuel, incitant les chercheurs et les passionnés à explorer les frontières de la science et de la technologie sous toutes ses formes, ses défis et ses ambiguïtés.

Mais il est tout d’abord crucial d’adopter une approche proactive et réfléchie pour garantir que l’IA soit utilisée de manière responsable et au service du bien commun. On sait que l’IA offre un potentiel considérable pour façonner l’avenir de l’humanité, mais tout dépendra de la manière dont nous aborderons les défis et les opportunités associés à son développement.

Il est également important de se méfier d’une dépendance excessive à cette technologie et de la concentration du pouvoir entre les mains de quelques acteurs qui pourrait entraîner des déséquilibres et des risques de manipulation.

Pour que l’IA puisse réellement bénéficier à l’humanité, une gouvernance responsable et une collaboration mondiale sont essentielles. Cela implique de travailler ensemble pour garantir que l’IA est développée et utilisée de manière éthique, équitable et inclusive, en tenant compte des valeurs et des besoins de diverses communautés et cultures. En serons-nous capables ?