Aller au contenu

Intelligence artificielle, avancée ou piège pour l'humanité ?

2 mars 2021

Les données ont de meilleures idées
Photo par Franki Chamaki sur Unsplash

Depuis quelque temps, je vois des publicités sur Youtube pour un système en ligne, Grammarly1, qui corrigerait non seulement l’orthographe et la syntaxe, mais proposerait aussi (s’il fonctionne comme annoncé) des améliorations au style de la phrase. Ce concept possède des applications intéressantes.

C’est l’occasion de réfléchir à nouveau à la nature de ces outils, aux avantages réels qu’ils peuvent apporter.

Mais ce serait aussi l’occasion d’examiner les véritables dangers qu’ils représentent pour les êtres humains si on ne les utilise pas à bon escient.

t

Qu’est-ce que «  l’intelligence artificielle  » (IA) ?

Le terme intelligence artificielle (IA) est, en tout cas en l’état de notre technologie, une contradiction complète dans les termes.

J’ai déjà fait remarquer à plusieurs reprises qu’un outil d’IA, n’est rien d’autre qu’un automate, qui consiste généralement en un réseau de «  neurones  » disposé en plusieurs «  couches  ».

Il n’y a rien de vivant, de mystique, ni de particulièrement «  intelligent  » dans ces automates, qui sont au demeurant remarquables. Ce qui les distingue particulièrement aujourd’hui est leur caractère de nouveauté et que les résultats (tout à fait concret) qu’ils apportent son étonnants.

Photo by Maxim Shklyev sur Unsplash

Grâce à ces mécanismes, comparables au cerveau d’une mouche, on peut simuler les processus de reconnaissance de sons ou de formes qui sont des processus implicites (c’est-à-dire qui ne requièrent pas «  d’intelligence  », mais des réactions en-dessous du niveau de la conscience). On retrouve bien entendu ces mécanismes élémentaires dans un cerveau humain.

Attention: chimère

Néanmoins, ceux qui prétendent, en l’état actuel, qu’un réseau de neurones artificiel pourrait répliquer les processus de pensée consciente font une spéculation qui est actuellement tellement éloignée de nos capacités technologiques, qu’elle relève de la chimère.

En quoi un outil d’IA peut-il être utile ?

Prenons d’abord les applications où un outil comme Grammarly pourrait vraiment apporter une valeur ajoutée ?

La réponse paraît auto-évidente: il suffirait de prendre notre expérience des correcteurs d’orthographe et de syntaxe, tels qu’ils existent dans les traitement de texte (tels que Microsoft Word).

Lorsque nous sommes pressés et que nous tapons une grande quantité de texte, nous n’avons pas toujours le temps ou l’énergie pour faire une relecture détaillée. Dès lors un programme automatique qui signalerait les erreurs possibles a son utilité, comme «  garde-fou  ».

D’autre part, s’il porte à notre attention des erreurs (potentielles) que nous commettons fréquemment, ainsi que leurs solutions, il nous permet d’améliorer nos connaissances de la langue. Ce serait l’occasion de consulter un dictionnaire ou une grammaire, et clarifier un point que nous ne connaissons pas, ou que nous connaissons mal.

Grammarly (pour autant qu’il fonctionne comme promis), irait plus loin, en indiquant des problèmes potentiels avec le style, et en suggérant des améliorations. Ce serait l’occasion de se poser la question de quelles règles Grammarly a appliquées, et (en se plongeant le cas échéant dans un manuel) de se poser la question de leur validité, et de leur utilité. Et le cas échéant, en tirer des leçons pour les appliquer consciemment la prochaine fois.

Car autant faire «  juste  » spontanément, n’est-ce pas ?

Tout cela ferait partie d’un usage vertueux. La technologie est là pour augmenter la productivité.

Quand un outil d’IA peut-il devenir dangereux ?

Bien entendu ce n’est pas l’outil en soi qui doit être jugé, mais l’usage qui en est fait.

En effet, supposons qu’on ait «  vendu  » à une personne l’idée que puisque l’outil-miracle Grammarly existe, il n’y aurait plus besoin d’apprendre l’orthographe, la syntaxe, ou quelques bonnes notions de style, puisqu‘«  il existe désormais des machines intelligentes pour ça  ».

La tentation de l’irresponsabilité

Supposons (comme raisonnement par l’absurde), qu’on cessait d’enseigner le bon anglais et le bon français dans les écoles? Et bien, même Grammarly ne pourrait plus grand chose pour «  sauver  » des textes trop mal écrits, et généralement incompréhensibles.

La tentation de l’irresponsabilité

Ce serait la voie de l’irresponsabilité : «  puisque la machine fait, j’ai résolu mes difficultés avec ce sujet: je n’ai plus besoin de m’en occuper  ».

Evidemment, de tes outils de «  réparation  » fonctionnent d’autant mieux que la qualité initiale du texte est bonne; plus cette qualité se dégrade et plus leurs résultats sont aléatoires.

Grammarly n’est pas en cause

Notons bien que Grammarly ne commet heureusement pas cette erreur dans sa communication; rien dans cet article n’est une critique de l’approche de cette entreprise. Cet société fournit simplement un exemple commode de ce qui se passerait si produit était mal compris ou mal utilisé.

L’idée que l’IA pourrait être ‘responsable’ de l’être humain est erronnée et dangereuse !

Par le moyen ci-dessus, on voit évidemment le danger pour des êtres humains de se confier aveuglément à des automates.

Que ce soit pour la grammaire, ou la conduite d’une voiture, pouvoir compter sur un automatisme qui assiste la «  conduite  » ne devrait jamais autoriser qui que ce soit à confier la conduite à une machine.

Même dans un système où des voitures sans chauffeur conduiraient des personnes qui ne savent pas elles-mêmes conduire, il faudrait ériger en principe inflexible (y-compris du point de vue juridique) qu’il doit toujours y avoir un être humain qui répond personnellement, en dernier ressort, de ce que fait l’automate..

Dans l’état actuel, il est totalement exclu qu’un automate ait une personnalité juridique, parce que ce serait violer la définition du mot «  personne  ». La notion de personne (humaine) présuppose une notion de conscience et de libre arbitre.

On pourra jaser pendant des heures et en pure perte, si ces notions existent philophiquement chez l’être humain.

Mais on ne changera pas le fait le droit estime que ces notions existent du point de vue juridique et que c’est un fondement de toute société humaine. Et que changer cet axiome juridique conduirait à subvertir les systèmes légaux, et donc les sociétés humaines. Dit autrement, jusqu’à ce que des chercheurs prouvent sans l’ombre d’un doute possible que le libre-arbitre n’existe pas (et sur ce point on leur souhaite bonne chance), il faut considérer que le libre-abitre existe!

Un point sur leque tout le monde peut en revancche être d’accord est qu’un automate est une machine (inanimée) de type excitation-réflexe qui n’a strictement aucune conscience ni pouvoir de choix Il en résulte et qu’il ne peut pas avoir de personnalité juridique.

En d’autre termes, soit c’est la personne qui est dans l’habitacle qui répond de toutes les conséquences (et qui devrait donc avoir la possibilité de prendre les commandes), soit une personne à distance (qui devrait prendre la main).

En bref, aucune machine ne peut jamais être responsable de quoi que ce soit, à cause de la définition de la notion de responsabilité (qui est de rendre compte devant soi-même et devant autrui de son libre-choix). Affirmer le contraire serait promouvoir l’irresponsabilité de l’être humain vis-à-vis de ses propres créations d’automates, et de leurs conséquences sur la société, l’humanité ou l’environnement.

La tentation de l’infantilisation de l’être humain

Il y a un autre problème: le style. Il y a une différence fondamentale, essentielle et capitale entre la grammaire et le style, et on fait souvent la confusion entre les deux. Et en outre, il y a la personnalité de l’auteur.

Disons pour simplifier que

  1. Les règles de la grammaire sont impératives; elles permettent de garantir qu’un texte est intelligible par une large population.
  2. Celles du style sont recommandables; elles donnent des guides pour mieux transmettre, faire comprendre et apprécier des idées ou des émotions.
  3. Et l’auteur, utilise son jugement pour exprimer ses propres idées, ses propres émotions, et sa propre personnalité. C’est ce qu’on appelle, justement, l’originalité d’un auteur, ou sa plume2.

C’est la même différence qui existe aussi entre la loi, la morale et l’éthique personnelle dans une société fondée sur le droit:

  1. L’Etat définit des comportements qu’ils décourage ou réprime; c’est la loi.
  2. En dehors de cela les citoyens considèrent ce qui est acceptable ou non socialement, c’est la morale. La pénalité du non-respect de ces principes est un rejet social; mais l’Etat ne se mêle pas de ces affaires.
  3. Et enfin l’éthique personnelle est la liberté qui est donnée à chacun de prendre ses propres décisions, y-compris (à l’extrême) en violant les règles de la morale… qui ne sont pas obligatoires rappelons-le!

Qu’est que le style ?

Le style de la langue est une sorte de «  morale  » de la langue, c’est-à-dire des lignes de conduites qui donnent ce qui est un comportement considéré «  acceptable  » dans l’usage de cette langue.

Même cette notion du style si elle suivie trop à la lettre, donne des gens trop uniformes qui vivent dans un carcan pour l’expression propre de leurs idées, de leurs émotions et de leur personnalité !

Et ceux qui voudraient fixer des règles impératives en les appelant «  style  » (par exemple en fixant un «  style de citation bibliographique  ») établissent en réalité des règles de grammaire. Dans certains cas, on a effectivement besoin de règles – pour que cela ne soit par exemple pas la gabegie dans une maison d’édition ou un ouvrage collectif. Mais qu’on ait le courage d’appeler un chat un chat: ce serait une «  grammaire des citations bibliographiques  » !

Instaurer des règles indérogeables de style, ce serait imposer une police de la pensée.
Photo par Alex Young sur Unsplash

Imposer des règles indérogeables de style, ce serait instaurer une police de la pensée; uniformiser l’expression des idées; interdire l’innovation, la nouveauté… en somme nier à autrui le droit de franchir des lignes imaginaires qui bloquent la créativité.

Ce serait uniformiser l’être humain; et alors qu’on lui affirme tout temps que le plagiat est un délit, on voudrait le forcer à écrire d’une façon n’est plus rien que du plagiat du style d’autres personnes.

Conclusions

Et pour revenir à l’Intelligence artificielle, laisser des automates imposer des règles de type «  excitation-réflexe  » à des êtres humains, ce serait aboutir à une dégradation de l’être humain.

De la même façon que Grammarly serait au mieux un humble conseiller qui «  suggère  » des améliorations, une voiture Tesla ne devrait être un humble serviteur qui «  se permet  » des actions, sous l’autorité du conducteur; ou un taxi automatique serait placé sous la responsabilité d’être humains dans une salle de contrôle.

L'être humain ne doit pas être prisonnier de ses propres créations.
Photo by Artyom Kim on Unsplash

Maxime concernant les automates

En toutes circonstances, il faut qu’il y ait toujours un être humain (personnellement, moralement et légalement responsable) qui garde le droit juridique, la compétence technique, et la possibilité pratique de désactiver un automate, et d’imposer son propre libre-arbitre.

Ceci doit être valable en particulier pour les avions de ligne: le commandant de bord doit toujours avoir le dernier mot, s’il le décide en âme et conscience.

Autrement, c’est dégrader l’être humain et favoriser les accidents.

Car l’etre humain décide: toujours, toujours, toujours. Dire même que la machine obéit n’a pas de sens. La machine est un automate sans âme et sans personnalité.

un.org

None

La Déclaration universelle des droits de l'homme

Déclaration universelle des droits de l'homme Le 10 décembre 1948, les 58 États Membres qui constituaient alors l’Assemblée générale ont adopté la Déclaration universelle des droits de l’homme à Paris au Palais de Chaillot (résolution 217 A (III)). Pour commémorer son adoption, la Journée des droits de l'homme est célébrée chaque année le 10 décembre. Ce document fondateur - traduit dans plus de 500 langues différentes - continue d’être, pour chacun d’entre nous, une source d’inspiration pour promouvoir l'exercice universel des droits de l'homme.

Il en va des droits humains

L’existence des droits humains et leur respect par les Etats dépend de ce principe de l’existence de la raison et de la conscience humaine.

«  Tous les êtres humains naissent libres et égaux en dignité et en droits. Ils sont doués de raison et de conscience et doivent agir les uns envers les autres dans un esprit de fraternité.  »

Accorder «  raison et conscience  » à des machines, de façon arbitraire et non justifiée, serait ouvrir une ère d’irresponsabilité politique qui finirait en oppression et en tyrannie, et par la dégradation de la condition humaine.

L’être humain doit garder en tous temps sa liberté de conscience, et son libre-arbitre.


  1. Grammarly, Microsoft Word et les autres noms de produits semblables sont des marques (déposées) appartenant à leurs propriétaires respectifs. 

  2. plume: «  Manière d’écrire propre à un écrivain, style.  » TLFi