Dans l'expression "Intelligence artificielle", l'emploi du mot intelligence est-il pertinent ? N'est-il pas source de malentendus ou de craintes injustifiées à l'égard de la robotisation et de la transformation digitale de la société ? L'intelligence humaine conserve peut-être une primauté et une identité irréductibles.

"Si l'on veut saisir pleinement ce que désigne l'IA, il faut bien voir que ce qui importe au premier chef dans l'IA, ce n'est pas l'intelligence, mais c'est l'artificiel : l'intelligence artificielle est d'abord un artifice, une ruse au moyen de laquelle on prête une intelligence aux machines dans le but de les asservir à nos propres fins."

Jean-Gabriel Ganascia, informaticien et philosophe français

L'intelligence, de René Descartes à Alan Turing

Il est difficile de définir l'intelligence de façon à la fois rigoureuse et exhaustive. C'est pourquoi il est courant d'inclure dans l'intelligence l'ensemble de nos fonctions mentales, et d'assimiler ainsi l'intelligence à la pensée. Pour Descartes, philosophe du 17ème siècle, le langage est le signe de la pensée.

Pourtant en 1950, Alan Turing - mathématicien considéré comme l'inventeur du concept d'ordinateur -, prédit qu'un jour la puissance de calcul des machines sera telle qu'elle nous amènera nécessairement à nous poser la question du statut de l'intelligence. Il formule alors ce que l'on appelle aujourd'hui le Test de Turing, censé nous donner les moyens de savoir si une machine pense : un ordinateur est intelligent s'il parvient à simuler l'intelligence humaine, de telle sorte qu'un interlocuteur humain sera incapable de démasquer l'ordinateur.

Or de nos jours, de nombreux agents conversationnels (chatbots) sont capables de duper les êtres humains. Mais la simulation de l'intelligence peut-elle être assimilée à l'intelligence ?

De la transformation digitale de l'intelligence : quand l'implémentation de l'intelligence artificielle transforme la définition de l'intelligence humaine

Depuis les années 1950 jusqu'au milieu des années 1980, les sciences cognitives ont caractérisé le rapport corps-esprit sur le modèle de l'ordinateur. La cybernétique et la construction de « machines intelligentes » ont généré une telle analogie entre la cognition et les machines computationnelles, que le cerveau est envisagé comme un ordinateur. La caractérisation de l’esprit humain en termes de processus informationnels permet d'envisager l’implémentation de l’intelligence dans une machine. Inversement, l’analogie entre l’ordinateur et le cerveau conforte l'assimilation de l'intelligence à un ensemble de processus informationnels complexes.

Toutefois, à partir des années 2010, les réseaux neuromimétiques du paradigme connexionniste ont permis de doter les machines de comportements qui semblent intelligents, sans avoir à implémenter des programmes de traitement informationnel complexes. L'intelligence a ainsi pu être redéfinie comme la capacité d'adaptation à un environnement changeant, et les ordinateurs ont commencé à acquérir une faculté exceptionnelle : l'apprentissage.

Imprédictibilité et autonomie des robots ne signifient pas liberté ou volonté propre

Dès 1950, Alan Turing anticipait déjà neuf objections que nous pourrions formuler contre l'attribution d'une intelligence aux ordinateurs. La sixième objection consiste à affirmer que les machines ne nous surprendront jamais parce qu'elles ne réaliseront que ce que nous leur demanderons de faire.

Or, en raison de leurs capacités d'apprentissage et donc de reprogrammation, les robots d'aujourd'hui peuvent adopter des comportements imprédictibles, notamment lorsqu'ils se situent dans des environnements nouveaux. Les ordinateurs contemporains mettent donc en échec la sixième objection.

C'est pourquoi, à l'instar de Dominique Lambert, philosophe des sciences contemporain, nous pouvons soulever le problème de la supervision humaine de ces machines notamment lorsqu'il s'agit de systèmes d'armes "autonomes". Toutefois, il ne s'agit pas de confondre autonomie du robot et liberté.

Les robots peuvent agir de façon imprévisible et donc hors des limites de notre contrôle, mais il est difficile de leur attribuer un libre-arbitre, entendu ici comme la capacité de faire des choix correspondant à une volonté propre. Si chez l'homme il est encore permis d'imaginer que le libre-arbitre échappe au déterminisme biologique, dans le cas du robot tout espoir de volonté propre s'évanouit dans les principes de fonctionnement et le programme initial implémentés par son constructeur.

Malin génie et responsabilité ontologique de l'homme vis à vis du robot

"[La machine] est, somme toute, toujours le fruit d’un génie malin qui peut aussi parfois être un malin génie»
Dominique Lambert

L'image du malin génie est empruntée à Descartes, qui l'utilise pour mettre en doute l'évidence de l'existence du monde. De la même façon que je ne suis jamais sûr que je ne suis pas en train de rêver, il est possible qu'un malin génie tout-puissant me trompe à propos de tout ce que je crois percevoir. Pour Dominique Lambert, oublier que c'est l'homme le "génie malin" qui insuffle l'apparence d'intelligence à la machine, c'est risquer de fuir nos responsabilités.

Dans le cas du robot, l'homme doit assumer sa position ontologique de "malin génie", car c'est l'ingénieur lui-même qui a défini l'essence de la machine pour la jeter ensuite dans l'existence. Aussi intelligente qu'elle paraisse, la machine ne peut donc pas répondre moralement de ses acte, seul son créateur le peut.

L'intelligence humaine a donc une place inaliénable dès lors qu'elle inclut la conscience : une conscience morale qui rend l'homme responsable de ses actes et une conscience phénoménale qui donne à toutes ses expériences une dimension subjective et qualitative.

Ainsi que le développe le philosophe Thomas Nagel, dans son célèbre article What is it like to be a bat, quand une créature est consciente, il y un « ce que ça fait » d'être cette créature, alors qu'il n'y a pas de « ce que ça fait » d'être une machine artificielle ou une pierre. Nos expériences ont des qualités phénoménales, telles que la douleur ou des sensations liées à la perception d'un son, d'une odeur, d'une couleur.

À la différence du traitement de données par un ordinateur, le traitement conscient d'une information n'est pas transparent ou neutre, il a un sens parce qu'il implémente un vécu.

A propos de StoryShaper :

StoryShaper est une start-up innovante qui accompagne ses clients dans la définition de leur stratégie digitale et le développement de solutions d’automatisation sur-mesure.

Sources : StoryShaper, Dominique Lambert (La robotique et l'intelligence artificielle), Alan Turing (Computing Machinery and Intelligence), Jean-Gabriel Ganascia (L'Intelligence Artificielle)