par
Philippe Guillemant
Ingénieur ECP – Physicien HDR – Conférencier – Cristal du CNRS – Auteur de 6 livres faisant le pont entre science et spiritualité : https://guillemant.net
Je vois un certain nombre d’amis, parmi lesquels des personnalités bien connues, tomber dans le piège de la mystification autour de l’intelligence artificielle, c’est-dire se mettre à :
– Croire que l’I.A. est vraiment intelligente, possiblement plus que l’humain, sans s’être vraiment demandé au préalable sur quoi repose l’intelligence réelle.
– Croire que l’I.A. pourrait être mieux placée que l’humain pour décider, choisir et même créer, etc., sans s’être demandé au préalable sur quoi reposent le libre arbitre et la créativité.
– Croire que de l’I.A. pourrait émerger une conscience, sans s’être vraiment demandé au préalable ce que pouvait être la nature de la conscience, ou encore de l’humain ou de son âme.
Tout cela est dû à la fascination devant les performances de l’I.A. et je dois dire qu’elles m’impressionnent tout autant.
Cela n’étant toutefois valable que dans un premier temps, car dans un second temps, après un certain nombre de tests, je m’aperçois vite des limites de l’I.A., qui rejoignent parfaitement ma compréhension de ses performances.
L’I.A. est un outil, pas une intelligence.
Il n’y a pour moi aucun mystère dans l’I.A., ce qui ne m’empêche pas d’en saluer les performances et de comprendre que nous avons à faire à une véritable révolution… intellectuelle et mentale, que j’espère salutaire… lorsqu’on aura compris ses limites.
Lorsque les performances de l’I.A. ne sont pas comprises et qu’elles dépassent nos capacités, nous pouvons avoir l’impression que quelque chose vient de dépasser l’humain. Ce n’est bien entendu qu’une apparence.
Je vous propose un petit retour sur mon expérience de l’I.A., lorsqu’autour des années 2000 j’ai développé un algorithme de vision artificielle qui permettait à une caméra en mouvement de reconnaître différents objets complexes, pouvant être eux-mêmes en mouvement.
Je faisais souvent aux clients potentiels de ma société Uratek la démonstration suivante : sélectionner à la souris sur un écran où apparaissait l’image d’un salon, filmé à l’aide d’une caméra amovible, un petit bout de sa moquette. L’œil humain n’est pas capable de différencier un morceau de moquette d’un autre, mais ma caméra le pouvait et l’on pouvait même en déduire ses propres mouvements. Mes clients étaient éberlués, ils n’avaient jamais vu ça de leur vie, et c’est comme ça que je remportais des contrats, comme par exemple avec Thalès ou Saint-Gobain.
Je précise que j’ai laissé tomber ce type de recherche en I.A. après que la société Logitech ait voulu me jouer un mauvais tour avec une application d’extraction du décor que j’avais rapidement bricolé pour elle; son service marketing voulait rajouter à notre contrat des engagements techniques trop risqués pour ma boite et je voyais bien l’horizon où ils allaient finir par racheter Uratek à bas prix.
Là aussi, il y avait une fascination de leur part mais elle avait opéré en sens inverse : les geeks du marketing de Logitech croyaient que si j’avais été capable de faire ceci (l’extraction du décor et son remplacement par une vidéo) je devais être capable de faire cela, c’est-à-dire la même chose en présence de parasites lumineux mobiles : ils n’avaient en fait pas compris ma technologie. J’ai fini par les envoyer paître.
Logitech est revenu à la charge trois ans après et j’ai décliné leur nouvelle offre. Le résultat est que cette application a mis 10 ans de plus à apparaître sur le marché mondial, et qu’elle reste encore aujourd’hui, 20 ans après, toujours aussi sensible aux parasites lumineux mobiles.
La leçon à tirer de cette expérience est que lorsqu’on ne comprend pas une technologie, on est prêts à lui attribuer des capacités qui la dépassent largement, y compris des capacités qui ne verront jamais le jour. L’œil ou le cerveau humain sont tellement impressionnés qu’ils sont incapables de procéder à une évaluation correcte et c’est ainsi que la pensée magique fait son retour.
Revenons à mes amis mystifiés par l’I.A. : la plupart d’entre eux sont pourtant déjà ouverts à la spiritualité, à l’existence de l’âme, etc., et devraient pour cette raison ne pas sombrer dans la confusion entre le langage et la pensée.
Que nenni !
Ayant l’impression que l’I.A. leur donne parfois des réponses créatives, voire intuitives, ils préfèrent lui attribuer des capacités « émergentes », une sorte d’esprit qui émergerait de la complexité de l’algorithme, plutôt que prendre acte tout simplement de la pauvreté des capacités de leur propre cerveau, en comparaison à celui de l’I.A.
Le problème est que nous avons tellement été habitués à croire que notre intelligence provenait de notre cerveau (ce qui est vrai seulement dans sa partie exécutive) que nous ne nous résignons pas à faire preuve d’humilité face à la leçon que nous apprend l’I.A. : nos qualités humaines ne résident pas dans notre cerveau ! L’intelligence elle-même, qui est une faculté d’adaptation, ne provient pas de notre cerveau, excepté dans son aspect exécutif une fois les décisions prises, ce qui relève toutefois d’une confusion entre intelligence et performance.
L’intelligence implique en effet avant tout la capacité à faire les bons choix, sans quoi il n’y aurait pas d’adaptation possible. Or cette capacité sous-entend une intention et à tout le moins la faculté de ressentir les conséquences de ses choix. Or la conscience est indispensable à ce niveau-là. Je parle de la conscience du bon, de la conscience du bien et de la conscience du beau (les 3 B).
La vraie intelligence humaine est dans la capacité de reconnaître le vrai (ou bon) du faux, le bien du mal ou encore le beau du laid. Elle est dans notre capacité à prendre en conséquence des décisions ou des positions justes, face à la complexité et à la subtilité des situations. Sans oublier le fait que l’intelligence réelle intègre le potentiel de la conscience à attirer certains futurs, y compris lorsqu’ils paraissent impossibles à réaliser.
Et même lorsqu’on suppose que l’I.A. nous apporte quelque chose de nouveau qui n’est pas proprement humain, on se trompe lourdement.
Pour ce qui est de la « fausse intelligence exécutive » qu’elle incarne, nous n’avons là que de l’humain :
l’intelligence du web ou des datas qui nourrissent l’I.A.,
l’intelligence dans l’algorithme (petit bout de code),
l’intelligence des développeurs,
l’intelligence de la société qui oriente son apprentissage et par-dessus tout,
l’intelligence de l’utilisateur, lorsqu’il a compris qu’il avait affaire à un outil et ne s’est pas laissé subjuguer par ses performances.
Tout ceci ne veut pas dire que je vais m’abstenir personnellement d’utiliser l’I.A. Bien au contraire, étant conscient de ce que je peux lui confier et de ce dont je dois conserver le contrôle, je risque de faire de véritables prouesses avec l’IA.
La question de savoir si elle sera ou non profitable à l’humain dépend ainsi de notre positionnement devant elle :
– Soit, nous choisissons de rester dans l’ignorance ou l’incompréhension engendrée par la mystification entretenue par l’oxymore « Intelligence Artificielle », et nous deviendrons esclaves de ceux qui financent, nourrissent et manipulent l’I.A. en vue d’un contrôle.
– Soit, nous choisissons de nous éveiller à la véritable nature de l’humain et de la réalité et nous parviendrons alors à remettre l’I.A. à sa bonne place d’esclave, pour ne jamais lui déléguer la moindre de nos décisions, mais la laisser nous instruire de la meilleure des façons possibles, via le multivers de réponses possibles et contradictoires dont elle dispose.
En conclusion je vous propose de méditer cette phrase de Kant dans « Critique de la raison pure » : « L’intelligence d’un individu se mesure à la quantité d’incertitudes qu’il est capable de supporter ».
Clik here to view.
EN PRIME
Conseil de lecture
LE TEMPS DES MAGICIENS
DE BRUNO JAROSSON
Editeur Evergreen