Intelligence artificielle ? Linda s’émerveillait. Il était impossible d’analyser un schéma sans l’aide d’un ordinateur auxiliaire, mais la vieille savante ne faisait que regarder. Aurait-elle un ordinateur implanté sous le crâne ? Ou était-ce son cerveau qui, depuis des dizaines d’années, ne faisait que concevoir, étudier et analyser les schémas cérébraux positroniques ? Saisissait-elle cet ensemble comme Mozart saisissait la notation d’une symphonie ? Enfin, Calvin demanda : — Qu’est-ce que vous avez donc fait, Rash ? Linda avoua, un peu penaude : — Je me suis servie de la géométrie fractale. — Oui, je l’ai bien compris. Mais pourquoi ? — Ça n’avait jamais été fait. J’ai pensé que ça produirait un schéma cérébral avec une complexité accrue, se rapprochant peut-être du cerveau humain.

I. Asimov – Le robot qui rêvait

On entend parler chaque jour de l’intelligence artificielle. L’intelligence artificielle peut et va amener beaucoup de choses à l’humanité dans énormément de domaines : la médecine, le droit, le bâtiment, les relations entre les gens, … Mais sommes-nous si certains de son impact, qu’elle va si profondément changer notre vie ? Ne sommes-nous pas en train de fantasmer sur l’intelligence artificielle, sur une espèce de nouveau dieu qui nous permettrait de résoudre tous nos problèmes ou au contraire conduirait inévitablement à notre perte ?

À mon humble avis, il faut faire le tri et distinguer ce qui relève effectivement du fantasme de ce qui pourrait advenir très rapidement alors que nous pensons encore qu’il ne s’agit que d’un doux rêve futuriste. Pour aborder notre sujet, commençons par mieux définir l’intelligence artificielle.

L’intelligence artificielle, c’est quoi ?

Tout le monde en parle mais on ne la voit jamais. Je ne vais pas utiliser ici un jargon de geek, des algorithmes incompréhensibles ou encore des schémas ésotériques. L’intelligence artificielle c’est « l’ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence ». Il s’agit donc de formules / équations mathématiques qui permettent de gérer et analyser de petits ou de grands ensembles de données, que cela soit de la photo, des sons ou du texte. Ce traitement permet ensuite de prédire des événements ou de faire de la reconnaissance faciale par exemple.

la complexité est l’œuvre du gueux, la simplicité celle du divinUn excellent livre paru en 2014 (“How to Create a Mind: The Secret of Human Thought Revealed”) m’a fait réaliser que nous y prenions peut-être mal lorsque nous cherchons à comprendre le fonctionnement du cerveau humain. Nous entrons à chaque fois dans les détails, nous décrivons comment un neurone communique avec un autre neurone d’un point de vue microscopique au lieu de prendre de la distance. Si nous commencions à réfléchir d’un point de vue macroscopique, si nous changions de point de vue et voyions les choses différemment ? Cela nous permettrait peut être de comprendre ou du moins d’envisager un algorithme simple, un programme, qui ferait fonctionner globalement le cerveau humain ?

[asa book]0143124048[/asa]

Si je regarde dans le détail comment une voiture est conçue, je verrai à quel point celle-ci est composée de nombreuses pièces qui s’imbriquent les unes dans les autres. Mais si je veux comprendre pourquoi  une voiture va emprunter tel ou tel chemin pour emmener ses passagers d’un point A à un point B, dois-je vraiment comprendre ou connaître le fonctionnement d’un moteur à combustion ou électrique ?

Comme nous l’apprennent les ouvrages consacrés au concept de simplexité, nous apprenons de plus en plus à simplifier les choses complexes. L’objectif n’est pas forcément de les rendre plus accessibles, je dirais que c’est un effet induit plutôt, une conséquence. Mais nous commençons à maîtriser réellement ce qui nous entoure et à comprendre que les règles qui nous régissent peuvent s’exprimer simplement. Quand nous n’y parvenons pas, c’est que nous n’avons pas encore trouvé comment les simplifier. On m’a dit un jour que la complexité est l’œuvre du gueux alors que la simplicité est de l’ordre du divin. Certes c’est caricatural, mais comme on le dit en informatique : KISS (Keep It Simple Stupid).

Alors ne pourrait-on pas un jour « simplifier » la pensée humaine (je parle bien de la façon dont nous réfléchissons et non pas de l’esprit humain, ce qui est totalement différent) ? Cela amène une autre question : si nous concevons une machine dotée de cette manière de penser cela aboutira-t-il à concevoir ce qui deviendra un esprit, une conscience ?

Spok ou les dangers de la logique pure

Revenons quelque peu en arrière et changeons comme je le disais tout à l’heure de point de vue. La machine est un pur produit de l’Homme, qu’il a conçu en s’inspirant de ce qui l’entoure ou de ce qu’il est. Ainsi ce qu’on appelle l’intelligence artificielle est une œuvre de la pensée humaine ou plus précisément de la logique pure conçue par la pensée humaine. Cela pose de nouvelles questions qui sont plus ici du domaine de la philosophie mais que nous devrions aborder pour comprendre certains aspects de l’intelligence artificielle mais aussi les potentiels dangers d’une super intelligence artificielle.

Les problématiques d’un être doté d’une logique pure ont été maintes et maintes fois abordées par nos grands penseurs et “vulgarisées” dans des romans et jusque dans des séries TV. Je pense entre autres à une de mes séries préférées qui a inspiré beaucoup de personnes de ma génération et de la génération précédente : Star Trek. Je pense que je vais perdre quelques lecteurs ici mais, si on garde un esprit ouvert et que l’on se met à lire entre les lignes tout en faisant abstraction des effets spéciaux qui ont vieilli, quelques épisodes nous montrent les limites d’un esprit de pure logique. Ils soulignent  le fait que que certaines décisions que prendrait un esprit purement logique seraient certainement inappropriées voire dangereuses car la logique ne prendra pas en compte certains paramètres que nous humains considérons comme importants.

J’entends par exemple souvent parler du dilemme de la voiture autonome qui se retrouve face à une situation inextricable dans laquelle l’intelligence artificielle doit choisir entre sacrifier son conducteur ou sacrifier un piéton. Si on prenait un panel de personnes et que l’on mettait ces personnes dans un simulateur face à cette situation, il serait intéressant de voir la proportion de celles qui choisissent de se sauver et qui malheureusement percutent les piétons. Et si ces piétons sont des enfants ? L’intelligence ne fera pas de distinction entre un humain adulte et un humain enfant sauf si on lui indique que la vie d’un enfant a plus d’importance que celle d’un adulte.

un monde humain est un monde déséquilibré, imprévisible et dangereuxComme nous le disions tout à l’heure, une machine est un produit de logique et la logique peut paraître cruelle. Pire que tout, il s’agit d’une logique que je décrirais comme subjective car le créateur d’une intelligence artificielle lui inculque une vision de sa propre logique, comme par exemple « les bébés chats ont plus de valeur que les humains ». Je vous laisse imaginer les résultats d’un postulat comme celui-ci sur une intelligence artificielle destinée à l’armée, à la gestion du quotidien ou encore à la conduite d’une voiture autonome. Beaucoup ont écrit sur les dangers de la logique pure car elle peut entraîner des comportements dangereux. De son côté, l’être humain est irrationnel.  Il fait œuvre de logique autant qu’il le peut mais reste soumis fondamentalement à ses sentiments et à ses ressorts inconscients. Un monde « humain » est donc aussi un monde déséquilibré, imprévisible et dangereux.

Pourrons-nous vaincre skynet ?

Que ferions nous si comme dans tout bon film de science fiction nous donnions le pouvoir aux machines afin de gérer la totalité de notre vie ? Je repense souvent au film Wargames où l’armée confie à un ordinateur la gestion des tirs de missiles nucléaires car les humains sont faillibles et que lors d’un test une grande majorité d’officiers n’ont pas osé tourner la clé de lancement car ils avaient de l’empathie pour les millions de morts qu’ils pouvaient causer.

L’empathie, un sentiment qui n’existe pas aujourd’hui chez les machines mais qui a apporté énormément à l’évolution de notre espèce. Dans les anciennes écritures on dit que l’Homme a été créé à l’image de son créateur. Mais l’Homme, depuis qu’il est Homme, cherche lui aussi à être le créateur. Prométhée l’a payé cher mais nous a donné le feu et les arts. Dans toutes les mythologies, les Dieux refusent que nous nous rapprochions d’eux et nous affligent de maux, de catastrophes et de punitions sans fin. Nous cherchons pourtant inlassablement, comme les Dieux, à créer quelque chose qui nous est semblable[ref]Il n’est bien sûr pas question ici de remettre en question le principe de l’évolution, c’est plus une image poétique de la création de l’Homme et de son envie de devenir lui-même créateur[/ref]. Partout l’histoire de l’humanité peut se lire à travers cette volonté de prendre la place de son créateur, de tuer son père. Œdipe prendre la place de son père et le tue même si il ne sait pas qu’il s’agit de son père. Mary Shelley nous montre que l’Homme cherche à créer un semblable à lui même par dessus toute morale et le Dr Frankenstein est surpassé par sa création.

Nous avons donc en nous cette peur rationnelle ou irrationnelle que nos créations nous dépassent et puissent causer notre perte et il en va ainsi pour nos machines intelligentes. Aussi ne devrions-nous pas mettre en place les lois d’Asimov

[ref]Les 3 lois de la robotique :

• Première Loi : un robot ne peut blesser un être humain ni, par son inaction, permettre qu’un humain soit blessé.
• Deuxième Loi : un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
• Troisième Loi : un robot doit protéger sa propre existence aussi longtemps qu’une telle protection n’est pas en contradiction avec la Première et/ou la Deuxième Loi.

[/ref]

pour nous protéger ? Ou est-ce qu’il faudrait inculquer aux machines des sentiments pour nous sauver ? Ce sont ces sentiments, cette empathie, qui ont permis aux êtres humains d’évoluer comme ils l’ont fait, grâce aux liens sociaux qu’ils ont construits.

L’humain est loin d’être parfait. Ce qui le caractérise le plus est l’erreur. « Errare humanum est » dit l’adage. Comment une machine à qui nous donnerions des sentiments réagirait si nous lui montrions ce qu’est un humain ? Ce que nous sommes est ce que nous faisons, si certains d’entre nous tendons à nous améliorer et à devenir meilleur, notre comportement général est loin d’être des plus glorieux. Comment réagira cette machine ? Aura-t-elle peur de nous avec ce que cela implique ? Si on regarde comment se comporte un humain face à la peur, nous aurions fortement à craindre si une intelligence artificelle programmée par nous devait avoir peur. Les films de science fiction (dont certains très connus comme Terminator) nous affrontent à un monde où une intelligence artificielle se met à avoir peur de l’humain, à trouver l’espèce humaine dangereuse et la solution logique qui vient à elle est l’extermination de celle-ci.

Un futur condamné d’avance ?

Alors me direz-vous, faisons lui aimer l’espèce humaine mais qui dit amour dit haine et nous revenons vers la possibilité de corrompre la machine. Une expérience a été faite par microsoft il y a quelques temps. L’entreprise avait mis à disposition sur le web une intelligence artificielle et il n’aura pas fallu plus de quelques heures pour que cette intelligence artificielle émette des « opinions » racistes. L’humain est ce qu’il est et nous devons composer avec. Si nous mettons à disposition du grand public des intelligences artificielles, nous devons prendre en compte cette possibilité de corruption de leur comportement et inscrire « dans le dur » de la machine comme le suggère Isaac Asimov des lois qui empêcheraient les machines de s’en prendre à nous directement ou indirectement du fait de nos comportements et de nous protéger.

Commençons à tirer les leçons de nos erreurs pour rendre meilleure une évolution qui est non seulement inévitable mais pourra apporter de nombreux bienfaits à l’humanité. Nous voyons bien que les postulats que nous avons pris ne sont parfois pas bons, corrigeons les et itérons pour améliorer ces intelligences artificielles. Soyons sages dans leur conception, prenons du recul sur ce que nous faisons. Rappelons nous  que l’erreur est humaine mais que l’adage dans sa globalité est Errare Humanum Est, Perseverare Diabolicum (“l’erreur est humaine, persévérer dans l’erreur est diabolique”) alors itérons sur nos erreurs mais ne les réitérons pas. Inspirons-nous des mythes, des écrits, des films et des séries qui doivent être autant de signaux et de guides pour nous aider à maîtriser cet outil qui pourrait, qui va changer l’humanité.

Pour en savoir plus

• « On peut être contre l’intelligence artificielle par principe » par Irénée Régnauld
• Quelques ouvrages (et évidemment le roi Asimov)

[asa book]0143124048[/asa]

Star Trek, la série originale

[asa book]B01GOXFL46[/asa]

Le machine learning

[asa book]1491962291[/asa]

Les bases en math pour les non mathématiciens

[asa book]0486248232[/asa]

Et aussi

[asa book]2290317152[/asa]

[asa book]2021309991[/asa]

[asa book]2889150755[/asa]

[asa book]2744074551[/asa]