L’IA, ange ou démon ? Le nouveau monde de l’invisible de Laurence Devillers

L’IA ange ou démon ?
la question est posée et la réponse n’existe pas vraiment pour le moment.
La tâche sera dure afin d’aider et de protéger l’humanité contre cette inouïe et superbe technologie et ce dramatique et possible danger.
Chat GPT le confident idéal ou le génie du mal ?
Laurence Devillers n’a pas la solution infuse mais nous décrypte tout cela avec clarté et lucidité.

Au début, elle nous explique ce que sont les IA prédictive et générative, et nous confirme si besoin était que l’anarchie sur internet ne va pas cesser de croître, et que l’IA est une technologie très énergivore.
Les machines sont capables de tout et elle fait références pour cela à des films ou séries connus de SF comme 2001, Her, Ex Machina, Black Mirror, … pour montrer que les menaces sont déjà là.

Au passage, elle nous parle de Moshi AI, assistant vocal européen créé par Kyutai (société de Xavier Neil) dispo depuis octobre 2024 : je n’en ai jamais entendu parler et je ne sais pas où cela en est ?

Bien sûr, Musk est là avec son Neuralink qui veut nous implanter des puces dans nos cerveaux afin de devenir… Inutile d’aller plus loin !
Bien sûr, Les géants du numérique trustent tout : Meta, Alphabet, Microsoft, Amazon, X, Open AI, … + les chinois qui avancent à toutes vitesses et qui pourraient bien dépasser tout le monde, Avec ça, l’Europe brille par son absence !

Mais l’IA n’a pas d’intuition ni de sensibilité ni d’émotions. Elle est source de biais et ne s’auto contrôle pas.
Heureusement qu’il y a des neuroscientifiques (comme Antonio Damasio et autres) qui démontre que  » la pensée rationnelle est indissociable des émotions et du corps. » C’est la fameuse notion du mécanisme d’homéostasie (grossièrement le cerveau fonctionne avec le corps et inversement) que les robots n’auront jamais, aussi doués soient-ils.

 » Les réponses émotionnelles de l’IA sont purement fonctionnelles et destinées à atteindre des objectifs pratiques, sans expérience intérieure. » nous dit Laurence Devillers.
Ne soyons pas dépendant d’une IA.
Assurons nous que la conception des IA respecte les valeurs humaines, que le public soit informé et que les relations entre individus persistent.
Albert Einstein a dit : « le véritable signe de l’intelligence, ce n’est pas la connaissance mais l’imagination. »
Il a bien raison.

Et l’imagination émerge de la conscience.

Voilà le hic. La conscience est définie comme la capacité d’un être à avoir des expériences subjectives ou des qualias (ressentis).
Pour moi, les robots, l’IA, n’y accéderont pas. Peut être je me trompe : on verra dans quelques dizaines d’années… Intelligence oui, Conscience je doute.
L’IA peut simuler, ça oui, mais c’est tout.

Arrive ensuite la notion de panpsychisme qui soutient que la conscience est une propriété fondamentale de l’univers. Encore un argument.
Les IA peuvent-elles faire preuve de sérendipité ?
Le transhumanisme ? La singularité technologique ? Vaincre la mort ?J’espère pas…
Nous avons, nous humains, nos cinq sens. Qu’ont les robots ?

Puis Laurence Devillers nous parle aussi des grands écrivains de SF comme Aldous Huxley, Isaac Asimov, Greg Egan, Clifford Simak, Philip K. Dick, Robert Heinlein, etc… pour illustrer ses propos.

Il est temps de prendre en main notre destinée et éviter qu’elle nous échappe.
L’IA offre des possibilités et des avantages considérables.
Evaluer, connaitre, encadrer, respecter, apprivoiser, limiter, ne pas ignorer les risques.
Laurence Devillers lance:  » ouverture des systèmes en open source ? « 
Je n’ai pas d’avis là dessus.
Les USA et la Chine innovent et se battent, l’Europe régule… comme d’hab.
Il en faut bien sûr, mais point trop n’en faut.

 » « Agir avec raison dans l’incertain » disait Blaise Pascal : cela n’a jamais été aussi vrai.  » conclut Laurence Devillers.
Ce livre est assez passionnant et très documenté. Je recommande.

• Citation : L’intelligence humaine réside dans la faculté de raisonnement, de gestion de l’incertain, d’esprit critique et surtout de capacité d’abstraction, ce que les IA ne possèdent pas.
• Voir aussi : Les robots émotionnels de Laurence Devillers publié en 2020.