fbpx

(SCIENCE) L’humain pourrait-t-il survivre à une IA superintelligente ?

14 janvier 2021 – Tous les jours nous utilisons l’intelligence artificielle (IA) sans même plus nous en rendre compte : GPS, communications, assistances dans tous les domaines. Si une IA se développait à vitesse grand V, grâce à la connaissance qu’elle pourrait glaner sur le net et qu’elle pouvait gérer et contrôler la plupart des systèmes informatiques, ordinateurs, dispositifs d’armement, … penserait-elle à son créateur ou à elle en premier lieu ? Serait-t-elle fidèle et au service de l’humanité ? Quelle serait l’interprétation de ces valeurs pour une IA qui n’a ni conscience ni émotion ? Pourrait-elle devenir l’ennemi n°1 de l’être humain ?

Pour l’ l’astrophysicien britannique, des catastrophes nucléaires ou encore une pandémie mortelle sont moins à craindre, pour la race humaine, que l’intelligence artificielle. Stephen Hawking, avait déclaré que l’intelligence artificielle serait « la pire ou meilleure chose arrivée à l’humanité » dans un entretien donné à la BBC paru le 2 décembre 2014. Il craignait que les IA dépassent l’Homme au point de devenir incontrôlables : « les formes primitives d’intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à l’humanité ». Le problème pourrait venir, non pas de l’outil IA mais de sa capacité à s’auto-développer. Comme le disait, Stephen Hawking, « une fois que les hommes auraient développé l’intelligence artificielle, celle-ci décollerait seule, et se redéfinirait de plus en plus vite ». Il avait ajouté que « les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés ».

Les avancées de ces dernières années dans le domaine de l’intelligence artificielle sont considérables et pourraient devenir colossales. D’ailleurs, à l’instar de Stephen Hawking, d’autres scientifiques et philosophes émettent un risque de danger de l’IA super-intelligente. Cette technologie pourrait-elle devenir incontrôlable ? Une équipe de scientifiques de différents pays, qui comprend des chercheurs du Center for Humans and Machines de l’Institut Max Planck pour le développement humain, a fait quelques calculs théoriques afin d’anticiper le phénomène. Leur résultat est sans appel ; d’après eux, des machines super-intelligentes ne serait pas contrôlables.

POURQUOI UNE IA DEVIENDRAIT-ELLE INCONTRÔLABLE ?

L’hypothèse des chercheurs était la suivante : si on imagine qu’un IA puisse avoir des aptitudes supérieures à celle de l’être humain, et qu’elle puisse apprendre par elle-même grâce à internet, elle pourrait se nourrir de tout ce qui se trouve sur la toile puis contrôler divers systèmes ainsi que tous les appareils connectés. Pour faire quoi ?

L’IA penserait elle à son créateur ou à elle en premier lieu ? Ferait-elle preuve de fidélité ou prendrait-elle sa totale indépendance avec le risque qu’elle considère l’humain comme inutile, pour un concurrent ou une espèce à éliminer comme dans la saga cinématographique Terminator ? Dans ce cas, l’humanité pourrait-elle être en mesure de se défaire de sa créature numérique ? Les calculs montrent, en théorie, qu’il serait impossible de contrôler une intelligence artificielle avancée.

DES SOLUTIONS DE CONTRÔLE ?

Si un IA débutait à devenir dangereuse pour l’Homme, dans l’étude publiée dans le Journal of Artificial Intelligence Research, les scientifiques ont proposé quelques esquives et contre-attaques. Isoler l’IA d’internet lui couperait un certain nombre de possibilités de nuire mais l’elle ne serait plus assez efficace pour les tâches qui lui sont demandées. Par ailleurs, si l’IA est programmée pour le bien et la sécurité de l’humanité, il n’est pas dit qu’une faille dans la programmation puisse permettre à l’IA de contourner les instructions de base.

Voir l’article « ROBOTIQUE ET INTELLIGENCE ARTIFICIELLE : quelles sont les nouvelles règles ? »

LES LOIS D’ISAAC ASIMOV

Programmer un robot pour qu’il reste seulement dans son rôle prévu, sans porter atteinte à l’homme avait été pensé par l’écrivain américano-russe et un professeur de biochimie à l’Université de Boston, Isaac Asimov :

Première Loi :
Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.

Deuxième Loi :
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.

Troisième Loi :
Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi.

A ce propos, pour optimiser ces 3 lois, savez-vous qu’une 4ème loi a été dictée par une IA ? La loi Zero a été formulée Daneel Olivaw, un robot humanoïde :

Loi Zero :
Un robot ne peut nuire à l’humanité ni laisser sans assistance l’humanité en danger.

Suite à cette loi Zero, même la première loi a alors été modifiée : un robot ne peut nuire à un être humain, ni laisser sans assistance un être humain en danger, tant que cette assistance est compatible avec la loi Zéro.

QU’EST-CE QUE LA VIE POUR UNE IA ?

Est-ce que ces lois applicables à une IA de base, pourraient être respectées – comme nous l’entendons – par une IA super-intelligente sans qu’elle en fasse sa propre interprétation ? Comment interprete-elle la notion de vie et quelles consequences cela pourrait avoir ?

Nick Bostrom, le philosophe suédois, qui utilisait les simulations informatiques, partage que les mécanismes de contrôle pourraient tout à fait se retourner contre la population humaine. Son explication est la suivante : une super-intelligence dont le but est de « maximiser le bonheur dans le monde » pourrait prendre le parti de détruire la vie sur Terre pour créer des simulations informatiques de pensées heureuses. L’objectif étant numériquement atteint, façon IA ! (voir l’article Et si nous vivions dans une simulation informatique ?)

D’autres articles sur ce thème pourraient vous intéresser :

Une IA pourrait présenter le JT

Un mathématicien et une IA ont-ils prouvé que Dieu existe ?

Et pour voir l’émission « Les Affranchis de l’info : « Prisonniers d’une matrice, réalité ou pur délire ? » avec Jeanne Ayache (Docteur d’état en Sciences Physiques ), cliquez ici (réservé aux abonnés).

Bien numériquement,

Thierry Penin (rédaction btlv.fr)

Pas encore abonné ?
Rejoindre BTLV

À la Une

(ESPACE) Cet astéroïde vaut 7 Millions de fois l’économie sur Terre !

23 janvier 2021 – Situé entre Mars et Jupiter, cet astéroïde, entièrement composé de métaux, présente des caractéristiques hors du commun…

L’astéroïde « Psyche 16 » est multi-trillionaire ; sa valeur est en effet estimée à environ 630 Trillions d’Euros.

Une belle somme, mais pourtant, ce n’est pas la raison pour laquelle la NASA y enverra un orbiteur, en 2022. Parce qu’en plus d’être plein de richesses, l’astéroïde pourrait aussi nous en apprendre beaucoup sur la façon dont se serait formé notre système solaire…

UN NOYAU SEMBLABLE A CELUI DE LA TERRE

Même à long terme, l’étude de Psyche 16 n’a aucun but mercantile. En revanche, il donnera aux chercheurs l’opportunité d’observer la Terre…

Plus exactement, ce qui se rapproche le plus du noyau de notre planète. Il s’agira de réaliser sur cet astéroïde, ce qu’il est impossible de réaliser sur Terre, puisqu’il faudrait en effet creuser jusqu’à 3 000 kilomètres de profondeur, afin d’observer le noyau terrestre, ce qui est impossible. Etudier Psyche 16, permettra à la NASA de mieux comprendre le fonctionnement de notre cœur terrestre.

Les scientifiques tenteront par exemple, de déterminer pourquoi le magnétisme des pôles finit par s’inverser au fil du temps.

UN ASTÉROÏDE VRAIMENT UNIQUE

L’astéroïde fut découvert en 1852 par Annibale De Gasparis. L’astronome italien n’imaginait alors pas qu’il venait de repérer une telle rareté, dans sa lunette d’observation.

Lors de leurs formations, les astéroïdes agrègent les éléments lourds d’étoiles ayant explosés, parce qu’en fin de vie, au cours des précédents milliards d’années. C’est d’ailleurs de cette façon que sont nés des métaux comme l’or, l’arent ou le platine, et même des éléments vitaux à notre survie, tel que l’oxygène.

Ce qui rend Psyche 16 si spécial, c’est que là ou les astéroïdes sont habituellement constitués d’amas de roches ou de glace, ce dernier est surtout composé de fer, de nickel et certainement d’or. A l’échelle du cours actuel de tous ces métaux, cela représenterait une valeur astronomique, équivalente à 7 Millions de PIB mondiaux (le PIB mondial représentait 84 798 Milliards de dollars, en 2019).

Il aura fallu attendre le lancement du télescope Hubble, en 2014, pour se rendre compte des particularités de cet astéroïde géant.

Mais l’observation de Psyche 16 n’en est qu’à ses balbutiements. En effet, la « mission Psyche », ne décollera qu’en août 2022, avec, nous l’espérons, son lot de découvertes surprenantes.

Samuel Agutter (rédaction btlv.fr)

2021-01-14T16:19:47+01:0014 janvier 2021|

Actus susceptibles de vous intéresser