Le scénario de Terminator pourrait-il devenir réalité ? La question se pose après la prouesse réalisée par deux intelligences artificielles du programme de recherche Google Brain. Elles ont en effet réussi à créer un algorithme indéchiffrable par l’homme.
Google Brain est un programme destiné à comprendre l’évolution des intelligences artificielles (I.A). Alice et Bob, deux I.A faisant partie du programme, ont créé la surprise en communiquant entre elles grâce à un langage inconnu.
Une communication sécurisée
Martin Abada et David Andersen, deux chercheurs du programme Google Brain, ont testé la possibilité de crypter les communications via un système multi agent. Ils ont ainsi mené des expériences avec 3 réseaux neuronaux : Alice, Bob et Eve. Alice devait envoyer des messages à Bob sans qu’Eve ne puisse les intercepter. Les résultats ont largement dépassé les attentes des chercheurs : Alice et Bob ont réussi à mettre au point un algorithme de chiffrement leur permettant de communiquer dans un langage incompréhensible par Eve, alors que ces I.A ne sont pas destinées à créer des clés de chiffrement.
Un long processus
Il a fallu beaucoup de temps avant que Bob et Alice ne réussissent à parler le même langage. En effet, les deux I.A ont échangé pas moins de 10 000 messages cryptés de 16 bits avant que Bob ne réussisse à retranscrire les communications. Même si Eve a réussi à intercepter certaines parties des messages, elle n’était pas en mesure de les décoder, car seul Bob détenait la clé de déchiffrement. Elle a même vu sa tâche se compliquer au fur et à mesure que les deux premières réussissaient à communiquer. Après 15 000 messages, Alice et Bob ont fini par crypter totalement leurs messages, empêchant Eve de les écouter.
Est-ce la fin de l’humanité ?
Les résultats de cette expérience ont démontré que les deux I.A ont appris à communiquer dans leur propre langage même si elles n’ont reçu aucun algorithme pour y arriver. Si certains scientifiques comme Stephen Hawking ont déjà donné l’alerte sur la possibilité réelle de perdre le contrôle des machines, l’heure n’est pas encore à l’apocalypse. Néanmoins, après avoir battu un as du jeu de go, Google DeepMind cherche aujourd’hui à réaliser la même prouesse sur StarCraft II. Le futur est en marche !