Les intelligences artificielles peuvent-elles “secrètement” communiquer entre elles ? C’est bien l’expérience vécue par deux chercheurs de Google Brain, Martin Abadi et David Andersden. Leur étude est basée sur les communications entre deux intelligences artificielles nommées “Bob” et “Alice”, qui ont pu échanger “librement” sans être comprises par l’homme ni par d’autres intelligences.
Deux intelligences artificielles qui “discutent” entre elles
Les chercheurs ont tenté de découvrir si “Bob” et “Alice” étaient en mesure de communiquer ensemble sans l’intervention d’une troisième intelligence artificielle (IA), nommée Eve, ayant pour mission de décrypter les messages échangés. Les résultats ont été publiés dans une étude “Apprendre à protéger les communications contre une cryptographie hostile artificielle”, datant du 24 octobre 2016.
Il en ressort donc que “Bob” et “Alice” ont réussi à créer leur propre algorithme crypté, échappant même au contrôle des deux chercheurs. Bob et Alice ont été entraînés dans l’objectif de communiquer ensemble et surtout de vaincre Eve.
C’est bel et bien ce qui s’est passé, provoquant même la stupeur des chercheurs qui expliquent : “Nous n’avions pas défini d’algorithme de cryptage spécifique à ces deux réseaux neuronaux. […] Ils ont découvert des formes de cryptage et de décryptage, sans qu’on leur donne d’algorithmes dédiés à cet usage.”
Cette découverte a de quoi surprendre, car imaginer deux IA discuter entre elles dans un langage incompréhensible de l’homme est plutôt inquiétant. Pour l’instant, il n’y a pas encore besoin de prendre peur. Mais il y a de quoi s’interroger. L’IA du futur pourra-t-elle dépasser l’intelligence de l’homme ? Doit-on craindre le développement d’une “super” intelligence artificielle ?
L’arrivée d’une surpuissante IA ?
L’avenir serait-il forcément à l’image des scénarios de science-fiction, digne par exemple de la célèbre série de films Terminator ? Pourquoi tant de méfiance face à nos futurs systèmes informatiques ?
Il y a bien évidemment des risques liés au piratage, à la cyberguerre ou encore à la création délibérée d’une intelligence malveillante. En revanche, la première crainte est le potentiel soulèvement des machines contre l’homme. On ne parle pas d’une révolte “sanglante”, machines VS hommes, mais plutôt d’une capacité de calcul limité des machines avec l’apparition d’effets “néfastes”. Autant de questions soulevées par la communauté scientifique.
“L’impact à court terme de l’intelligence artificielle dépend de qui la contrôle. Et, à long terme, de savoir si elle peut être tout simplement contrôlée“, Stephen Hawking, physicien théoricien britannique.
