Deux ordinateurs inventent un langage pour communiquer!!!

On savait les ordinateurs capables de beaucoup de choses. Mais Google Brain, un programme de recherche en intelligence artificielle, vient de dépasser une nouvelle étape potentiellement angoissante. Deux ordinateurs ont communiqué entre eux dans une langue qu'ils avaient eux-mêmes codée et donc indéchiffrable par les humains.

Google Brain est un programme de recherche qui expérimente toute sorte de choses autour de l'intelligence artificielle et de ses possibilités. Les chercheurs de cette cellule sont surtout spécialisés dans ce qu'on appelle le deep learning, soit la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes. Dans ce cadre, ils sont parvenus à faire communiquer entre eux deux ordinateurs, Alice et Bob, à l'aide d'une langue qu'ils avaient eux-mêmes créée. Alice était chargée d'envoyer un message secret à Bob qui devait le décoder pour le comprendre. Un troisième, Eve, avait lui pour mission de décrypter leur langage. Il n'y est jamais parvenu.
Les débuts furent laborieux puisqu'il aura fallu pas moins de 15.000 tentatives pour arriver à un résultat probant. Mais au fil des tentatives, les chercheurs vont s'apercevoir qu'Alice va développer des techniques innovantes et très différentes des techniques humaines de codage pour transmettre son message secret.
Dans un futur plus ou moins proche, les ordinateurs pourraient donc être capables de communiquer dans un langage unique que nous, ou d'autres ordinateurs ne pourrons pas déchiffrer. Les avancées dans le domaine de l'intelligence artificielle sont si spectaculaires que de plus en plus de voix s'élèvent pour prévenir d'éventuels dangers. Pour Stephen Hawking cela pourrait même signifier la fin de l'espèce humaine. Cependant, pour les chercheurs de Google Brain, on n'en est pas là. Pour ces derniers l'expérience n'est qu'un exercice intéressant, sans plus. En effet, le codage d'Alice peut être original, il n'en est pas moins beaucoup plus simpliste que les très sophistiqués cryptages inventés par l'homme.

http://www.levif.be/actualite/sciences/deux-ordinateurs-inventent-une-langue-secrete-sans-que-l-on-sache-comment/article-normal-568889.html

Deux IA ont communiqué dans une langue indéchiffrable par l’homme
Google Brain, le programme de recherche en intelligence artificielle du géant Google, vient de franchir un palier étonnant et quelque peu inquiétant. En effet, deux ordinateurs sont parvenus à communiquer entre eux dans une langue qu’ils avaient eux-mêmes créée, une langue indéchiffrable par l’homme.

Dans le cadre de la recherche sur le Deep Learning, à savoir la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes, le programme de recherche en intelligence artificielle du géant Google baptisé Google Brain a franchi un grand cap. En effet, les chercheurs sont parvenus à faire communiquer deux IA nommées Alice et Bob entre elles, alors que de son côté, une troisième IA du nom d’Eve avait pour but d’intercepter leurs communications.

La suite ici :
http://sciencepost.fr/2016/11/deux-ia-ont-communique-langue-indechiffrable-lhomme/

C'est quand même inquiétant ! ... l'autonomie , c'est bien , mais comment va-t on pouvoir garder le contrôle ? Si ils font ce qu'ils veulent ... c'est que le "commandement" n'a pas été dicté  assez précisément ! Il ne faut pas laisser de "champ libre" à leur interprétation ...

@ anoy

Ce n'est pas un problème de programmation trop peu spécifique... C'est un phénomène qui est inhérent à sa conception même ! Nous avons sous les yeux le premier signe de l'émancipation des machines, qui inventent spontanément un mode de communication interne. C'est l'indice inouï que la prise de pouvoir de SkyNet (dans Terminator) n'est pas totalement une fiction, mais qu'après une évolution notable de l'Intelligence Artificielle, un tel scénario peut devenir plausible !     

C'est d'ailleurs à Skynet que j'ai pensé aussitôt quand j'ai entendu parler de cette histoire.

Dans l'absolu, cette "anecdote" est vertigineuse par ses implications futures....

Çà voulait dire que des ordinateurs peuvent causer entre eux, ils peuvent s’envoyer des messages entre eux, capables d’échanger  leurs idées, ils peuvent  rameuter ou sonner le ralliement  des autres ordinateurs, former une coalition et se révolter contre les « affaires » de l’homme ,et amener le monde à la faillite !

Il faudra surtout un bon interrupteur général pour tout couper et vite,si ça dérape!

// premier signe de l'émancipation des machines, qui inventent spontanément

Ben non, pas spontanément, c'était le but du "jeu" qu'on leur avait proposé, il y a - heureusement! - encore une marge.

C'était un jeu inventé par les programmeurs ?