Facebook supprime ses propre robots qui inventent leur propre langue
- 8 août 2017
- 2 min de lecture
Facebook a dû fermer deux de ses robots de recherche après avoir dévié d'une étude sur l'Intelligence Artificielle (AI) et commencé à communiquer entre eux dans leur propre jargon. Les chercheurs croient que le résultat de l'expérience dans l'IA et la création de la nouvelle langue sont attendus.
D'autres, comme Elon Musk, pensent que l'intelligence artificielle pose le plus grand risque pour l'humanité et doit être réglementée de manière proactive maintenant, au lieu de l'avenir. Seul le temps indiquera si Artificial Intelligence (AI) est bon pour l'humanité ou non. En attendant, les robots Terminator pourraient revenir sur le futur ;)
Les chercheurs de FAIR ont développé deux chatbots qui visaient à reproduire la manière dont les humains échangent et échangent. Les deux bots devaient échanger des balles, des chapeaux et des livres, attribuer une valeur aux objets, puis échanger ces objets entre eux. En utilisant des algorithmes d'apprentissage par machine, les chatbots, également appelés agents de dialogue, ont également été programmés pour utiliser la parole humaine dans le processus de troc au cours de l'expérience. Cependant, il est vite apparu que les chatbots s'étaient déviés de la parole normale, et plutôt, le logiciel d'intelligence artificielle qui conduisait l'expérience avait inventé une nouvelle langue. La partie qui a causé le plus d'alarme à certains, c'est que cela a été fait sans l'apport des chercheurs FAIR. Voici un aperçu de la conversation que les chatbots créent ci-dessous:
C'était suffisant pour envoyer un bon nombre de personnes dans un état de panique. La peur semble être motivée par la notion selon laquelle, un système d'intelligence artificielle simple pourrait constituer une menace sérieuse pour les humains. Même Elon Musk a reconnu la menace potentielle qu'un système avancé d'intelligence artificielle peut poser à l'humanité. Musk est tellement préoccupé par les dangers de l'intelligence artificielle, qu'il est un défenseur régulier de l'imposition d'une forte réglementation sur l'espace de l'intelligence artificielle. Maintenant, en dépit de tout cela, il est clair que la recherche menée par FAIR est peu susceptible de produire des robots d'asservissement humains dans les plus brefs délais.
Ainsi, bien qu'il soit clair que la communauté élargie a excessivement réussi à réagir de manière exagérée à l'expérience FOB chatbot, la débâcle a soulevé un problème plus vaste dont beaucoup semblent effrayés. Le développement de l'intelligence artificielle est-il nécessairement une bonne chose pour l'humanité? Personne n'est certain où le développement de la recherche sur l'intelligence artificielle nous emmènera, et pour certains, c'est une perspective effrayante à entretenir. La question qui se pose est qu'il faudra veiller à ce que les systèmes d'intelligence artificielle soient bien réglementés pour éviter une sorte d'apocalypse Skynet-esque? Ce n'est qu'au fil du temps que les réponses à ces questions nous seront vraiment connues.
Traduit par Dr.Mo7oG
Source ICI
Commentaires