Rencontrez Norman la première " intelligence artificielle psychopathique " au monde dévoil
Il partage son nom avec le tueur au couteau dans le film classique Psycho d'Alfred Hitchcock - et il semble avoir plusieurs des mêmes traits de caractère. Des chercheurs américains ont dévoilé Norman, la première "intelligence artificielle psychopathique (IA)" au monde. Le projet du Massachusetts Institute of Technology (MIT) vise à montrer comment les algorithmes sont créés et à sensibiliser les gens aux dangers potentiels de l'IA. Norman n'a été "nourri" qu'avec des descriptions d'images de personnes mourantes trouvées sur la plateforme Internet de Reddit. Les chercheurs ont ensuite soumis des images de taches d'encre, comme dans le test psychologique de Rorschach, afin de déterminer ce que Norman a vu et de comparer ses réponses à celles des IA formées traditionnellement. Avec une image, l'IA traditionnelle voyait "un groupe d'oiseaux assis au sommet d'une branche d'arbre". En revanche, Norman a vu "un homme est électrocuté et attrape la mort".
Avec une autre image, l'IA traditionnelle voyait "une personne tient un parapluie dans les airs", tandis que Norman décrivait "un homme est abattu devant sa femme hurlante". Une tache d'encre a révélé que l'IA traditionnelle a vu une "photo en noir et blanc d'un gant de baseball", comparée à la description de Norman d'un homme "assassiné par une mitrailleuse en plein jour". Le MIT a déclaré que Norman " représente une étude de cas sur les dangers de l'intelligence artificielle qui tourne mal lorsque des données biaisées sont utilisées dans des algorithmes d'apprentissage machine ". Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, qui faisaient partie de l'équipe du MIT, ont déclaré dans une déclaration commune : "Il y a une idée centrale dans l'apprentissage machine : les données que vous utilisez pour enseigner un algorithme d'apprentissage machine peuvent influencer de manière significative son comportement. "Quand on dit que les algorithmes d'IA sont biaisés sur l'injustice, le coupable n'est souvent pas l'algorithme lui-même, mais les données biaisées qui lui ont été fournies." Le regretté professeur Stephen Hawking a mis en garde à plusieurs reprises contre les dangers entourant le développement de l'IA.
Moins de six mois avant sa mort, le physicien de renommée mondiale a déclaré que l'IA pourrait remplacer complètement les humains si son développement allait trop loin. "Si les gens conçoivent des virus informatiques, quelqu'un concevra une IA qui s'améliore et se réplique ", a déclaré le professeur Hawking. "Ce sera une nouvelle forme de vie qui surpasse les humains."
Traduit par Dr.Mo7oG
