VIDÉO : Rencontrez Norman – la Première IA Psychopathe

Non, ce n’est pas un nouveau film d’horreur – il s’agit de ‘Norman’, la première intelligence artificielle (IA) qui montre des signes de comportement psychopathe, ont annoncé des scientifiques américains dans une étude visant à mettre en lumière les dangers potentiels de l’IA.

Norman « représente une étude de cas sur les dangers dans lesquels l’intelligence artificielle peut dérailler si des données biaisées sont introduites dans les algorithmes par lesquels la machine apprend, » a publié le prestigieux Massachusetts Institute of Technology (MIT).

– Il y a une idée clé dans l’apprentissage automatique : les données introduites dans les algorithmes d’apprentissage automatique peuvent changer de manière significative le comportement de la machine, déclarent les scientifiques du MIT impliqués dans la recherche.

>>> Génération IA : Vos Enfants Fréquentent-ils des Jouets Intelligents ou des Espions Adorables

– Lorsque nous parlons d’algorithmes d’IA qui sont biaisés ou injustes, le coupable n’est généralement pas l’algorithme lui-même, mais les données biaisées qui ont été introduites, ajoutent les scientifiques Pinar Yanardag, Manuel Cebrian et Iyad Rahwan.

D’où l’idée de créer Norman, une IA psychopathe nommée d’après le personnage du tueur psychopathe Norman Bates du film ‘Psychose’ d’Alfred Hitchcock de 1960.

Images de Taches d’Encre

Norman a été ‘nourri’ uniquement avec des données de base décrivant des photographies de ‘personnes mourantes’ trouvées sur le réseau social Reddit. Les scientifiques ont ensuite montré à Norman des images de taches d’encre, comme dans le célèbre test psychologique de Rorschach, pour voir ce que Norman perçoit en elles et ont comparé ses réponses avec celles d’autres IA qui ont été nourries avec des données traditionnelles.

Les résultats étaient tout simplement étranges : dans les taches d’encre où l’IA ‘traditionnelle’ voit « deux personnes se tenant proches l’une de l’autre », Norman voit « une personne sautant par une fenêtre ». Et lorsque Norman reconnaît « un homme abattu par sa femme avec une arme à feu », d’autres IA voient « une personne tenant un parapluie ».

>>> Un Piège pour les Robots Arrive

Sur la page norman-ai.mit.edu, une douzaine d’exemples de taches d’encre et les réponses données par les deux systèmes sont affichés – dans chaque cas, Norman avait une idée inquiétante de ce qu’il reconnaissait dans les taches.

La page permet également aux utilisateurs de tester Norman avec des taches d’encre et de soumettre leurs réponses pour aider « Norman à s’améliorer ».