Systèmes de Reconnaissance des Émotions – Qui le Logiciel dira-t-il que vous avez peur ?

Heureux, triste, en colère, amer… Ce n’est pas une évaluation psychologique des émotions d’un groupe ciblé de personnes, mais plutôt une conclusion tirée par un algorithme alimenté par l’intelligence artificielle (IA), que de grandes entreprises technologiques utilisent pour lire les émotions sur les visages des gens. Les algorithmes de lecture des émotions sont devenus si sophistiqués qu’ils analysent les expressions faciales, mesurent les émotions et évaluent les humeurs, nous catégorisant comme heureux, malheureux, dangereux…, et les entreprises utilisent les résultats de ces analyses pour améliorer leurs affaires. L’application de ces systèmes est très large, allant du contrôle des passagers dans les aéroports à la sélection des futurs employés.

La détection des émotions ou la compréhension et la prédiction des sentiments humains grâce aux algorithmes, grâce à l’intelligence artificielle et à la vision par ordinateur, a permis aux entreprises technologiques de plonger encore plus profondément dans notre vie privée, souvent à notre insu. Par exemple, Amazon utilise depuis longtemps un système pour reconnaître les émotions des conducteurs de sa propre flotte.

Reconnaissance Prospère

Les programmes de reconnaissance des émotions utilisant des logiciels de traitement d’image de haute technologie peuvent identifier des émotions telles que la colère, la tristesse, la peur, la joie, le dégoût, la surprise, la confiance, l’indifférence… La manière la plus courante et spontanée de reconnaître les émotions est à travers des photographies et des vidéos. Pour cette raison, certaines sociétés de cinéma utilisent des logiciels de détection des émotions pour analyser comment les publics perçoivent leurs films. Le logiciel capture les visages des gens à l’aide de caméras infrarouges pendant qu’ils regardent des films et suit leur comportement. Tout cela se fait en temps réel et fournit des données aux sociétés de production cinématographique, qui peuvent les utiliser pour évaluer l’intérêt du public pour leurs films. Le marché de la technologie de détection et de reconnaissance des émotions est en plein essor et explose avec des investissements. Selon la société d’études de marché MarketsandMarkets, d’ici 2026, la détection des émotions vaudra 37,1 milliards de dollars. Cette industrie n’est pas encore réglementée, mais elle apporte de plus en plus d’applications qui offrent des conseils et des thérapies. L’année dernière, elle était évaluée à 19,5 milliards de dollars et croît à un rythme de 11,3 % par an.

Parmi les entreprises engagées dans la détection des émotions, en plus de Microsoft américain et d’autres géants de la technologie, il y a aussi la société néerlandaise Sightcorp, qui développe des solutions logicielles d’IA capables d’analyser des visages dans des images et des vidéos dans des environnements réels en utilisant la vision par ordinateur et l’apprentissage profond. Les solutions de cette entreprise sont principalement destinées au commerce de détail et au marketing numérique. Noldus Information Technology est une autre entreprise néerlandaise qui s’occupe de la lecture informatique des émotions. Son fondateur et PDG, Lucas Noldus, a développé un logiciel lors de recherches sur le comportement animal qui est maintenant également appliqué aux humains, et les produits de cette entreprise sont reconnus mondialement et utilisés dans environ une centaine de pays à travers le monde.

Mais quel est le but des données obtenues à partir de l’analyse des émotions lues sur les visages des gens ? Apprendre sur les sentiments des clients est devenu une priorité dans les affaires car l’expérience client dépend largement des émotions qui poussent les clients à acheter, rendant important d’être informé sur tout, du développement de produits au marketing et au service client, donc incorporer la technologie de détection des émotions est une nouvelle étape dans le processus de prise de décision commerciale. Par exemple, de nombreuses entreprises utilisent cette technologie pour filtrer les candidats potentiels à un emploi. En analysant le langage corporel et les expressions faciales, l’algorithme peut prédire comment un employé potentiel se comporterait dans certaines situations. Les soins de santé pourraient également bénéficier de cette technologie ; par exemple, un logiciel pourrait aider à déterminer quand les patients doivent recevoir des médicaments ou qui devrait recevoir des soins médicaux en premier.

Les entreprises qui s’occupent de technologies conçues pour reconnaître les émotions humaines s’efforcent de mettre en avant de nombreux avantages de son application, mais les éthiciens ne partagent pas ce point de vue. De nombreux scientifiques soutiennent que cette technologie envahit non seulement la vie privée, mais est également inexacte et racialement biaisée.

Capacité Suspecte

Une équipe de chercheurs de l’Université de Cambridge a conçu un jeu-web appelé Emojify, où l’on peut tester le système de reconnaissance des émotions via une caméra d’ordinateur. Une partie se concentre sur le fait de tromper la technologie, tandis que l’autre explore comment de tels systèmes peuvent avoir du mal à lire les expressions faciales dans un contexte spécifique. Le but du jeu est de sensibiliser à cette technologie et d’initier un dialogue sur son utilisation. Comment cela se passe lorsque un ordinateur ‘lit’ les émotions de quelqu’un dans le jeu ‘Emojify’, qui évoque six émotions différentes sur les visages des gens : bonheur, tristesse, peur, surprise, dégoût et colère, peut être vérifié par quiconque via sa caméra d’ordinateur. Cependant, l’algorithme ne s’est pas avéré très intelligent car il n’a pas réussi à reconnaître toutes les émotions, et certaines qui étaient exagérées ont été marquées comme neutres.

Le chef de projet, Dr. Alexa Hagerty, chercheuse au Leverhulme Center for the Future of Intelligence de l’Université de Cambridge et au Center for the Study of Existential Risk, doute de la capacité des ordinateurs à comprendre les émotions.

– Le but de cette recherche est de montrer comment la technologie de reconnaissance des émotions est défaillante. L’hypothèse de ces technologies est que nos visages et nos sentiments intérieurs sont connectés de manière très prévisible – si vous souriez – vous êtes heureux, si vous froncez les sourcils – vous êtes en colère. Même lorsque vous feignez un sourire qui convaincra l’ordinateur que vous êtes heureux, vous saurez que vous mentez, mais lui ne le saura pas – a déclaré Hagerty.
Elle a expliqué que pendant le jeu, les expressions faciales peuvent être rapidement changées pour présenter faussement six émotions différentes, mais la personne ne les ressent pas réellement sur un plan émotionnel ; elle ne fait que les jouer. Cela signifie que la reconnaissance des émotions par l’IA ne peut pas être fiable.

Utilisation Large

Malgré ces problèmes, la technologie de reconnaissance des émotions se développe rapidement, et les entreprises promettent que de tels systèmes seront bientôt largement utilisés, par exemple, pour la sélection des employés, l’identification des terroristes potentiels, l’évaluation des capacités des conducteurs, le marketing… Cette technologie est déjà largement utilisée dans le monde entier, de l’Europe aux États-Unis et à la Chine. Par exemple, le logiciel de Taigusys, spécialisé dans la technologie de reconnaissance des émotions, dont le siège est dans la ville chinoise de Shenzhen, est utilisé dans de nombreux endroits, des établissements de santé aux prisons. Les capacités de surveillance de ces technologies ont déjà atteint un point où l’administration de la ville de Lucknow en Inde prévoit d’utiliser cette technologie pour identifier les femmes en détresse, ou celles qui sont harcelées, ce qui a suscité des réactions négatives de diverses organisations de défense des droits de l’homme, y compris celles pour les droits numériques.

Cependant, ce ne sont pas seulement les machines qui font des erreurs ; les gens lisent parfois mal les émotions sur les visages, mais la différence est que l’erreur humaine peut être discutée et corrigée, tandis que lorsqu’un ordinateur fait une erreur, la correction est impossible.

Dangers Multiples

Il est donc très discutable de confier ce travail à des logiciels et des algorithmes, car les ordinateurs ne peuvent pas lire les signaux sociaux comme les humains ; ils surveillent en masse sans notre connaissance et prennent des décisions automatisées que les gens ne peuvent pas influencer. De plus, l’IA pour la détection des émotions est souvent racialement biaisée, par exemple, elle évalue plus fréquemment les émotions négatives sur les visages des individus noirs.

– Les dangers de l’application de cette technologie sont multiples. Nous avons la possibilité de corriger les malentendus entre humains, mais lorsque vous automatisez quelque chose, et que la lecture se fait sans votre connaissance ou contrôle, cette opportunité est perdue – a déclaré Hagerty.

Bien qu’elle affirme qu’il peut encore y avoir des avantages potentiels à la technologie de reconnaissance des émotions, Hagerty s’inquiète de son inexactitude et de son biais racial. Pour cette raison, cette technologie est devenue un sujet de plus en plus fréquent parmi les éthiciens et les activistes des droits de l’homme ces dernières années, car son utilisation généralisée pourrait accroître la discrimination et nuire à la liberté d’expression. Un nouveau projet est en cours à l’Université de Cambridge visant à sensibiliser à cette technologie et à promouvoir la discussion sur son utilisation. Hagerty affirme que nous commençons à peine à comprendre que nous ne sommes pas seulement des utilisateurs de la technologie, mais que la technologie nous façonne profondément, et nous devons avoir une solution démocratique dans ce cas comme nous le faisons pour d’autres questions sociales importantes.

{embed_digitalno_izdanje}{/embed_digitalno_izdanje}