La performance ne sera pas suffisante comme paradigme pour la conception de l’IA ; les enjeux éthiques doivent également faire partie de l’équation, a déclaré la chercheuse et scientifique d’IBM, Aleksandra Mojsilović, lors d’une table ronde en ligne avec les médias sur le thème de „L’utilisation responsable de l’intelligence artificielle (IA)“.
Sa présentation s’est concentrée sur les vulnérabilités de l’IA telles que l’exposition aux biais, le manque d’explicabilité et la susceptibilité aux attaques qui produisent des résultats erronés par le biais d’entrées de données spécialement conçues. L’utilisation controversée actuelle de la technologie a également été discutée, en particulier l’IA utilisée pour créer du contenu potentiellement nuisible tel que des deepfakes, du contenu incendiaire et des algorithmes de médias sociaux qui dirigent les utilisateurs vers la désinformation.
Par conséquent, IBM Research développe des techniques et des algorithmes pour évaluer et traiter les éléments fondamentaux de la confiance pour les systèmes d’IA : des outils qui détectent et atténuent les biais, découvrent les vulnérabilités, éliminent les attaques et démystifient le processus de prise de décision. À mesure que l’IA progresse, les humains et les systèmes d’IA collaborent de plus en plus, et il est crucial que nous fassions confiance aux résultats de ces systèmes pour prendre nos décisions.
Les experts d’IBM Research identifient les piliers suivants pour créer une base pour des systèmes d’IA fiables :
- Équité : Les systèmes d’IA doivent utiliser des données dans le développement et des modèles qui sont exempts de biais pour éviter un traitement injuste de certains groupes de données.
- Robustesse : Les systèmes d’IA doivent être sécurisés et protégés, et ne doivent pas être susceptibles de manipulation non autorisée ou de compromission des données sur lesquelles ils ont été développés.
- Explicabilité : Les systèmes d’IA doivent fournir des décisions ou des recommandations qui peuvent être comprises par leurs utilisateurs et développeurs.
- Traçabilité : Les systèmes d’IA doivent contenir des détails sur leur développement, leur mise en œuvre et leur maintenance afin qu’ils puissent être audités tout au long de leur cycle de vie.
Cependant, tout comme toute structure physique, la confiance ne peut pas être construite sur un seul pilier. Si un système d’IA est équitable mais ne peut pas résister à une attaque, il ne sera pas digne de confiance. S’il est sécurisé mais que personne ne peut comprendre les données qu’il fournit, il ne sera également pas digne de confiance. Par conséquent, il est essentiel de renforcer tous les piliers ensemble, ainsi que la capacité à mesurer et à communiquer les niveaux de performance du système dans chacune de ces dimensions.
