IA contre IA : La bonne intelligence artificielle l’emporte toujours sur le mal

Même les systèmes de sécurité les plus modernes ne garantissent pas une protection indiscutable des données commerciales car la cybersécurité peut être définie métaphoriquement, en plus d’un langage informatique complexe, comme une course contre le temps et la technologie. Il y a un objectif – la sécurité, mais il n’y a pas de limite ; le gagnant est celui qui suit constamment les tendances des nouvelles technologies et utilise de manière créative les outils technologiques disponibles en temps réel, en particulier l’intelligence artificielle (IA), qui peut aider – lorsqu’elle reconnaît et empêche l’accès non autorisé au système commercial, ou nuire – si elle est mal utilisée par ceux qui ont de mauvaises intentions. C’est pourquoi les grands modèles de langage, grand modèle de langage (LLM) et les programmes open source ont été mis en avant, car certains d’entre eux ne sont pas seulement efficaces mais aussi accessibles et peu coûteux. Ils sont développés par de grandes entreprises technologiques ainsi que par des startups.

Modèles ouverts

Mistral AI, opérant à Paris, a récemment introduit son premier grand modèle de langage, Mistral 7B, et a immédiatement annoncé de nouveaux modèles. Il peut être facilement téléchargé depuis GitHub, et comparé à des modèles similaires comme Llama 2, Mistral 7B offre des capacités similaires ou meilleures que, par exemple, des modèles comme GPT-4, qui ne sont pas faciles à utiliser car ils sont principalement disponibles via des API (de l’anglais application programming interface). Mistral 7B est gratuit à télécharger et à utiliser, optimal pour une faible latence, la synthèse de texte, la classification et la complétion de texte et de code. Mistral AI a décidé de publier Mistral 7B sous la licence Apache 2.0, qui n’impose aucune restriction d’utilisation ou de reproduction.

‘Travailler avec des modèles ouverts est le meilleur moyen pour les fournisseurs et les utilisateurs de construire une entreprise durable autour des solutions IA. Les modèles ouverts peuvent être adaptés pour répondre à de nombreux nouveaux problèmes commerciaux fondamentaux dans tous les secteurs industriels, inégalés par les modèles en boîte noire,’ a déclaré Mistral AI dans un article de blog publié à l’occasion du lancement de Mistral 7B.

Le blog indique également qu’à l’avenir, ils développeront de nombreux modèles spécialisés différents, chacun adapté à des tâches spécifiques, compressés autant que possible, et connectés à des modalités spécifiques, ciblant particulièrement les clients commerciaux et leurs besoins liés à la recherche et au développement, au service client et au marketing, ainsi que leur fournissant des outils pour créer de nouveaux produits utilisant l’intelligence artificielle.

De plus, la transparence de Mistral 7B en raison de la décentralisation est mise en avant – ce modèle seul, affirment-ils, peut générer une réponse à toute requête sans modération. Comparé à des modèles comme GPT et Llama, dont les mécanismes déterminent quand répondre, Mistral 7B est libre dans son choix, ou décentralisé, mais le problème est que cela peut être exploité par de mauvais acteurs. Néanmoins, le danger potentiel d’abus ne diminue pas son avantage car son bénéfice global est bien plus grand car il peut rendre l’intelligence artificielle accessible à tous.

Faux enregistrements

Mistral 7B est disponible sous la licence Apache 2.0, ce qui signifie qu’il n’y a pas de barrières à son utilisation : il peut être utilisé personnellement, dans de grandes entreprises ou dans l’administration publique. Il nécessite simplement de garantir un système approprié pour son fonctionnement, d’être prudent avec les données, d’éduquer les employés et d’être préparé aux méfaits de personnages artificiels comme les deepfakes et les chatbots, et d’atténuer les dommages qui peuvent découler de l’utilisation de l’intelligence artificielle.

—

—

– La vulnérabilité la plus importante, mais moins évidente, dans l’utilisation de l’intelligence artificielle est la sécurité des données. Les modèles IA avancés impliquent le traitement de grandes quantités de données, parfois personnelles, soulevant des questions sur la sécurité du traitement et du stockage de ces données dans le cloud. Les utilisateurs finaux copieront également, sans trop d’hésitation, des informations confidentielles ou une partie du code source dans une interface de chatbot pour obtenir de l’aide avec la traduction ou la résolution d’un défi commercial, ouvrant ainsi la possibilité de fuite de données sensibles en dehors de l’environnement commercial – explique Filip Kiseljak, expert en sécurité de l’information chez KING ICT. Selon lui, des problèmes de sécurité peuvent également découler des technologies deepfake et chatbot, qui avancent jour après jour et sont devenues facilement accessibles ces dernières années, ne nécessitant aucune expertise particulière pour leur utilisation.

– Il devient de plus en plus difficile pour les yeux et les oreilles humains de distinguer les clips vidéo et audio deepfake des authentiques, et la technologie IA a commencé à être utilisée pour la détection de telles œuvres. La technologie deepfake ouvre des possibilités pour des tiers malveillants pour la fraude, le vol d’identité, la diffusion de désinformation et la cause de dommages réputationnels en créant de faux enregistrements audio ou vidéo. Il existe des exemples où les technologies deepfake ont été utilisées pour créer de fausses déclarations de divers politiciens, diffusant avec succès de la désinformation et provoquant de l’instabilité dans les sphères politiques mondiales – énumère Kiseljak.

Protection de la vie privée douteuse

Il ajoute que l’utilisation de la technologie chatbot est principalement associée à des avantages tels que l’analyse rapide et la résolution de problèmes, des économies de temps, une haute disponibilité…, mais certains des problèmes qu’elle entraîne sont des réponses inexactes et biaisées, une protection de la vie privée douteuse, des vulnérabilités de sécurité et des coûts d’implémentation et de maintenance élevés. Selon Kiseljak, un grand nombre d’utilisateurs acceptent sans réserve les réponses qu’ils reçoivent lors de conversations avec des chatbots, ce qui peut conduire à des solutions incorrectement appliquées dans les systèmes commerciaux et peut entraîner des erreurs ou même des interruptions d’activité.

– L’IA n’est pas seulement utilisée dans les affaires pour des actions constructives. À l’échelle mondiale, les attaques automatisées et le développement de logiciels malveillants avancés utilisant l’intelligence artificielle (IA) sont en hausse, et les fabricants de logiciels de sécurité signalent également une augmentation des attaques sans logiciels malveillants (malware free) représentant environ 60 à 70 pour cent de toutes les attaques détectées sur les systèmes commerciaux. Des modèles IA personnalisés peuvent également être utilisés pour la découverte automatisée de vulnérabilités et la planification d’attaques sur des environnements commerciaux ciblés – note Kiseljak.

Il souligne qu’il est connu que les attaquants sont toujours un pas en avant par rapport aux défenses, mais il reste à voir dans quelle mesure l’utilisation de l’intelligence artificielle (IA) et de l’apprentissage automatique avancé (ML) aidera ou nuira aux attaquants dans leurs efforts.

– Un grand nombre de fabricants de logiciels de sécurité établis avec lesquels nous collaborons étroitement chez KING ICT ont intégré une forme d’analyse pilotée par IA dans leurs produits, permettant aux analystes de sécurité de trier et de détecter plus facilement les véritables menaces, ainsi que des réponses automatisées en cas de menaces à haut risque, offrant aux organisations et aux entreprises un niveau de protection supérieur, une meilleure visibilité sur l’état de la sécurité, une adaptation plus rapide aux menaces et une efficacité accrue du centre des opérations de sécurité – explique Kiseljak.

Trois principaux problèmes

Selon Alen Delić, vice-président de l’Association croate des gestionnaires de sécurité, l’espace pour le développement technologique est extrêmement large, et seule une partie de ce développement et de son utilisation aujourd’hui relève de ce que l’on appelle collectivement l’intelligence artificielle.

– Tout d’abord, nous devrions savoir à quelles fins nous avons besoin ou voulons utiliser différents outils, y compris ceux qui n’utilisent pas l’IA telle que nous la percevons aujourd’hui. L’utilisation de tels outils comporte divers risques et problèmes. Certains d’entre eux sont de nature légale, tels que la confidentialité des données, les problèmes de droits d’auteur, etc. Deuxièmement, du point de vue des risques associés à l’utilisation par des tiers, nous oublions le domaine des tests et de la vérification des outils, ce qui nous met dans une position où nous utilisons des outils dont nous ne savons pas comment ils fonctionnent et quels risques ils comportent. Et enfin, peut-être quelque chose que nous oublions, est le domaine de l’éducation et de la sensibilisation des utilisateurs qui utilisent de tels outils. L’utilisation d’outils devrait également entraîner des changements dans la manière d’éduquer et de former les utilisateurs afin qu’ils sachent quelles sont les capacités de ces outils et quels risques ils comportent. Ou, comme ChatGPT lui-même le dirait lorsque nous lui demandons : ‘L’introduction de l’intelligence artificielle dans les affaires peut apporter de nombreux avantages, mais elle comporte également de sérieux défis en matière de sécurité. Les organisations doivent être proactives dans l’identification de ces risques et dans la mise en œuvre de mesures de sécurité appropriées pour protéger leurs données, ressources et réputation.’ – souligne Delić.

Racine de la vulnérabilité

Il souligne également que la plupart des employés aujourd’hui n’utilisent en réalité que des outils qui les aident à accélérer certaines tâches automatisées, et les vulnérabilités dans l’utilisation de l’intelligence artificielle dans les affaires sont principalement liées à des données peu fiables qu’ils peuvent utiliser, à l’entrée de données confidentielles ou personnelles dans des systèmes dont ils ne savent pas comment ils fonctionnent et à quoi servent les données qu’ils saisissent, ainsi qu’à certains biais des modèles que les utilisateurs ne vérifient pas.

– Les deepfakes et les chatbots sont des outils automatisés qui peuvent être utilisés pour la fraude et la manipulation de l’information, ce qui peut par conséquent affecter la réputation des individus et des organisations ou des États – souligne Delić, ajoutant qu’ils peuvent être utilisés pour diffuser de la désinformation, collecter des informations sensibles par le biais de l’ingénierie sociale, ainsi que pour d’autres attaques qui impliquent la nécessité d’un échange rapide d’informations.