IA contre IA : L’intelligence artificielle peut agir sur la cybersécurité tant dans les attaques que dans la défense

Comme dans de nombreux autres domaines, l’intelligence artificielle joue un rôle de plus en plus significatif dans la cybersécurité, menaçant des menaces avancées d’un côté tout en améliorant simultanément la reconnaissance des menaces cybernétiques et la défense contre celles-ci. Il est donc essentiel de distinguer entre les deux directions à partir desquelles l’IA peut agir sur la cybersécurité – dans les attaques et dans la défense. En réponse à la question de savoir si l’intelligence artificielle fournira un avantage cybernétique aux ‘attaquants’ ou à la ‘défense’ dans les deux prochaines années, 8,9 % des directeurs dans le monde qui ont participé à l’enquête du Forum économique mondial estiment qu’elle aidera à la ‘défense’, tandis que 56 % estiment qu’elle favorisera les ‘attaquants’, comme le rapporte le ‘Global Cybersecurity Outlook 2024’ du WEF.

– Moins d’un répondant sur dix pense que dans les deux prochaines années, l’intelligence artificielle générative donnera un avantage à la défense par rapport aux attaquants. Environ la moitié des répondants affirment que les avancées dans les capacités des adversaires – phishing, logiciels malveillants, deepfake – représentent l’impact le plus préoccupant de l’intelligence artificielle générative sur la cybersécurité. Ajoutez à cela la pénurie chronique de professionnels de la cybersécurité et l’hypothèse de qui se cache derrière certains groupes APT et avec quelles ressources, et vous avez un défi, explique Robert Kopal, PDG d’Effectus College.

Le plus grand potentiel

Étant donné le nombre croissant de menaces cybernétiques, qui deviennent de plus en plus sophistiquées en raison de l’intelligence artificielle, une attention particulière est accordée à la reconnaissance et à la défense contre celles-ci, dans laquelle l’intelligence artificielle peut à nouveau aider. Comme l’ajoute Kopal, l’IA montre le plus grand potentiel pour détecter la fraude, les logiciels malveillants, attribuer des notes de risque aux tentatives d’intrusion dans le réseau et détecter les violations.

– Selon le ‘Cost of a Data Breach Report’ d’IBM de 2024, la plupart des entreprises dans le monde et dans divers secteurs adoptent ou envisagent d’adopter l’IA et l’automatisation dans leurs fonctions de sécurité. L’application de l’IA et de l’automatisation dans la cybersécurité donne des résultats, réduisant les coûts des violations de données dans certains cas de 2,2 millions de dollars en moyenne. Les solutions d’IA et d’automatisation raccourcissent le temps nécessaire pour identifier et contrôler les violations, ainsi que pour atténuer leurs conséquences. En d’autres termes, les défenseurs sans le soutien de l’IA et de l’automatisation peuvent s’attendre à des temps de détection et de réponse plus longs aux violations, ainsi qu’à des coûts accrus par rapport à ceux utilisant ces solutions, explique Kopal, notant qu’en plus des professionnels de la cybersécurité ayant principalement des connaissances et des compétences techniques, ‘nous avons également besoin d’analystes et de mathématiciens, d’experts capables de penser en dehors des sentiers battus, et de spécialistes qui comprennent le contexte, l’industrie, les tendances et les micro-tendances avant qu’elles ne deviennent des tendances’.

Rien de révolutionnaire

Détecter les menaces cybernétiques est une tâche difficile, sans solutions magiques et rapides, et pour exceller dans ce domaine, il faut une vaste connaissance et technologie, ainsi qu’une grande expérience, souligne Ivan Penava, directeur de l’ingénierie chez ReversingLabs, qui se spécialise dans l’apprentissage automatique dans la détection de logiciels malveillants et la sécurité de la chaîne d’approvisionnement logicielle. Il existe des applications très réussies de l’IA dans la détection des menaces cybernétiques, ajoute Penava, principalement dans des domaines très spécifiques, mais il ne croit pas qu’une ‘grande révolution’ ait eu lieu dans ce domaine comme on l’avait anticipé ou espéré il y a deux ans.

– Tout comme dans la détection des menaces, il existe des scénarios très spécifiques où les entreprises de sécurité et les chercheurs ont appliqué avec succès l’intelligence artificielle en réponse aux menaces cybernétiques. La détection classique des fichiers malveillants est basée sur la reconnaissance de ce que l’on appelle des signatures au sein des fichiers, c’est-à-dire des parties de fichiers qui ont été précédemment vues dans d’autres fichiers malveillants. Les attaquants en sont conscients et modifient donc ces parties spécifiques des fichiers pour éviter la détection. L’intelligence artificielle aide à détecter ces changements et compense ainsi ces tactiques d’attaque, explique Penava, ajoutant que ReversingLabs peut détecter une menace jamais vue auparavant (appelée zero day).

Une partie intégrante de la défense contre les attaques, comme il le souligne, consiste à analyser toutes les données possibles sur les fichiers à l’aide de diverses analyses. Cette approche génère beaucoup de données qui nécessitent un temps humain précieux pour être analysées. L’IA aide en résumant de grandes quantités de données et en réduisant la charge de travail humaine.

Un autre domaine d’application possible mentionné par Kopal concerne l’attribution des incidents cybernétiques, car une majorité significative (54 %) des incidents collectés ne sont attribués à aucun acteur de menace spécifique, selon le rapport sur le paysage des menaces de l’ENISA européenne de 2023. Cependant, Bojan Ždrnja, directeur technique chez Infigo, déclare que l’utilisation de l’intelligence artificielle dans la détection des menaces cybernétiques, c’est-à-dire des vulnérabilités de sécurité, est encore assez limitée.

– Les divers outils actuellement utilisés sont assez bons pour analyser de grandes quantités de données et peuvent identifier certaines catégories de vulnérabilités, mais cela reste encore à un niveau relativement bas. Bien que certains articles aient été publiés qui semblent assez spectaculaires, aucune information plus concrète n’a été fournie à ce jour. Du point de vue d’une entreprise qui détecte des vulnérabilités de sécurité depuis plus de 15 ans, je peux certainement dire que l’intelligence artificielle n’est pas, du moins aujourd’hui, en mesure de remplacer un hacker éthique qui effectue des tests de pénétration. Nous plaçons en fait l’accent principal sur la catégorie des vulnérabilités de logique commerciale, que seul un humain peut trouver car il comprend un contexte beaucoup plus large du fonctionnement de l’application. L’intelligence artificielle est encore à la traîne ici, déclare Ždrnja.

Cependant, Ždrnja souligne que l’intelligence artificielle peut, par exemple, être utile pour répondre aux menaces cybernétiques.

– Étant donné que répondre aux menaces implique d’analyser de grandes quantités de données générées par des machines, certaines activités peuvent certainement être automatisées et considérablement accélérées grâce à l’intelligence artificielle. Chez Infigo, nous utilisons déjà cette approche où les analystes en première ligne sont considérablement assistés et leur travail accéléré grâce à l’intelligence artificielle, mais il convient de noter qu’un humain est toujours nécessaire pour la supervision. À des niveaux de réponse plus élevés, la plupart des activités sont effectuées par des humains, mais l’intelligence artificielle peut encore être utilisée spécifiquement pour accélérer et automatiser les processus, explique Ždrnja.

Spécificités des grands modèles de langage

L’intelligence artificielle, donc, comme dans de nombreux autres domaines, ne peut toujours pas remplacer les humains ; pour l’instant, son rôle est de réduire le temps nécessaire à un expert en cybersécurité pour accomplir une tâche – mieux vaut quelque chose que rien, pourrait-on dire. Cependant, en tenant compte des limitations de l’intelligence artificielle dans la cybersécurité, Ždrnja ajoute qu’il faut prendre en compte les spécificités des grands modèles de langage et les dérivés de ces modèles qui sont principalement utilisés aujourd’hui.

– Ces modèles sont phénoménaux pour analyser des données d’entrée ou du texte et générer des réponses basées sur la tokenisation des requêtes, mais il convient de noter qu’ils ont encore un très faible modèle d’intelligence et de capacités de résolution de tâches. Cela peut être vu en suivant les progrès dans le domaine connu sous le nom d’AGI – intelligence générale artificielle, où des tentatives sont faites pour créer des modèles qui simulent l’intelligence humaine et les capacités d’apprentissage autonome. Les tests imposés aux modèles ici sont significativement plus compliqués – peut-être le plus intéressant est le soi-disant test Ikea, où un modèle d’IA se voit présenter un plan pour assembler des meubles Ikea et doit ensuite contrôler un robot pour assembler les meubles, ce qui reste un objectif inatteignable, déclare Ždrnja.

Plus vous avez de bonnes données et plus vous en avez, mieux vous êtes positionné pour améliorer votre produit grâce à l’apprentissage automatique, estime Penava.

– Si vous avez peu de données, vous êtes limité. De plus, pour créer un bon modèle d’apprentissage automatique, vous avez besoin d’une excellente connaissance du domaine. Si vous en manquez, vous aurez du mal à tirer parti de votre potentiel. De plus, vous voulez que vos modèles fassent le moins d’erreurs possible, ce qui n’est pas toujours facile à réaliser. L’intelligence artificielle peut nous aider à réaliser des avancées significatives en matière de sécurité, mais ce n’est pas une baguette magique qui fera disparaître tous les dangers. Avec son développement, les acteurs positifs et négatifs acquièrent des outils encore plus puissants. Le paradigme reste le même ; la bataille entre le ‘bien’ et le ‘mal’ est simplement accélérée et devient plus complexe, conclut Penava.