Cybersécurité : Bons vs Mauvais Outils d’IA pour la Défense et l’Attaque

Des messages de phishing très convaincants alimentés par l’intelligence artificielle (IA) causent des maux de tête aux experts, aux entreprises et à leurs employés. Comment les reconnaître et que faire pour éviter le vol de données et l’extorsion par des cyber-attaquants malveillants ? L’IA peut également aider à cela, surtout si d’autres précautions et protections habituelles sont incluses. Cependant, certaines choses restent les mêmes : le facteur humain est le maillon le plus faible, donc les mesures de précaution et la formation continue des employés sur la cybersécurité ne sont jamais suffisantes.

Phishing, smishing, vishing…

Ces dernières années, les attaques de phishing sont devenues de plus en plus sophistiquées, convient le co-fondateur et PDG de SysKit, Toni Frankola, mais l’intelligence artificielle a introduit une nouvelle couche de complexité avec sa personnalisation des messages et ses capacités de masse. Il a noté qu’il existe différents types de phishing. Le plus courant est le phishing par e-mail, où les attaquants utilisent des e-mails frauduleux pour usurper l’identité d’organisations légitimes afin de voler des données personnelles. Il explique que le spear phishing et le whaling ciblent des individus et des entreprises en utilisant des techniques d’ingénierie sociale pour inciter les destinataires à accorder l’accès aux systèmes de l’entreprise, tandis que le smishing et le vishing impliquent des messages texte et des appels téléphoniques qui incitent les victimes à révéler des données sensibles ou à télécharger des logiciels malveillants.

– Les conseils et techniques pour la protection contre le phishing sont presque les mêmes qu’avant l’application de l’IA. Le premier est l’éducation des employés et la sensibilisation à la cybersécurité pour reconnaître les signes des e-mails de phishing tels que des adresses e-mail d’expéditeurs suspectes, des fautes d’orthographe, des demandes de soumission de mots de passe ou des demandes d’approbation pour accéder aux ressources informatiques. Les attaquants envoient souvent des messages qui incitent les employés à réagir rapidement, comme ‘vous devez changer votre mot de passe de toute urgence.’ Cela réduit le temps dont disposent les victimes pour remarquer les signes de phishing. Avertissez les employés de ne pas cliquer sur des liens ou de télécharger des pièces jointes provenant de sources non vérifiées et apprenez-leur comment signaler et bloquer de tels e-mails. Un contrôle interne est également nécessaire, surtout pour les paiements, en investissant dans des outils informatiques de qualité, l’authentification multi-facteurs, le filtrage avancé des e-mails, les mises à jour régulières des systèmes et des tests de phishing. Et une politique de protection contre les menaces et une approche de zéro confiance pour le réseau. En cas de violation, des étapes doivent être déterminées pour prévenir d’autres dommages, a averti Frankola.

Le phishing est la première méthode de livraison des ransomwares, a-t-il poursuivi, visant à amener la victime à télécharger un fichier qui se cache en arrière-plan de l’appareil de l’utilisateur et bloque bientôt l’accès à ses propres fichiers. L’attaquant extorque ensuite la victime pour qu’elle paie pour ‘déverrouiller’ l’accès à ses propres données ou elle les perdra. Frankola est convaincu que l’augmentation du phishing aura un impact sur l’augmentation des ransomwares.

– Il est impossible de réduire les attaques à zéro. Cependant, des outils d’IA peuvent également être utilisés pour identifier des cyberattaques potentielles en utilisant des outils de filtrage d’e-mails basés sur l’IA, et des algorithmes d’IA peuvent analyser les URL dans les e-mails ou les messages pour identifier des anomalies dans les noms de domaine. Certains outils d’IA peuvent être intégrés à des bases de données de menaces pour aider les entreprises à automatiser rapidement la reconnaissance de nouvelles tactiques de phishing, a déclaré Frankola.

Combinaison de plusieurs mesures

L’architecte en cybersécurité chez Hrvatski Telekom, Mladen Prekrat, souligne également qu’en plus de l’éducation continue des employés et des mises à niveau, des outils de sécurité avancés et l’intelligence artificielle, l’authentification multi-facteurs, les politiques et procédures de sécurité, la sauvegarde des données, l’analyse des comportements et les plans de récupération doivent être appliqués. L’utilisation de l’intelligence artificielle, selon Prekrat, inclut le développement d’algorithmes capables de reconnaître et de bloquer les messages de phishing avant qu’ils n’atteignent l’utilisateur final et d’aider à analyser de grandes quantités de données et de modèles. L’IA peut également faire partie d’un système de détection d’anomalies dans le trafic réseau, ce qui peut aider à la détection précoce des attaques, mais aucune mesure n’est efficace à 100 % à elle seule, et différentes approches doivent être incluses, soutient Prekrat. Sensibiliser les gens aux menaces posées par l’intelligence artificielle générative, en particulier avec des messages de phishing convaincants, nécessite une approche stratégique, donc Prekrat déclare qu’il est nécessaire de comprendre la menace, de créer le bon état d’esprit et une culture de sécurité.

– L’IA peut jouer un rôle clé dans la défense contre les cyberattaques et la reconnaissance des dangers car elle peut être utilisée dans la détection avancée des menaces, l’analyse des modèles et des temps de réponse plus rapides. L’application de l’IA peut améliorer considérablement la défense d’une organisation contre les attaques et les actions contre les menaces potentielles. Cependant, l’IA n’est pas parfaite et doit être utilisée en complément d’autres mesures et protocoles de sécurité.

Impliquer des hackers éthiques peut aider à tester et à renforcer les mesures de sécurité d’une organisation, et il est nécessaire de se conformer aux lois nationales et internationales. Il est également important d’assurer la sécurité physique des infrastructures et des appareils, a noté Prekrat.

CARNET, Secteur – Le CERT national rappelle qu’avant l’émergence de modèles d’intelligence artificielle basés sur le langage de plus en plus intelligents, la complexité de la langue croate était un obstacle significatif pour les cybercriminels dans la création de messages faux convaincants et diminuait le succès de leurs attaques. Maintenant, ont-ils dit, des messages de phishing convaincants et grammaticalement corrects sont créés, qui sont plus difficiles à reconnaître par la grammaire.

Ne payez pas de rançons

En plus de l’expéditeur, de la langue, de l’urgence, de la signature et des liens suspects, ils ont souligné qu’il est également nécessaire de considérer si le message est attendu, suspect et évoque une émotion chez le destinataire.

– Les employés doivent connaître les bases de l’hygiène de cybersécurité, prendre soin de leurs appareils professionnels et de l’accès aux ressources de l’entreprise, respecter les règles d’utilisation des équipements informatiques, des réseaux et d’autres ressources informatiques, mais aussi être conscients de leur propre responsabilité. Ils doivent vérifier et signaler toute action suspecte. En fonction de l’évaluation de la menace ou de l’incident signalé, il est nécessaire d’informer l’équipe CSIRT concernée, et en Croatie, le CERT national est responsable de tous les incidents dans les petites et moyennes entreprises et pour les citoyens. Les ransomwares peuvent causer des interruptions d’activité, des pertes de données, des dommages financiers et réputationnels, et l’intelligence artificielle générative permet même à des criminels moins qualifiés de mener des cyberattaques. Le CERT national conseille de ne pas payer de rançons pour les ransomwares car il est incertain que les attaquants rendront les données et qu’ils ne feront pas d’extorsion à nouveau. En payant la rançon, on peut devenir une cible pour d’autres attaquants, et les fonds obtenus sont investis par les attaquants dans l’infrastructure et le personnel. Des discussions sont en cours pour rendre les paiements de rançon illégaux, mais ce n’est certainement pas éthique. L’intelligence artificielle peut être utilisée pour la détection automatisée des menaces et des vulnérabilités, améliorant la sécurité en analysant le trafic, en accélérant le développement et les tests de sécurité, pour l’éducation et en testant la résilience des employés et de l’entreprise, a souligné le CERT national.

Culture de sécurité

Il est important d’utiliser des technologies de sécurité avancées qui incluent la détection d’anomalies, ce qui inclut également l’amélioration des filtres d’e-mails et l’utilisation d’outils de vérification qui peuvent aider à confirmer l’identité des expéditeurs de messages, a déclaré Marko Jertec, responsable du département de conseil en sécurité de l’information chez Setcor. Des formations régulières et des ateliers pour les employés peuvent aider à sensibiliser aux méthodes utilisées par les attaquants, y compris les campagnes de phishing par IA, mais il pense qu’il sera nécessaire de renforcer le cadre juridique régissant l’utilisation des technologies d’IA.

– À des fins éducatives, l’IA peut être appliquée à des exemples de création de messages faux convaincants et à la simulation d’attaques de phishing. Il est nécessaire de promouvoir une culture de sécurité, des vérifications régulières et des mises à jour des politiques de sécurité, la coopération avec des experts en sécurité, des industries et des agences gouvernementales. Bien qu’il n’existe pas de solution unique pour les ransomwares, la protection inclut toujours des pare-feu, des programmes antivirus et des mises à jour logicielles constantes de l’entreprise, y compris des systèmes d’exploitation et des applications. En plus des sauvegardes de données, la segmentation du réseau est importante pour limiter l’accès entre ses différentes parties. Des parties de l’intelligence artificielle sont utilisées par exemple pour la détection d’anomalies et de comportements, apprenant à partir de données historiques et reconnaissant un comportement normal au sein du réseau. Chaque fois qu’il y a une déviation par rapport aux modèles habituels, comme un transfert inattendu d’une grande quantité de données ou l’accès à des ressources sensibles à des moments inhabituels, l’IA peut alerter les équipes de sécurité d’une menace potentielle. Elle peut également simuler des attaques et répondre automatiquement et s’intégrer aux solutions de sécurité existantes, décrit Jertec.

En plus de l’éducation, pour l’expert en préventes TIC chez A1 Hrvatska, Tina Herljević, les mesures technologiques sont un élément clé de la défense, utilisant des systèmes avancés pour filtrer et identifier des messages suspects, et l’authentification à deux facteurs ou l’authentification biométrique compliquent encore l’accès des attaquants aux comptes, même s’ils parviennent à obtenir des données utilisateur. Il conseille de surveiller l’activité du réseau et l’analyse des données, de mettre à jour les logiciels et les systèmes d’exploitation, d’utiliser des outils antivirus et antimalware fiables qui peuvent scanner le système pour détecter des fichiers et des actions suspects et réagir avant que l’ensemble du système ne soit corrompu. La création régulière de sauvegardes, a-t-il poursuivi, permet une récupération plus rapide des données en cas d’attaque par ransomware, réduisant ainsi les pertes et les interruptions d’activité. Les solutions de sécurité telles que les pare-feu ou les systèmes IDS/IPS peuvent, selon Herljević, surveiller le trafic réseau et identifier des actions suspectes et protéger automatiquement le système.