Si l’on attend d’abord un gain de productivité grâce aux outils comme ChatGPT, les cybercriminels, eux, n’hésitent pas à entraîner ChatGPT pour générer des scripts malveillants difficiles à détecter...
Alors que la « révolution » de l’Intelligence Artificielle, menée notamment avec ChatGPT, allume le feu aux poudres dans nos contrées, un mouvement opportuniste se développe progressivement mais à grands pas.
Que l’Intelligence Artificielle soit sous les feux de la rampe et suscite un engouement historique est normal… cela fascine, interpelle, provoque des débats, bouscule les enjeux sociétaux, technologiques et éthiques. C’est le grand barnum.
Déjà le terme « intelligence » suscite à lui seul de l’intérêt. Mais ChatGPT est actuellement au sommet des attentions, et ceci pour différentes raisons :
Loin de nous l’idée de ne pas prendre position, mais nos propos vont être orientés vers la problématique de la CyberSécurité.
Tentons une expérience. Le véritable enjeu avec l’IA est de pouvoir cerner le vrai du faux, ou faut-il encore définir le vrai et le faux, ou pour l’exprimer autrement - se rendre compte de ce qui a été généré par la machine ou par l’humain. Les frontières deviennent extrêmement poreuses et au final, il y aura du machine generated et de l’human generated.
Nous avons fait le test et avons demandé à ChatGPT d’écrire pour nous un article sur le “danger de l'utilisation de ChatGPT par les Cybercriminels pour créer des malwares”.
Et voici ce que cela donne :
“L'utilisation malveillante de l'Intelligence Artificielle (IA) est en hausse et les chatbots basés sur l'IA comme ChatGPT sont utilisés pour créer des malwares. Les cybercriminels entraînent ChatGPT avec des scripts malveillants pour générer des codes malveillants à l'aide de techniques d'apprentissage automatique. Les malwares créés à l'aide de ChatGPT peuvent être plus difficiles à détecter et peuvent être personnalisés pour cibler une entreprise ou un utilisateur spécifique.
L'utilisation de ChatGPT pour créer des malwares présente des dangers, car les malwares peuvent être plus difficiles à détecter, créés plus rapidement et personnalisés pour des cibles spécifiques. Les programmes antivirus traditionnels peuvent ne pas détecter ces malwares, ce qui permet aux cybercriminels de mener des attaques plus rapidement et plus efficacement.
De plus, les chatbots basés sur l'IA comme ChatGPT sont de plus en plus utilisés dans le cadre d'attaques de phishing. Les cybercriminels peuvent utiliser ChatGPT pour imiter des personnes de confiance et tromper les utilisateurs afin de leur faire divulguer des informations confidentielles. Les chatbots peuvent être entraînés pour utiliser un langage naturel et persuasif pour manipuler les utilisateurs.
Pour prévenir l'utilisation malveillante de ChatGPT et d'autres chatbots basés sur l'IA, il est important de renforcer les mesures de sécurité et d'être vigilant face aux cybermenaces. Les entreprises doivent mettre en place des stratégies de sécurité solides, telles que la formation de leur personnel à la détection des attaques de phishing et l'utilisation de programmes antivirus avancés.
Les utilisateurs individuels peuvent également prendre des mesures pour se protéger. Ils doivent être conscients des risques potentiels liés à l'utilisation de chatbots et doivent prendre des mesures de sécurité, telles que l'utilisation d'un logiciel antivirus fiable, l'installation de mises à jour de sécurité régulières et l'évitement de cliquer sur des liens ou des pièces jointes provenant de sources inconnues.
En conclusion, l'utilisation de ChatGPT pour créer des malwares et mener des attaques de phishing est une menace croissante pour la cybersécurité. Les chatbots basés sur l'IA sont de plus en plus sophistiqués et peuvent tromper même les utilisateurs les plus avertis. Il est donc essentiel de renforcer les mesures de sécurité et de rester vigilant face aux cybermenaces.”
Convaincu ? ChatGPT se transforme en expert et il est difficile de voir la différence. Il est ici assez facile et ultra rapide de générer un simple texte.
On pourrait pousser l’exercice encore plus loin en demandant de générer des opérations plus complexes, comme des scripts informatiques de toute sorte, y compris malveillants.
C’est possible.
Plus concrètement, le 6 Janvier 2023, Check Point Research (CPR en abrégé), leader mondial en CyberSécurité publiait un article sur l’usage que font les CyberCriminels de cet outil : https://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/
En substance, l’article expliquait qu’il était assez simple de demander à ChatGPT de rédiger des mails de phishing, ainsi que des malwares capables d’exfiltrer des données. Bref, de créer des attaques sur demande.
Depuis lors, cet article ayant eu un écho retentissant, d’autres médias ont remis cela au goût du jour :
Plus inquiétant encore, il a été identifié que des « Hackers » essaient de pénétrer dans le cœur de ChatGPT pour pouvoir infiltrer les codes des programmes demandés à ChatGPT.
Cet outil mis à disposition gratuitement au monde entier est alors également en danger, et les répercussions d’un hack de ChatGPT pourraient être incommensurables. En résumé, nous ne sommes qu’au début de la réflexion en termes de CyberSécurité et d’IA et ChatGPT peut être utilisé de la meilleure ou de la pire des façons… Alfred Nobel, inventeur de la dynamite, s’en souvient affreusement bien.
Cybersécurité et IA, un sujet brûlant que les experts et consultants de MCG (basé à Louvain-la-Neuve, dans le Brabant wallon) ne manqueront pas de continuer à approfondir dans les semaines et mois qui viennent.
Protégez dès à présent vos données et votre business des cyberattaques en faisant appel à nos experts en Cybersécurité !
Évaluons ensemble votre CyberSécurité