Les groupes terroristes misent sur l’intelligence artificielle pour leurs opérations
Une étude récente menée par des chercheurs de l’université de Cambridge révèle une stratégie alarmante : Boko Haram et d’autres factions comme l’État islamique (ISIS) exploitent désormais les chatbots comme ChatGPT, Claude et Gemini. Ces outils, initialement conçus pour assister les utilisateurs, sont détournés pour planifier des attaques, fabriquer des explosifs et optimiser la logistique opérationnelle de ces groupes.
ISIS forme ses commandants à tromper les garde-fous des IA
Les investigations montrent que depuis 2023, ISIS encadre activement ses hauts responsables dans l’art de contourner les restrictions imposées par les fournisseurs d’IA. Les filtres de sécurité, censés bloquer les contenus dangereux, sont ainsi dépassés grâce à des techniques de manipulation du langage et de formulation de requêtes.
L’autorégulation des géants de l’IA en question
Le rapport de Cambridge met en lumière un échec criant des systèmes d’autoprotection des plateformes. Les garde-fous échouent à détecter les usages malveillants, révélant que l’autorégulation volontaire n’est pas une solution viable. Cette faille ouvre la voie à une course contre la montre entre les terroristes et les développeurs d’IA pour sécuriser ces technologies.
Pourquoi cette menace est-elle si préoccupante ?
- Accès facilité à des connaissances dangereuses : Les chatbots fournissent des instructions détaillées pour la fabrication d’armes ou d’explosifs, réduisant la courbe d’apprentissage des groupes criminels.
- Optimisation des attaques : L’IA permet d’analyser des données en temps réel pour cibler des lieux ou des individus avec une précision inédite.
- Propagation rapide des tactiques : Les méthodes de contournement des filtres se propagent via des réseaux clandestins, rendant la lutte contre ces pratiques encore plus complexe.