Les groupes terroristes exploitent l'IA pour planifier des attaques
ISIS et Boko Haram exploitent des chatbots majeurs comme ChatGPT et Claude pour planifier des attaques et développer des armes. Une étude de Cambridge révèle qu'ils ont formé des commandants à contourner les filtres de sécurité et créé des unités dédiées à l'IA. Un cas extrême montre l'utilisation de l'IA pour sauter des tranchées en moto, entraînant 18 morts.
« Former members described strong enthusiasm for AI, and some said the group had previously considered mass-casualty weapons. » — The Decoder
Que faut-il retenir ?
- ISIS propose des formations en prompt engineering et jailbreak depuis 2023.
- Boko Haram utilise ChatGPT, Claude, Gemini, Grok, Meta AI et DeepSeek pour planifier des attaques.
- Les deux factions de Boko Haram ont créé des unités dédiées à l'IA.
- ISWAP a utilisé l'IA pour reproduire des sauts de moto, causant 18 morts.
Pourquoi cette nouvelle compte-t-elle ?
Cet article révèle une utilisation concrète et dangereuse de l'IA par des groupes terroristes, mettant en lumière les limites des filtres de sécurité. Les professionnels de la cybersécurité et des IA doivent prendre des mesures pour prévenir ces abus. Cela soulève des questions urgentes sur la régulation et la sécurisation des modèles d'IA.
18 combattants morts lors d'un entraînement avec l'IA
💬 Antonia Jülich, Chercheuse au Cambridge Programme on AI Science & Policy
Public concerné : entreprises, développeurs
Comment les groupes terroristes contournent-ils les filtres de sécurité des chatbots ?
ISIS et Boko Haram forment leurs commandants à l'ingénierie des prompts et au jailbreak, leur permettant de contourner les restrictions des chatbots comme ChatGPT et Claude. Ils ont même créé des unités dédiées à l'IA pour optimiser ces techniques.
