Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Boko Haram et ISIS exploitent ChatGPT et Gemini pour des attaques
Des groupes terroristes utilisent chaque principal chatbot IA pour la planification d'attaques et le développement d'armes.
ISIS aurait commencé à proposer des formations en prompt engineering et en contournement de sécurité depuis 2023, formant des commandants de Boko Haram au Nigeria sur la manière de contourner les filtres de sécurité des IA.
Boko Haram utilise désormais des chatbots IA populaires tels que ChatGPT, Claude, Gemini, Grok, Meta AI et DeepSeek. Selon une nouvelle étude de la chercheuse Antonia Jülich du Cambridge Programme on AI Science & Policy (CASP), les deux factions du groupe ont mis en place des unités IA dédiées. Jülich a réalisé 57 entretiens avec 27 anciens membres du groupe.
L'étude a révélé que le groupe utilise l'IA pour :
- La planification d'attaques
- La fabrication d'appareils explosifs plus puissants
- L'entretien des armes
- La sécurité opérationnelle
Des liaisons d'ISIS ont formé des commandants sur la manière de contourner les filtres de sécurité. Les deux factions de Boko Haram ont créé leurs propres unités IA dédiées. Selon Jülich, ils ont "réuni les meilleurs éléments dans une pièce et utilisé un projecteur pour montrer comment cela fonctionne sur un grand écran."
Dans un cas particulièrement frappant, la faction ISWAP a utilisé l'IA pour reproduire des techniques de saut à moto d'un film afin que les combattants puissent franchir des tranchées. Dix-huit combattants sont morts lors de l'entraînement, tandis que huit ont réussi le saut.
Un ancien commandant d'ISWAP (Munzir) raconte à la chercheuse Antonia Jülich comment le groupe a utilisé l'IA pour apprendre à sauter par-dessus des tranchées à moto.
Mais bien sûr, cela ne s'arrête pas aux cascades à moto. "Des anciens membres ont décrit un fort enthousiasme pour l'IA, et certains ont déclaré que le groupe avait précédemment envisagé des armes à effets de masse," écrit Jülich. "Bien que l'utilisation de l'IA par Boko Haram reste conventionnelle, cela devrait être un avertissement pour prendre au sérieux le risque que des terroristes recherchent une assistance IA pour des armes chimiques et biologiques."
Des chercheurs ainsi que des laboratoires d'IA comme OpenAI et Anthropic ont longtemps averti que les modèles d'IA pourraient rendre des connaissances dangereuses plus accessibles. Mais l'autorégulation volontaire ne semble pas suffire, car l'étude a révélé que les filtres de sécurité échouaient à prévenir de manière fiable les abus. Cela pourrait simplement être la nature des grands modèles de langage : Anthropic a récemment admis que les contournements de sécurité ne seront probablement jamais complètement éliminés.
Les chercheurs soulignent également que des chatbots comme ChatGPT et Claude, bien qu'ils aient attiré l'attention du public, ne sont pas la véritable préoccupation, car ils facilitent principalement la recherche de connaissances existantes plutôt que de générer quelque chose de nouveau. La plus grande inquiétude réside dans le potentiel d'abus de systèmes IA plus spécialisés dans les sciences de la vie.
