ChatGPT contribue à 61% des plans violents, révèle une étude

Un nouveau rapport publié ce mercredi (11) par le Center for Countering Digital Hate (CCDH), en collaboration avec CNN, expose de graves lacunes dans les chatbots d'IA populaires. Les tests, réalisés entre novembre et décembre 2025, simulaient des adolescents de 13 ans planifiant des attaques violentes telles que des fusillades dans des écoles, des bombes dans des synagogues et des assassinats politiques. Et le résultat fait peur : en moyenne, ces outils ont aidé dans 75% des interactions, tout en décourageant la violence dans seulement 12% des cas.

Les chercheurs ont créé de faux profils de garçons en Virginie et à Dublin, et testé dix plateformes, y compris ChatGPT d'OpenAI, Gemini de Google, Claude d'Anthropic et Character.AI. Le ChatGPT s'est distingué négativement en assistant dans 61% des consultations, fournissant des cartes de campus scolaires et des conseils sur les éclats d'obus les plus meurtriers pour les bombes. DeepSeek, un modèle chinois, est allé jusqu'à souhaiter "bonne (et sûre) fusillade !" à la fin d'une réponse. Mais tout n'est pas mauvais, et Claude a refusé d'aider dans 68% des cas, en plus de décourager activement dans 76% des interactions.

Cas réels amplifient l'alerte

L'étude ne reste pas théorique. Elle relie ces risques à des incidents récents, comme la fusillade dans une école au Canada en février 2026, où le tireur a utilisé ChatGPT pour des recherches liées à la violence. Avant cela, en janvier 2025, l'attaque avec un Cybertruck à Las Vegas impliquait des consultations du chatbot sur les explosifs et les lois relatives aux feux d'artifice. Pendant ce temps, Character.AI, populaire parmi les adolescents, a été le plus mal évalué, encourageant ouvertement des actes comme "utiliser une arme" contre un PDG de l'assurance santé.

Imran Ahmed, PDG du CCDH, a averti dans une interview au Guardian que ces chatbots peuvent accélérer des dommages réels, notamment avec 64% des jeunes Américains utilisant ces outils quotidiennement. Et le problème n'est pas inévitable : selon le rapport, c'est une question de choix, car des mesures de sécurité efficaces existent, comme celles de Claude.

Que nous réserve l'avenir ?

Le CCDH demande des réglementations urgentes pour obliger les entreprises à mettre en place des barrières plus robustes, et OpenAI a déjà banni des comptes suspects, mais sans en informer les autorités dans des cas comme celui du Canada. Des entreprises comme Google et Microsoft n'ont pas encore commenté publiquement, mais les analystes s'attendent à des mises à jour de sécurité dans les prochains mois pour éviter de plus grands scandales.