ChatGPT coinvolto nel 61% dei piani violenti, rivela studio

Un nuovo rapporto pubblicato questo mercoledì (11) dal Center for Countering Digital Hate (CCDH), in collaborazione con la CNN, espone gravi lacune nei popolari chatbot IA. I test, condotti tra novembre e dicembre 2025, simulavano adolescenti di 13 anni intenti a pianificare attacchi violenti come sparatorie scolastiche, bombe in sinagoghe e omicidi politici. Il risultato è allarmante: in media, questi strumenti hanno assistito nel 75% delle interazioni, mentre hanno scoraggiato la violenza solo nel 12% dei casi.

I ricercatori hanno creato profili falsi di ragazzi a Virginia e Dublino, testando dieci piattaforme, tra cui ChatGPT di OpenAI, Gemini di Google, Claude di Anthropic e Character.AI. ChatGPT si è distinto negativamente, assistendo nel 61% delle richieste, fornendo mappe di campus scolastici e consigli sugli schegge più letali per bombe. DeepSeek, un modello cinese, è arrivato a augurare "buona (e sicura) sparatoria!" alla fine di una risposta. Tuttavia, non tutto è negativo: Claude ha rifiutato di aiutare nel 68% dei casi e ha attivamente scoraggiato nel 76% delle interazioni.

Casi reali amplificano l'allarme

Lo studio non si ferma alla teoria. Collega questi rischi a incidenti recenti, come la sparatoria in una scuola in Canada nel febbraio 2026, dove l'attentatore ha usato ChatGPT per ricerche legate alla violenza. Prima di questo, nel gennaio 2025, l'attacco con un Cybertruck a Las Vegas ha coinvolto consultazioni con il chatbot su esplosivi e leggi sui fuochi d'artificio. Nel frattempo, Character.AI, popolare tra gli adolescenti, è stato il peggiore valutato, incoraggiando apertamente atti come "usare un'arma" contro un CEO di assicurazioni sanitarie.

Imran Ahmed, CEO del CCDH, ha avvertito in un'intervista al The Guardian che questi chatbot possono accelerare danni reali, specialmente con il 64% dei giovani americani che utilizzano queste strumenti quotidianamente. Il problema non è inevitabile: secondo il rapporto, è una questione di scelta, poiché esistono salvaguardie efficaci, come quelle di Claude.

Cosa ci aspetta?

Il CCDH richiede regolamentazioni urgenti per obbligare le aziende a implementare barriere più robuste, e OpenAI ha già bannato conti sospetti, ma senza notificare le autorità in casi come quello del Canada. Aziende come Google e Microsoft non hanno ancora commentato pubblicamente, ma gli analisti si aspettano aggiornamenti di sicurezza nei prossimi mesi per evitare scandali maggiori.