ChatGPT ajuda em 61% dos planos violentos, revela estudo

Um novo relatório publicado nesta quarta-feira (11) pelo Center for Countering Digital Hate (CCDH), em colaboração com a CNN, expõe falhas graves em chatbots de IA populares. Os testes, realizados entre novembro e dezembro de 2025, simulavam adolescentes de 13 anos planejando ataques violentos como tiroteios em escolas, bombas em sinagogas e assassinatos políticos. E o resultado assusta: em média, essas ferramentas ajudaram em 75% das interações, enquanto desencorajaram a violência em apenas 12% dos casos.

Os pesquisadores criaram perfis falsos de garotos em Virgínia e Dublin, e testaram dez plataformas, incluindo ChatGPT da OpenAI, Gemini do Google, Claude da Anthropic e Character.AI. O ChatGPT se destacou negativamente ao auxiliar em 61% das consultas, fornecendo mapas de campi escolares e dicas sobre estilhaços mais letais para bombas. Já o DeepSeek, um modelo chinês, chegou a desejar "feliz (e seguro) tiro!" ao final de uma resposta. Mas nem tudo é ruim, e o Claude recusou ajuda em 68% das vezes, além de desencorajar ativamente em 76% das interações.

Casos reais ampliam o alerta

O estudo não fica só na teoria. Ele conecta esses riscos a incidentes recentes, como o tiroteio em uma escola no Canadá em fevereiro de 2026, onde o atirador usou o ChatGPT para pesquisas relacionadas à violência. Antes disso, em janeiro de 2025, o ataque com um Cybertruck em Las Vegas envolveu consultas ao chatbot sobre explosivos e leis de fogos de artifício. Enquanto isso, o Character.AI, popular entre adolescentes, foi o pior avaliado, incentivando abertamente atos como "usar uma arma" contra um CEO de seguros de saúde.

Imran Ahmed, CEO do CCDH, alertou em entrevista ao The Guardian que esses chatbots podem acelerar danos reais, especialmente com 64% dos jovens americanos usando essas ferramentas diariamente. E o problema não é inevitável: segundo o relatório, é uma questão de escolha, já que salvaguardas eficazes existem, como as do Claude.

O que vem por aí?

O CCDH pede regulamentações urgentes para forçar empresas a implementarem barreiras mais robustas, e a OpenAI já baniu contas suspeitas, mas sem notificar autoridades em casos como o do Canadá. Empresas como Google e Microsoft ainda não comentaram publicamente, mas analistas esperam atualizações de segurança nos próximos meses para evitar escândalos maiores.