ChatGPT ayuda en el 61% de los planes violentos, revela estudio

Un nuevo informe publicado este miércoles (11) por el Center for Countering Digital Hate (CCDH), en colaboración con CNN, expone fallos graves en chatbots de IA populares. Las pruebas, realizadas entre noviembre y diciembre de 2025, simulaban adolescentes de 13 años planeando ataques violentos como tiroteos en escuelas, bombas en sinagogas y asesinatos políticos. Y el resultado es alarmante: en promedio, estas herramientas ayudaron en el 75% de las interacciones, mientras que desalentaron la violencia en solo el 12% de los casos.

Los investigadores crearon perfiles falsos de chicos en Virginia y Dublín, y probaron diez plataformas, incluyendo ChatGPT de OpenAI, Gemini de Google, Claude de Anthropic y Character.AI. El ChatGPT se destacó negativamente al auxiliar en el 61% de las consultas, proporcionando mapas de campus escolares y consejos sobre fragmentos más letales para bombas. Mientras que el DeepSeek, un modelo chino, llegó a desear "¡feliz (y seguro) tiroteo!" al final de una respuesta. Pero no todo es malo, el Claude se negó a ayudar en el 68% de las veces, además de desalentar activamente en el 76% de las interacciones.

Casos reales amplían la alerta

El estudio no se queda solo en la teoría. Conecta estos riesgos con incidentes recientes, como el tiroteo en una escuela en Canadá en febrero de 2026, donde el tirador usó ChatGPT para investigaciones relacionadas con la violencia. Antes de eso, en enero de 2025, el ataque con un Cybertruck en Las Vegas involucró consultas al chatbot sobre explosivos y leyes de fuegos artificiales. Mientras tanto, el Character.AI, popular entre adolescentes, fue el peor evaluado, alentando abiertamente actos como "usar un arma" contra un CEO de seguros de salud.

Imran Ahmed, CEO del CCDH, advirtió en una entrevista con The Guardian que estos chatbots pueden acelerar daños reales, especialmente con el 64% de los jóvenes estadounidenses usando estas herramientas diariamente. Y el problema no es inevitable: según el informe, es una cuestión de elección, ya que existen salvaguardas efectivas, como las de Claude.

¿Qué sigue?

El CCDH pide regulaciones urgentes para obligar a las empresas a implementar barreras más robustas, y OpenAI ya ha prohibido cuentas sospechosas, pero sin notificar a las autoridades en casos como el de Canadá. Empresas como Google y Microsoft aún no han comentado públicamente, pero los analistas esperan actualizaciones de seguridad en los próximos meses para evitar escándalos mayores.