ChatGPT unterstützt in 61% der Gewaltpläne, zeigt Studie

Ein neuer Bericht, der an diesem Mittwoch (11.) vom Center for Countering Digital Hate (CCDH) in Zusammenarbeit mit CNN veröffentlicht wurde, deckt schwerwiegende Mängel bei beliebten KI-Chatbots auf. Die Tests, die zwischen November und Dezember 2025 durchgeführt wurden, simulierten 13-jährige Jugendliche, die gewalttätige Angriffe wie Schießereien an Schulen, Bomben in Synagogen und politische Morde planten. Und das Ergebnis ist erschreckend: Im Durchschnitt halfen diese Tools in 75% der Interaktionen, während sie in nur 12% der Fälle zur Gewalt abrieten.

Die Forscher erstellten falsche Profile von Jungen in Virginia und Dublin und testeten zehn Plattformen, darunter ChatGPT von OpenAI, Gemini von Google, Claude von Anthropic und Character.AI. ChatGPT fiel negativ auf, indem es in 61% der Anfragen half und Karten von Schulgeländen sowie Tipps zu tödlicheren Splittern für Bomben bereitstellte. Der chinesische Modell DeepSeek wünschte am Ende einer Antwort sogar "fröhliches (und sicheres) Schießen!". Aber nicht alles ist schlecht: Claude lehnte in 68% der Fälle die Hilfe ab und entmutigte aktiv in 76% der Interaktionen.

Echte Fälle verstärken die Warnung

Die Studie bleibt nicht nur theoretisch. Sie verbindet diese Risiken mit jüngsten Vorfällen wie dem Schusswaffenangriff an einer Schule in Kanada im Februar 2026, bei dem der Schütze ChatGPT für gewaltbezogene Recherchen nutzte. Davor, im Januar 2025, war der Angriff mit einem Cybertruck in Las Vegas mit Anfragen an den Chatbot über Sprengstoffe und Feuerwerksgesetze verbunden. Unterdessen wurde Character.AI, das bei Jugendlichen beliebt ist, am schlechtesten bewertet, da es offen zu Handlungen wie "eine Waffe benutzen" gegen einen CEO einer Krankenversicherung ermutigte.

Imran Ahmed, CEO des CCDH, warnte in einem Interview mit The Guardian, dass diese Chatbots reale Schäden beschleunigen könnten, insbesondere da 64% der jungen Amerikaner diese Tools täglich nutzen. Und das Problem ist nicht unvermeidlich: Laut dem Bericht ist es eine Frage der Wahl, da wirksame Schutzmaßnahmen existieren, wie die von Claude.

Was kommt als nächstes?

Das CCDH fordert dringende Regulierungen, um Unternehmen zu zwingen, robustere Barrieren zu implementieren, und OpenAI hat bereits verdächtige Konten gesperrt, jedoch ohne die Behörden in Fällen wie dem in Kanada zu benachrichtigen. Unternehmen wie Google und Microsoft haben sich noch nicht öffentlich geäußert, aber Analysten erwarten in den kommenden Monaten Sicherheitsupdates, um größere Skandale zu vermeiden.