Anthropic lehnt Pentagons Forderung zur Aufhebung der Claude-Beschränkungen ab

Anthropic zeigt sich standhaft und hat das Ultimatum des Pentagons zurückgewiesen. CEO Dario Amodei gab gestern Nachmittag eine klare Erklärung ab, dass das Unternehmen nicht guten Gewissens der Forderung des Verteidigungsministeriums nachkommen kann, die Sicherheitsvorkehrungen von Claude aufzuheben.

Die Regierung möchte das Modell ohne jegliche Einschränkungen verwenden, für alles, was legal ist, einschließlich:

• Massenüberwachung von US-Bürgern — was in den USA gesetzlich verboten ist, aber sie wollen volle Flexibilität
• Autonome Waffen, die Ziele ohne echte menschliche Überwachung auswählen

Amodei stellte klar, dass Claude bereits in klassifizierten Netzwerken und in nationalen Laboren eingesetzt wird, die Zusammenarbeit also existiert, aber bei diesen beiden spezifischen Punkten geben sie nicht nach. Er argumentiert, dass Grenzmodelle wie Claude noch nicht zuverlässig genug sind, um lebenswichtige Entscheidungen ohne starke Sicherheitsvorkehrungen zu treffen, ohne einen Menschen im Prozess, der Halluzinationen oder schwerwiegende Fehler überprüft. Das Unternehmen bot sogar an, gemeinsam an der Forschung zu arbeiten, um die Zuverlässigkeit zu verbessern, aber das Pentagon wollte davon nichts wissen.

Auf der anderen Seite setzte Verteidigungsminister Pete Hegseth eine Frist: Bis 17:01 Uhr ET heute (22:01 UTC) muss Anthropic akzeptieren oder es drohen schwere Konsequenzen:

• Verlust des 200-Millionen-Dollar-Vertrags
• Einstufung als Risiko in der Lieferkette, was normalerweise für Unternehmen gilt, die mit gegnerischen Ländern verbunden sind
• Anwendung des Defense Production Act, um den Zugang zu erzwingen

Sprecher Sean Parnell postete auf X, dass sie kein Unternehmen zulassen werden, das ihre operativen Entscheidungen diktiert, und betonte die Frist.

Anthropic antwortete, dass die Drohungen widersprüchlich sind: Einerseits werden sie als Sicherheitsrisiko bezeichnet, andererseits wird gesagt, dass Claude für die Verteidigung unerlässlich sei. Über 200 Mitarbeiter von Google und OpenAI unterzeichneten einen offenen Brief, in dem sie die Position von Anthropic unterstützen und sagten, dass diese Sicherheitsvorkehrungen demokratische Werte schützen.

Im Grunde zeigt dies den Konflikt zwischen der echten Ethik der KI und dem militärischen Druck, alles ohne Hemmungen zu beschleunigen. Für diejenigen, die Claude oder andere LLMs im Alltag nutzen, bedeutet dies, dass die Sicherheitsvorkehrungen, die gefährliche, sich wiederholende oder untypische Antworten verhindern, zumindest vorerst bestehen bleiben können. Die Frist läuft, und jede Antwort des Pentagons heute Abend könnte diese Diskussion weiter anheizen.