Anthropic rejette la demande du Pentagone de lever les restrictions de Claude

Anthropic reste ferme et a refusé l'ultimatum du Pentagone. Le PDG Dario Amodei a publié hier après-midi une déclaration très claire affirmant que l'entreprise ne peut pas, en toute conscience, accepter la demande du Département de la Défense de supprimer les garde-fous de Claude.

Le gouvernement souhaite utiliser le modèle sans aucune restriction, pour tout ce qui est légal, y compris :

• La surveillance de masse des citoyens américains — interdite par la loi aux États-Unis, mais ils veulent une flexibilité totale
• Des armes autonomes qui décident des cibles sans véritable supervision humaine

Amodei a clairement indiqué que Claude fonctionne déjà sur des réseaux classifiés et dans des laboratoires nationaux, donc la collaboration existe, mais pour ces deux points spécifiques, ils ne cèdent pas. Il argumente que les modèles de pointe comme Claude ne sont pas encore assez fiables pour prendre des décisions de vie ou de mort sans des garde-fous solides, sans un humain dans la boucle pour vérifier les hallucinations ou les erreurs graves. L'entreprise a même proposé de travailler ensemble sur la recherche pour améliorer la fiabilité, mais le Pentagone n'a rien voulu entendre.

D'un autre côté, le Secrétaire à la Défense Pete Hegseth a fixé une échéance : jusqu'à 17h01 ET aujourd'hui (22h01 UTC), Anthropic doit accepter ou faire face à de lourdes conséquences :

• Perdre le contrat de 200 millions de dollars
• Être qualifiée de risque dans la chaîne d'approvisionnement, une étiquette généralement réservée aux entreprises liées à des pays adversaires
• Invoquer la Defense Production Act pour forcer l'accès

Le porte-parole Sean Parnell a posté sur X qu'ils ne laisseront aucune entreprise dicter comment ils prennent des décisions opérationnelles et a renforcé le délai.

Anthropic a répondu que les menaces sont contradictoires : d'un côté, ils sont qualifiés de risque pour la sécurité, de l'autre, ils disent que Claude est essentiel pour la défense. Plus de 200 employés de Google et OpenAI ont signé une lettre ouverte soutenant leur position, affirmant que ces garde-fous protègent les valeurs démocratiques.

En fin de compte, cela met en lumière le choc entre l'éthique réelle de l'IA et la pression militaire pour tout accélérer sans freins. Pour ceux qui utilisent Claude ou d'autres LLMs au quotidien, cela signifie que les garde-fous qui évitent les réponses dangereuses, répétitives ou hors norme peuvent rester en place, au moins pour l'instant. Le délai court, et toute réponse du Pentagone ce soir devrait encore plus enflammer cette discussion.