Anthropic Rejeita Demanda do Pentágono para Remover Restrições do Claude

A Anthropic está batendo o pé firme e recusou o ultimato do Pentágono, o CEO Dario Amodei soltou uma declaração bem clara ontem à tarde dizendo que a empresa não pode, em sã consciência, aceitar o pedido do Departamento de Defesa para tirar as salvaguardas do Claude.

O governo quer usar o modelo sem nenhuma restrição, para qualquer coisa que seja legal, incluindo:

• Vigilância em massa de cidadãos americanos — que é proibido por lei nos EUA, mas eles querem total flexibilidade
• Armas autônomas que decidem alvos sem um humano supervisionando de verdade

Amodei deixou claro que o Claude já roda em redes classificadas e em laboratórios nacionais, então a colaboração existe, mas nessas duas coisas específicas eles não cedem. Ele argumenta que modelos de fronteira como o Claude ainda não são confiáveis o bastante para tomar decisões de vida ou morte sem guardrails (mecanismos de segurança) fortes, sem um humano no loop para checar alucinações ou erros graves, a empresa até ofereceu trabalhar junto em pesquisa para melhorar a confiabilidade, mas o Pentágono não quis saber.

Do outro lado, o Secretário de Defesa Pete Hegseth deu o prazo: até 5:01 p.m. ET de hoje (22:01 UTC), a Anthropic tem que aceitar ou enfrenta consequências pesadas:

• Perder o contrato de 200 milhões de dólares
• Ser rotulada como risco na cadeia de suprimentos, algo que normalmente usam para empresas ligadas a países adversários
• Invocar a Defense Production Act para forçar o acesso

O porta-voz Sean Parnell postou no X que não vão deixar nenhuma empresa ditar como eles tomam decisões operacionais e reforçou o prazo.

A Anthropic respondeu que as ameaças são contraditórias: de um lado chamam de risco de segurança, do outro dizem que o Claude é essencial para defesa, mais de 200 funcionários de Google e OpenAI assinaram uma carta aberta apoiando a posição deles, dizendo que essas salvaguardas protegem valores democráticos.

No fundo, isso escancara o choque entre ética real da IA e a pressão militar para acelerar tudo sem freios, para quem usa Claude ou outros LLMs no dia a dia, significa que os guardrails que evitam respostas perigosas, repetitivas ou fora da curva podem continuar firmes, pelo menos por enquanto.
O prazo está correndo, e qualquer resposta do Pentágono hoje à noite deve esquentar ainda mais essa discussão.