- OpenAI anunciou acordo com o Pentágono mantendo as suas linhas vermelhas: proibição de vigilância em massa de americanos e de armas autônomas letais, conforme afirma o CEO Sam Altman.
- O Pentágono não cedeu; o acordo da OpenAI funciona dentro de leis existentes e políticas do DoD, mas é mais brando do que o pedido da Anthropic.
- O texto menciona “qualquer uso legal” como base para o uso da tecnologia, o que, segundo fontes, pode permitir coleta e análise de dados de cidadãos, dependendo de interpretações legais.
- Anthropic foi sinalizada como risco de cadeia de suprimentos após falhas nas negociações; Trump e assessores defenderam que militares decidem o rumo, não empresas de tecnologia.
- Altman disse que há salvaguardas técnicas, como classificadores, mas especialistas alertam que tais mecanismos têm alcance limitado para impedir usos indevidos.
OpenAI anunciou na sexta-feira, após o impasse entre o Departamento de Defesa e a Anthropic, que firmou novos termos com o Pentágono. A medida ocorreu pouco depois de o governo dos EUA ter movido procédure para colocar Anthropic em queda de linha por não aceitar certas restrições. A versão de OpenAI reforça que as linhas vermelhas de segurança foram preservadas na assinatura.
Segundo a empresa, o acordo reflete princípios de segurança, como a proibição de vigilância doméstica em massa e a responsabilidade humana no uso de força, incluindo sistemas autônomos letais. A OpenAI afirmou que o Pentágono reconhece essas diretrizes e as incorporou à política e à lei aplicável ao contrato.
Fontes ligadas às negociações disseram que o texto de OpenAI é mais brando do que o proposto pela Anthropic, em grande parte por aceitar o conceito de uso legalmente permissível. A justificativa é que a lei existente ainda permite coletar e analisar dados em grande escala, desde que tecnicamente lícito.
O que mudou e o que permanece
OpenAI afirmou que o acordo impede coleta ou análise de dados de americanos de forma bulk ou geral. A empresa sustenta que as salvaguardas técnicas ajudam a manter as suas linhas vermelhas, como a responsabilização humana pelo uso de força.
No entanto, analistas disseram que as salvaguardas, como classificadores, têm alcance limitado. Em caso de determinação legal, o governo poderia usar o sistema de forma ampla, mesmo com as proteções propostas pela OpenAI.
Anthropic, por sua vez, mantinha a exigência de proibir completamente armas autônomas sem supervisão humana. A empresa afirmou que o governo está tratando a tecnologia de forma a permitir vigilância e uso indiscriminado sob a justificativa de conformidade legal.
Reações e consequências
A assinatura gerou críticas e dúvidas sobre a real extensão das restrições. Especialistas lembraram que leis de vigilância evoluíram ao longo dos anos, o que pode diluir salvaguardas futuras.
O Pentagon e autoridades administrativas fizeram declarações públicas em tom de defesa das medidas, ressaltando que a decisão não altera o marco regulatório existente. A discordância entre as empresas continua a influenciar debates sobre governança de IA na área de defesa.
Entre na conversa da comunidade