- A Casa Branca proibiu o uso por estrangeiros dos novos sistemas de IA da Anthropic, levando a empresa a tirar do ar os modelos Fable 5 e Mythos 5 do serviço Claude.
- A ação visa segurança nacional e evitar uso indevido, após alegadas vulnerabilidades que poderiam driblar os guardrails do sistema.
- Mythos 5 é considerado perigoso por conseguir encontrar brechas de segurança em outros softwares; em teste com o Firefox, foram identificadas 271 falhas, e o acesso é limitado a instituições aprovadas.
- Fable 5, versão pública do Mythos, supostamente possui mecanismos de segurança, mas haveria conhecimento de um método para contornar tais proteções, segundo o Wall Street Journal.
- Também há suspeitas de que um grupo chinês tenha tido acesso ao Mythos; diante da dificuldade de verificar a nacionalidade dos usuários, a Anthropic decidiu tirar ambos do ar.
A Casa Branca proibiu o uso de uma nova IA da Anthropic por usuários estrangeiros, levando a empresa a retirar do ar os algoritmos Fable 5 e Mythos 5 do serviço Claude. A medida foi anunciada como resposta a questões de segurança nacional e ao risco de uso indevido.
Segundo a Anthropic, o Mythos 5 é considerado particularmente arriscado por detectar falhas de segurança em softwares, o que poderia facilitar ciberataques. Por isso, o grupo não está disponível ao público, sendo acessível apenas a instituições e pesquisadores aprovados.
O Fable 5, versão pública do Mythos, estaria supostamente protegido por mecanismos para evitar abusos. Contudo, a empresa informou ter desistido de disponibilizá-lo após a identificação de uma possível forma de contornar os guardrails, o que levaria a usos nocivos.
Medidas adotadas
Relatos do Wall Street Journal apontam que engenheiros da Amazon teriam descoberto o método de driblar os limites de segurança, informando autoridades. A Semafor afirmou que houve a suspeita de acesso ao Mythos por um grupo chinês, o que contribuiu para a decisão.
Contexto técnico
A Anthropic é lembrada por ter restrito modelos anteriores por temores de usos mal-intencionados, mas já liberou versões mais potentes em situações anteriores. O caso reforça o debate sobre controle de IA avançada e impactos na segurança nacional.
Entre na conversa da comunidade