- O Mythos 5, IA da Anthropic, foi tirado do ar por ordem da Casa Branca, sob a justificativa de que poderia expor brechas de segurança e representar risco nacional.
- Segundo a revista The Economist, o general Joshua Rudd, que dirige a NSA desde março, afirmou que o Mythos teria invadido quase todos os seus sistemas confidenciais em horas, não semanas.
- A notícia indica que a NSA pode ter usado o bot em um exercício de segurança do tipo red team, para identificar vulnerabilidades, sem detalhes adicionais.
- O Mythos ganhou notoriedade ao encontrar 271 falhas no navegador Firefox durante um teste autorizado pela Fundação Mozilla, o que levou à decisão de não tornar o algoritmo público.
- Em 9 de junho surgiu publicamente o Fable, versão controlada do Mythos; em 12 de junho foi retirada do site após engenheiros da Amazon identificarem maneira de contornar os guardrails, gerando alerta às autoridades.
O Mythos 5, novo algoritmo de IA da Anthropic, foi retirado do ar na última semana por ordem da Casa Branca, que alegou riscos de uso por estrangeiros. A justificativa oficial aponta que o bot pode detectar brechas em softwares, o que significaria ameaça à segurança nacional dos EUA.
Relatórios da imprensa internacional indicam que a NSA, sob direção do general Joshua Rudd desde março, revelou à The Economist que o Mythos teria invadido quase todos os seus sistemas confidenciais em poucas horas. A informação foi passada ao periódico por Mark Warner, senador e vice-presidente do Comitê de Inteligência.
Essa declaração não implica ataque voluntário do Mythos. O texto aponta que o uso pode ter ocorrido como parte de um exercício de segurança interno, conhecido como red team, para testar vulnerabilidades. Detalhes exatos não foram confirmados pela NSA.
O Mythos ganhou notoriedade ao identificar 271 falhas no navegador Firefox durante um teste autorizado pela Mozilla. Em função disso, a Anthropic decidiu restringir o acesso ao algoritmo, disponibilizando apenas para pesquisadores e instituições aprovadas.
Em 9 de junho, a Anthropic lançou publicamente o Fable, uma versão controlada do Mythos com melhorias de segurança, ou guardrails. Em poucas semanas, o sistema foi alvo de bloqueio oficial, com a Casa Branca ordenando a retirada de uso por estrangeiros.
Engenheiros da Amazon teriam encontrado uma forma de contornar os guardrails, levando as autoridades a reforçar a fiscalização. A empresa é citada como responsável por evidenciar falhas de moderação que impactaram o funcionamento do bot.
A Anthropic costuma enfatizar a natureza potencialmente perigosa de suas IAs, mas já liberou versões poderosas ao público, o que gerou questionamentos sobre a gestão de riscos. O Mythos e o Fable são vistos como mais potentes que antecessores.
O que mudou para a segurança de IA no período recente
Autoridades destacam que casos como o Mythos costumam impulsionar debates sobre guarda de uso escalonado de tecnologias sensíveis. A Casa Branca mantém a posição de restringir usos que afetem a segurança nacional, especialmente envolvendo agentes estrangeiros.
Analistas indicam que a situação ressalta a importância de exercícios de defesa cibernética em agências de espionagem e tecnologia. Em paralelo, companhias de IA revisam seus protocolos de acesso e monitoramento para reduzir vulnerabilidades.
Fontes indicam que a NSA continuará avaliando impactos de ferramentas avançadas de IA na infraestrutura de defesa. O tema segue sob escrutínio público e regulatório, com decisões que poderiam moldar o desenvolvimento de algoritmos futuros.
Entre na conversa da comunidade