- Google DeepMind, Microsoft e xAI concordaram em permitir que o governo dos EUA revisem modelos de IA antes de torná-los públicos.
- O Centro de Padrões e Inovação em IA (CAISI), do Departamento de Comércio, fará avaliações de pré-lançamento e pesquisas direcionadas para entender capacidades de IA de fronteira.
- O CAISI já realizou quarenta revisões até o momento, incluindo modelos da OpenAI e Anthropic em 2024.
- Segundo Bloomberg, as empresas renegociaram parcerias com o CAISI para alinhar-se às prioridades do Plano de IA do governo.
- O The New York Times aponta que Donald Trump pode considerar uma ordem executiva para reunir executivos de tecnologia e autoridades públicas para supervisionar novos modelos de IA; o diretor do CAISI, Chris Fall, afirmou que avaliações independentes são essenciais.
Google DeepMind, Microsoft e xAI, de Elon Musk, concordaram em permitir que o governo dos EUA avalie novos modelos de IA antes de seu lançamento público. A decisão foi anunciada nesta terça, pelo Centro de Padrões e Inovação de IA (CAISI), vinculado ao Departamento de Comércio.
O CAISI afirmou que trabalhará com as empresas para realizar avaliações de pré-implantação e pesquisas direcionadas para entender melhor as capacidades de IA de fronteira. A iniciativa busca medir impactos de segurança nacional e confiabilidade.
Até o momento, o CAISI já realizou 40 revisões de modelos de IA, incluindo parcerias com OpenAI e Anthropic iniciadas em 2024. As empresas renegociaram acordos para alinhar as parcerias às prioridades do AI Action Plan do governo.
Segundo informações de outras fontes, o governo pode ampliar as avaliações no futuro. Um relatório do The New York Times indica que o ex-presidente Trump avalia Editar uma ordem executiva para reunir executivos de tecnologia e autoridades públicas na supervisão de novos modelos.
O diretor do CAISI, Chris Fall, destacou que a “medição independente e rigorosa é essencial para entender a IA de fronteira e seus impactos na segurança nacional”, mantendo o tom institucional da parceria com o setor privado.
Entre na conversa da comunidade