O governo dos Estados Unidos terá a oportunidade de acessar modelos inovadores de inteligência artificial antes de seu lançamento, permitindo a análise de riscos à segurança nacional.
O acesso antecipado a novos sistemas de inteligência artificial generativa avançada foi anunciado pelo Centro de Padrões e Inovação em IA (CAISI) nesta terça-feira (5). As big techs envolvidas são Google, Microsoft e xAI.
De acordo com o CAISI, órgão ligado ao Instituto Nacional de Padrões e Tecnologia (NIST) do Departamento de Comércio dos EUA, os acordos firmados permitirão avaliar possíveis riscos à segurança nacional nesses sistemas antes que estejam disponíveis ao público. Essa iniciativa segue um compromisso assumido pela Casa Branca.
Investigando potenciais riscos
As avaliações preventivas realizadas pelas autoridades se tornam ainda mais relevantes devido às preocupações levantadas em relação à IA Mythos, desenvolvida pela Anthropic, que alarmou o governo Trump, conforme reportado pela Reuters. Desta maneira, o foco é examinar novos modelos em busca de possíveis ameaças.
- A intenção é verificar se os novos modelos de IA podem facilitar ciberataques ou possibilitar usos militares inadequados;
- O CAISI será o ponto de contato com as gigantes da tecnologia, representando o governo nessa iniciativa;
- A instituição participará de testes, colaborações em pesquisas e no desenvolvimento de novas diretrizes para sistemas comerciais de IA;
- O diretor da agência, Chris Fall, destacou que “uma ciência de medição independente e rigorosa é crucial para entender as implicações da IA de ponta para a segurança nacional”.
Especialistas da Microsoft colaborarão diretamente com representantes do governo nas análises, em busca de “comportamentos inesperados”, como mencionado pela empresa em um comunicado. A Microsoft já tem um acordo semelhante com o Instituto de Segurança de IA do Reino Unido.
Guia de Motéis sofre vazamento de dados e expõe usuários; empresa confirma ataque
O Google não se manifestou sobre essa iniciativa, enquanto a empresa de IA de Elon Musk ainda não comentou sobre a parceria, que pode envolver a participação de outros avaliadores do governo.
Ampliando avaliações
Até o momento, mais de 40 avaliações de modelos de IA, incluindo sistemas avançados ainda não acessíveis ao público geral, foram realizadas pelo CAISI. Importante lembrar que a administração de Joe Biden já havia firmado acordos semelhantes em 2024.
“Essas colaborações ampliadas com a indústria nos ajudam a expandir nosso trabalho em prol do interesse público em um momento crítico”, complementou Fall. Os testes estão sendo conduzidos em versões de modelos que possuem salvaguardas de segurança reduzidas ou removidas, facilitando a identificação de riscos potenciais.
Gostou do conteúdo? Siga o TecMania e descubra os motivos que levaram especialistas e autoridades a classificar a IA Mythos como uma ameaça à humanidade.
