Ferramentas de inteligência artificial já exercem papel direto na triagem de candidatos a vagas de emprego, na concessão de crédito financeiro e na prestação de orientações por órgãos públicos. Quando essas tecnologias falham, no entanto, as consequências recaem imediatamente sobre cidadãos comuns que muitas vezes recebem justificativas vagas ou orientações médicas equivocadas. Os riscos também envolvem fraudes digitais sofisticadas com clonagem de voz e imagem, além de ameaças complexas como vulnerabilidades em hospitais e serviços essenciais. Promessas corporativas e leis escritas não bastam para mitigar esses perigos, tornando indispensável a realização de testes rigorosos antes e depois da chegada dos softwares ao mercado.

No contexto nacional, o problema ganha contornos específicos devido às barreiras idiomáticas e culturais. Um modelo otimizado em inglês pode interpretar incorretamente perguntas em português, perpetuar preconceitos inseridos nas bases de dados ou falhar na compreensão de expressões locais. Sem a infraestrutura governamental adequada para examinar essas limitações, o poder público acaba refém dos parâmetros, dados e resultados definidos unilateralmente pelas próprias empresas desenvolvedoras. Essa dinâmica motivou nações estrangeiras a estruturarem órgãos técnicos especializados para auditar ferramentas avançadas e reduzir vulnerabilidades sistêmicas.

A experiência internacional em segurança tecnológica e os testes adversariais

Nações como Reino Unido, Estados Unidos e Japão inauguraram uma onda de institutos voltados à segurança de sistemas avançados, atuando com foco técnico e sem poder regulatório direto. Uma das metodologias aplicadas por esses órgãos é o red-teaming, ou teste adversarial, no qual especialistas simulam ataques cibernéticos para encontrar falhas de proteção que avaliações convencionais deixam passar. A dinâmica do teste adversarial pode ser ilustrada por um chatbot programado para não ensinar golpes digitais: uma equipe assume o papel de um fraudador e tenta contornar a proteção alterando palavras, dividindo o pedido em etapas aparentemente inocentes, escrevendo em outro idioma ou conectando o modelo a ferramentas externas. O objetivo não é confirmar que o sistema funciona em condições ideais, mas procurar caminhos de falha que um teste comum talvez não revele.

Apesar da utilidade desses métodos, laboratórios enfrentam uma lacuna de avaliação diante do impacto massivo gerado pelo uso real de milhões de pessoas simultaneamente. A cooperação global ganhou tração em Bletchley Park, onde o Brasil figurou entre os signatários que reconheceram a urgência de colaboração internacional. Contudo, apesar da participação inicial em acordos diplomáticos, o país ficou de fora dos membros fundadores da Rede Internacional de Institutos de Segurança de IA. Essa ausência compromete a participação do país na rotina técnica que define quais riscos serão priorizados, quais idiomas serão testados e quais critérios serão adotados. Enquanto potências estreitaram laços com gigantes tecnológicas e obtiveram acesso antecipado a novos modelos antes do lançamento público, o cenário brasileiro exige uma abordagem adaptada às reais demandas da população local e dos serviços digitais ofertados no território nacional.

O panorama regulatório global e a evolução dos institutos estrangeiros

A agenda de segurança tecnológica não ficou restrita à prevenção de catástrofes ou falhas pontuais. Em maio de 2024, a Declaração de Seul tratou segurança, inovação e inclusão como objetivos profundamente ligados e interdependentes. No entanto, com o passar do tempo, os mandatos nacionais tomaram direções estratégicas diferentes. Em 2025, o Reino Unido promoveu uma mudança simbólica e prática ao trocar safety por security no nome de seu instituto, reforçando o foco em segurança nacional, prevenção de ataques cibernéticos e neutralização de usos criminosos de alta tecnologia.

Nos Estados Unidos, por sua vez, a reorganização institucional passou a combinar testes sistemáticos, padrões voluntários de conformidade, segurança estrita e manutenção da competição tecnológica de mercado. Embora exista convergência evidente nas ferramentas metodológicas de avaliação, há divergências claras nas finalidades políticas atribuídas a elas por cada governo. Quem participa ativamente do desenvolvimento desses métodos ajuda a definir diretamente quais comportamentos algorítmicos serão observados de perto e que evidências científicas serão consideradas relevantes nos fóruns decisórios.

Essa participação não significa que os institutos possam, sozinhos, ditar normas obrigatórias para o mundo corporativo. Significa, contudo, que seus trabalhos influenciam fortemente padrões técnicos, diretrizes de compras públicas, compromissos empresariais e decisões regulatórias futuras. Os acordos firmados com empresas revelam outra vantagem institucional expressiva. Em 2024, o instituto americano obteve da OpenAI e da Anthropic acesso privilegiado a novos modelos tanto antes quanto depois do lançamento comercial. Anos depois, seu sucessor anunciou avaliações prévias à implantação com gigantes como Google DeepMind, Microsoft e xAI.

Esse acesso concedido às autoridades públicas nunca é totalmente irrestrito, mas viabiliza investigar dimensões que vão muito além da versão pública e comercializada do produto. Para que essa cooperação funcione a favor da sociedade, ela exige independência absoluta. O avaliador público tem a obrigação de explicar claramente as limitações desse acesso e divulgar conclusões desfavoráveis, impedindo que o processo de teste funcione apenas como um selo de validação institucional concedido à empresa desenvolvedora.

Os desafios e a proposta da Insoed no Brasil

Para superar a dependência de tecnologias controladas por poucos atores globais, o substitutivo apresentado ao Projeto de Lei 5.960 de 2025 propõe a criação da Rede Nacional de Institutos de Segurança, Oportunidades e Apoio Técnico à Economia Digital, conhecida como Insoed. A estrutura planejada tem natureza colaborativa, técnica e consultiva, sem prerrogativa para aplicar multas, autorizar ou proibir sistemas. O modelo prevê a integração entre universidades, centros de pesquisa, laboratórios e organizações sem fins lucrativos ou públicas, sob a coordenação técnica do Inmetro, aproveitando competências já consolidadas em diferentes regiões do país.

A escolha do Inmetro reflete a necessidade de padronização, medição e cálculo de margens de incerteza, seguindo tendências observadas em nações como Estados Unidos e França. Contudo, avaliar inteligência artificial difere de certificar um eletrodoméstico comum, pois algoritmos mudam constantemente após atualizações, respondem de forma diferente conforme o contexto e ganham novas capacidades ao se conectarem à internet. Por isso, a experiência metrológica precisa dialogar com saberes de aprendizado de máquina, cibersegurança e ciências sociais aplicadas à saúde, finanças e administração pública, evitando a criação de uma estrutura puramente teórica e sem capacidade de execução prática.

O formato distribuído adotado pelo projeto não representa uma invenção isolada do Brasil. A Índia adotou com sucesso um modelo que conecta organicamente o governo, universidades, empresas privadas e startups tecnológicas. Por sua vez, a França uniu quatro instituições já existentes, incluindo o seu laboratório nacional de metrologia, sem a necessidade de criar uma nova pessoa jurídica do zero. A grande vantagem desse desenho para o Brasil consiste em aproveitar competências científicas e tecnológicas que já se encontram espalhadas pelo país, embora traga o risco inerente de formar uma rede restrita ao papel, desprovida de equipe dedicada, recursos financeiros ou responsabilidades operacionais claras.

Infraestrutura, financiamento e os impactos práticos para quem empreende e gerencia negócios

Para desempenhar um papel verdadeiramente relevante, a Insoed precisará de recursos contínuos, equipes altamente especializadas e acesso facilitado aos códigos e modelos desenvolvidos internacionalmente. Iniciativas recentes, como a implantação de um novo supercomputador conduzido pelo Laboratório Nacional de Computação Científica, podem ampliar de maneira expressiva a infraestrutura de processamento disponível no país, embora o acesso direto por parte da nova rede ainda não esteja formalmente garantido. Além da infraestrutura de hardware, o acesso aos próprios sistemas fechados continua sendo um obstáculo decisivo para pesquisadores que buscam examinar a fundo as tecnologias.

Na prática, a estruturação e a atuação dessa rede geram impactos diretos para quem empreende, desenvolve softwares ou gerencia negócios que utilizam tecnologias automatizadas. Com a consolidação de diretrizes técnicas e padrões de conformidade, empresas que fornecem ou aplicam inteligência artificial precisarão lidar com exigências mais claras de validação e testes em português, alinhados às peculiaridades locais. Embora o órgão não tenha poder para multar ou proibir produtos diretamente, suas análises e evidências orientarão contratos, diretrizes de compras públicas e futuras exigências regulatórias, afetando diretamente a forma como corporações avaliam e comercializam seus sistemas no mercado nacional.

Experiências internacionais demonstram que avaliações contínuas exigem aportes financeiros consistentes ao longo dos anos. Como exemplo, o Canadá destinou inicialmente dezenas de milhões de dólares canadenses ao seu instituto por um período de cinco anos. Embora os valores estrangeiros não sirvam de orçamento automático para o país, eles deixam claro que avaliações repetidas, bases de teste altamente protegidas e a manutenção de quadros técnicos qualificados não se sustentam apenas com projetos temporários ou verbas esporádicas. A transparência institucional será outro pilar determinante para o sucesso da iniciativa, exigindo a divulgação pública de métodos, limites técnicos e eventuais conflitos de interesse na relação com corporações desenvolvedoras.

Prazos, decisões pendentes e a busca por soberania digital

A tramitação do substitutivo ao Projeto de Lei 5.960 de 2025, apresentado na Câmara dos Deputados, dita o ritmo atual das discussões sobre a governança tecnológica no Brasil, embora a definição de prazos exatos para votação e implementação ainda dependa de trâmites legislativos futuros. Da mesma forma, a aprovação de uma lei nacional não concede automaticamente ao país uma vaga em cada fórum internacional de governança, visto que cada organização externa possui regras próprias de admissão. No entanto, o avanço estrutural da Insoed cria as bases institucionais necessárias para que o Brasil reivindique e ocupe esse espaço com contribuições verificáveis.

Caso alcance plena maturidade operacional, a rede poderá gerar evidências próprias sobre os impactos reais dos algoritmos no contexto nacional, influenciar padrões técnicos em compras públicas e conferir maior poder de barganha ao país nas negociações internacionais, consolidando uma trajetória de soberania tecnológica baseada em dados e análises científicas independentes. A obtenção de um assento legítimo nas discussões globais sobre inteligência artificial exige capacidade técnica comprovada e evidências produzidas internamente, transformando testes e relatórios em instrumentos reais de soberania digital e proteção efetiva para a sociedade.