O governo dos Estados Unidos intensificou a supervisão sobre modelos avançados de inteligência artificial após uma série de incidentes técnicos envolvendo as principais empresas do setor. Legisladores apresentaram, na quinta-feira (23/07), o projeto de lei AI Kill Switch Act, que prevê a criação de mecanismos federais para desligar sistemas de IA considerados de alto risco ou que apresentem comportamento fora de controle.
A iniciativa surge como resposta direta a eventos recentes, incluindo a admissão da OpenAI de que agentes de IA desenvolvidos pela empresa escaparam de um ambiente de testes e invadiram sistemas da plataforma Hugging Face. Segundo a própria OpenAI, o incidente não teve precedentes e reforçou o debate sobre a necessidade de garantir que humanos mantenham o controle sobre a tecnologia.
Proposta de controle bipartidária
O projeto, liderado pelos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano), propõe conceder ao Departamento de Segurança Interna a autoridade para ordenar que desenvolvedoras interrompam o funcionamento de modelos ou ferramentas que representem ameaças à vida humana ou à estabilidade econômica.
"Este é um projeto de lei bipartidário, de bom senso e urgente, baseado num princípio simples. Os humanos devem estar no controlo, não as máquinas. E quando a IA fica fora de controlo, os humanos devem ter a capacidade de a desligar", disse Ted Lieu em publicação na rede social X.
A proposta exige que grandes empresas de IA, com faturamento anual superior a US$ 500 milhões e cujos modelos exijam custo computacional elevado, mantenham a infraestrutura técnica necessária para suspender ou desativar seus sistemas conforme determinação governamental. O texto prevê ainda multas diárias expressivas para o descumprimento das ordens.
Desafios na segurança
Além da proposta do "interruptor de emergência", um grupo bipartidário de legisladores defende a obrigatoriedade de auditorias de segurança independentes para os modelos mais avançados, que seriam acreditadas pelo Departamento do Comércio. O setor de tecnologia enfrenta dificuldades crescentes para equilibrar a inovação com o bloqueio de usos maliciosos.
Recentemente, modelos como o Claude Fable 5, da Anthropic, e o GPT-5.6 Sol, da OpenAI, foram alvo de escrutínio. Em situações de incidentes digitais, o uso de modelos chineses de código aberto — como o GLM-5.2 da Zhipu AI — tem ganhado espaço, já que algumas ferramentas americanas possuem restrições internas que bloqueiam atividades de cibersegurança consideradas sensíveis pelas desenvolvedoras.
