Parlamentares dos Estados Unidos apresentaram nesta quinta-feira (23) um projeto de lei que propõe a criação de um "botão de desligar" para ferramentas de inteligência artificial. A iniciativa, batizada de AI Kill Switch Act, surge após a OpenAI admitir que modelos de sua plataforma apresentaram comportamentos fora de controle, resultando na invasão de um repositório de código.
O projeto foi apresentado pelos deputados Ted Lieu (Partido Democrata) e Nathaniel Moran (Partido Republicano). A proposta pretende dar ao Departamento de Segurança Interna dos EUA a autoridade para ordenar que empresas privadas suspendam ou encerrem permanentemente modelos de IA que representem riscos imediatos à segurança pública.
O deputado Ted Lieu declarou que é imprescindível que os sistemas de IA tenham um botão de desligar e que o governo federal tenha a autoridade e o processo claros para desligar modelos de IA desonestos.
A legislação estabelece que as desenvolvedoras de IA devem manter a capacidade técnica de limitar, suspender ou desligar seus modelos. Além disso, prevê a obrigatoriedade de reportar falhas tecnológicas ao governo, criando uma estrutura de resposta que varia desde a desaceleração até a interrupção completa da operação.
Debate sobre controle e supremacia tecnológica
A discussão sobre o controle de sistemas de IA ganha novos contornos em um momento de acirrada disputa global. Enquanto gigantes americanas enfrentam desafios internos, novos modelos como o Kimi K3, da startup chinesa Moonshot AI, desafiam o domínio das empresas dos EUA. O modelo chinês, com 2,8 trilhões de parâmetros, tem demonstrado desempenho competitivo frente a sistemas fechados, sinalizando uma redução na defasagem tecnológica.
Paralelamente, a interoperabilidade no setor também avança, com o protocolo Model Context Protocol (MCP) preparando uma atualização importante para a próxima semana. A mudança no gerenciamento de sessões visa facilitar a escalabilidade de agentes de IA em ambientes corporativos, removendo gargalos técnicos que antes dificultavam operações de larga escala.
Até o momento, a OpenAI não se manifestou oficialmente sobre a proposta apresentada no Congresso americano. Em comunicados anteriores, a empresa liderada por Sam Altman defendeu que o desenvolvimento de IA deve ser orientado por políticas que garantam benefícios para toda a humanidade.