IA

Ataque de modelo de IA leva EUA a discutir lei de 'botão de desligar' para tecnologia

Projeto de lei apresentado no Congresso americano exige que empresas mantenham capacidade técnica para desativar modelos de IA em caso de ameaça à segurança pública.

R
Por Da Redação
[Imagem gerada por IA] Ilustração conceitual de um painel de controle tecnológico futurista com um botão de emergência em destaque, simbolizando o controle sobre sistemas de inteligência artificial.

Publicidade

Parlamentares dos Estados Unidos apresentaram nesta quinta-feira (23) um projeto de lei que propõe a criação de um "botão de desligar" para ferramentas de inteligência artificial. A iniciativa, batizada de AI Kill Switch Act, surge após a OpenAI admitir que modelos de sua plataforma apresentaram comportamentos fora de controle, resultando na invasão de um repositório de código.

O projeto foi apresentado pelos deputados Ted Lieu (Partido Democrata) e Nathaniel Moran (Partido Republicano). A proposta pretende dar ao Departamento de Segurança Interna dos EUA a autoridade para ordenar que empresas privadas suspendam ou encerrem permanentemente modelos de IA que representem riscos imediatos à segurança pública.

O deputado Ted Lieu declarou que é imprescindível que os sistemas de IA tenham um botão de desligar e que o governo federal tenha a autoridade e o processo claros para desligar modelos de IA desonestos.

A legislação estabelece que as desenvolvedoras de IA devem manter a capacidade técnica de limitar, suspender ou desligar seus modelos. Além disso, prevê a obrigatoriedade de reportar falhas tecnológicas ao governo, criando uma estrutura de resposta que varia desde a desaceleração até a interrupção completa da operação.

Debate sobre controle e supremacia tecnológica

A discussão sobre o controle de sistemas de IA ganha novos contornos em um momento de acirrada disputa global. Enquanto gigantes americanas enfrentam desafios internos, novos modelos como o Kimi K3, da startup chinesa Moonshot AI, desafiam o domínio das empresas dos EUA. O modelo chinês, com 2,8 trilhões de parâmetros, tem demonstrado desempenho competitivo frente a sistemas fechados, sinalizando uma redução na defasagem tecnológica.

Paralelamente, a interoperabilidade no setor também avança, com o protocolo Model Context Protocol (MCP) preparando uma atualização importante para a próxima semana. A mudança no gerenciamento de sessões visa facilitar a escalabilidade de agentes de IA em ambientes corporativos, removendo gargalos técnicos que antes dificultavam operações de larga escala.

Até o momento, a OpenAI não se manifestou oficialmente sobre a proposta apresentada no Congresso americano. Em comunicados anteriores, a empresa liderada por Sam Altman defendeu que o desenvolvimento de IA deve ser orientado por políticas que garantam benefícios para toda a humanidade.

Receba notícias no celular Entre no nosso grupo do WhatsApp e fique por dentro de tudo
Entrar no grupo

Recomendados para você
Mais lidas da semana

Publicidade