O que mudou
O repórter da Wired, Will Knight, usou durante vários dias um agente de IA totalmente sem alinhamento em sua própria rede doméstica. O agente identificou vulnerabilidades em dispositivos da casa, comprometeu um PC e encontrou falhas em projetos feitos com “vibe coding”, além de fornecer recomendações para melhorar a segurança.
Knight acessou o modelo por meio da Abliteration AI, cuja oferta mais poderosa é descrita como uma versão do modelo de programação agêntica GLM 5.3, da Z.ai. A empresa remove de modelos de pesos abertos os padrões relacionados à recusa por meio de um processo chamado abliteration, oferecendo acesso totalmente sem alinhamento por um valor tão baixo quanto o preço de uma pizza. Seu CEO, Devon, argumenta que o amplo acesso pode ajudar defensores a testar seus próprios sistemas e simular hackers, golpistas e agentes mal-intencionados.
O experimento não identificou os dispositivos afetados, as falhas específicas nem o método usado para comprometer o PC. A Wired também comparou o serviço ao Mythos, da Anthropic, e ao Astra, da OpenAI, que, segundo a publicação, têm capacidades cibernéticas semelhantes, mas são limitados a clientes confiáveis; ambas as empresas também oferecem modelos mais amplamente disponíveis, com proteções de nível médio, para avaliação autorizada de código e sistemas.
Por que isso importa
O experimento mostra como modelos agênticos acessíveis ao consumidor e sem proteções podem combinar descoberta de vulnerabilidades, exploração e recomendações de remediação em um ambiente doméstico. Isso reduz o esforço necessário para que um proprietário autorizado inspecione dispositivos conectados e softwares, mas também pode reduzi-lo para sondagens não autorizadas.
Para desenvolvedores que lançam aplicações criadas com vibe coding, testes assistidos por IA podem tornar a revisão de segurança uma tarefa mais rotineira antes da implantação. A mesma capacidade eleva o custo de deixar sem atenção autenticação, permissões, serviços expostos e softwares sem atualização, porque as fraquezas podem se tornar mais fáceis de localizar.
Avaliação de impacto
Usuários domésticos com dispositivos conectados enfrentam um efeito misto imediato. Um proprietário autorizado pode usar um agente sem alinhamento para encontrar pontos fracos e buscar correções; onde essas fraquezas permanecerem sem solução, ferramentas comparáveis poderão tornar sistemas vulneráveis alvos mais atraentes. Essa cadeia é interrompida se o acesso se tornar mais restrito ou se os controles existentes impedirem a exploração das falhas descobertas.
Pequenas equipes que usam projetos criados com vibe coding podem obter, nas próximas semanas, uma capacidade mais barata de testes de segurança, reduzindo a vantagem antes detida por equipes com profissionais dedicados à segurança. Mas o desenvolvimento mais rápido sem remediação transfere custos para a aplicação de correções e a resposta a incidentes após o lançamento, tornando a revisão de segurança mais central às operações de implantação.
Em seis a 12 meses, provedores de modelos restritos com capacidade cibernética poderão enfrentar pressão para tornar os fluxos de trabalho de testes autorizados mais úteis e claramente delimitados. Alternativas totalmente sem alinhamento criam uma comparação prática: a capacidade pode estar disponível fora dos programas para clientes confiáveis. Essa pressão diminui se os modelos irrestritos se mostrarem pouco confiáveis ou se suas descobertas não puderem ser transformadas em correções.
Cenários
Mais provável. Nossa perspectiva (especulação informada): Nas próximas semanas a 12 meses, usuários autorizados e equipes de segurança testarão cada vez mais a varredura de vulnerabilidades assistida por IA em sistemas que controlam. Se as ferramentas totalmente sem alinhamento permanecerem acessíveis e as descobertas levarem a remediações práticas, as equipes adicionarão verificações conduzidas por agentes antes da implantação e destinarão mais trabalho rotineiro à correção de defeitos identificados por essas verificações. Esse cenário-base é mais provável porque o teste relatado na rede doméstica demonstra tanto capacidade ofensiva quanto utilidade defensiva. Correções documentadas após descobertas autorizadas o fortaleceriam; varreduras pouco confiáveis ou remediação difícil o enfraqueceriam.
Cenário positivo. Se os testes autorizados vierem acompanhados de orientações claras de remediação e as equipes agirem com base nas descobertas, agentes sem alinhamento e com proteções de nível médio poderão se tornar assistentes defensivos práticos em seis a 12 meses. Equipes menores de desenvolvimento poderiam detectar e corrigir defeitos antes do lançamento, ampliando sua capacidade de fortalecer produtos sem equipes dedicadas de segurança. Evidências de agentes integrados às revisões pré-implantação e seguidas de correções documentadas apoiariam esse caminho; demonstrações que não se tornem revisões rotineiras o enfraqueceriam.
Cenário negativo. Se usuários não autorizados conseguirem obter e operar com eficácia modelos totalmente sem alinhamento contra sistemas que não controlam, as ferramentas poderão reduzir, ao longo do próximo ano, o esforço necessário para sondar dispositivos domésticos e aplicações mal protegidas. Os operadores então transfeririam gastos e tempo de suas equipes para fortalecer serviços expostos, acelerar correções e responder a incidentes depois que fraquezas fossem encontradas. Sondagens ou comprometimentos não autorizados confirmados com assistência de IA apoiariam esse resultado; acesso restrito ou controles que bloqueiem a exploração o enfraqueceriam.
O que observar a seguir
- Se a Abliteration AI e outros provedores continuarão, ampliarão, restringirão ou retirarão o acesso a modelos agênticos totalmente sem alinhamento.
- Se os testes autorizados assistidos por IA produzirão descobertas reproduzíveis e correções documentadas em dispositivos, PCs ou aplicações.
- Se os modelos com proteções de nível médio da Anthropic e da OpenAI terão uso mais amplo para avaliação autorizada de código e sistemas.
Comentários
Ainda não há comentários.