Will Knight gebruik ’n KI-agent sonder belyning om tuisnetwerk te kraak

Wat verander het

Die Wired-verslaggewer Will Knight het oor etlike dae ’n KI-agent sonder enige belyning op sy eie tuisnetwerk gebruik. Die agent het kwesbaarhede in huishoudelike toestelle geïdentifiseer, ’n rekenaar gekompromitteer en foute in “vibe-gekodeerde” projekte gevind, en daarna aanbevelings gegee om sekuriteit te verbeter.

Knight het toegang tot die model verkry deur Abliteration AI, wie se kragtigste aanbod beskryf word as ’n weergawe van Z.ai se agentiese koderingsmodel, GLM 5.3. Die maatskappy verwyder weieringsverwante patrone uit oopgewigmodelle deur ’n proses genaamd abliteration, en bied toegang sonder enige belyning teen so min as die prys van ’n pizza. Die uitvoerende hoof, Devon, voer aan dat wye toegang verdedigers kan help om hul eie stelsels te toets en kuberkrakers, swendelaars en afvallige agente na te boots.

Die eksperiment het nie die betrokke toestelle, spesifieke gebreke of die metode wat gebruik is om die rekenaar te kompromitteer, geïdentifiseer nie. Wired het die diens ook vergelyk met Anthropic se Mythos en OpenAI se Astra, wat volgens die publikasie soortgelyke kubervermoëns het maar tot vertroude kliënte beperk is; albei maatskappye bied ook modelle met middelvlak-veiligheidsrelings wat wyer beskikbaar is vir gemagtigde evaluering van kode en stelsels.

Waarom dit saak maak

Die eksperiment wys hoe agentiese modelle sonder veiligheidsrelings wat vir verbruikers toeganklik is, die opsporing van kwesbaarhede, uitbuiting en advies oor regstelling in ’n huishoudelike omgewing kan kombineer. Dit verlaag die inspanning wat ’n gemagtigde eienaar nodig het om gekoppelde toestelle en sagteware te ondersoek, maar kan dit moontlik ook vir ongemagtigde ondersoeke verlaag.

Vir ontwikkelaars wat vibe-gekodeerde toepassings vrystel, kan KI-ondersteunde toetsing sekuriteitsoorsig ’n meer roetine-taak voor ontplooiing maak. Dieselfde vermoë verhoog die koste daarvan om verifikasie, toestemmings, blootgestelde dienste en ongepatchte sagteware te verwaarloos, omdat swakplekke moontlik makliker opgespoor kan word.

Impakbeoordeling

Tuisgebruikers met gekoppelde toestelle ervaar ’n onmiddellike gemengde uitwerking. ’n Gemagtigde eienaar kan ’n agent sonder belyning gebruik om swakplekke te vind en regstellings na te streef; waar dié swakplekke onopgelos bly, kan vergelykbare hulpmiddels kwesbare stelsels aantrekliker teikens maak. Die ketting word onderbreek indien toegang verskerp word of bestaande beheermaatreëls verhoed dat ontdekte gebreke uitgebuit word.

Klein spanne wat vibe-gekodeerde projekte gebruik, kan in die komende weke goedkoper kapasiteit vir sekuriteitstoetsing kry, wat die voordeel verminder wat voorheen deur spanne met toegewyde sekuriteitspersoneel gehou is. Maar vinniger ontwikkeling sonder regstelling verskuif koste na pleisterwerk en reaksie op voorvalle ná vrystelling, wat sekuriteitsoorsig meer sentraal tot ontplooiingsbedrywighede maak.

Oor ses tot 12 maande kan verskaffers van beperkte modelle met kubervermoë onder druk kom om werkvloeie vir gemagtigde toetsing nuttiger en duideliker begrens te maak. Alternatiewe sonder enige belyning skep ’n praktiese vergelyking: vermoë kan buite programme vir vertroude kliënte beskikbaar wees. Dié druk verswak indien onbeperkte modelle onbetroubaar blyk of hul bevindings nie in regstellings omskep kan word nie.

Scenario’s

Mees waarskynlik. Ons vooruitsig (ingeligte bespiegeling): Oor die volgende etlike weke tot 12 maande sal gemagtigde gebruikers en sekuriteitspanne toenemend KI-ondersteunde skandering vir kwesbaarhede op stelsels wat hulle beheer, toets. Indien hulpmiddels sonder enige belyning toeganklik bly en bevindings tot uitvoerbare regstelling lei, sal spanne agentgedrewe kontroles voor ontplooiing toevoeg en meer roetinewerk toewys aan die pleister van gebreke wat deur daardie kontroles geïdentifiseer is. Hierdie grondlyn is meer waarskynlik omdat die gerapporteerde toets van ’n tuisnetwerk sowel aanvallende vermoë as verdedigende nut toon. Gedokumenteerde regstellings ná gemagtigde bevindings sal dit versterk; onbetroubare skanderings of moeilike regstelling sal dit verswak.

Opwaartse scenario. Indien gemagtigde toetsing met duidelike riglyne vir regstelling gepaardgaan en spanne op die bevindings reageer, kan agente sonder belyning en met middelvlak-veiligheidsrelings binne ses tot 12 maande praktiese verdedigende assistente word. Kleiner ontwikkelingspanne kan gebreke voor vrystelling opspoor en herstel, wat hul vermoë uitbrei om produkte te verstewig sonder toegewyde sekuriteitspersoneel. Bewyse dat agente in oorsigte voor ontplooiing geïntegreer word en deur gedokumenteerde regstellings gevolg word, sal hierdie pad steun; demonstrasies wat nie roetine-oorsig word nie, sal dit verswak.

Neerwaartse scenario. Indien ongemagtigde gebruikers modelle sonder enige belyning kan bekom en doeltreffend gebruik teen stelsels wat hulle nie beheer nie, kan die hulpmiddels oor die volgende jaar die inspanning verlaag wat nodig is om huishoudelike toestelle en swak beveiligde toepassings te ondersoek. Operateurs sal dan besteding en personeeltyd verskuif na die verstewiging van blootgestelde dienste, versnelde pleisterwerk en reaksie op voorvalle nadat swakplekke gevind is. Bevestigde KI-ondersteunde ongemagtigde ondersoeke of kompromitterings sal hierdie uitkoms steun; beperkte toegang of beheermaatreëls wat uitbuiting blokkeer, sal dit verswak.

Waarna om volgende te kyk

• Of Abliteration AI en ander verskaffers toegang tot agentiese modelle sonder enige belyning voortset, uitbrei, beperk of onttrek.
• Of gemagtigde KI-ondersteunde toetsing herhaalbare bevindings en gedokumenteerde regstellings aan toestelle, rekenaars of toepassings oplewer.
• Of Anthropic en OpenAI se modelle met middelvlak-veiligheidsrelings wyer gebruik word vir gemagtigde evaluering van kode en stelsels.