Will Knight nutzt entgrenzten KI-Agenten, um sein Heimnetzwerk zu hacken

Was sich verändert hat

Der Wired-Reporter Will Knight setzte über mehrere Tage hinweg einen vollständig entgrenzten KI-Agenten in seinem eigenen Heimnetzwerk ein. Der Agent identifizierte Schwachstellen in Haushaltsgeräten, kompromittierte einen PC und fand Fehler in „vibe-codierten“ Projekten. Anschließend gab er Empfehlungen zur Verbesserung der Sicherheit.

Knight griff über Abliteration AI auf das Modell zu. Das leistungsstärkste Angebot des Unternehmens wird als Version von Z.ais agentischem Programmiermodell GLM 5.3 beschrieben. Das Unternehmen entfernt durch ein Verfahren namens Abliteration Muster aus Open-Weight-Modellen, die mit Verweigerungen zusammenhängen, und bietet vollständig entgrenzten Zugriff bereits zum Preis einer Pizza an. Sein CEO Devon argumentiert, ein breiter Zugang könne Verteidigern helfen, ihre eigenen Systeme zu untersuchen und Hacker, Betrüger sowie abtrünnige Agenten zu simulieren.

Das Experiment benannte weder die betroffenen Geräte noch konkrete Schwachstellen oder die Methode, mit der der PC kompromittiert wurde. Wired verglich den Dienst zudem mit Mythos von Anthropic und Astra von OpenAI, die dem Bericht zufolge über ähnliche Cyberfähigkeiten verfügen, jedoch auf vertrauenswürdige Kunden beschränkt sind. Beide Unternehmen bieten außerdem breiter verfügbare Modelle mit moderaten Leitplanken für autorisierte Prüfungen von Code und Systemen an.

Warum das wichtig ist

Das Experiment zeigt, wie für Verbraucher zugängliche, agentische Modelle ohne Leitplanken in einem Haushalt das Auffinden von Schwachstellen, ihre Ausnutzung und Hinweise zur Behebung verbinden können. Das verringert den Aufwand für autorisierte Eigentümer, vernetzte Geräte und Software zu prüfen, könnte ihn aber auch für unbefugte Erkundungen senken.

Für Entwickler, die vibe-codierte Anwendungen veröffentlichen, könnte KI-gestütztes Testen Sicherheitsprüfungen vor der Bereitstellung stärker zur Routine machen. Dieselbe Fähigkeit erhöht die Kosten, wenn Authentifizierung, Berechtigungen, offen erreichbare Dienste und ungepatchte Software unbeachtet bleiben, weil Schwachstellen leichter zu finden sein könnten.

Folgenabschätzung

Für Heimanwender mit vernetzten Geräten ergibt sich unmittelbar ein zwiespältiger Effekt. Ein autorisierter Eigentümer kann einen entgrenzten Agenten einsetzen, um Schwächen zu finden und deren Behebung voranzutreiben. Bleiben diese Schwächen ungelöst, könnten vergleichbare Werkzeuge verwundbare Systeme zu attraktiveren Zielen machen. Die Wirkungskette wird unterbrochen, wenn der Zugang eingeschränkt wird oder bestehende Schutzmaßnahmen verhindern, dass entdeckte Schwachstellen ausgenutzt werden.

Kleine Teams, die mit vibe-codierten Projekten arbeiten, könnten in den kommenden Wochen günstiger auf Kapazitäten für Sicherheitstests zugreifen und damit den bisherigen Vorteil von Teams mit eigenem Sicherheitspersonal verringern. Schnellere Entwicklung ohne Behebung verlagert Kosten jedoch nach der Veröffentlichung auf Patches und die Reaktion auf Sicherheitsvorfälle. Dadurch werden Sicherheitsprüfungen zu einem zentraleren Bestandteil des Bereitstellungsbetriebs.

Über sechs bis zwölf Monate könnten Anbieter eingeschränkter, cyberfähiger Modelle unter Druck geraten, Arbeitsabläufe für autorisierte Tests nützlicher zu gestalten und klarer abzugrenzen. Vollständig entgrenzte Alternativen schaffen einen praktischen Vergleich: Solche Fähigkeiten könnten auch außerhalb von Programmen für vertrauenswürdige Kunden verfügbar sein. Dieser Druck lässt nach, wenn sich uneingeschränkte Modelle als unzuverlässig erweisen oder ihre Ergebnisse nicht in konkrete Behebungen umsetzen lassen.

Szenarien

Am wahrscheinlichsten. Unsere Einschätzung (informierte Spekulation): In den kommenden Wochen bis zwölf Monaten werden autorisierte Nutzer und Sicherheitsteams zunehmend KI-gestützte Schwachstellenscans auf Systemen erproben, die sie kontrollieren. Bleiben vollständig entgrenzte Werkzeuge zugänglich und führen ihre Ergebnisse zu umsetzbaren Behebungen, werden Teams vor der Bereitstellung agentengestützte Prüfungen einführen und einen größeren Teil der Routinearbeit auf das Beheben der dabei identifizierten Fehler verwenden. Dieses Basisszenario ist wahrscheinlicher, weil der berichtete Test im Heimnetzwerk sowohl offensive Fähigkeiten als auch defensiven Nutzen zeigt. Dokumentierte Behebungen nach autorisierten Funden würden es stärken; unzuverlässige Scans oder schwer umsetzbare Behebungen würden es schwächen.

Positivszenario. Werden autorisierte Tests mit klaren Hinweisen zur Behebung verbunden und setzen Teams die Ergebnisse um, könnten entgrenzte Agenten und Agenten mit moderaten Leitplanken innerhalb von sechs bis zwölf Monaten zu praktischen defensiven Assistenten werden. Kleinere Entwicklungsteams könnten Fehler vor der Veröffentlichung erkennen und beheben und so ihre Fähigkeit ausbauen, Produkte ohne eigenes Sicherheitspersonal abzusichern. Nachweise dafür, dass Agenten in Prüfungen vor der Bereitstellung eingebunden werden und dokumentierte Behebungen folgen, würden diesen Weg stützen; Demonstrationen, die nicht in routinemäßige Prüfungen münden, würden ihn schwächen.

Negativszenario. Wenn unbefugte Nutzer vollständig entgrenzte Modelle beschaffen und wirksam gegen Systeme einsetzen können, die sie nicht kontrollieren, könnten diese Werkzeuge im kommenden Jahr den Aufwand verringern, Haushaltsgeräte und schlecht abgesicherte Anwendungen zu erkunden. Betreiber würden dann Ausgaben und Arbeitszeit auf die Absicherung offen erreichbarer Dienste, beschleunigtes Patchen und die Reaktion auf Sicherheitsvorfälle verlagern, nachdem Schwachstellen entdeckt wurden. Bestätigte KI-gestützte unbefugte Erkundungen oder Kompromittierungen würden dieses Ergebnis stützen; eingeschränkter Zugang oder Schutzmaßnahmen, die eine Ausnutzung verhindern, würden es schwächen.

Worauf als Nächstes zu achten ist

• Ob Abliteration AI und andere Anbieter den Zugang zu vollständig entgrenzten agentischen Modellen fortführen, ausweiten, einschränken oder zurückziehen.
• Ob autorisierte KI-gestützte Tests reproduzierbare Befunde und dokumentierte Behebungen bei Geräten, PCs oder Anwendungen liefern.
• Ob die Modelle von Anthropic und OpenAI mit moderaten Leitplanken für autorisierte Prüfungen von Code und Systemen breiter eingesetzt werden.