Will Knight Atumia Wakala wa AI Asiyewekewa Vizuizi Kudukua Mtandao wa Nyumbani

Kilichobadilika

Mwandishi wa Wired, Will Knight, alitumia kwa siku kadhaa wakala wa AI asiyewekewa vikwazo vyovyote kwenye mtandao wake wa nyumbani. Wakala huyo alibaini udhaifu katika vifaa vya nyumbani, akapenya PC, na kugundua hitilafu katika miradi ya “vibe-coded”, kisha akatoa mapendekezo ya kuboresha usalama.

Knight alipata modeli hiyo kupitia Abliteration AI, ambayo huduma yake yenye uwezo mkubwa zaidi inaelezwa kuwa toleo la GLM 5.3, modeli ya Z.ai ya kuandika msimbo kwa wakala. Kampuni hiyo huondoa mifumo inayohusiana na kukataa maombi katika modeli zenye vigezo wazi kupitia mchakato uitwao abliteration, na hutoa ufikiaji wa modeli zisizo na vikwazo vyovyote kwa gharama inayoweza kuwa ndogo kama bei ya pizza. Mkurugenzi Mkuu wake, Devon, anasema ufikiaji mpana unaweza kuwasaidia watetezi kuchunguza mifumo yao wenyewe na kuiga wahalifu wa mtandaoni, matapeli na mawakala wasiotii udhibiti.

Jaribio hilo halikutaja vifaa vilivyoathiriwa, dosari mahususi au mbinu iliyotumiwa kupenya PC. Wired pia ililinganisha huduma hiyo na Mythos ya Anthropic na Astra ya OpenAI, ambazo inasema zina uwezo sawa wa kimtandao lakini zimewekewa wateja wanaoaminika pekee; kampuni zote mbili pia hutoa modeli zinazopatikana kwa upana zaidi zenye vizuizi vya kiwango cha kati kwa ukaguzi ulioidhinishwa wa msimbo na mifumo.

Kwa nini ni muhimu

Jaribio linaonyesha jinsi modeli za wakala zinazoweza kufikiwa na watumiaji na zisizo na vizuizi zinavyoweza kuunganisha ugunduzi wa udhaifu, matumizi ya dosari na ushauri wa marekebisho katika mazingira ya nyumbani. Hilo hupunguza juhudi zinazohitajika kwa mmiliki aliyeidhinishwa kuchunguza vifaa na programu zilizounganishwa, lakini pia linaweza kupunguza juhudi za uchunguzi usioidhinishwa.

Kwa wasanidi wanaotoa programu za “vibe-coded”, upimaji unaosaidiwa na AI unaweza kufanya ukaguzi wa usalama kuwa kazi ya kawaida zaidi kabla ya kupeleka programu hewani. Uwezo huohuo huongeza gharama ya kuacha uthibitishaji wa utambulisho, ruhusa, huduma zilizo wazi na programu ambazo hazijasasishwa bila kushughulikiwa, kwa sababu udhaifu unaweza kuwa rahisi zaidi kupatikana.

Tathmini ya athari

Watumiaji wa nyumbani wenye vifaa vilivyounganishwa wanakabiliwa na athari ya haraka yenye pande mbili. Mmiliki aliyeidhinishwa anaweza kutumia wakala asiyewekewa vikwazo kutafuta udhaifu na kufuata marekebisho; udhaifu huo ukibaki bila kutatuliwa, zana zinazofanana zinaweza kufanya mifumo iliyo hatarini kuwa malengo yanayovutia zaidi. Mlolongo huo hukatika iwapo ufikiaji utabanwa au vidhibiti vilivyopo vitazuia dosari zilizogunduliwa kutumiwa.

Timu ndogo zinazotumia miradi ya “vibe-coded” zinaweza kupata uwezo wa bei nafuu wa kupima usalama katika wiki zijazo, hivyo kupunguza faida iliyokuwa ikishikiliwa na timu zenye wafanyakazi mahsusi wa usalama. Lakini maendeleo ya haraka bila kurekebisha dosari huhamisha gharama kwenye kuweka viraka na kukabiliana na matukio baada ya uzinduzi, na kufanya ukaguzi wa usalama kuwa sehemu muhimu zaidi ya shughuli za kupeleka bidhaa hewani.

Katika kipindi cha miezi sita hadi 12, watoa huduma wa modeli zenye uwezo wa kimtandao zilizowekewa vikwazo wanaweza kukabiliwa na shinikizo la kufanya mifumo ya upimaji ulioidhinishwa iwe muhimu zaidi na iwe na mipaka iliyo wazi. Njia mbadala zisizo na vikwazo vyovyote zinatoa ulinganisho wa vitendo: uwezo huo unaweza kupatikana nje ya programu za wateja wanaoaminika. Shinikizo hilo hupungua iwapo modeli zisizo na vikwazo zitathibitika kutokuwa za kuaminika au matokeo yake hayawezi kubadilishwa kuwa marekebisho.

Hali zinazowezekana

Inayowezekana zaidi. Mtazamo wetu (makisio yenye ufahamu): Katika wiki kadhaa zijazo hadi miezi 12, watumiaji walioidhinishwa na timu za usalama watazidi kujaribu uchanganuzi wa udhaifu unaosaidiwa na AI kwenye mifumo wanayoidhibiti. Iwapo zana zisizo na vikwazo vyovyote zitaendelea kupatikana na matokeo yake yataonyesha hatua za wazi za kurekebisha, timu zitaongeza ukaguzi unaoendeshwa na wakala kabla ya kupeleka bidhaa hewani na kutenga kazi za kawaida zaidi kwa kuweka viraka vya dosari zilizotambuliwa na ukaguzi huo. Hali hii ya msingi ina uwezekano mkubwa zaidi kwa sababu jaribio lililoripotiwa la mtandao wa nyumbani linaonyesha uwezo wa kushambulia na manufaa ya kujilinda. Marekebisho yaliyoandikwa kufuatia matokeo ya ukaguzi ulioidhinishwa yangeiimarisha; uchanganuzi usioaminika au marekebisho magumu yangeidhoofisha.

Matokeo chanya. Iwapo upimaji ulioidhinishwa utaambatana na mwongozo wazi wa kurekebisha na timu zichukue hatua kwa kufuata matokeo, mawakala wasio na vikwazo na wale wenye vizuizi vya kiwango cha kati wanaweza kuwa wasaidizi wa vitendo wa kujihami ndani ya miezi sita hadi 12. Timu ndogo za maendeleo zinaweza kugundua na kurekebisha dosari kabla ya uzinduzi, na kupanua uwezo wao wa kuimarisha bidhaa bila wafanyakazi mahsusi wa usalama. Ushahidi wa mawakala kuingizwa katika ukaguzi kabla ya kupeleka bidhaa hewani na kufuatiwa na marekebisho yaliyoandikwa ungeunga mkono mwelekeo huu; majaribio yasiyokuwa sehemu ya ukaguzi wa kawaida yangeudhoofisha.

Matokeo mabaya. Iwapo watumiaji wasioidhinishwa wanaweza kupata na kuendesha kwa ufanisi modeli zisizo na vikwazo vyovyote dhidi ya mifumo wasiyoidhibiti, zana hizo zinaweza kupunguza juhudi zinazohitajika kuchunguza vifaa vya nyumbani na programu zisizolindwa vyema katika mwaka ujao. Waendeshaji wangeelekeza matumizi na muda wa wafanyakazi kwenye kuimarisha huduma zilizo wazi, kuweka viraka kwa haraka na kukabiliana na matukio baada ya udhaifu kugunduliwa. Uchunguzi au upenyaji usioidhinishwa uliothibitishwa na kusaidiwa na AI ungeunga mkono matokeo haya; ufikiaji wenye vikwazo au vidhibiti vinavyozuia matumizi ya dosari vingeyadhoofisha.

Cha kufuatilia baadaye

• Iwapo Abliteration AI na watoa huduma wengine wataendelea, kupanua, kuzuia au kuondoa ufikiaji wa modeli za wakala zisizo na vikwazo vyovyote.
• Iwapo upimaji ulioidhinishwa unaosaidiwa na AI utazalisha matokeo yanayoweza kurudiwa na marekebisho yaliyoandikwa kwa vifaa, PC au programu.
• Iwapo modeli za Anthropic na OpenAI zenye vizuizi vya kiwango cha kati zitatumiwa kwa upana zaidi katika ukaguzi ulioidhinishwa wa msimbo na mifumo.