Anthropic Yaeleza Kampeni Zinazodaiwa za Kunakili Uwezo wa AI Zinazofanywa na Washindani

Nini kimebadilika

Anthropic iliripoti karibu mawasiliano milioni 200 katika kampeni tano zinazodaiwa za kunakili uwezo wa modeli, zilizolenga uwezo wa Claude wa kutenda kama wakala, kutumia zana, kuandika programu, kuchanganua data na kufanya hoja za kimantiki. Kampuni hiyo ilihusisha kampeni hizo na Alibaba, Moonshot AI na DeepSeek, lakini madai hayo bado hayajathibitishwa kwa kujitegemea. TechCrunch yaripoti.

Kampeni kubwa zaidi, iliyohusishwa na timu zinazotengeneza modeli ya Qwen ya Alibaba, ilihusisha mawasiliano milioni 151 kupitia akaunti 3,500 kuanzia Mei hadi Julai 2026, na kufikia kilele cha karibu mawasiliano milioni tatu kwa siku. Anthropic ilihusisha kampeni nyingine na Moonshot AI, kampuni inayotengeneza Kimi; kampeni hiyo ilihusisha karibu maombi 300,000 yaliyopitishwa kupitia akaunti 5,000 kwa muda wa siku 10. Ombi moja lilimtaka Claude kutathmini picha za kamera za ulinzi ili kubaini tabia isiyo ya kawaida.

Kampeni hizo zinadaiwa kutumia vidokezo vilivyoundwa kufichua yaliyomo kwenye kumbukumbu ya muda wa kazi, kutia ndani ombi lililowasilishwa kama kazi ya kutafsiri kwa kutumia katakana pekee. OpenAI nayo imeripoti kando shughuli iliyoihusisha na DeepSeek.

Kwa nini ni muhimu

Kunakili uwezo wa modeli hutumia majibu ya modeli moja kama nyenzo ya kuifundisha modeli nyingine. Maelezo ya Anthropic yanaonyesha kwamba kuuliza maswali mengi kwa uratibu kunaweza kulenga uwezo wa kipekee wa kufanya hoja na kutumia zana bila kupata vigezo vya modeli hiyo.

Ikiwa mawasiliano hayo yalizalisha nyenzo muhimu za mafunzo, huenda yakapunguza muda au gharama ya kuboresha uwezo fulani wa modeli pinzani. Ripoti ya Anthropic haithibitishi kwamba majaribio hayo yalifanikiwa au kwamba yalizalisha mfumo uliowahi kutumiwa kibiashara au kijeshi.

Anthropic huenda ikajibu kwa kuimarisha uthibitishaji wa akaunti, kuweka viwango vya matumizi, kupunguza maelezo ya majibu na kuimarisha ufuatiliaji wa matumizi mabaya. Hatua hizo zinaweza kulinda uwezo wake wa kipekee, lakini pia kufanya tathmini za kiotomatiki, ulinganishaji wa modeli na uundaji wa programu kuwa wa polepole au wa gharama kubwa zaidi.

Mfano wa kihistoria

Watafiti waliwahi kuonyesha kwamba modeli zinazotumika katika uzalishaji kutoka BigML na Amazon Machine Learning zinaweza kunakiliwa kupitia API za utabiri, bila kupata vigezo vyake. Maswali yaliyorudiwa na kuchaguliwa kimkakati yaligeuza miingiliano hiyo kuwa vyanzo vya data ya mafunzo. Utafiti huo wa kihistoria.

Kazi hiyo ilihusu modeli za uainishaji na urejeshi, badala ya mifumo ya kuzalisha majibu yenye uwezo wa kufanya hoja. Utafiti wa baadaye uliripoti kwamba ufuatiliaji wa tabia uliweza kugundua mashambulizi ya kunakili bila kutoa matokeo chanya ya uwongo katika majaribio yake. Hilo linaunga mkono matumizi ya tabaka kadhaa za ulinzi, badala ya kutegemea tu kuficha alama za kujiamini.

Mfano huo wa awali unaunga mkono uwezekano wa mashindano makali kati ya kunakili uwezo na kugundua kunakili, lakini hauthibitishi kwamba Anthropic iliwatambua kwa usahihi wahusika, kwamba kampeni za sasa zilifanikiwa au kwamba zilikuwa na nia yoyote ya kisiasa ya kimataifa.

Jinsi athari zinaweza kuenea

Anthropic na watoa huduma wengine wa modeli za kisasa zaidi wanaweza kuhusisha akaunti zinazoonekana kuwa na uhusiano, kufuatilia mifumo ya maswali yanayorudiwa, kukaza viwango vya matumizi na kutoa maelezo machache kuhusu mchakato wa hoja. Ikiwa vidhibiti hivyo vitaweza kutofautisha kampeni zilizoratibiwa na matumizi ya kawaida, wateja wa biashara wanaweza kuendelea kupata huduma, ingawa kwa masharti ya ziada ya uzingatiaji.

Ikiwa majaribio ya kiwango kikubwa yatakuwa magumu zaidi, kampuni zinaweza kuelekeza tathmini na uundaji wa programu kwenye modeli zinazojihudumia zenyewe au modeli mbadala. Watengenezaji wadogo wanaweza kukabiliwa na vikwazo vikubwa zaidi kwa sababu wana chaguo chache za kubadilisha huduma na uwezo mdogo wa kujenga miundombinu yao wenyewe.

Washindani wanaweza kupata faida kwa kutoa ufikiaji unaotegemeka pamoja na ulinzi unaoaminika dhidi ya kunakili uwezo wa modeli. Ikiwa watoa huduma hawataweza kutenganisha matumizi mabaya na otomatiki halali, vizuizi vya jumla vinaweza kupunguza ufikiaji unaoweza kutumika na kuongeza pengo kati ya kampuni zenye rasilimali nyingi na watengenezaji wadogo.

Tathmini ya athari

Anthropic inakabiliwa na gharama kubwa zaidi za kugundua shughuli hizo, kubaini wahusika na kudhibiti ufikiaji, pamoja na hatari kwamba mabadiliko ya ulinzi yatafanya Claude asiwe rahisi kutumia.

Alibaba na Moonshot AI zinakabiliwa na hatari za sifa, biashara na ufikiaji ikiwa madai hayo yataonekana kuwa ya kuaminika. Ripoti hiyo haithibitishi kwamba kampuni yoyote kati ya hizo iliidhinisha shughuli hiyo au ilipata uboreshaji wa modeli uliofanikiwa.

Wanunuzi wa kibiashara wanaweza kupata ulinzi bora zaidi wa uwezo wa watoa huduma, lakini vidhibiti vikali vinaweza kuvuruga majaribio na tathmini za kiotomatiki. Watengenezaji huru na wadogo wanaweza kupoteza chanzo cha gharama nafuu cha nyenzo za mafunzo na tathmini ikiwa watoa huduma watapunguza maelezo ya majibu au kuweka vidhibiti vya jumla zaidi.

Hali zinazowezekana

Mtazamo wetu (makadirio yenye msingi wa taarifa): katika miezi sita hadi 12 ijayo, kuna uwezekano mkubwa kwamba watoa huduma wataongeza gharama ya kunakili uwezo kwa uratibu, huku wakiendelea kutoa ufikiaji wa kawaida wa kibiashara kupitia vidhibiti vinavyolenga tatizo hilo.

Uwezekano mkubwa zaidi

Ikiwa watoa huduma wataweza kutambua akaunti zilizounganishwa na vidokezo vinavyorudiwa vya mtindo wa kunakili, wataanzisha uthibitishaji maalumu, viwango vya matumizi na vidhibiti vya majibu, badala ya kuzuia API kwa ujumla. Ufikiaji wa kibiashara wa kiwango kikubwa utaendelea chini ya ufuatiliaji mkali zaidi, huku washindani wakiuzia wateja wa biashara ulinzi wa modeli kama sehemu ya huduma zao za kibiashara.

Hali nzuri

Ikiwa ufuatiliaji wa tabia utafanya kazi bila kutoa matokeo mengi ya chanya ya uwongo, watoa huduma wanaweza kupunguza matumizi mabaya huku wakifanya huduma za API ziwe salama zaidi na ziwe rahisi kukaguliwa. Wanunuzi wa kibiashara wanaweza kujibu kwa kuongeza matumizi ya modeli za nje zinazokidhi masharti makali zaidi ya usalama.

Hali mbaya

Ikiwa watoa huduma hawataweza kutofautisha kwa uhakika kunakili uwezo na matumizi halali ya kiwango kikubwa, huenda wakaweka vikomo vya jumla na kupunguza maelezo ya majibu. Watengenezaji wadogo wanaweza kuachana na API za modeli za kisasa zaidi, huku kampuni kubwa zikiwekeza zaidi katika miundombinu ya kibinafsi na kuongeza pengo la uwezo.

Nini cha kufuatilia baadaye

• Watoa huduma watangaza mabadiliko ya uthibitishaji wa akaunti, viwango vya matumizi au udhibiti wa majibu unaolenga maswali yaliyoratibiwa.
• Ushahidi huru wa kiufundi utaonyesha ikiwa kampeni hizo zilizalisha nyenzo za mafunzo zinazoweza kutumika.
• Wateja wa kibiashara wataripoti mabadiliko katika kutegemeka kwa API, taratibu za kuanza kutumia huduma, kazi za tathmini au gharama za uzingatiaji.
• Washindani wataanzisha ufuatiliaji wa kuzuia kunakili uwezo na vidhibiti vya ufikiaji kama sehemu ya huduma zao za kibiashara.