Andreas Thom Ataka Uthibitisho Kwamba OpenAI Haikutumia Kazi Yake ya Hisabati

Kilichobadilika

Kulingana na taarifa ya The Verge, mwanahisabati Andreas Thom anataka ushahidi kwamba mazungumzo yake na ChatGPT hayakuingia katika data ya mafunzo ya OpenAI wala kuathiri kazi yake kuhusu vikundi visivyo-sofiki. OpenAI ilikiri kwamba matokeo hayo yalijengwa kwa kiasi kikubwa juu ya kazi ya Thom na Gábor Kun, kisha ikarekebisha kimya kimya maelezo yake baada ya kukosolewa; mzozo huo unafuatia changamoto ya awali kutoka kwa mwanahisabati Tristan Buckmaster.

Kwa nini hili ni muhimu

Swali muhimu si tu kama OpenAI ilinakili uthibitisho wa kihisabati. Ni kama watafiti wanaweza kujadili kwa usalama kazi ambayo bado haijakamilika na mfumo wa akili bandia wakati hawawezi kuchunguza kinachotokea kwa mazungumzo hayo baadaye.

Thom anasema OpenAI ilijibu swali finyu zaidi: kama watafiti waliwahi kufikia mazungumzo yake moja kwa moja. Hilo halijibu kama maingiliano hayo yaliingia katika data ya mafunzo au yaliathiri namna mfumo unavyotoa hoja. Hapo awali OpenAI ilisema kwamba hakuna data maalumu ya mtumiaji iliyofikiwa kabla ya matokeo yake kuhusu Navier-Stokes, lakini kauli hiyo haimalizi wasiwasi mpana aliouibua Thom.

Hali hiyo inaleta kutokuwiana kwa wazi. Watafiti wanaweza kuwa na mawazo ambayo hayajachapishwa, lakini OpenAI ndiyo yenye kumbukumbu za mazungumzo, seti za data na mipangilio ya kiufundi inayohitajika kuthibitisha kilichotokea. Ikiwa kutokuwa na uhakika huko kutaendelea, wanahisabati wanaweza kuacha kuweka kazi wanayoendelea nayo katika ChatGPT. Vyuo vikuu na makundi ya utafiti pia vinaweza kuimarisha kanuni kuhusu utafiti wa siri, vikibadilisha sehemu ya msaada wa akili bandia kwa udhibiti ulio wazi zaidi wa mawazo ambayo hayajachapishwa.

Athari zake zinaenda mbali zaidi ya mzozo huu. Matokeo ya kihisabati yatakayotengenezwa na akili bandia katika siku zijazo yatahitaji zaidi ya jibu linalovutia na tangazo lililopangiliwa vizuri. Kutambua michango, uwezekano wa kurudia matokeo na kujua data ilikotoka vinakuwa sehemu ya matokeo yenyewe. Hilo linaongeza mzigo wa kuthibitisha madai kwa OpenAI na kuwapa faida washindani wanaoweza kuweka mipaka iliyo wazi zaidi kuhusu maingiliano ya utafiti.

Tathmini ya athari

Kwa wanahisabati wanaojitegemea, hatari ya haraka ni ya kivitendo: kushirikisha mbinu yenye kuahidi na mfumo wa akili bandia kunaweza kuleta uwezekano usio wazi wa kutumiwa tena baadaye. Ikiwa OpenAI haiwezi kufafanua njia zinazohusika za data, watafiti wanaweza kuficha mbinu ambazo hazijachapishwa, na hivyo kupunguza mchango wa wataalamu unaopatikana kwa mifumo yake katika majuma na miezi ijayo.

Kwa OpenAI, gharama ni uaminifu. Changamoto ya pili ya hadharani, pamoja na maelezo yaliyorekebishwa kuhusu vikundi visivyo-sofiki, inafanya hakikisho zisizo wazi zisiwe na manufaa sana. Matangazo ya siku zijazo yanaweza kuhitaji kutambua michango kwa ukamilifu zaidi na kutoa maelezo ya kiufundi kuhusu asili ya data kabla watafiti hawajakubali madai hayo.

Taasisi za kitaaluma zinakabiliwa na uchaguzi mgumu katika kipindi cha miezi sita hadi 12. Zinaweza kuweka rasmi vizuizi vya kuingiza utafiti wa siri katika zana za kibiashara za akili bandia, na hivyo kulinda kazi ambayo haijachapishwa lakini kupunguza ufikiaji wa msaada wenye manufaa. Mwelekeo huo unaweza kukatizwa ikiwa OpenAI itatoa ushahidi unaoweza kukaguliwa kwa kujitegemea, unaoshughulikia kufikiwa moja kwa moja kwa mfumo pamoja na matumizi mapana ya data ya mafunzo.

Hali zinazowezekana

Inayowezekana zaidi

Mtazamo wetu (makisio yanayotokana na uchambuzi): OpenAI itaendelea kukabiliwa na madai ya kutoa maelezo kuhusu asili ya data, huku wanahisabati wakizidi kuwa waangalifu kuhusu kushirikisha kazi ambayo haijachapishwa kupitia ChatGPT katika miezi kadhaa ijayo. Hili linawezekana zaidi ikiwa OpenAI itaendelea kujibu kuhusu mazungumzo maalumu bila kufafanua kwa upana jinsi data ya mafunzo inavyotumika, na ikiwa watafiti zaidi wataibua wasiwasi kama huo.

Mabadiliko ya kivitendo yatakuwa kuongezeka kwa mzigo wa uhakiki kuhusu kila tangazo kuu la kihisabati. Maelezo ya siku zijazo yatalazimika kutambua michango kwa uwazi zaidi na kutoa ushahidi kuhusu mipaka ya mifumo inayohusika.

Hali nzuri

Ikiwa OpenAI itachapisha nyaraka zinazoweza kukaguliwa kuhusu matumizi ya data ya mafunzo, ufikiaji wa mfumo na michango ya awali ya kihisabati, watafiti wanaweza kuanza tena kutumia zana zake kwa majaribio wakiwa na mipaka iliyo wazi zaidi. Kutambua kwa uthabiti mchango wa wanahisabati kama Thom na Kun pia kutafanya matokeo ya siku zijazo yawe rahisi kutathminiwa.

Njia hii inategemea ushahidi unaomaliza kutokuwa na uhakika wa msingi, wala si hakikisho jingine la jumla kuhusu kufikiwa moja kwa moja kwa mazungumzo maalumu.

Hali mbaya

Ikiwa wanahisabati wengine wataripoti mambo yanayofanana na OpenAI bado ishindwe kueleza jinsi maingiliano ambayo hayajachapishwa yanavyoshughulikiwa, watafiti na taasisi wanaweza kuondoa kazi zaidi ambayo haijakamilika ya kihisabati kutoka katika mifumo yake katika kipindi cha miezi sita hadi 12.

Hilo litapunguza hazina ya maingiliano ya wataalamu yanayopatikana kwa OpenAI, huku likiongeza uchunguzi na gharama ya sifa inayohusishwa na madai yake ya kihisabati. Vyuo vikuu au makundi ya utafiti yakianza kuweka vizuizi rasmi, huo utakuwa ishara kwamba mzozo umehama kutoka kwenye mgogoro wa kutambua mchango na kuwa suala la sera ya utafiti.

Cha kufuatilia baadaye

• Kama OpenAI itachapisha maelezo ya kiufundi kuhusu ikiwa maingiliano ya watumiaji yanaweza kuingia katika data ya mafunzo au kuathiri mifumo ya kutoa hoja.
• Kama mwanahisabati mwingine atabainisha maingiliano, mbinu au suala maalumu la kutambua mchango linalohusishwa na matokeo ya OpenAI.
• Kama tangazo kuu lijalo la OpenAI kuhusu hisabati litajumuisha maelezo ya kina ya kutambua michango na kufichua asili ya data.