Andreas Thom Aomba Uthibitisho Kuwa OpenAI Haikutumia Kazi Yake ya Hisabati

Kilichobadilika

Kulingana na taarifa ya The Verge, mwanahisabati Andreas Thom anataka ushahidi kwamba mazungumzo yake na ChatGPT hayakuingia katika data ya mafunzo ya OpenAI wala kuathiri kazi yake kuhusu makundi yasiyo-sofi. OpenAI ilikiri kwamba matokeo hayo yalitegemea kwa kiasi kikubwa kazi ya Thom na Gábor Kun, kisha ikarekebisha kimya kimya maelezo yake yaliyoandikwa baada ya kukosolewa; mzozo huo unafuatia changamoto ya awali kutoka kwa mwanahisabati Tristan Buckmaster.

Kwa nini hili ni muhimu

Swali muhimu si tu ikiwa OpenAI ilinakili uthibitisho. Ni ikiwa watafiti wanaweza kujadili kwa usalama kazi ambayo haijakamilika na mfumo wa AI wakati hawawezi kukagua kilichotokea kwa mazungumzo hayo baadaye.

Thom anasema OpenAI ilijibu swali finyu zaidi: ikiwa watafiti walifikia mazungumzo yake moja kwa moja. Hilo halijibu ikiwa mwingiliano huo uliingia katika data ya mafunzo au uliathiri namna mfumo unavyotoa hoja. OpenAI imesema hapo awali kwamba hakuna data mahususi ya mtumiaji iliyofikiwa kabla ya matokeo yake kuhusu Navier-Stokes, lakini kauli hiyo haiondoi wasiwasi mpana aliouibua Thom.

Hilo linaleta pengo kubwa la usawa. Watafiti wanaweza kuwa na mawazo ambayo bado hayajachapishwa, lakini OpenAI ndiyo yenye kumbukumbu za mfumo, seti za data na mipangilio ya kiufundi inayohitajika kubaini kilichotokea. Ikiwa kutokuwa na uhakika huko kutaendelea, wanahisabati wanaweza kuacha kuingiza kazi inayoendelea kwenye ChatGPT. Vyuo vikuu na makundi ya utafiti pia yanaweza kukaza masharti kuhusu utafiti wa siri, wakibadilisha baadhi ya msaada wa AI kwa udhibiti ulio wazi zaidi wa mawazo ambayo hayajachapishwa.

Athari zake zinaenda mbali zaidi ya mzozo huu. Matokeo ya hisabati yanayotengenezwa na AI katika siku zijazo yatahitaji zaidi ya jibu linalovutia na tangazo lililopangiliwa vizuri. Kumtaja aliyehusika, uwezekano wa kurudiwa kwa matokeo na kufuatilia chanzo cha data vitakuwa sehemu ya matokeo yenyewe. Hilo linaongeza mzigo wa OpenAI wa kuthibitisha madai yake na kuwapa faida washindani wanaoweza kuweka mipaka iliyo wazi zaidi kuhusu mwingiliano wa utafiti.

Tathmini ya athari

Kwa wanahisabati wanaojitegemea, hatari ya mara moja ni ya kivitendo: kushirikisha mbinu yenye kuahidi na mfumo wa AI kunaweza kuambatana na uwezekano usio wazi wa kutumiwa tena baadaye. Ikiwa OpenAI haiwezi kufafanua njia husika za data, watafiti wanaweza kuzuia mbinu ambazo hazijachapishwa, jambo litakalopunguza mchango wa wataalamu unaopatikana kwa mifumo yake katika wiki na miezi ijayo.

Kwa OpenAI, gharama ni ya kuaminika kwake. Changamoto ya pili ya hadharani, pamoja na maelezo yaliyorekebishwa kuhusu makundi yasiyo-sofi, hufanya hakikisho zisizo wazi zisiwe na manufaa sana. Matangazo ya baadaye yanaweza kuhitaji kutajwa kwa kina zaidi kwa waliochangia na maelezo ya kiufundi kuhusu chanzo cha data kabla watafiti hawajakubali madai hayo.

Taasisi za kitaaluma zinakabiliwa na uamuzi mgumu katika kipindi cha miezi sita hadi 12. Zinaweza kuweka rasmi vizuizi vya kuingiza utafiti wa siri kwenye zana za kibiashara za AI, hivyo kulinda kazi ambayo haijachapishwa lakini kupunguza ufikiaji wa msaada muhimu. Mlolongo huo unaweza kukatizwa ikiwa OpenAI itatoa ushahidi unaoweza kukaguliwa kwa kujitegemea unaoshughulikia ufikiaji wa moja kwa moja wa mfumo pamoja na matumizi mapana ya data ya mafunzo.

Matarajio

Linalowezekana zaidi

Mtazamo wetu (makadirio yenye msingi wa taarifa zilizopo): OpenAI itakabiliwa na madai yanayoendelea ya kutoa maelezo kuhusu chanzo cha data, huku wanahisabati wakiwa waangalifu zaidi kuhusu kushirikisha kazi ambayo haijachapishwa kupitia ChatGPT katika miezi kadhaa ijayo. Hili lina uwezekano mkubwa ikiwa OpenAI itaendelea kushughulikia mazungumzo mahususi bila kueleza njia pana ambazo data ya mafunzo hupitia, na ikiwa watafiti zaidi wataibua wasiwasi kama huo.

Mabadiliko ya kivitendo yatakuwa kuongezeka kwa mzigo wa uthibitishaji kuhusu kila tangazo kubwa la hisabati. Maelezo ya baadaye yangehitaji kutaja waliochangia kwa uwazi zaidi na kutoa ushahidi kuhusu mipaka ya mifumo iliyohusika.

Hali nzuri zaidi

Ikiwa OpenAI itachapisha nyaraka zinazoweza kukaguliwa kuhusu matumizi ya data ya mafunzo, ufikiaji wa mfumo na michango ya awali ya kihisabati, watafiti wanaweza kurejea kutumia zana zake za kuchunguza mawazo wakiwa na mipaka iliyo wazi zaidi. Kuwatambua kwa uthabiti wanahisabati kama Thom na Kun kwa mchango wao pia kungefanya matokeo ya baadaye yawe rahisi kutathmini.

Njia hii inategemea ushahidi unaomaliza kutokuwa na uhakika wa msingi, wala si hakikisho jingine la jumla kuhusu ufikiaji wa moja kwa moja wa mazungumzo mahususi.

Hali mbaya zaidi

Ikiwa wanahisabati wengine wataripoti matukio yanayofanana na hayo na OpenAI bado ishindwe kueleza jinsi mwingiliano ambao haujachapishwa unavyoshughulikiwa, watafiti na taasisi zinaweza kuondoa kazi zaidi ya hisabati ambayo haijakamilika kutoka kwenye mifumo yake katika kipindi cha miezi sita hadi 12.

Hilo litapunguza wigo wa mwingiliano wa kitaalamu unaopatikana kwa OpenAI huku likiongeza uchunguzi na gharama ya reputesheni inayohusishwa na madai yake ya kihisabati. Vyuo vikuu au makundi ya utafiti yakitoa vizuizi rasmi itakuwa ishara kwamba mzozo huo umehama kutoka kwenye vita kuhusu utambuzi wa mchango na kuwa suala la sera ya utafiti.

Cha kufuatilia baadaye

• Ikiwa OpenAI itachapisha maelezo ya kiufundi kuhusu ikiwa mwingiliano wa watumiaji unaweza kuingia katika data ya mafunzo au kuathiri mifumo ya kutoa hoja.
• Ikiwa mwanahisabati mwingine atabaini mwingiliano, mbinu au suala mahususi la kutambua mchango linalohusishwa na matokeo ya OpenAI.
• Ikiwa tangazo kuu lijalo la OpenAI kuhusu hisabati litajumuisha maelezo ya kina kuhusu waliotoa mchango na ufichuzi wa chanzo cha data.