Jagoran Tsaro na Anthropic Ya Ce Hadarin Karewar Bil'adama Sakamakon AI Ya Fi 10%

Abin da ya sauya

Bisa rahoton The Verge, mai bincike a Anthropic Jacob Coxon ya yi murabus, yana mai cewa Anthropic da OpenAI suna fafatawa wajen haɓaka AI mai iya inganta kanta ba tare da isassun matakan tsaro ba. Evan Hubinger, wanda ke jagorantar wata tawagar tsaro a Anthropic, ya ce a nasa hasashen yiwuwar AI “ta kashe dukan mutane” a cikin shekaru goma masu zuwa ta fi ɗaya cikin goma, kuma ya ce Anthropic ba ta da wani tsari tukuna da zai tabbatar AI mai ci gaba ta kasance mai aminci kuma ta dace da manufofin ɗan'adam.

Dalilin da ya sa wannan yake da muhimmanci

Kalaman tsaro daga mai samar da fasaha kaɗai ba su isa ba. Idan jagoran tsaro na wani dakin bincike ya ce tsarinsa bai kammala ba, duk wani amfani da ke da babban buri yana bukatar a yi tambaya mai zurfi: waɗanne ƙa'idojin amincewa kafin fitarwa, iyakokin shiga da sharuddan sa ido ne za su raba samfurin da amfani da shi a ainihin tsarin aiki?

Hasashenmu (tsinkaye bisa bayanai): a cikin watanni 6–12 masu zuwa, abin da ya fi yiwuwa a aikace shi ne a kayyade damar shiga wasu zababbun ƙwarewar AI na kan gaba, maimakon a dakatar da ci gaba gaba ɗaya. Hakan na iya sa fasaloli mafi ƙarfi su jinkirta kafin su shiga ainihin amfani, a ɗaura musu ƙarin sharuddan amfani, kuma su cinye ƙarin kulawar injiniyoyi. Tawagogin da suka tsara tsarinsu tun yanzu domin sauya hanyoyi idan an buƙata, sauƙin bincike da amincewar ɗan'adam za su samu ƙarin damar daidaitawa idan dokokin shiga suka tsaurara. Manufar ba ita ce a firgita saboda kiyasin yiwuwar mutum ɗaya ba. Ita ce a daina ɗaukar samun samfuran AI na kan gaba a matsayin tabbacin samfur na dindindin.

Kwatankwacin tarihi

A Taron Asilomar na 1975, masana kimiyya sun yanke cewa aikin DNA mai sake haɗuwa da ke tasowa na bukatar tsauraran matakan kulawa. Kamanceceniyar a bayyane take: mutanen da suka fi kusanci da wata fasaha mai saurin ci gaba sun yanke cewa illoli marasa tabbas amma masu girman sakamako suna bukatar a sauya yadda ake ci gaba da haɓakawa.

Amsar ta koma aiki a zahiri. NIH ta fitar da ƙa'idojin DNA mai sake haɗuwa a 1976, tana amfani da rabe-raben haɗari, bukatun killacewa da hana wasu zababbun ayyuka; shaidun da suka biyo baya sun goyi bayan sassauta wasu matakai. AI ta bambanta sosai: haɗarinta sun haɗa da halayya mai cin gashin kanta, damar kai hare-haren yanar gizo da yaɗuwar amfani a faɗi, ba fallasa a dakin gwaje-gwaje ba. Duk da haka, darasin mai amfani yana nan daram: gargadi zai zama ingantaccen tsarin kulawa ne kawai idan an mayar da shi ma'aunai masu auna abu, matakan da za a iya tilastawa da gyare-gyaren da gogewa ke jagoranta.

Yadda tasirin zai iya yaɗuwa

Idan Anthropic ta mayar da gibin tsare-tsaren da Hubinger ya bayyana zuwa gwaje-gwaje, ƙa'idojin fitarwa ko takaita damar shiga, tawagogin samfur na iya bukatar ƙarin gwaji da kulawa kafin ƙwarewa masu ci gaba su isa ga abokan ciniki. Masu amfani na kamfanoni za su iya samun waɗannan ƙwarewar daga baya, tare da samarwa a matakai, sa ido ko sharudda mafi takaita.

Wannan jerin na iya karyewa idan matakan kariya ba su jinkirta fitarwa da gaske ba, ko kuma idan masu samar da fasaha masu hamayya sun ba da irin waɗannan ƙwarewa da ƙananan takunkumi. Gwajin ainihi shi ne ko damuwar za ta sauya yadda ake gudanar da samfur.

Kimanta tasiri

Anthropic na fuskantar haɗari a nan kusa. Murabus ɗin Coxon da kalaman Hubinger sun ƙara tsananta tambayar ko za a iya mayar da matsayinta kan tsaro zuwa yanke shawarar da ke shafar fitarwa.

Abokan hamayya a fannin AI na kan gaba suna fuskantar abubuwan da ke jan su ta bangarori biyu a cikin watanni 6–12 masu zuwa. Jinkiri ko ƙarin takaita fitarwa a Anthropic na iya ba wasu damar yin sauri, yayin da kuma zai ƙara tsammanin cewa abokan hamayya su nuna nasu matakan kulawa.

Masu saye na kamfanoni suna fuskantar zaɓi mai wahala a daidai wannan lokaci. Damar shiga da sa ido bisa takamaiman ƙwarewa na iya fayyace haɗarin amfani, amma kuma suna iya takaita ko jinkirta damar amfani da fasaloli masu ci gaba.

Yanayi masu yiwuwa

Mafi yiwuwa. Idan dakunan binciken AI na kan gaba suka amsa matsin lamba daga jama'a da na cikin gida da matakan kariya masu aunawa waɗanda har yanzu ke ba da damar ci gaba, watanni 6–12 masu zuwa za su kawo ƙarin bayyanannun ƙa'idojin gwaji da kula da fitarwa yayin da ci gaban kasuwanci ke ci gaba. Wannan shi ne matsayin asali domin rahoton ya bayyana gasa mai gudana, tare da rashin cikakken tsari na daidaita AI da manufofin ɗan'adam. Alamomi masu ƙarfi za su haɗa da ƙa'idoji bisa takamaiman ƙwarewa, damar shiga a matakai da tawagogin tsaro masu takamaiman ikon yanke hukunci kan fitarwa. Wannan hasashe zai raunana idan abubuwan da ake fitarwa sun ƙara ƙarfi ba tare da sabbin sharudda ba.

Bangaren alheri. Idan kamfanoni da hukumomin waje suka mayar da manyan iƙirarin haɗari zuwa dokoki masu gwadawa kuma masu takamaiman ƙwarewa, bincike zai iya ci gaba tare da fayyace ƙa'idojin killacewa, shiga da bita. Masu saye za su samu hoto mafi amfani na abin da tsari zai iya yi, inda zai iya aiki da kuma irin matakan kulawar da ke tare da shi. Bincike mai zaman kansa da takamaiman dokokin shiga za su ƙarfafa wannan hanya; alkawura marasa fayyaci ba tare da tilastawa ba za su raunana ta.

Bangaren illa. Idan gasa ta rinjayi matakan kariya da za a iya tilastawa yayin da aikin AI mai inganta kanta ke ƙara sauri, ƙarin ficewar ma'aikatan da suka fi mayar da hankali kan tsaro na iya biyo baya, kuma abokan ciniki na iya zama dole su ƙirƙiri nasu ƙa'idojin saye masu tsauri. Hakan zai fifita ƙungiyoyin da za su iya ɗaukar nauyin matakan kula da haɗari na cikin gida, ya bar ƙananan masu amfani da ƙarancin damar a aikace wajen tantance tsarin AI na kan gaba. Bayyanannun ƙa'idojin fitarwa da ake tilastawa za su katse wannan tafiya.

Abin da za a sa ido a kai gaba

• Anthropic ta wallafa tsarin tsaro, daidaita AI da manufofin ɗan'adam, gwaji ko fitarwa mai ɗauke da ma'aunai masu aunawa, ikon yanke hukunci, iyakokin shiga ko ƙa'idojin fitarwa.
• Samfurori masu ci gaba su zama masu samuwa a matakai, masu takaita amfani, ana sa ido a kansu ko kuma ana ɗaura amfani da su da gwajin tsaro.
• Ƙarin ficewa masu alaƙa da tsaro, inda masu bincike ke ambaton matsalolin tsare-tsare ko hanyoyin fitarwa da ba a warware ba.