Anthropic ahobammɔ kuw panyin bu akontaa sɛ AI a ɛbɛtumi atɔre nnipa nyinaa ase no ho asiane boro 10%

Deɛ asi

Sɛdeɛ The Verge abɔ amanneɛ no, Jacob Coxon a ɔyɛɛ nhwehwɛmufoɔ wɔ Anthropic no agyae adwuma. Ɔka sɛ Anthropic ne OpenAI de mmirika reyɛ AI a ɛbɛtumi ama n'ankasa tumi akɔ anim, nanso wɔmfaa ahobammɔ a ɛdɔɔso nhyɛɛ ho.

Evan Hubinger a ɔdi ahobammɔ kuw bi anim wɔ Anthropic no nso aka n'ankasa adwene wɔ baguam. Ɔbu akontaa sɛ, wɔ mfeɛ 10 a ɛdi anim no mu, AI a “ɛbɛtumi akum nnipa nyinaa” no ho asiane boro 10%. Ɔsan kae sɛ Anthropic nnyaa nhyehyɛeɛ a ɛbɛma wɔahwɛ sɛ AI a ne tumi kɔ akyiri no bɛkɔ so adi nnipa apɛdeɛ akyi a ɛremma asiane mma wɔn.

Adɛn nti na yei ho hia

Kasa a adwumakuo bi ka fa ne nneɛma ahobammɔ ho nko ara nnɔɔso bio. Sɛ adwumakuo a ɛyɛ AI no ankasa ahobammɔ kuw panyin ka sɛ wɔn nhyehyɛeɛ nwieeɛ a, ɛsɛ sɛ wɔbisa asɛm pɔtee bi ansa na wɔde AI no ayɛ adwuma biara a wɔpɛ sɛ wɔde kɔ akyiri: ahwehwɛdeɛ bɛn na ɛsɛ sɛ AI no du ho ansa na wɔama nnipa de ayɛ adwuma, hwan na wɔbɛma wanya ho kwan, na ɔkwan bɛn so na wɔbɛhwɛ sɛdeɛ wɔde di dwuma?

Yɛn hwɛ anim, a egyina deɛ yɛnim so nanso ɛyɛ adwenkyerɛ, ne sɛ, wɔ abosome 6–12 a ɛdi anim no mu, ɛbɛyɛ mmerɛ sɛ wɔde anohyetoɔ bɛto AI a ɛdi anim paa no tumi ahodoɔ bi ho kwan so sene sɛ wɔbɛgyae nkɔsoɔ adwuma no nyinaa. Ɛba saa a, nneɛma a AI tumi yɛ a ɛkɔ akyiri paa no bɛtumi akyɛ ansa na wɔde ayɛ adwuma ankasa. Wɔbɛtumi de ahwehwɛdeɛ pii abata ho kwan a wɔma sɛ wɔmfa nni dwuma no ho, na ayɛ adwuma a ɛhia mfiridwuma ho animdefoɔ berɛ ne wɔn adwene pii nso.

Akuw a wɔrehyehyɛ wɔn nneɛma seesei sɛ wɔbɛtumi de AI foforɔ asi deɛ wɔde di dwuma no ananmu, ama afoforɔ ahwehwɛ wɔn dwumadie mu, na ama onipa apene gyinaeɛ so no bɛnya akwan pii afa so, sɛ wɔhyɛ ho kwan ho mmara mu den a.

Ɛnyɛ obi ankasa asiane ho akontaabu nti na ɛsɛ sɛ ehu ka yɛn. Mmom, ɛsɛ sɛ yɛgyae adwene sɛ AI a ɛdi anim paa no bɛkɔ so ayɛ deɛ yɛbɛtumi anya de ayɛ yɛn nneɛma aberɛ biara.

Deɛ abakɔsɛm kyerɛ yɛn

Wɔ 1975 Asilomar Conference no ase no, nyansahufoɔ bɔɔ no mua sɛ nhwehwɛmu foforɔ a na ɛfa DNA afã a wɔka bom ho no hia anohyetoɔ a emu yɛ den.

Nsɛm mmienu yi mu adeɛ a ɛdi nsɛ no da adi: nnipa a wɔbɛn tumi foforɔ a ɛrenya nkɔsoɔ ntɛmntɛm no paa hunuu sɛ, ɛwom sɛ na wɔnnim asiane no yie deɛ, nanso sɛ ɛba a, ne nsunsuansoɔ bɛtumi ayɛ kɛseɛ. Ɛno nti, wɔsii gyinaeɛ sɛ ɛsɛ sɛ wɔsesa ɔkwan a wɔfa so ma adwuma no kɔ anim.

Wɔde gyinaeɛ no yɛɛ adwuma. Wɔ 1976, NIH de akwankyerɛ a ɛfa DNA afã a wɔka bom ho maeɛ. Wɔkyekyɛɛ adwuma no mu sɛdeɛ asiane teɛ, kyerɛɛ deɛ ɛsɛ sɛ wɔyɛ na nneɛma a wɔreyɛ ho nhwehwɛmu no amfiri baabi a wɔde agu, na wɔbaraa adwuma ahodoɔ bi. Adanseɛ a ɛbaa akyire yi kyerɛɛ sɛ wɔbɛtumi agow anohyetoɔ no bi mu.

AI deɛ, ɛsono n'asiane no ankasa. Ebi ne sɛ ɛbɛtumi ayɛ nneɛma a onipa nkyerɛɛ no sɛ ɛnyɛ, tumi a ɛwɔ sɛ ɛde kɔmputa ne ntanɛte so yɛ nneɛma, ne sɛ wɔde di dwuma wɔ mmeaeɛ pii. Ɛnyɛ asiane a ɛfa nneɛma a ɛwɔ nhwehwɛmu dan mu a obi bɛka anaa ɛbɛka obi ho.

Nanso asuadeɛ a ɛwɔ mu no da so ara di mu: kɔkɔbɔ bɛtumi aboa ma wɔadi nneɛma so yie bere a wɔde yɛ ahwehwɛdeɛ a wɔbɛtumi asusuw, anohyetoɔ a wɔbɛtumi ahyɛ ma nnipa adi so, ne nsakraeɛ a egyina deɛ wɔahunu wɔ dwumadie mu so no nkutoo.

Sɛdeɛ nsunsuansoɔ no bɛtumi atrɛ

Sɛ Anthropic gyina nhyehyɛeɛ a Hubinger aka sɛ ɛnwieeɛ no so de sɔhwɛ, ahwehwɛdeɛ a ɛsɛ sɛ wɔdi so ansa na wɔayi AI adi, anaa anohyetoɔ a ɛfa ho kwan ho ba a, ebia akuw a wɔyɛ nneɛma de ma adetɔfoɔ no bɛhia sɔhwɛ ne nhwɛsoɔ pii ansa na wɔde AI tumi a ɛkɔ akyiri no ama wɔn adetɔfoɔ.

Ɛba saa a, ebia nnwumakuo a wɔde AI di dwuma no bɛnya saa tumi no akyire yi. Wɔbɛtumi ama wɔn anya no nkakrankakra, ahwɛ sɛdeɛ wɔde di dwuma, anaa wɔama wɔn ho kwan wɔ nneɛma kakraa bi mu.

Nanso nsunsuansoɔ yi renni so saa ara sɛ ahobammɔ nhyehyɛeɛ no mma ɛnkyɛ ankasa ansa na wɔde AI no ayɛ adwuma, anaa sɛ nnwumakuo a wɔne Anthropic resi akan no ma nnipa nya tumi a wɔbɛtumi de asi ananmu a anohyetoɔ a ɛwɔ ho sua a.

Adeɛ a ɛbɛkyerɛ deɛ ɛrekɔ so ankasa ne sɛ, saa dadwene yi bɛsesa ɔkwan a wɔfa so yɛ wɔn nneɛma na wɔde ma nnipa anaa.

Hwan na ɛbɛka no, na ɔkwan bɛn so

Wɔ berɛ a ɛbɛn yi mu no, Anthropic na asɛm yi ka no tẽẽ. Coxon adwuma a wagyae ne Hubinger nsɛm no ma asɛmmisa yi mu yɛ den: Anthropic bɛtumi de ahobammɔ ho gyinabea a ɛka sɛ ɛwɔ no ayɛ gyinaeɛ a ɛsesa deɛ wɔyi no adi ne berɛ a wɔyi no adi anaa?

Wɔ abosome 6–12 a ɛdi anim no mu, nneɛma ahodoɔ bɛtumi atwe nnwumakuo a wɔne no resi akan wɔ AI a ɛdi anim paa mu no akɔ akwan ahodoɔ so. Sɛ Anthropic tɔ ne bo ase anaa ɛde anohyetoɔ pii to sɛdeɛ wɔde ne AI di dwuma so a, ɛbɛtumi ama afoforɔ adi kan wɔ ahoɔhare mu. Berɛ korɔ no ara, ɛbɛtumi ama nkurɔfoɔ ahwɛ kwan kɛseɛ sɛ wɔn a wɔne no resi akan no nso bɛkyerɛ anohyetoɔ a wɔde di wɔn deɛ so.

Nnwumakuo a wɔtɔ AI de di dwuma no nso bɛhia sɛ wɔkari mfasoɔ ne ɛka a ɛbata ho no wɔ saa berɛ korɔ no ara mu. Sɛ wɔma ho kwan na wɔhwɛ dwumadie so sɛdeɛ AI no tumi pɔtee teɛ a, ɛbɛtumi ama asiane a ɛwɔ dwumadie no mu ada adi yie. Nanso ɛbɛtumi nso ama wɔanya nneɛma a ɛkɔ akyiri no ho kwan kakraa bi, anaa ama ɛnnya wɔn nsa ntɛm.

Deɛ ɛbɛtumi aba

Deɛ ɛbɛyɛ mmerɛ sɛ ɛba. Sɛ nnwumakuo a wɔyɛ AI a ɛdi anim paa no de ahobammɔ nhyehyɛeɛ a wɔbɛtumi asusuw, na ɛma nkɔsoɔ adwuma kɔ so, bua nhyɛsoɔ a ɛfiri wɔn mu ne ɔmanfoɔ hɔ no a, wɔ abosome 6–12 a ɛdi anim no mu, sɔhwɛ ne dwumadie ho anohyetoɔ bɛda adi pefee. Saa berɛ no ara nso, aguadiɛ mu nkɔsoɔ bɛkɔ so.

Yei ne deɛ yɛhwɛ kwan paa, ɛfiri sɛ amanneɛbɔ no kyerɛ sɛ akansi a emu yɛ den rekɔ so, nanso nhyehyɛeɛ a ɛbɛma AI adi nnipa apɛdeɛ akyi no nwieeɛ. Deɛ ɛbɛhyɛ saa hwɛ anim yi mu den ne ahwehwɛdeɛ a wɔde bɛto AI tumi pɔtee biara so, ho kwan a wɔbɛma no nkakrankakra, ne tumi a wɔbɛkyerɛ mu pefee ama ahobammɔ akuw sɛ wɔnni gyinaeɛ wɔ AI a wɔyi no adi ho. Sɛ AI a wɔyi no adi no tumi kɔ anim a ahwehwɛdeɛ foforɔ biara mmata ho a, ɛbɛma saa hwɛ anim yi ayɛ mmerɛ.

Deɛ ɛbɛtumi ama nneɛma akɔ yie. Sɛ nnwumakuo ne ahyehyɛdeɛ a ɛwɔ wɔn akyi de asiane ho nsɛm a wɔka no yɛ mmara a wɔbɛtumi asɔ ahwɛ, na ɛfa AI tumi pɔtee biara ho a, nhwehwɛmu bɛtumi akɔ so. Ɛbɛma deɛ ɛsɛ sɛ wɔyɛ de si asiane ano, de ma ho kwan, ne de hwehwɛ dwumadie mu no ada adi pefee.

Adetɔfoɔ bɛnya nteaseɛ a wɔbɛtumi de ayɛ adwuma wɔ deɛ AI bi tumi yɛ, baabi a wɔbɛtumi de ayɛ adwuma, ne anohyetoɔ a ɛka ho no ho. Sɔhwɛ a wɔn a wɔmfra adwumakuo no mu na wɔyɛ ne ho kwan ho mmara a ɛda adi pefee bɛhyɛ saa kwan yi mu den. Bɔhyɛ a emu nna hɔ na wɔnhyɛ obiara mma ɔnni so deɛ, ɛbɛma ayɛ mmerɛ.

Deɛ ɛbɛtumi ama nneɛma asɛe. Sɛ akansi nya ahoɔden sene ahobammɔ nhyehyɛeɛ a wɔbɛtumi ahyɛ ma nnipa adi so, na adwuma a ɛfa AI a ɛma n'ankasa tumi kɔ anim no nso nya ahoɔhare a, nnipa pii a wɔde wɔn adwene si ahobammɔ so bɛtumi agyae adwuma. Ebia ɛbɛhia sɛ adetɔfoɔ no ankasa hyehyɛ mmara a emu yɛ den fa AI a wɔbɛtɔ ho.

Ɛno bɛboa ahyehyɛdeɛ a wɔwɔ sika de bɛhyehyɛ wɔn ankasa asiane ho anohyetoɔ. Nanso ɛbɛma nnwumakuo nketewa a wɔpɛ sɛ wɔde AI di dwuma no anya tumi kakraa bi de ahwɛ AI a ɛdi anim paa no mu yie. Ahwehwɛdeɛ a ɛda adi pefee, a ɛsɛ sɛ wɔdi so ansa na wɔde AI ayɛ adwuma, na wɔhwɛ ma wɔdi so ankasa no bɛtumi atwa saa kwan yi mu.

Deɛ ɛsɛ sɛ yɛhwɛ sɛ ɛbɛdi hɔ

• Sɛ Anthropic de nhyehyɛeɛ bɛto dwa a ɛfa ahobammɔ, AI a ɛdi nnipa apɛdeɛ akyi, sɔhwɛ anaa dwumadie ho, na ɛkyerɛ ahwehwɛdeɛ a wɔbɛtumi asusuw, wɔn a wɔwɔ gyinaesie ho tumi, ho kwan ho anohyetoɔ, anaa deɛ ɛsɛ sɛ wɔdi so ansa na wɔayi AI adi.
• Sɛ wɔbɛma nnipa anya AI a ne tumi kɔ akyiri no nkakrankakra, wɔde anohyetoɔ ato so, wɔahwɛ sɛdeɛ wɔde di dwuma, anaa wɔahyɛ sɛ ɛsɛ sɛ ɛdi ahobammɔ sɔhwɛ mu ahwehwɛdeɛ so ansa na wɔama ho kwan.
• Sɛ nhwehwɛmufoɔ foforɔ bɛgyae adwuma esiane ahobammɔ ho nsɛm nti, na wɔaka sɛ nhyehyɛeɛ anaa sɛdeɛ wɔde AI di dwuma ho nsɛm bi da so ara nnyaa ano aduro.