የአንትሮፒክ የደህንነት መሪ፣ በAI ምክንያት የሰው ዘር የመጥፋት አደጋ ከ10% በላይ ነው አሉ

ምን ተለወጠ

በዘ ቨርጅ ዘገባ መሠረት፣ የአንትሮፒክ ተመራማሪ ጄኮብ ኮክሰን ከሥራ ለቀዋል፤ አንትሮፒክና ኦፕንኤአይ በቂ የደህንነት ዝግጅት ሳይኖራቸው ራሳቸውን ማሻሻል ወደሚችሉ የAI ሥርዓቶች በፍጥነት እየሮጡ ናቸው ሲሉ ገልጸዋል። የአንትሮፒክ የደህንነት ቡድን መሪ ኢቫን ሁቢንጀር፣ AI “ሰዎችን በሙሉ ሊገድል ይችላል” የሚለው ዕድል በሚቀጥሉት አሥር ዓመታት ከ10% በላይ እንደሆነ በግላቸው እንደሚገምቱ ተናግረዋል፤ እንዲሁም የላቀ AI ደህንነቱ የተጠበቀና ከሰው ዓላማ ጋር የተጣጣመ ሆኖ እንዲቆይ አንትሮፒክ እስካሁን ዕቅድ እንደሌለው ገልጸዋል።

ይህ ለምን አስፈላጊ ነው

የአንድ አቅራቢ ስለ ደህንነት የሚሰጠው ቃል ብቻ ከአሁን በኋላ በቂ አይደለም። የአንድ ላቦራቶሪ የራሱ የደህንነት መሪ ዕቅዱ ያልተጠናቀቀ መሆኑን ከተናገሩ፣ እያንዳንዱ ትልቅ ማሰማራት የበለጠ ጥልቅ ጥያቄ ይጠይቃል፦ በሞዴሉና በምርት አጠቃቀሙ መካከል ምን ተጨባጭ የመልቀቂያ መስፈርቶች፣ የመዳረሻ ገደቦችና የክትትል ውሎች አሉ?

የእኛ እይታ፣ በመረጃ የተደገፈ ግምት፣ እንዲህ ነው፦ በሚቀጥሉት 6–12 ወራት ተግባራዊው ውጤት በልማት ላይ ሰፊ እገዳ ከመጣል ይልቅ ለተመረጡ የግንባር ቀደም ችሎታዎች በደረጃ የሚሰጥ መዳረሻ መሆኑ ይበልጥ ይቻላል። ይህ እጅግ ኃይለኛ ባህሪያት ወደ ምርት እንዲደርሱ ሊያዘገያቸው፣ አጠቃቀማቸውን በተጨማሪ ቅድመ ሁኔታዎች ሊያስገድድ እና ከመሐንዲሶች የበለጠ ትኩረት ሊጠይቅ ይችላል። ከአሁኑ ጀምሮ ለተተኪ አማራጮች፣ ለማረጋገጥ ተቻይነት እና ለሰው ፈቃድ የሚያዘጋጁ ቡድኖች፣ የመዳረሻ ደንቦች ቢጠነክሩ የበለጠ የመንቀሳቀስ ዕድል ይኖራቸዋል። ዋናው ነጥብ በአንድ ግለሰብ የዕድል ግምት መደናገጥ አይደለም። የግንባር ቀደም ሞዴሎች መገኘትን እንደ ቋሚ የምርት ዋስትና መቁጠር ማቆም ነው።

ታሪካዊው ተመሳሳይነት

በ1975 የአሲሎማር ጉባኤ ሳይንቲስቶች በወቅቱ ብቅ እያለ የነበረው የሪኮምቢናንት DNA ሥራ ጥብቅ ቁጥጥር እንደሚፈልግ ደምድመዋል። ተመሳሳይነቱ ግልጽ ነው፦ በፍጥነት እያደገ ላለ ችሎታ በጣም ቅርብ የነበሩ ሰዎች፣ እርግጠኛ ባይሆኑም ከባድ መዘዝ ሊያስከትሉ የሚችሉ ጉዳቶች የልማት ሂደቱን መቀየር እንደሚያስፈልግ ወሰኑ።

ምላሹም ወደ ተግባር ተለወጠ። NIH በ1976 ለሪኮምቢናንት DNA መመሪያዎችን አወጣ፤ የአደጋ ምድቦችን፣ የመያዣ መስፈርቶችን እና ለተመረጡ ሥራዎች የተጣሉ እገዳዎችን ተጠቅሟል። በኋላ የተገኘ ማስረጃ አንዳንድ ቁጥጥሮች እንዲለሰልሱ ደግፏል። AI ግን በመሠረቱ የተለየ ነው፦ አደጋዎቹ ራሱን ችሎ መንቀሳቀስን፣ የሳይበር ችሎታን እና ሰፊ ማሰማራትን ያካትታሉ፤ የላቦራቶሪ መጋለጥን አይደሉም። ሆኖም ጠቃሚው ትምህርት ጽኑ ነው፦ ማስጠንቀቂያዎች ወደ ሊለኩ የሚችሉ ገደቦች፣ በግዴታ የሚተገበሩ ቁጥጥሮች እና በልምድ የሚመሩ ማሻሻያዎች ሲቀየሩ ብቻ ጠቃሚ አስተዳደር ይሆናሉ።

ውጤቶቹ እንዴት ሊስፋፉ ይችላሉ

አንትሮፒክ ሁቢንጀር ይፋ ያደረጉትን የዕቅድ ክፍተት ወደ ግምገማዎች፣ የመልቀቂያ መስፈርቶች ወይም የመዳረሻ ገደቦች ከቀየረ፣ የምርት ቡድኖች የላቁ ችሎታዎች ወደ ደንበኞች ከመድረሳቸው በፊት ተጨማሪ ሙከራና ቁጥጥር ሊያስፈልጋቸው ይችላል። ከዚያም የድርጅት ተጠቃሚዎች እነዚህን ችሎታዎች ዘግይተው፣ በደረጃ በሚሰጥ መዳረሻ፣ በክትትል ወይም በጠባብ ውሎች ሊያገኙ ይችላሉ።

የጥበቃ እርምጃዎች ማሰማራትን በተጨባጭ ካላዘገዩ፣ ወይም ተወዳዳሪ አቅራቢዎች በአነስተኛ ገደቦች ተተኪ ችሎታዎችን ካቀረቡ፣ ይህ ሰንሰለት ሊቋረጥ ይችላል። እውነተኛው ፈተና ጭንቀቱ የምርት አሠራርን ይለውጥ እንደሆነ ነው።

የተፅዕኖ ግምገማ

አንትሮፒክ በቅርብ ጊዜ ተጋላጭ ነው። የኮክሰን ከሥራ መልቀቅና የሁቢንጀር ንግግር፣ የደህንነት አቋሙ በመልቀቂያዎች ላይ ተፅዕኖ ወደሚያሳድሩ ውሳኔዎች ሊተረጎም ይችላል የሚለውን ጥያቄ ያጠናክራሉ።

የግንባር ቀደም ተወዳዳሪዎች በሚቀጥሉት 6–12 ወራት የተቃረኑ ማበረታቻዎችን ይጋፈጣሉ። በአንትሮፒክ ዘግይቶ ወይም በበለጠ ገደብ የሚደረግ ማሰማራት በሌሎች ቦታዎች የፍጥነት ጥቅም ሊፈጥር ይችላል፤ በተመሳሳይ ጊዜም ተቀናቃኞች የራሳቸውን ቁጥጥሮች እንዲያሳዩ የሚጠበቅባቸውን ግፊት ያሳድጋል።

የድርጅት ገዢዎች በተመሳሳይ ጊዜ ውስጥ መመዘን የሚጠይቅ ምርጫ ይጋፈጣሉ። በችሎታ-ተኮር መዳረሻና ክትትል የማሰማራት አደጋ ይበልጥ ግልጽ ሊሆን ይችላል፤ ነገር ግን የላቁ ባህሪያትን መዳረሻ ሊገድብ ወይም ሊያዘገይ ይችላል።

ሁኔታዎች

በጣም የሚጠበቀው። የግንባር ቀደም ላቦራቶሪዎች ለሕዝብና ለውስጥ ግፊት ልማትን እንዲቀጥል በሚፈቅዱ ሊለኩ በሚችሉ ጥበቃዎች ምላሽ ከሰጡ፣ በሚቀጥሉት 6–12 ወራት የንግድ እድገት ሲቀጥል ይበልጥ ግልጽ ግምገማና የማሰማራት ቁጥጥሮች ይመጣሉ። ይህ መሠረታዊ ግምት የሆነው ዘገባው ንቁ የውድድር ሩጫን፣ ከዚሁ ጋርም የተጠናቀቀ የተስማሚነት ዕቅድ አለመኖሩን ስለሚገልጽ ነው። የበለጠ ጠንካራ ምልክቶች በችሎታ-ተኮር ገደቦች፣ በደረጃ በሚሰጥ መዳረሻ እና የተገለጸ የመልቀቂያ ሥልጣን ባላቸው የደህንነት ቡድኖች ይታያሉ። መልቀቂያዎች አዲስ ሁኔታዎች ሳይጨመሩባቸው ይበልጥ ችሎታ ካገኙ ይህ ግምት ይዳከማል።

አዎንታዊ ሁኔታ። ድርጅቶችና የውጭ ተቋማት ሰፊ የአደጋ ጥያቄዎችን ወደ ሊፈተኑ የሚችሉ፣ በችሎታ-ተኮር ደንቦች ከቀየሩ፣ ምርምር በበለጠ ግልጽ የመያዣ፣ የመዳረሻና የግምገማ ገደቦች ሊቀጥል ይችላል። ገዢዎች አንድ ሥርዓት ምን ማድረግ እንደሚችል፣ የት ሊሠራ እንደሚችል እና ከእሱ ጋር ምን ቁጥጥሮች እንደሚኖሩ ይበልጥ ጠቃሚ ግንዛቤ ያገኛሉ። ገለልተኛ ግምገማና የተወሰኑ የመዳረሻ ደንቦች ይህን መንገድ ያጠናክራሉ፤ ያለ ማስፈጸሚያ ግልጽ ያልሆኑ ቃል ኪዳኖች ግን ያዳክሙታል።

አሉታዊ ሁኔታ። ራሳቸውን ማሻሻል የሚችሉ የAI ሥራዎች ሲፋጠኑ፣ ውድድር በግዴታ ሊተገበሩ ከሚችሉ የጥበቃ እርምጃዎች በላይ ከተቀመጠ፣ በደህንነት ላይ ያተኮሩ ተጨማሪ መልቀቆች ሊከተሉ ይችላሉ፤ ደንበኞችም የራሳቸውን ገዳቢ የግዥ ደንቦች ማዘጋጀት ሊገደዱ ይችላሉ። ይህ የውስጥ የአደጋ ቁጥጥሮችን ለመደገፍ ገንዘብ ማቅረብ የሚችሉ ድርጅቶችን ይጠቅማል፤ ትናንሽ ተጠቃሚዎችን ግን የግንባር ቀደም ሥርዓቶችን ለመገምገም በአነሰ ተግባራዊ አቅም ይተዋቸዋል። ግልጽና በግዴታ የሚተገበሩ የማሰማራት መስፈርቶች ይህን አቅጣጫ ሊያቋርጡ ይችላሉ።

ቀጥሎ ምን መከታተል ይገባል

• አንትሮፒክ ሊለኩ የሚችሉ ገደቦችን፣ የውሳኔ ሥልጣኖችን፣ የመዳረሻ ገደቦችን ወይም የመልቀቂያ መስፈርቶችን የያዘ የደህንነት፣ የተስማሚነት፣ የግምገማ ወይም የማሰማራት ዕቅድ ማውጣቱን።
• የላቁ ሞዴሎች በደረጃ የሚሰጡ፣ የተገደቡ፣ የሚከታተሉ ወይም በደህንነት ግምገማ ላይ የተመሠረቱ መሆናቸውን።
• ተመራማሪዎች ያልተፈቱ የዕቅድ ወይም የማሰማራት አሠራሮችን የሚጠቅሱባቸውን ተጨማሪ ከደህንነት ጋር የተያያዙ መልቀቆችን።