ما الذي تغيّر
استنادًا إلى تقرير ذا فيرج، استقال الباحث في أنثروبيك جاكوب كوكسون، قائلًا إن أنثروبيك وأوبن إيه آي تتسابقان نحو ذكاء اصطناعي يحسّن نفسه ذاتيًا من دون ضمانات سلامة كافية. وقال إيفان هوبينغر، الذي يقود فريقًا للسلامة في أنثروبيك، إنه يقدّر شخصيًا احتمال أن «يقتل الذكاء الاصطناعي جميع البشر» خلال العقد المقبل بأكثر من واحد إلى عشرة، وأضاف أن أنثروبيك لا تملك حتى الآن خطة تضمن بقاء الذكاء الاصطناعي المتقدم آمنًا ومتوافقًا مع الأهداف البشرية.
لماذا يهم ذلك
لم تعد لغة السلامة التي يستخدمها المورّد كافية. فإذا كان مسؤول السلامة في مختبر ما يقول إن خطته غير مكتملة، فإن كل نشر طموح يحتاج إلى سؤال أدق: ما بوابات الإصدار الفعلية، وحدود الوصول، وشروط المراقبة القائمة بين النموذج واستخدامه في بيئة الإنتاج؟
توقعاتنا، وهي تقدير مستنير: خلال الأشهر 6–12 المقبلة، يُرجَّح عمليًا أن يُفرض وصول مشروط إلى قدرات متقدمة مختارة، بدلًا من وقف واسع للتطوير. وقد يجعل ذلك أقوى الميزات أبطأ وصولًا إلى بيئة الإنتاج، وأكثر تقييدًا بالشروط، وأكثر استنزافًا للاهتمام الهندسي. وستمتلك الفرق التي تبني الآن مع مراعاة قابلية الاستبدال، وقابلية التدقيق، والموافقة البشرية، هامشًا أوسع للتحرك إذا تشددت قواعد الوصول. والمقصود ليس الهلع من تقدير احتمالي شخصي، بل التوقف عن التعامل مع توافر النماذج المتقدمة باعتباره ضمانًا دائمًا للمنتج.
النظير التاريخي
في مؤتمر أسيلومار لعام 1975، خلص العلماء إلى أن العمل الناشئ في الحمض النووي المؤتلف يحتاج إلى ضوابط صارمة. ويكمن التشابه بوضوح في أن الأشخاص الأقرب إلى قدرة سريعة التطور خلصوا إلى أن أضرارًا محتملة، غير مؤكدة وعالية العواقب، تستلزم تغيير طريقة سير التطوير.
وأصبح الرد عمليًا. أصدرت المعاهد الوطنية للصحة إرشادات للحمض النووي المؤتلف في عام 1976، مستخدمة فئات للمخاطر، ومتطلبات للاحتواء، ومحظورات على أعمال محددة؛ ثم دعمت الأدلة اللاحقة تخفيف بعض الضوابط. ويختلف الذكاء الاصطناعي اختلافًا جوهريًا: إذ تشمل مخاطره السلوك الذاتي، والقدرات السيبرانية، والنشر الواسع، لا التعرض داخل المختبر. ومع ذلك، يبقى الدرس المفيد راسخًا: لا تصبح التحذيرات حوكمة نافعة إلا حين تتحول إلى عتبات قابلة للقياس، وضوابط قابلة للإنفاذ، ومراجعات تقودها الخبرة.
كيف يمكن أن تمتد الآثار
إذا حوّلت أنثروبيك فجوة التخطيط التي أفصح عنها هوبينغر إلى تقييمات أو بوابات إصدار أو قيود على الوصول، فقد تحتاج فرق المنتجات إلى مزيد من الاختبارات والإشراف قبل أن تصل القدرات المتقدمة إلى العملاء. وقد يتلقى مستخدمو المؤسسات هذه القدرات لاحقًا، مع إتاحة مرحلية أو مراقبة أو شروط أضيق.
وقد تنقطع هذه السلسلة إذا لم تؤخر الضمانات النشر تأخيرًا ملموسًا، أو إذا قدّم موردون منافسون قدرات بديلة بقيود أقل. والاختبار الحقيقي هو ما إذا كان القلق يغيّر عمليات المنتج.
تقييم الأثر
تواجه أنثروبيك انكشافًا مباشرًا على المدى القريب. فاستقالة كوكسون وتصريحات هوبينغر تطرحان بحدة سؤالًا عما إذا كان يمكن ترجمة نهجها في السلامة إلى قرارات تؤثر في الإصدارات.
ويواجه المنافسون في مجال النماذج المتقدمة حافزًا مختلطًا خلال الأشهر 6–12 المقبلة. فقد يخلق النشر الأبطأ أو الأكثر تقييدًا في أنثروبيك ميزة سرعة في أماكن أخرى، بينما يرفع أيضًا التوقعات بأن يُظهر المنافسون ضوابطهم الخاصة.
ويواجه المشترون من المؤسسات مفاضلة خلال الفترة نفسها. فقد يجعل الوصول المحدد بحسب القدرة والمراقبة مخاطر النشر أوضح، لكنه قد يقيّد أو يؤخر أيضًا الوصول إلى الميزات المتقدمة.
السيناريوهات
الأرجح. إذا استجابت مختبرات النماذج المتقدمة للضغط العام والداخلي بضمانات قابلة للقياس تسمح باستمرار التطوير، فستشهد الأشهر 6–12 المقبلة ضوابط أكثر وضوحًا للتقييم والنشر، بينما يستمر التقدم التجاري. وهذا هو السيناريو الأساسي لأن التقرير يصف سباقًا تنافسيًا نشطًا إلى جانب غياب خطة مكتملة للمواءمة. وستشمل الإشارات الأقوى عتبات خاصة بالقدرات، ووصولًا مرحليًا، وفرق سلامة تمتلك صلاحية محددة بشأن الإصدارات. ويضعف هذا السيناريو إذا أصبحت الإصدارات أكثر قدرة من دون شروط جديدة.
الإيجابي. إذا حوّلت الشركات والمؤسسات الخارجية ادعاءات الخطر العامة إلى قواعد قابلة للاختبار ومحددة بحسب القدرة، فيمكن أن يستمر البحث مع عتبات أوضح للاحتواء والوصول والمراجعة. وسيحصل المشترون على صورة أكثر قابلية للاستخدام عما يستطيع النظام فعله، وأين يمكن تشغيله، وما الضوابط المصاحبة له. وستعزز التقييمات المستقلة وقواعد الوصول المحددة هذا المسار؛ أما الالتزامات الغامضة من دون إنفاذ فستضعفه.
السلبي. إذا غلبت المنافسة الضمانات القابلة للإنفاذ بينما يتسارع العمل على ذكاء اصطناعي يحسّن نفسه ذاتيًا، فقد تتبع ذلك استقالات أخرى تركز على السلامة، وقد يضطر العملاء إلى وضع قواعد شراء مقيّدة خاصة بهم. وسيصب ذلك في مصلحة المؤسسات القادرة على تمويل ضوابط داخلية للمخاطر، ويترك المتبنين الأصغر بقدرة عملية أقل على تقييم الأنظمة المتقدمة. ومن شأن بوابات نشر واضحة ومطبقة أن تعطل هذا المسار.
ما الذي ينبغي مراقبته لاحقًا
- نشر أنثروبيك خطة للسلامة أو المواءمة أو التقييم أو النشر تتضمن عتبات قابلة للقياس، وصلاحيات لاتخاذ القرار، وحدودًا للوصول، أو بوابات للإصدار.
- إتاحة النماذج المتقدمة على مراحل، أو تقييدها أو إخضاعها للمراقبة أو ربط استخدامها بتقييمات السلامة.
- استقالات أخرى مرتبطة بالسلامة يستشهد فيها الباحثون بثغرات لم تُعالج في التخطيط أو ممارسات النشر.
التعليقات
لا توجد تعليقات بعد.