تدعو "أنثروبيك" إلى وقف عالمي لتطوير الذكاء الاصطناعي المتقدم.

يوم الخميس، نشرت شركة أنثروبيك — شركة الذكاء الاصطناعي في سان فرانسيسكو التي تعمل على بناء بعض من أكثر أنظمة الذكاء الاصطناعي قدرة على وجه الأرض — تقريراً يجادل بأن هذه الأنظمة نفسها تقترب من عتبة خطيرة بما يكفي لتبرير تباطؤ عالمي في التطوير. الاقتراح لافت للنظر من حيث مصدره: هذا ليس ناقداً خارجياً أو هيئة تنظيمية حكومية. إنها الشركة التي تكتب الشفرة البرمجية.

تضع المقالة في المدونة، التي شارك في كتابتها جاك كلارك، المؤسس المشارك لشركة أنثروبيك، ومارينا فافارو، رئيسة معهد أنثروبيك، حجة لوقف دولي منسق لتطوير الذكاء الاصطناعي الحدودي — ذلك النوع من عمليات التدريب واسعة النطاق والمكلفة التي تنتج نماذج مثل كلود وجي بي تي وجيميني. ينصب قلقهم على خطر محدد: التحسين الذاتي التكراري، السيناريو الذي يصبح فيه نظام الذكاء الاصطناعي قادراً على تصميم خليفته دون إشراف بشري ذي مغزى.

لماذا الآن

يجادل كلارك وفافارو بأن قدرات الذكاء الاصطناعي تتقدم بشكل أسرع من الهياكل المجتمعية والأطر التنظيمية وأبحاث التوافق اللازمة لإدارتها بأمان. في روايتهما، فإن نافذة وضع الضمانات تضيق — والوقف المنسق من شأنه أن يشتري الوقت اللازم للحاق بعلم التوافق والحوكمة بالركب.

التشبيه الذي يلجآن إليه هو السيطرة على الأسلحة النووية. تماماً كما أدركت القوى النووية الكبرى في النهاية أن ضبط النفس الأحادي الجانب غير كافٍ — وأن معاهدة متعددة الأطراف قابلة للتحقق فقط هي التي يمكنها تقليل الخطر — يجادل كلارك وفافارو بأن الذكاء الاصطناعي الحدودي يتطلب نفس النوع من الاتفاق الدولي المنسق. يسميان الولايات المتحدة والصين باعتبارهما الطرفين الأساسيين؛ فبدون كليهما، فإن أي وقف سينقل الحدود ببساطة من بلد إلى آخر.

المقارنة تصمد وتنهار في الوقت نفسه. تتطلب البرامج النووية بنية تحتية مادية — مرافق تخصيب ومفاعلات ومواقع اختبار — يمكن مراقبتها بواسطة الأقمار الصناعية والمفتشين الدوليين. تحدث عمليات تدريب الذكاء الاصطناعي في مراكز بيانات تبدو من الخارج مثل بنية تحتية حاسوبية عادية. كما يعترف كلارك وفافارو، فإن مشكلة التحقق أصعب. وكذلك مشكلة الانشقاق: فجلسة تدريب تستغرق ثلاثة أشهر وتكلف مئات الملايين من الدولارات هي إغراء لا تستطيع حوافز الشركات وحدها تحييده.

الاستقبال

كان رد الفعل من أجزاء أخرى من الصناعة مختلطاً كما هو متوقع. رحب بعض الباحثين بالدعوة باعتبارها اعترافاً طال انتظاره بأن تطوير الذكاء الاصطناعي الحدودي يحمل مخاطر نظامية لا تستطيع أي شركة واحدة إدارتها بمفردها. رد آخرون بقناعة مماثلة — مجادلين بأن الاقتراح يبالغ في تقدير المخاطر قصيرة المدى، وأن "التحسين الذاتي التكراري" لا يزال تخمينياً، وأن وقف التطوير في الغرب سيسلم الأرض ببساطة إلى فاعلين لديهم التزامات سلامة أقل.

هناك نقد أكثر حدة وهو هيكلي. تدعو أنثروبيك في الوقت نفسه إلى وقف وتتنافس على العقود والشراكات والمواهب التي تحدد من يبني الجيل التالي من النماذج الحدودية. قامت الشركة مؤخراً بتوسيع الوصول إلى نموذجها ميثوس القادر على العمل السيبراني ليشمل 150 منظمة بما في ذلك الناتو. التوتر بين "ابنِ بمسؤولية" و"يرجى التوقف عن البناء" ليس من السهل التوفيق بينهما.

تقول أنثروبيك إنها تخطط لعقد قمة في الأشهر القادمة تشمل مسؤولين حكوميين وعلماء ومجموعات مناصرة وشركات ذكاء اصطناعي منافسة لاستكشاف الشكل الذي قد تبدو عليه الآلية المنسقة في الممارسة العملية.

ما يعنيه هذا بالفعل

التأثير الواقعي قصير المدى لهذا التقرير ليس وقفاً. لن يوقف أي مختبر ذكاء اصطناعي كبير جلسات التدريب من جانب واحد. أوبن إيه آي، وجوجل ديب مايند، وميتا، وإكس إيه آي، والمختبرات الرائدة في الصين جميعها في منتصف السباق. قانون الذكاء الاصطناعي الأمريكي العظيم الذي تم التوقيع عليه ليصبح قانوناً هذا الأسبوع يشير إلى أن السياسة الفيدرالية الأمريكية تتجه نحو التسريع والاستباق للقيود على مستوى الولايات — وليس ضبط النفس.

ما يفعله التقرير هو تحويل نافذة أوفرتون. قبل عام، كانت الدعوة إلى وقف هي لغة دوائر سلامة الذكاء الاصطناعي الهامشية. الآن هي لغة الشركة التي تقدر قيمتها بنحو تريليون دولار. هذا لا يجعل الوقف محتملاً — لكنه يجعل مسألة ما إذا كان هناك حاجة إليه أكثر صعوبة في رفضها.

قد يكون الإرث الأكثر ديمومة لهذه اللحظة هو أبحاث التوافق والاهتمام الحكومي الذي تحفزه. إذا كان التقرير يوجه تمويل الأبحاث الفيدرالية والتركيز التنظيمي نحو التحقق والإشراف — فهم ما تفعله أنظمة الذكاء الاصطناعي بالفعل قبل أن تتمكن من تحسين نفسها — فإنه سيكون قد حقق شيئاً ملموساً، حتى لو لم يتحقق الوقف نفسه أبداً.

المصدر: SiliconAngle | صحيفة لوس أنجلوس تايمز