الذكاء الاصطناعي يشكل تهديدًا على مستوى الانقراض للبشر: تقرير الحكومة الأمريكية

نيو دلهي: عاجل الأمن القومي المخاوف من تطوير الذكاء الاصطناعي
وقد تم حث الحكومة الأمريكية على التصرف “بسرعة وحسم” للتخفيف من المخاطر الكبيرة التي تشكلها على الأمن القومي الذكاء الاصطناعي (الذكاء الاصطناعي)، والذي، في أسوأ السيناريوهات، يمكن أن يقدم “التهديد على مستوى الانقراض للجنس البشري”، وفقًا لتقرير بتكليف من الحكومة.
زعزعة الاستقرار الأمن العالمي
ويسلط التقرير الضوء على المخاطر المرتبطة بظهور الذكاء الاصطناعي المتقدم والذكاء الاصطناعي العام (AGI)، ويشبه تأثيرهما المحتمل على الأمن العالمي بتأثير التهديدات الأمنية العالمية. أسلحة نووية. على الرغم من أن الذكاء الاصطناعي العام يظل افتراضيًا، إلا أن الوتيرة التي تعمل بها مختبرات الذكاء الاصطناعي تجاه مثل هذه التقنيات تشير إلى أن وصولها قد يكون وشيكًا.
رؤى من خبراء الصناعة
وقد حدد مؤلفو التقرير، بعد التشاور مع أكثر من 200 فرد من الحكومة وخبراء الذكاء الاصطناعي والموظفين في شركات الذكاء الاصطناعي الرائدة، المخاوف الداخلية المتعلقة بممارسات السلامة في صناعة الذكاء الاصطناعي، لا سيما في الشركات الرائدة مثل OpenAI وGoogle DeepMind وAnthropic و ميتا.
تكبير
ويؤكد تركيز التقرير على “مخاطر التسليح” ومخاطر “فقدان السيطرة” على التهديدات المزدوجة التي تشكلها قدرات الذكاء الاصطناعي سريعة التطور. ويحذر من سباق خطير بين مطوري الذكاء الاصطناعي، مدفوعًا بالحوافز الاقتصادية، والتي يمكن أن تهمش اعتبارات السلامة.
الصورة الكبيرة
ومع تقدم تكنولوجيا الذكاء الاصطناعي إلى الأمام، وهو ما تجسده أدوات مثل ChatGPT، تتزايد الأصوات المطالبة باتخاذ تدابير تنظيمية قوية. يتضمن الاقتراح إجراءات غير مسبوقة مثل جعل تدريب نماذج الذكاء الاصطناعي بما يتجاوز مستويات محددة من قوة الحوسبة أمرًا غير قانوني، وتشكيل وكالة فيدرالية جديدة للذكاء الاصطناعي للإشراف على هذا المجال المزدهر.
دور الأجهزة وتنظيم التكنولوجيا المتقدمة
وتدعو الوثيقة أيضًا إلى زيادة السيطرة على تصنيع وتصدير رقائق الذكاء الاصطناعي وتؤكد على أهمية التمويل الفيدرالي في أبحاث مواءمة الذكاء الاصطناعي. يتضمن الاقتراح تدابير لإدارة انتشار موارد الحوسبة المتطورة الضرورية لتدريب أنظمة الذكاء الاصطناعي.
تهدف “خطة عمل جلادستون” إلى زيادة سلامة وأمن الذكاء الاصطناعي المتقدم لمواجهة مخاطر الأمن القومي الكارثية الناجمة عن تسليح الذكاء الاصطناعي وفقدان السيطرة. وتدعو الخطة إلى تدخل الحكومة الأمريكية من خلال سلسلة من التدابير:
الضمانات المؤقتة: تنفيذ ضمانات مؤقتة مثل ضوابط التصدير لتحقيق الاستقرار في تطوير الذكاء الاصطناعي المتقدم. ويتضمن ذلك إنشاء مرصد للذكاء الاصطناعي للمراقبة، ووضع ضمانات مسؤولة لتطوير الذكاء الاصطناعي واعتماده، وإنشاء فريق عمل لسلامة الذكاء الاصطناعي، وفرض ضوابط على سلسلة توريد الذكاء الاصطناعي.
القدرة والسعة: تعزيز قدرة حكومة الولايات المتحدة وقدراتها على الاستعداد المتقدم للذكاء الاصطناعي من خلال التعليم والتدريب وتطوير إطار الاستجابة.
الاستثمار الفني: تعزيز الاستثمار الوطني في أبحاث سلامة الذكاء الاصطناعي وتطوير معايير السلامة والأمن لمعالجة الوتيرة السريعة لتقدم الذكاء الاصطناعي.
الضمانات الرسمية: إنشاء وكالة تنظيمية للذكاء الاصطناعي، وهي إدارة أنظمة الذكاء الاصطناعي الحدودية (FAISA)، ووضع إطار للمسؤولية القانونية لتغطية سلامة وأمن الذكاء الاصطناعي على المدى الطويل.
القانون الدولي وسلسلة التوريد: تكريس ضمانات الذكاء الاصطناعي في القانون الدولي لمنع سباق التسلح العالمي في تكنولوجيا الذكاء الاصطناعي، وإنشاء وكالة دولية للذكاء الاصطناعي، وتشكيل نظام لمراقبة سلسلة التوريد للذكاء الاصطناعي مع الشركاء الدوليين.
تسلط الخطة الضوء على الحاجة إلى نهج “الدفاع المتعمق”، الذي يوفر ضوابط متداخلة متعددة ضد مخاطر الذكاء الاصطناعي وتحديثها مع تطور التكنولوجيا. وهو يعترف بأن تطوير الذكاء الاصطناعي أمر معقد ومتغير باستمرار، وبالتالي يجب فحص التوصيات من قبل الخبراء.
التحديات السياسية والصناعية
وعلى الرغم من الطبيعة المقنعة لهذه التوصيات، فمن المرجح أن تواجه مقاومة سياسية وصناعية كبيرة، نظرا لسياسات حكومة الولايات المتحدة الحالية والطبيعة العالمية لمجتمع تطوير الذكاء الاصطناعي.
مخاوف مجتمعية أوسع
يعكس التقرير القلق العام المتزايد بشأن قدرة الذكاء الاصطناعي على التسبب في أحداث كارثية والاعتقاد السائد بأن هناك حاجة إلى المزيد من التنظيم الحكومي. وتتفاقم هذه المخاوف بسبب التطور السريع لأدوات الذكاء الاصطناعي ذات القدرة المتزايدة والقوة الحاسوبية الهائلة المستخدمة في إنشائها.