سلامة الذكاء الاصطناعي: جهود سلامة الذكاء الاصطناعي تتجدد بعد فشل قمة باريس
بعد فشل قمة باريس بشأنذكاء إصطناعي في فبراير/شباط الماضي، أعلن المجتمع الدولي للباحثين الأمنيينIA تتجدد الجهود من جديد، على أمل احتواء المخاطر المرتبطة بالتوسع السريع للذكاء الاصطناعي. وبحسب تقرير نُشر يوم الخميس، يتفق الخبراء الآن على ثلاثة مجالات ذات أولوية لمنع المخاطر الوجودية مثل فقدان السيطرة البشرية أو توافر الأسلحة البيولوجية التي يمكن الوصول إليها.
وفي تجمع حاشد في سنغافورة في نهاية شهر أبريل/نيسان، تغيرت اللهجة بشكل جذري مقارنة بباريس. وأكد ماكس تيجمارك، رئيس معهد مستقبل الحياة ومنظم المؤتمر، أن "أغلبية المشاركين استعادوا دوافعهم، وعاد الأمل إلى الظهور". يزعم المجتمع العلمي الآن أن التقارب العالمي حول التحديات التقنية المتعلقة بأمن الذكاء الاصطناعي أصبح قيد التنفيذ. يقول يوشوا بينجيو، أحد الباحثين الرئيسيين المساهمين في تقرير "إجماع سنغافورة حول أولويات أبحاث سلامة الذكاء الاصطناعي العالمية": "يتفق الأميركيون والصينيون على أن هناك عملاً ينبغي القيام به، ويجب القيام به".
يسلط التقرير الضوء على ثلاثة مجالات بحثية رئيسية: تقييم المخاطر المتعلقة بالذكاء الاصطناعي وتطبيقاته، وتطوير الذكاء الاصطناعي الآمن والموثوق به من حيث التصميم، ومراقبة الذكاء الاصطناعي المنتشر، مع القدرة على الاستجابة فورًا إذا تم اكتشاف إشارات تحذيرية. وفي حين يظل مناخ الخوف ملموسا في المجتمع، مع سيناريوهات كارثية تستحضر هروب البشرية بالكامل أو خلق أسلحة بيولوجية بواسطة الذكاء الاصطناعي الذي لا يتم التحكم فيه بشكل جيد، يصر المجتمع العلمي على التأثير المحتمل لعمله في توجيه السياسة العامة.
وينبغي أن يعكس توقيت القمة الحكومية حول الذكاء الاصطناعي، المقرر عقدها في الهند في عام 2026، هذه النبرة المتفائلة أيضاً، مع التأكيد على أهمية العمل البحثي في التأثير بشكل إيجابي على قرارات السياسة. يُذكّرنا تيجمارك بأن "أفضل سبيل لحشد الإرادة السياسية هو إجراء بحوث تقنية. ويُظهر التاريخ أن اتخاذ قادة العالم إجراءات ملموسة لا يتطلب شتاءً نوويًا". وتساعد المناقشات في آسيا، والتي كانت مؤثرة مثل قمة باريس، في إعادة تعريف مسار أمن الذكاء الاصطناعي، مع التأكيد على الحاجة إلى جهد جماعي لمنع أي كارثة مستقبلية.
حقا؟
دعونا نلقي نظرة فاحصة على النقاط الرئيسية للتوجيه:
- تقييم المخاطر: (الصندوق الأسود = لغز) + (التوافق = إنهم لا يعرفون كيفية القيام بذلك) = تعريض 1000 شخص للخطر. حظا سعيدا في التقييم.
- تطوير الذكاء الاصطناعي الآمن: السلامة تتعلق بالتوافق. ما هي نسبة الباحثين الذين يتوافقون مع كتلة مهندسي الذكاء الاصطناعي بالفعل؟ 1%؟ 10%؟ حظا سعيدا مع الأمن.
- موثوقة من مرحلة التصميم: آه! زلة لسان في نموذج التدريب الذي هو خاطئ من الأساس وكل خطوة فيه تحتاج إلى مراجعة؟ هناك أمل بالفعل، ولكن لسوء الحظ فإن هذا الأمل يقتصر على هذه النقطة فقط.
