الاقتباسات بترجمتنا، يليها النص الإنجليزي الأصلي.

المركّزون على السلامة

في جملة واحدة: قد يُحدث الذكاء الاصطناعي خيرًا كثيرًا، وقد يسبّب أيضًا ضررًا جسيمًا، لذا ينبغي أن نبنيه بعناية، ونختبره بصرامة، ونحكمه بحكمة، بدلًا من الاختيار بين «السرعة القصوى» و«التوقف».

من هم؟

هذا أوسع التيارات. ويضم أشخاصًا يختلفون في أمور كثيرة، لكنهم يتشاركون قناعة بأن خطر الذكاء الاصطناعي المتقدم حقيقي، وحجمه غير مؤكد، ويمكن تقليله بالجهد.

الباحثون.

• يوشوا بنجيو، الحائز على جائزة تورينغ، يرأس التقرير الدولي لسلامة الذكاء الاصطناعي. وفي يونيو 2025 أطلق LawZero، وهي منظمة غير ربحية في مونتريال أُسّست «لتقديم السلامة على الاعتبارات التجارية» (الأصل: "to prioritize safety over commercial imperatives"). وقد أُسّست، بكلماته، استجابةً لأدلة على أن النماذج المتقدمة تُظهر «قدرات وسلوكيات خطيرة متزايدة، منها الخداع والغش والكذب والاختراق والحفاظ على الذات» (الأصل: "growing dangerous capabilities and behaviours, including deception, cheating, lying, hacking, self-preservation"). وتسعى أبحاثها إلى «ذكاء اصطناعي عالِم» (الأصل: "Scientist AI"): نظام غير وكيل مصمّم ليفهم ويشرح لا ليتصرّف، ويمكن أن يكون ضابطًا لأنظمة ذكاء اصطناعي أخرى (بنجيو، «Introducing LawZero»؛ بيان صحفي، 3 يونيو 2025، جرى التحقق عبر البحث). → المتتبّع (Tracker): CR-K13
• جيفري هينتون، الحائز على جائزة نوبل في الفيزياء (2024)، يقدّم تقديرًا معتبرًا لخطر الكارثة (انظروا الأشدّ قلقًا ومؤشر p(doom))، وقد حثّ على التنظيم الحكومي (الغارديان، 27 ديسمبر 2024، جرى التحقق عبر البحث).
• كتاب ستيوارت راسل Human Compatible («متوافق مع الإنسان»، 2019) من الأعمال التي استشهدت بها الرسالة المفتوحة لمعهد مستقبل الحياة عام 2023 (FLI). وعنوانه الفرعي، Artificial Intelligence and the Problem of Control («الذكاء الاصطناعي ومشكلة السيطرة»)، يسمّي السؤال الذي يقع في قلب هذا التيار.

بُناة يشدّدون على السلامة. يقول قادة عدد من شركات الذكاء الاصطناعي المتقدمة علنًا إن المخاطر جدّية.

• يكتب داريو أمودي، الرئيس التنفيذي لشركة Anthropic، عن فوائد الذكاء الاصطناعي وعن خطر أن «يمكّن من دعاية ومراقبة أفضل بكثير» (الأصل: "enable much better propaganda and surveillance") معًا (Machines of Loving Grace، أكتوبر 2024). → CR-R08
• اقترح قادة OpenAI في 2023 أن الأنظمة الأكثر قدرة قد تحتاج في نهاية المطاف إلى هيئة دولية شبيهة بالوكالة الدولية للطاقة الذرية (OpenAI، 22 مايو 2023، جرى التحقق عبر البحث). → CR-R07

الحكومات والمؤسسات.

• التقرير الدولي لسلامة الذكاء الاصطناعي 2026، المدعوم بلجنة خبراء رشّحتها أكثر من 30 دولة ومنظمة، منها الأمم المتحدة ومنظمة التعاون الاقتصادي والتنمية والاتحاد الأوروبي (الملخص التنفيذي، 3 فبراير 2026).
• وفي الخليج، يلتزم ميثاق الإمارات لتطوير واستخدام الذكاء الاصطناعي (2024) بالسلامة والإشراف البشري والمساءلة.

محطات رئيسية

• رسالة التوقف (22 مارس 2023). دعا معهد مستقبل الحياة «جميع مختبرات الذكاء الاصطناعي إلى التوقف فورًا لمدة 6 أشهر على الأقل عن تدريب أنظمة ذكاء اصطناعي أقوى من GPT-4» (الأصل: "all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4")، ودعا الحكومات إلى التدخّل إن لم تفعل. وطالب أيضًا بجهات تنظيمية جديدة، وبالتدقيق، والعلامات المائية، وقواعد للمسؤولية. واختُتمت بنبرة متفائلة: «لنستمتع بصيف طويل للذكاء الاصطناعي، بدلًا من الاندفاع دون استعداد نحو الخريف» (الأصل: "Let's enjoy a long AI summer, not rush unprepared into a fall") (FLI). ولم يحدث أي توقف. لكن الرسالة ساعدت في إدخال سلامة الذكاء الاصطناعي إلى صلب النقاش السياسي. → CR-K09
• بيان الجملة الواحدة (30 مايو 2023). «ينبغي أن يكون الحدّ من خطر الانقراض بسبب الذكاء الاصطناعي أولوية عالمية إلى جانب المخاطر الأخرى على مستوى المجتمعات، مثل الجوائح والحرب النووية» (الأصل: "Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war") (CAIS). → CR-R01
• أُطر السلامة في الشركات. نشرت اثنتا عشرة شركة أُطرًا لسلامة الذكاء الاصطناعي المتقدم أو حدّثتها في 2025، بحسب التقرير الدولي لسلامة الذكاء الاصطناعي 2026. → CR-R05

حجّتهم، معروضة بإنصاف

1. عدم اليقين يعمل في الاتجاهين. لا أحد يعرف مدى سرعة تقدّم الذكاء الاصطناعي. ويقول التقرير الدولي لسلامة الذكاء الاصطناعي إن التقدّم حتى 2030 قد يستقر أو يستمر أو يتسارع. والاستعداد للسيناريو البطيء وحده ليس من الحكمة.
2. علامات الإنذار تستحق الانتباه. وجدت تجارب أن نماذج تصرّفت بشكل مختلف حين اعتقدت أنها تخضع للتدريب (Anthropic وRedwood Research، ديسمبر 2024). ويؤكد الباحثون أن هذا لا يدل على أهداف خبيثة، لكنه يبيّن أن الاختبار أصعب مما يبدو.
3. السلامة تمكّن الفوائد. الثقة هي ما يدفع الناس إلى تبنّي التقنية. فالطيران والطب والطاقة النووية انتشرت جزئيًا لأنها جُعلت آمنة بشكل موثوق.
4. الأضرار الحالية والمخاطر المستقبلية مترابطة. ضعف الرقابة اليوم (على الانحياز أو التضليل أو المراقبة) هو الضعف نفسه الذي ستزداد أهميته مع أنظمة أقدر.

انتقادات من الاتجاهين

• من دعاة التسريع: قواعد السلامة قد تبطئ التقدّم المفيد، وترسّخ هيمنة الشركات الكبرى القادرة على تحمّل تكاليف الامتثال، وتتعامل مع مخاطر افتراضية كأنها مؤكدة. ويُدرج بيان أندريسن «إدارة المخاطر» و«الثقة والأمان»، كما تُمارسان حاليًا، ضمن الأفكار التي يعارضها (a16z، 2023).
• من الأشدّ قلقًا من الكارثة: تيار السلامة مستعدّ أكثر من اللازم لمواصلة البناء. وقد رأى يودكوفسكي أن التوقف ستة أشهر أقل بكثير من المطلوب (TIME، 2023).
• من المشكّكين: الانشغال بكارثة مستقبلية افتراضية قد يصرف الانتباه والتمويل عن أضرار ملموسة حالية، وأُطر السلامة لدى الشركات قد تؤدي دورًا تسويقيًا. ويرى نارايانان وكابور أن سياسات على غرار «منع الانتشار» (nonproliferation) قد تركّز النفوذ، ويفضّلان الصمود والشفافية (AI as Normal Technology «الذكاء الاصطناعي بوصفه تقنية عادية»، 2025).
• توتر داخلي منصف: بعض أبرز أصوات السلامة يديرون أيضًا الشركات التي تبني الأنظمة الأكثر قدرة. ويرى المؤيدون في ذلك قيادة مسؤولة من الداخل، ويرى المنتقدون فيه تضاربًا في المصالح. وكلا الرأيين يستحق الإصغاء.

كيف نعرف ما إذا كان نهج السلامة ناجحًا؟

ماذا يعني هذا لكم؟

تيار المركّزين على السلامة هو، من نواحٍ كثيرة، الوسط المطمئن: أشخاص يأخذون المخاطر بجدية تحديدًا كي يمكن التمتع بالفوائد بثقة. ولستم مضطرين للموافقة على كل مقترح كي تدركوا قيمة أن تسألوا، عن أي نظام ذكاء اصطناعي جديد تستخدمونه في العمل أو في البيت: من اختبره؟ ماذا يحدث إن أخطأ؟ من المسؤول؟ هذه الأسئلة الثلاثة هي النسخة اليومية من سلامة الذكاء الاصطناعي.

ذو صلة: الأشدّ قلقًا ومؤشر p(doom) · المخاطر وشروط تحقّقها · هل سنفقد السيطرة على الذكاء الاصطناعي؟