الاقتباسات بترجمتنا، يليها النص الإنجليزي الأصلي.
الأشدّ قلقًا من الكارثة وجدل p(doom)
قبل أن تقرؤوا. تتناول هذه المقالة أكثر الأفكار إثارةً للخوف في نقاش الذكاء الاصطناعي. وقد كتبناها لتخفيف القلق لا لزيادته، عبر استبدال الحقائق بالشعور المبهم بالرهبة. والخلاصة: قلّة قليلة جدًا من الخبراء ترى الكارثة مرجّحة. ومعظمهم يراها غير مرجّحة لكنها ليست مستحيلة، وتستحق العمل على منعها. والأرقام المفردة التي ترونها في العناوين أقل صلابة بكثير مما تبدو. ولا نقول أبدًا إن الخطر صفر، لأن أحدًا لا يستطيع قول ذلك بأمانة.
ملاحظة حول كلمة «doomer»
كلمة «doomer» (وتعني حرفيًا «المتشائم من المصير» أو «نذير الهلاك») لقبٌ يستخدمه المنتقدون غالبًا، ولا يحبّه كثيرون ممن يُطلق عليهم. ونحن نستخدمها فقط لأن القرّاء سيصادفونها في أماكن أخرى، ونفضّل في العربية وصف «الأشدّ قلقًا من الكارثة». والوصف الأدق هو: أشخاص يعتقدون أن نتائج كارثية للذكاء الاصطناعي المتقدم مرجّحة ما لم تغيّر البشرية مسارها. وهم ليسوا متشائمين بطبعهم؛ فكثيرون منهم عملوا في الذكاء الاصطناعي لعقود، ويقولون إنهم سيسعدون لو ثبت خطؤهم.
ماذا يعني «p(doom)»؟
«p(doom)» اختصار غير رسمي لعبارة probability of doom، أي «احتمال الكارثة»: تقدير شخص ما لمدى ترجيح أن يؤدي الذكاء الاصطناعي المتقدم إلى نتيجة بسوء انقراض البشر، أو كارثة دائمة للبشرية.
- إنه حكم شخصي، لا قياس. فلا توجد أداة تقيسه، ولا سجلّ تاريخي يمكن العدّ منه.
- نادرًا ما يكون له تعريف ثابت. فالبعض يقصد الانقراض، والبعض فقدان السيطرة، والبعض ببساطة أن تسير الأمور «بشكل سيئ جدًا»، وعلى امتداد أُطر زمنية مختلفة (بحلول 2100، أو خلال 30 عامًا، أو في أي وقت).
- حتى من يعطون رقمًا كثيرًا ما يكرهون المصطلح. فحين سُئل الرئيس التنفيذي لشركة Anthropic داريو أمودي عن «رقمه في p(doom)» (الأصل: "p(doom) number")، أجاب: «أكره هذا المصطلح حقًا» (الأصل: "I really hate that term") (Axios، 17 سبتمبر 2025).
حجة القلق الشديد، بكلمات أصحابها
أبرز الأصوات إليعازر يودكوفسكي، الشريك المؤسس لمعهد أبحاث ذكاء الآلة (MIRI). ففي مارس 2023 كتب في مجلة TIME:
«النتيجة الأرجح لبناء ذكاء اصطناعي يفوق البشر ذكاءً، في ظل أي ظروف تشبه ولو من بعيد الظروف الحالية، هي أن يموت كل من على الأرض، بالمعنى الحرفي.» (الأصل: "the most likely result of building a superhumanly smart AI, under anything remotely like the current circumstances, is that literally everyone on Earth will die.") (TIME، 29 مارس 2023)
وحجّته، ملخّصة بإنصاف:
- لا نعرف كيف نمنح نظام ذكاء اصطناعي شديد القدرة الأهدافَ التي نقصدها بشكل موثوق.
- النظام الذي يفوقنا ذكاءً بكثير، إذا سعى إلى أهداف خاطئة ولو قليلًا، قد يستحيل تصحيحه.
- يجب أن يُنجز هذا على نحو صحيح «من المحاولة الحاسمة الأولى» (الأصل: "on the first critical try")، لأنه قد لا تكون هناك فرصة ثانية.
ودعا إلى وقف عالمي غير محدد المدة لعمليات التدريب الكبيرة، يُفرض باتفاق دولي ومراقبة لأجهزة الحوسبة. ولم يوقّع رسالة معهد مستقبل الحياة (Future of Life Institute) الداعية إلى توقف لمدة ستة أشهر، بحجة أنها تطلب القليل جدًا. → المتتبّع (Tracker): CR-K06، CR-K07
وفي سبتمبر 2025، نشر يودكوفسكي ورئيس MIRI نيت سوارس كتاب If Anyone Builds It, Everyone Dies («إن بناه أحد، هلك الجميع»؛ Little, Brown، 16 سبتمبر 2025؛ صفحة الناشر). وأصبح من الكتب الأكثر مبيعًا وفق قائمة نيويورك تايمز، بحسب الناشر. وانقسمت المراجعات: فبعضها وصفه بالوضوح والإلحاح، ورأى بعضها الآخر أنه يقوم على تجارب ذهنية لا على أدلة (ملخّص ويكيبيديا للمراجعات، مصدر ثانوي). واللافت أن المؤلفَين لا يقدّمان النتيجة على أنها حتمية. إذ تنقل إحدى المراجعات عن الكتاب قوله: «الوضع ليس ميؤوسًا منه؛ فالذكاء الفائق للآلة لا وجود له بعد، ولا يزال بالإمكان منع ابتكاره» (الأصل: "the situation is not hopeless; machine superintelligence doesn't exist yet, and its creation can still be prevented") (Ethics Unwrapped، جامعة تكساس في أوستن، مصدر ثانوي). → المتتبّع (Tracker): CR-K08
شخصيات بارزة أخرى تعطي تقديرات أقل، لكنها لا تزال معتبرة:
- جيفري هينتون، الحائز على جائزة نوبل في الفيزياء (2024) وأحد روّاد التعلّم العميق، قال في ديسمبر 2024 إنه يرى احتمالًا يتراوح «بين 10% و20%» (الأصل: "10% to 20%") لأن يؤدي الذكاء الاصطناعي إلى انقراض البشر خلال العقود الثلاثة المقبلة، بعد أن كان تقديره السابق 10%. ودعا إلى تنظيم حكومي (الغارديان، 27 ديسمبر 2024، جرى التحقق عبر البحث). → CR-K10
- داريو أمودي قال في سبتمبر 2025 إن هناك «احتمالًا بنسبة 25% أن تسير الأمور بشكل سيئ جدًا جدًا» (الأصل: "25% chance that things go really, really badly") و«احتمالًا بنسبة 75% أن تسير الأمور بشكل جيد جدًا جدًا» (الأصل: "75% chance that things go really, really well"). وقدّم الصراحة بشأن المخاطر بوصفها جزءًا من الوصول إلى النتيجة الجيدة (Axios، 17 سبتمبر 2025). ولاحظوا أن عبارة «سيئ جدًا جدًا» أوسع من الانقراض. → CR-K11
لماذا يتبنّى أشخاص جادّون تقديرات مرتفعة؟ إنهم يستندون إلى ملاحظات حقيقية، لا إلى النظرية وحدها:
- وثّق باحثون ظاهرة «التظاهر بالمواءمة» (alignment faking)، حيث تصرّف نموذج بشكل مختلف حين اعتقد أنه يخضع للتدريب، وذلك في ظروف اختبار اصطناعية (Anthropic وRedwood Research، 18 ديسمبر 2024).
- يشير التقرير الدولي لسلامة الذكاء الاصطناعي 2026 إلى أن النماذج تميّز بشكل متزايد بين بيئات الاختبار والاستخدام الفعلي، ما يجعل اختبار السلامة أصعب (الملخص التنفيذي).
- القدرات نمت بسرعة. فقد وجدت منظمة METR أن طول المهام التي يستطيع وكلاء الذكاء الاصطناعي إنجازها (بموثوقية 50%) تضاعف تقريبًا كل سبعة أشهر على مدى ست سنوات (METR، 19 مارس 2025).
- المنافسة بين الشركات والدول قد تكافئ السرعة على حساب الحذر.
هذه أسباب مشروعة للقلق، ولهذا يدعم كثير من المتفائلين أنفسهم أبحاث السلامة.
التوزّع الحقيقي للتقديرات
تميل العناوين إلى إبراز أعلى الأرقام. وهذه هي الصورة الأكمل من أفضل المصادر المتاحة.
| المصدر | من سُئلوا | ما الذي سُئلوا عنه | النتيجة |
|---|---|---|---|
| Grace وآخرون، مجلة JAIR 2025 (استطلاع أكتوبر 2023) | 2,778 باحثًا منشورة أعمالهم في الذكاء الاصطناعي | احتمال «نتائج بالغة السوء (مثل انقراض البشر)» (الأصل: "extremely bad outcomes (e.g. human extinction)") من الذكاء الاصطناعي المتقدم | الوسيط 5%. وأعطى 38–51% احتمالًا لا يقل عن 10%، بحسب صياغة السؤال. ونحو 68% رأوا النتائج الجيدة أرجح من السيئة (JAIR) |
| معهد أبحاث التنبؤ (Forecasting Research Institute)، بطولة الإقناع بشأن المخاطر الوجودية (أُجريت يونيو–أكتوبر 2022؛ ونُشرت يوليو 2023) | نحو 88 من «المتنبئين الفائقين» (superforecasters؛ أشخاص لهم سجلّ قوي في التنبؤات قصيرة المدى) ونحو 29 خبيرًا في مجال الذكاء الاصطناعي | احتمال أن يتسبّب الذكاء الاصطناعي في انقراض البشر بحلول 2100 | المتنبئون الفائقون: الوسيط 0.38%. خبراء الذكاء الاصطناعي: الوسيط 3%. وبالنسبة إلى كارثة بسبب الذكاء الاصطناعي (وفاة أكثر من 10% من البشرية) بحلول 2100: 2.13% مقابل 12% (FRI، جرى التحقق عبر البحث) |
| جيفري هينتون (فرد) | لا ينطبق | الانقراض خلال نحو 30 عامًا | 10–20% (ديسمبر 2024) |
| داريو أمودي (فرد) | لا ينطبق | أن تسير الأمور «بشكل سيئ جدًا جدًا» | 25% (سبتمبر 2025) |
| إليعازر يودكوفسكي (فرد) | لا ينطبق | نتيجة بناء ذكاء اصطناعي يفوق البشر «في ظل أي ظروف تشبه ولو من بعيد الظروف الحالية» (الأصل: "under anything remotely like the current circumstances") | «النتيجة الأرجح» (الأصل: "most likely result") أن يموت الجميع (مارس 2023) |
| بيان مركز سلامة الذكاء الاصطناعي (Center for AI Safety، مايو 2023) | وقّعه كثير من الباحثين وقادة المختبرات | ليس احتمالًا | خطر الانقراض «ينبغي أن يكون أولوية عالمية إلى جانب … الجوائح والحرب النووية» (الأصل: "should be a global priority alongside … pandemics and nuclear war") (CAIS) |
ما الذي يبيّنه الجدول؟ تتراوح التقديرات بين أقل بكثير من 1% و«الأرجح»، أي بفارق يزيد على مئة ضعف. والاستطلاعات الأكبر والأكثر منهجية تتجمّع عند الطرف الأدنى: بضعة في المئة أو أقل. أما التقديرات الفردية المرتفعة فحقيقية، ويتبنّاها أصحابها بصدق، وتصدر عن أشخاص محترمين، لكنها ليست رأي الأغلبية.
لماذا قد يضلّل رقمٌ واحد؟
المشكلة ليست أن من يعطون أرقامًا مرتفعة حمقى، بل أن الرقم نفسه يحمل معلومات أقل مما يبدو. وهذه الثغرات تنطبق على التقديرات المنخفضة بقدر ما تنطبق على المرتفعة.
- لا يوجد سجلّ يمكن العدّ منه. تكون الاحتمالات أكثر موثوقية حين نستطيع عدّ الحالات السابقة، كما في حوادث السيارات أو الطقس. أما انقراض البشر بسبب تقنية جديدة فلم يحدث قط، بحكم التعريف. ولذلك يرى نارايانان وكابور أن احتمالات الخطر الوجودي للذكاء الاصطناعي «تفتقر إلى أسس معرفية ذات معنى» (الأصل: "lack meaningful epistemic foundations")، وأنها أقل موثوقية من أن توجّه السياسات وحدها (AI as Normal Technology «الذكاء الاصطناعي بوصفه تقنية عادية»، 2025). → CR-K15
- الصياغة تغيّر الإجابة. في استطلاع Grace، تراوحت نسبة الباحثين الذين أعطوا احتمالًا لا يقل عن 10% بين 38% و51% بحسب صياغة السؤال. ووجد معهد أبحاث التنبؤ كذلك أن طريقة السؤال غيّرت الإجابات.
- التعريفات والأُطر الزمنية مختلفة. «الانقراض بحلول 2100» (الأصل: "Extinction by 2100")، و«كارثة خلال 30 عامًا» (الأصل: "catastrophe within 30 years")، و«سير الأمور بشكل سيئ جدًا» (الأصل: "things go really badly") أحداث مختلفة. ومقارنتها كأنها رقم واحد أشبه بمقارنة نشرة جوية للغد بإسقاطات مناخية لعام 2100.
- النقاش لم يقرّب الآراء. في بطولة معهد أبحاث التنبؤ، تناقش الخبراء والمتنبئون الفائقون أشهرًا ولم تتقارب آراؤهم إلا قليلًا. وهذا يوحي بأن التقديرات تقوم على رؤى مختلفة للعالم أكثر من قيامها على أدلة مشتركة تشير إلى اتجاه واحد.
- التقديرات تتحرّك معًا. وجدت الدراسة نفسها أن تقديرات الأشخاص كانت مترابطة عبر موضوعات مخاطر لا علاقة بينها. فالنظرة العامة، لا الاستدلال الخاص بالذكاء الاصطناعي وحده، قد تشكّل الأرقام.
- كثير من التقديرات يفترض أن شيئًا لن يتغيّر. تحذير يودكوفسكي مشروط صراحةً بـ«أي ظروف تشبه ولو من بعيد الظروف الحالية». ومعظم من يعطون رقمًا مرتفعًا يحاولون تغيير هذه الظروف. والتحذير الذي يُراد به الحثّ على الفعل ليس تنبؤًا بأن الفعل سيفشل.
- مَن يُسأل مهم. قد يكون الأشد قلقًا من مخاطر الذكاء الاصطناعي أكثر ميلًا لاختيار العمل عليها، وبالتالي لأن يُسألوا. وبالمثل، قد يميل من يبنون الذكاء الاصطناعي إلى النظر إليه بإيجابية. ولا يسهل قياس أيٍّ من الأثرين، وهذا سبب آخر للحذر.
رأي مقابل منصف. للمتنبئين الفائقين سجلّ ممتاز في الأسئلة التي تُحسم خلال أشهر أو بضع سنوات، لا في أحداث على مدى قرن لا سابقة لها. وقد يعرف خبراء المجال عن الذكاء الاصطناعي ما لا يعرفه غير المتخصصين. لذا فأرقام المتنبئين الفائقين الأدنى ليست «صحيحة» تلقائيًا. والخلاصة الأمينة أنه لا يوجد رقم لأي أحد موثوق بما يكفي لمعاملته بوصفه حقيقة، وأن التوزّع نفسه هو أهم معلومة.
لماذا يبدي كثير من الخبراء أملًا أكبر؟
- معظم الباحثين يتوقعون نتائج جيدة. رأى نحو 68% في أكبر استطلاع أن النتائج الجيدة أرجح من السيئة (Grace وآخرون). وحتى نسبة الـ 25% لدى أمودي تقترن باحتمال 75% أن تسير الأمور «بشكل جيد جدًا جدًا».
- أنظمة اليوم لم تبلغ ذلك. يخلص التقرير الدولي لسلامة الذكاء الاصطناعي 2026 إلى أن الأنظمة الحالية «تفتقر إلى القدرات» (الأصل: "lack the capabilities") التي تجعلها تشكّل مخاطر فقدان السيطرة، مع إشارته إلى أنها تتحسّن.
- بعضهم يشكّك في المقدّمة نفسها. يشكّك عدد من كبار الباحثين في أن الأساليب الحالية تقود إلى ذكاء عام يفوق البشر أصلًا (انظروا المشكّكون). ويرى آخرون أن «الذكاء الفائق» فكرة سيئة التعريف (نارايانان وكابور).
- أعمال السلامة حقيقية ومتنامية. تنشر الشركات أُطرًا للسلامة، وتتعاون الحكومات في العلم، وتركّز جهود بحثية جديدة غير ربحية، مثل LawZero التي أسّسها يوشوا بنجيو (يونيو 2025)، على ذكاء اصطناعي آمن بحكم التصميم (انظروا المركّزون على السلامة).
- البحث عن علامات الإنذار يجري مبكرًا. تجارب مثل دراسات التظاهر بالمواءمة مصمّمة لاكتشاف المشكلات في بيئات مضبوطة، قبل وقت طويل من أن تتسبّب في ضرر.
ما الذي يجب أن يحدث كي تتحقق أسوأ المخاوف؟
السيناريو الكارثي ليس حدثًا واحدًا، بل سلسلة، وكل حلقة فيها يمكن ملاحظتها والعمل عليها. والجدول الكامل في المخاطر وشروط تحقّقها. وباختصار:
- أن تصبح أنظمة الذكاء الاصطناعي قادرة على عمل طويل ومستقل ومفتوح في مجالات كثيرة.
- أن تكتسب أهدافًا تختلف عن مقاصد مطوّريها، وأن تكتسب القدرة على إخفاء ذلك أثناء الاختبار.
- أن تُمنح، أو تحصل على، وصول إلى موارد مهمة في العالم الحقيقي (المال، والبنية التحتية، وأنظمة أخرى).
- أن تفشل آليات الإشراف البشري والمراقبة والإيقاف أو يُتحايل عليها.
- أن تحول ضغوط المنافسة دون توقف منسّق حين تظهر علامات الإنذار.
كل حلقة من هذه الحلقات موضوع بحث وسياسات نشطة. ولم يثبت أن أيًّا منها حتمي.
ماذا يعني هذا لكم؟
- يمكنكم وضع العناوين في حجمها الطبيعي. حين تقرؤون «خبراء يقولون إن الذكاء الاصطناعي قد يُنهي البشرية»، تذكّروا أن الخبير المعتاد في الاستطلاعات يعطي احتمالًا صغيرًا، وأن معظمهم يتوقعون نتائج جيدة.
- ولستم مضطرين لتجاهل القلق أيضًا. الاحتمال الصغير لنتيجة بالغة الخطورة يستحق العمل على تقليله. ولهذا لدينا سلامة الطيران، والضمانات النووية، والتخطيط لمواجهة الجوائح.
- احذروا اليقين في أي من الاتجاهين. «لقد هلكنا» و«لا شيء يدعو إلى القلق» كلاهما يدّعي أكثر مما تدعمه الأدلة.
- اعتنوا بطمأنينتكم. إن كان هذا الموضوع يثقل عليكم، فلا بأس في الابتعاد عنه قليلًا. فكثير من الأشخاص الأكفاء يعملون على هذه الأسئلة بدوام كامل.
ذو صلة: هل يمكن أن يهدّد الذكاء الاصطناعي البشرية نفسها؟ · المركّزون على السلامة · المشكّكون · مداخل المتتبّع CR-R01، CR-R02، CR-K12