الاقتباسات بترجمتنا، يليها النص الإنجليزي الأصلي.

قبل أن تقرؤوا. هذا أثقل الأسئلة في السلسلة، وقد حرصنا على تناوله برفق وصدق. لا شيء هنا يوحي بأن الخطر وشيك. الغرض هو توضيح لماذا يقلق بعض الخبراء، ولماذا لا يقلق آخرون، وما الذي يُبذل من جهود.

الهاجس كما يراه أصحابه

إذا تمكّن البشر يومًا من بناء ذكاء اصطناعي يفوقنا قدرةً بمراحل في معظم المجالات، ولم نستطع أن نضمن على نحو موثوق أنه يشاركنا أهدافنا، فقد نفقد القدرة على توجيه مستقبلنا بأنفسنا. ولم يسبق للبشرية أن تقاسمت العالم مع شيء يفوقها قدرة. والقلق هنا ليس من آلات تصبح «شرّيرة»، بل من نظام بالغ القوة يسعى إلى غايات لا تتوافق مع غاياتنا، في عالم يزداد اعتمادًا عليه.

من يقلق، وإلى أي حد؟

بيان علني قصير. في مايو 2023، نشر مركز سلامة الذكاء الاصطناعي (Center for AI Safety) جملة واحدة: «ينبغي أن يكون الحدّ من خطر الانقراض بسبب الذكاء الاصطناعي أولويةً عالمية، إلى جانب المخاطر الأخرى التي تطال المجتمعات على نطاق واسع، مثل الجوائح والحرب النووية» (الأصل: "Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war."). ومن الموقّعين عليه جيفري هينتون، الحائز جائزة تورينغ، وشخصيات بارزة من كبرى مختبرات الذكاء الاصطناعي والجامعات (CAIS). لاحِظوا ما يقوله البيان بالضبط: إنه يدعو إلى إعطاء الأولوية لهذا الخطر، كما نفعل مع الجوائح، ولا يقول إن هذه النتيجة مرجّحة.

ماذا يرى الباحثون في مجموعهم؟ في أكبر استطلاع لآراء باحثي الذكاء الاصطناعي (2,778 مشاركًا، أُجري أواخر عام 2023)، قدّر المشارك الوسيط (أي من يقع في منتصف توزيع الإجابات) احتمال «نتائج بالغة السوء» (الأصل: "extremely bad outcomes")، مثل انقراض البشر، بنحو 5%. وبحسب صيغة السؤال، أعطى ما بين 38% و51% من المشاركين احتمالًا لا يقل عن 10% لنتائج بهذا السوء. وفي الوقت نفسه، رأى نحو 68% أن النتائج الجيدة أرجح من السيئة، وكان هناك توافق واسع على أن أبحاث السلامة تستحق أولوية أكبر (Grace وآخرون، مجلة JAIR، 2025).

المشكّكون. يرى باحثون بارزون آخرون أن هذه المخاوف مبالغ فيها، أو سابقة لأوانها على الأقل. فقد جادل يان لوكون، الحائز جائزة تورينغ، بأن النماذج اللغوية الحالية لا يمكنها أصلًا بلوغ مستوى الذكاء البشري، وأننا «لسنا حتى قريبين من مضاهاة فهم أي حيوان للعالم المادي، قطًّا كان أو كلبًا» (الأصل: "we're not even close to matching the understanding of the physical world of any animal, cat or dog") (PYMNTS، 8 يناير 2025).

التقييم المستقل. يقول التقرير الدولي لسلامة الذكاء الاصطناعي 2026، الذي أُعدّ بتوجيه من أكثر من 100 خبير مستقل، بينهم مرشّحون من أكثر من 30 دولة ومنظمة دولية، إن الأنظمة الحالية «تفتقر إلى القدرات التي تجعلها تشكّل مثل هذه المخاطر، لكنها تتحسّن في المجالات ذات الصلة» (الأصل: "lack the capabilities to pose such risks, but they are improving in relevant areas"). ويؤكد أيضًا أن التقدم قد يستقر أو يستمر أو يتسارع (الملخص التنفيذي، 3 فبراير 2026).

كيف نقرأ أرقامًا مثل «5%»؟

هذه الأرقام آراء خبراء لا قياسات، فلا أحد يستطيع حساب احتمال حدثٍ لم يقع من قبل. لكن الاحتمال الضئيل لنتيجة بالغة الخطورة يبقى جديرًا بالتقليل، ولهذا تستثمر المجتمعات في سلامة الطيران، وضمانات الأمان النووي، والاستعداد للأوبئة. والتعامل مع خطرٍ ما بجدية لا يعني توقّع الكارثة.

أين يكمن الخطر فعلًا؟

  • عدم اليقين نفسه. لا يتفق الخبراء على موعد وصول ذكاء اصطناعي عالي القدرة، ولا على وصوله أصلًا، لذا لا بد أن يبدأ الاستعداد قبل أن تتضح الإجابة.
  • السباق. قد تكافئ المنافسة بين الشركات والدول السرعةَ على حساب الحذر.
  • سوء الاستخدام في الطريق. قبل أي ذكاء اصطناعي فائق (ASI) افتراضي، قد يساعد ذكاء اصطناعي أكثر قدرةً أصحابَ النوايا السيئة، في الهجمات السيبرانية مثلًا. ويشير التقرير الدولي لسلامة الذكاء الاصطناعي إلى أن المطوّرين أضافوا في عام 2025 ضمانات جديدة ضد إساءة الاستخدام في المجالين البيولوجي والكيميائي.

أسباب الأمل وما يُبذل من جهود

  • القلق مطروح في العلن. يناقش صانعو الذكاء الاصطناعي مخاطره علنًا، وينشرون أبحاث السلامة، ويرحّبون بالتدقيق الخارجي. وهذا الانفتاح يسهّل على غيرهم مراجعة عملهم.
  • علم السلامة ينمو. نشرت اثنتا عشرة شركة أطرًا لسلامة النماذج الأكثر تقدّمًا أو حدّثتها في عام 2025، بحسب التقرير الدولي لسلامة الذكاء الاصطناعي (التقرير الدولي لسلامة الذكاء الاصطناعي 2026، فبراير 2026) [F]. ويختبر الباحثون علامات الإنذار، مثل تجارب «التظاهر بالمواءمة» الموصوفة في مقالة هل سنفقد السيطرة على الذكاء الاصطناعي؟، قبل وقت طويل من أن تتسبّب في ضرر جسيم.
  • الحكومات تتعاون في فهم العلم. التقرير الدولي لسلامة الذكاء الاصطناعي نفسه جهد دولي، بلجنة استشارية من الخبراء رشّحتها أكثر من 30 دولة ومنظمة، منها الأمم المتحدة ومنظمة التعاون الاقتصادي والتنمية والاتحاد الأوروبي.
  • أفكار مؤسسية مطروحة. اقترح قادة OpenAI في عام 2023 أن أكثر الأنظمة تقدّمًا قد تحتاج في نهاية المطاف إلى هيئة دولية شبيهة بالوكالة الدولية للطاقة الذرية (OpenAI، 22 مايو 2023).
  • الخليج جزء من هذا الحوار. يلتزم ميثاق الإمارات لتطوير واستخدام الذكاء الاصطناعي (2024) بالسلامة والإشراف البشري والمساءلة (البوابة الرسمية لحكومة الإمارات). وتهدف مؤسسة مستقبل الذكاء الاصطناعي المسؤول (Responsible AI Future Foundation)، التي أطلقتها G42 وMicrosoft في أبوظبي في فبراير 2025، إلى تعزيز معايير الذكاء الاصطناعي المسؤول في الشرق الأوسط ودول الجنوب العالمي (G42، 9 فبراير 2025).

ماذا بوسعكم أن تفعلوا؟

  1. الجمع بين الفكرتين. يمكنكم أن تأخذوا خطرًا بعيد المدى بجدية وأن تستفيدوا في الوقت نفسه مما يقدّمه الذكاء الاصطناعي اليوم. وكثير من أشد الخبراء قلقًا يفعلون ذلك تمامًا.
  2. الحذر من اليقين في أيٍّ من الاتجاهين. من يقول «لا شيء يدعو إلى القلق» أو «لقد قُضي الأمر» يدّعي أكثر مما تدعمه الأدلة.
  3. العناية براحة بالكم. إذا كان هذا الموضوع يسبّب لكم قلقًا حقيقيًا، فلا بأس أن تبتعدوا عنه قليلًا. لستم مضطرين لحمل هذا العبء وحدكم؛ فكثيرون يعملون على هذه الأسئلة بدوام كامل، والجمهور الهادئ المطّلع يعينهم أكثر من الجمهور الخائف.
  4. دعم الحوكمة الرشيدة. اهتمام الناس بالسلامة من القوى التي تُبقيها على جدول الأعمال.