الاقتباسات بترجمتنا، يليها النص الإنجليزي الأصلي.

هل يمكن أن يهدّد الذكاء الاصطناعي البشرية نفسها؟

قبل أن تقرؤوا. هذا أثقل الأسئلة في السلسلة، وقد حرصنا على تناوله برفق وصدق. لا شيء هنا يوحي بأن الخطر وشيك. الغرض هو توضيح لماذا يقلق بعض الخبراء، ولماذا لا يقلق آخرون، وما الذي يُبذل من جهود.

الهاجس كما يراه أصحابه

إذا تمكّن البشر يومًا من بناء ذكاء اصطناعي يفوقهم قدرةً بمراحل في معظم المجالات، ولم يستطيعوا أن يضمنوا على نحو موثوق أنه يشاركهم أهدافهم، فقد نفقد القدرة على توجيه مستقبلنا بأنفسنا. ولم يسبق للبشر أن عاشوا إلى جانب شيءٍ من صنع أيديهم يفوقهم قدرة. والقلق هنا ليس من آلات تصبح «شرّيرة»، بل من نظام بالغ القوة يسعى إلى غايات لا تتوافق مع غاياتنا، في عالم يزداد اعتمادًا عليه.

من يقلق، وإلى أي حد؟

بيان علني قصير. في مايو 2023، نشر مركز سلامة الذكاء الاصطناعي (Center for AI Safety) جملة واحدة: «ينبغي أن يكون الحدّ من خطر الانقراض بسبب الذكاء الاصطناعي أولويةً عالمية، إلى جانب المخاطر الأخرى التي تطال المجتمعات على نطاق واسع، مثل الأوبئة والحرب النووية» (الأصل: "Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war."). ومن الموقّعين عليه جيفري هينتون، الحائز جائزة تورنغ، وشخصيات بارزة من كبرى مختبرات الذكاء الاصطناعي والجامعات (CAIS). لاحِظوا ما يقوله البيان بالضبط: إنه يدعو إلى إعطاء الأولوية لهذا الخطر، كما نفعل مع الأوبئة، ولا يقول إن هذه النتيجة مرجّحة.

ماذا يرى الباحثون في مجموعهم؟ في أكبر استطلاع لآراء باحثي الذكاء الاصطناعي (2,778 مشاركًا، أُجري أواخر عام 2023)، قدّر المشارك الوسيط (أي من يقع في منتصف توزيع الإجابات) احتمال «نتائج بالغة السوء» (الأصل: "extremely bad outcomes")، مثل انقراض البشر، بنحو 5%. وبحسب صيغة السؤال، أعطى ما بين 38% و51% من المشاركين احتمالًا لا يقل عن 10% لنتائج بهذا السوء. وفي الوقت نفسه، رأى نحو 68% أن النتائج الجيدة أرجح من السيئة، وكان هناك توافق واسع على أن أبحاث السلامة تستحق أولوية أكبر (Grace وآخرون، مجلة JAIR، 2025).

المتشكّكون. يرى باحثون بارزون آخرون أن هذه المخاوف مبالغ فيها، أو سابقة لأوانها على الأقل. فقد جادل يان لوكون، الحائز جائزة تورنغ، بأن النماذج اللغوية الحالية لا يمكنها أصلًا بلوغ مستوى الذكاء البشري، وأننا «لسنا حتى قريبين من مضاهاة فهم أي حيوان للعالم المادي، قطًّا كان أو كلبًا» (الأصل: "we're not even close to matching the understanding of the physical world of any animal, cat or dog") (PYMNTS، 8 يناير 2025).

التقييم المستقل. يقول التقرير الدولي لسلامة الذكاء الاصطناعي 2026، المدعوم من أكثر من 30 دولة ومنظمة دولية، إن الأنظمة الحالية «تفتقر إلى القدرات التي تجعلها تشكّل مثل هذه المخاطر، لكنها تتحسّن في المجالات ذات الصلة» (الأصل: "lack the capabilities to pose such risks, but they are improving in relevant areas"). ويؤكد أيضًا أن التقدم قد يستقر أو يستمر أو يتسارع (الملخص التنفيذي، 3 فبراير 2026).

كيف نقرأ أرقامًا مثل «5%»؟

هذه الأرقام آراء خبراء لا قياسات، فلا أحد يستطيع حساب احتمال حدثٍ لم يقع من قبل. لكن الاحتمال الضئيل لنتيجة بالغة الخطورة يبقى جديرًا بالتقليل، ولهذا تستثمر المجتمعات في سلامة الطيران، وضمانات الأمان النووي، والاستعداد للأوبئة. والتعامل مع خطرٍ ما بجدية لا يعني توقّع الكارثة.

أين يكمن الخطر فعلًا؟

عدم اليقين نفسه. لا يتفق الخبراء على موعد وصول ذكاء اصطناعي عالي القدرة، ولا على وصوله أصلًا، لذا لا بد أن يبدأ الاستعداد قبل أن تتضح الإجابة.
السباق. قد تكافئ المنافسة بين الشركات والدول السرعةَ على حساب الحذر.
سوء الاستخدام في الطريق. قبل أي ذكاء اصطناعي فائق (ASI) افتراضي، قد يساعد ذكاء اصطناعي أكثر قدرةً أصحابَ النوايا السيئة، في الهجمات السيبرانية مثلًا. ويشير التقرير الدولي لسلامة الذكاء الاصطناعي إلى أن المطوّرين أضافوا في عام 2025 ضمانات جديدة ضد إساءة الاستخدام في المجالين البيولوجي والكيميائي.

أسباب الأمل وما يُبذل من جهود

القلق مطروح في العلن. يناقش صانعو الذكاء الاصطناعي مخاطره علنًا، وينشرون أبحاث السلامة، ويرحّبون بالتدقيق الخارجي. وهذا الانفتاح يسهّل على غيرهم مراجعة عملهم.
علم السلامة ينمو. نشرت اثنتا عشرة شركة أطرًا لسلامة النماذج الأكثر تقدّمًا أو حدّثتها في عام 2025، بحسب التقرير الدولي لسلامة الذكاء الاصطناعي. ويختبر الباحثون علامات الإنذار، مثل تجارب «التظاهر بالمواءمة» الموصوفة في مقالة هل سنفقد السيطرة على الذكاء الاصطناعي؟، قبل وقت طويل من أن تتسبّب في ضرر جسيم.
الحكومات تتعاون في فهم العلم. التقرير الدولي لسلامة الذكاء الاصطناعي نفسه جهد دولي، بلجنة استشارية من الخبراء رشّحتها أكثر من 30 دولة ومنظمة، منها الأمم المتحدة ومنظمة التعاون الاقتصادي والتنمية والاتحاد الأوروبي.
أفكار مؤسسية مطروحة. اقترح قادة OpenAI في عام 2023 أن أكثر الأنظمة تقدّمًا قد تحتاج في نهاية المطاف إلى هيئة دولية شبيهة بالوكالة الدولية للطاقة الذرية (OpenAI، 22 مايو 2023).
الخليج جزء من هذا الحوار. يلتزم ميثاق الإمارات لتطوير واستخدام الذكاء الاصطناعي (2024) بالسلامة والإشراف البشري والمساءلة. وتهدف مؤسسة مستقبل الذكاء الاصطناعي المسؤول في أبوظبي إلى تعزيز معايير الذكاء الاصطناعي المسؤول في الشرق الأوسط ودول الجنوب العالمي.

ماذا بوسعكم أن تفعلوا؟

الجمع بين الفكرتين. يمكنكم أن تأخذوا خطرًا بعيد المدى بجدية وأن تستفيدوا في الوقت نفسه مما يقدّمه الذكاء الاصطناعي اليوم. وكثير من أشد الخبراء قلقًا يفعلون ذلك تمامًا.
الحذر من اليقين في أيٍّ من الاتجاهين. من يقول «لا شيء يدعو إلى القلق» أو «لقد قُضي الأمر» يدّعي أكثر مما تدعمه الأدلة.
العناية براحة بالكم. إذا كان هذا الموضوع يسبّب لكم قلقًا حقيقيًا، فلا بأس أن تبتعدوا عنه قليلًا. لستم مضطرين لحمل هذا العبء وحدكم؛ فكثيرون يعملون على هذه الأسئلة بدوام كامل، والجمهور الهادئ المطّلع يعينهم أكثر من الجمهور الخائف.
دعم الحوكمة الرشيدة. اهتمام الناس بالسلامة من القوى التي تُبقيها على جدول الأعمال.