الاقتباسات بترجمتنا، يليها النص الإنجليزي الأصلي.

هل الذكاء الاصطناعي منحاز ضد أمثالي؟

الهاجس كما يراه أصحابه

تتعلّم أنظمة الذكاء الاصطناعي باكتشاف الأنماط في كميات هائلة من البيانات، مأخوذ معظمها من الإنترنت. وهذه البيانات ليست محايدة: فهي تُبرز بعض اللغات والثقافات ووجهات النظر أكثر من حجمها الحقيقي، وتُقلّل من حضور غيرها. فإذا استُخدم نظام ذكاء اصطناعي في فرز طلبات التوظيف، أو التوصية بعلاج طبي، أو الإجابة عن أسئلة طفل، فقد تُلحق افتراضاته الخفية ضررًا صامتًا بمن لا ينطبق عليهم ما تعلّمه من أنماط. وبالنسبة إلى الناطقين بالعربية، والنساء، وكبار السن، والوافدين، وذوي الإعاقة (أصحاب الهمم)، يتمثّل القلق في أن يُعيد الذكاء الاصطناعي إنتاج أشكال قديمة من الظلم، ولكن بسرعة أكبر وعلى نطاق أوسع.

ماذا تقول الأدلة؟

الانحياز ضد الثقافة العربية جرى قياسه فعلًا. في دراسة عُرضت في مؤتمر ACL 2024، أحد أبرز المؤتمرات العلمية في تقنيات اللغة، طوّر باحثون في معهد جورجيا للتكنولوجيا (Georgia Tech) معيارًا قياسيًا باسم CAMeL يضم 628 موجِّهًا (أي نصًّا يُطرح على النموذج) وأكثر من 20,000 عنصر ذي صلة ثقافية من أسماء وأطعمة وأماكن وغيرها. واختبروا 16 نموذجًا، بعضها مدرَّب خصيصًا على العربية. فوجدوا أن النماذج تميل إلى تفضيل العناصر الغربية حتى حين تُسأل بالعربية عن سياقات عربية، وأنها تُنتج أحيانًا صورًا نمطية. ويرجّح الباحثون أن السبب هو اعتماد بيانات التدريب بكثافة على مصادر مثل ويكيبيديا (Naous وآخرون، ACL 2024). ويلخّص عنوان الورقة البحثية، "Having Beer after Prayer?"، نوعَ التنافر الثقافي الذي رصدوه، إذ يجمع في سؤال واحد بين الصلاة وتناول مشروب كحولي.

الباحثون يأخذون المسألة بجدية. قال أكثر من نصف باحثي الذكاء الاصطناعي المشاركين في أكبر استطلاع في هذا المجال إن تفاقم عدم المساواة يستحق قلقًا كبيرًا أو بالغًا (Grace وآخرون، مجلة JAIR، 2025).

أين يكمن الخطر فعلًا؟

قرارات غير مرئية. يكون ضرر الانحياز أشد حين لا يعلم الناس أن نظام ذكاء اصطناعي شارك في القرار، كما في التوظيف أو الإقراض أو التحقق من الأهلية.
فجوات اللغة. الأدوات التي تعمل جيدًا بالإنجليزية قد يضعف أداؤها بالعربية، ويضعف أكثر باللهجات الخليجية.
الثقة الزائفة. الإجابة المنحازة حين تُقدَّم بطلاقة قد تكون أكثر إقناعًا من إجابة بشرية متردّدة.

أسباب الأمل وما يُبذل من جهود

ما يمكن قياسه يمكن إدارته. معيار CAMeL نفسه أداة: فقد بات بإمكان المطوّرين اختبار نماذجهم للكشف عن الانحياز الثقافي ضد السياقات العربية، ومتابعة التحسّن بمرور الوقت.

نماذج بُنيت ببيانات ومؤسسات من المنطقة. طُوِّر نموذج «فنار» (Fanar) القطري في جامعة حمد بن خليفة بمساهمات من وزارة الأوقاف والشؤون الإسلامية ومكتبة قطر الوطنية وشبكة الجزيرة وغيرها (جامعة حمد بن خليفة). كما بُني نموذج «علّام» (ALLaM) السعودي ونموذج «جيس» (Jais) الإماراتي بوصفهما نموذجين يضعان العربية أولًا. ولا تُزيل البيانات المحلية الانحياز تلقائيًا، فقد وجدت دراسة CAMeL انحيازًا حتى في بعض النماذج المدرّبة على العربية. لكنها تمنح المطوّرين مادة أفضل للعمل عليها، وتضمن أن يكون حول الطاولة من يفهمون الثقافة.

مبادئ ومعايير في الخليج.

يُدرج ميثاق الإمارات لتطوير واستخدام الذكاء الاصطناعي (2024) تجنّبَ الانحياز الخوارزمي ضمن مبادئه الـ12 (البوابة الرسمية لحكومة الإمارات).
نشرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) مبادئ أخلاقيات الذكاء الاصطناعي في عام 2023. وهي إرشادات طوعية لا قانون مُلزِم، وتتضمّن العدالة ضمن مبادئها (مصدر ثانوي: يلزم التحقق منه مقابل النص المنشور من سدايا).
اعتمدت مملكة البحرين الدليل الاسترشادي لأخلاقيات استخدام الذكاء الاصطناعي لدول مجلس التعاون في يوليو 2025، إلى جانب سياستها الحكومية للذكاء الاصطناعي.
تهدف مؤسسة مستقبل الذكاء الاصطناعي المسؤول (Responsible AI Future Foundation)، التي أسّستها في أبوظبي عام 2025 كلٌّ من G42 ومايكروسوفت وجامعة محمد بن زايد للذكاء الاصطناعي، إلى تعزيز معايير الذكاء الاصطناعي المسؤول في الشرق الأوسط ودول الجنوب العالمي (مايكروسوفت).

الإشراف البشري ما زال ضروريًا. تدعو معظم أطر الذكاء الاصطناعي المسؤول، ومنها ميثاق الإمارات، إلى إشراف بشري على القرارات ذات الأثر الكبير. وهذه هي شبكة الأمان حين يتسلّل الانحياز.

ماذا بوسعكم أن تفعلوا؟

الانتباه حين لا تناسبكم الإجابات. إذا أساءت أداة ذكاء اصطناعي فهم ثقافتكم أو لغتكم أو ظروفكم، فهذه معلومة مفيدة. أبلِغوا عنها حيثما أمكن.
السؤال عمّا إذا كان الذكاء الاصطناعي قد استُخدم في قرارات تخصّكم، كطلب وظيفة أو قرض، وهل راجع أحدٌ النتيجة.
استخدام الأدوات التي تضع العربية أولًا حين تناسبكم، ومقارنة إجاباتها بإجابات أدوات أخرى.
اختبار أي نظام قبل اعتماده، إن كنتم تبنونه أو تشترونه، على الأشخاص الذين سيستخدمونه فعلًا، بلغاتهم وفي سياقاتهم.