الهاجس كما يراه أصحابه

تتعلّم أنظمة الذكاء الاصطناعي باكتشاف الأنماط في كميات هائلة من البيانات، مأخوذ معظمها من الإنترنت. وهذه البيانات ليست محايدة: فهي تُبرز بعض اللغات والثقافات ووجهات النظر أكثر من حجمها الحقيقي، وتُقلّل من حضور غيرها. فإذا استُخدم نظام ذكاء اصطناعي في فرز طلبات التوظيف، أو التوصية بعلاج طبي، أو الإجابة عن أسئلة طفل، فقد تُلحق افتراضاته الخفية ضررًا صامتًا بمن لا ينطبق عليهم ما تعلّمه من أنماط. وبالنسبة إلى الناطقين بالعربية، والنساء، وكبار السن، والوافدين، وذوي الإعاقة (أصحاب الهمم)، يتمثّل القلق في أن يُعيد الذكاء الاصطناعي إنتاج أشكال قديمة من الظلم، ولكن بسرعة أكبر وعلى نطاق أوسع.

ماذا تقول الأدلة؟

الانحياز ضد الثقافة العربية جرى قياسه فعلًا. في دراسة عُرضت في مؤتمر ACL 2024، أحد أبرز المؤتمرات العلمية في تقنيات اللغة، طوّر باحثون في معهد جورجيا للتكنولوجيا (Georgia Tech) اختبارًا معياريًا (benchmark) باسم CAMeL يضم 628 موجِّهًا (أي نصًّا يُطرح على النموذج) وأكثر من 20,000 عنصر ذي صلة ثقافية من أسماء وأطعمة وأماكن وغيرها. واختبروا 16 نموذجًا، بعضها مدرَّب خصيصًا على العربية. فوجدوا أن النماذج تميل إلى تفضيل العناصر الغربية حتى حين تُسأل بالعربية عن سياقات عربية، وأنها تُنتج أحيانًا صورًا نمطية. ووجد الباحثون كذلك أن مصادر التدريب الشائعة مثل ويكيبيديا قد لا تكون الأنسب لبناء نماذج واعية ثقافيًا إذا استُخدمت كما هي دون تعديل (Naous وآخرون، ACL 2024). ويلخّص عنوان الورقة البحثية، "Having Beer after Prayer?"، نوعَ التنافر الثقافي الذي رصدوه، إذ يجمع في سؤال واحد بين الصلاة وتناول مشروب كحولي.

الباحثون يأخذون المسألة بجدية. قال أكثر من نصف باحثي الذكاء الاصطناعي المشاركين في ما يصفه مؤلفوه بأنه أكبر استطلاع لباحثي الذكاء الاصطناعي حتى الآن إن تفاقم عدم المساواة يستحق قلقًا كبيرًا أو بالغًا (Grace وآخرون، مجلة JAIR، 2025).

أين يكمن الخطر فعلًا؟

  • قرارات غير مرئية. يكون ضرر الانحياز أشد حين لا يعلم الناس أن نظام ذكاء اصطناعي شارك في القرار، كما في التوظيف أو الإقراض أو التحقق من الأهلية.
  • فجوات اللغة. الأدوات التي تعمل جيدًا بالإنجليزية قد يضعف أداؤها بالعربية، ويضعف أكثر باللهجات الخليجية.
  • الثقة الزائفة. الإجابة المنحازة حين تُقدَّم بطلاقة قد تكون أكثر إقناعًا من إجابة بشرية متردّدة.

أسباب الأمل وما يُبذل من جهود

ما يمكن قياسه يمكن إدارته. اختبار CAMeL المعياري نفسه أداة: فقد بات بإمكان المطوّرين اختبار نماذجهم للكشف عن الانحياز الثقافي ضد السياقات العربية، ومتابعة التحسّن بمرور الوقت.

نماذج بُنيت ببيانات ومؤسسات من المنطقة. طُوِّر نموذج «فنار» (Fanar) القطري بتعاون بين وزارة الاتصالات وتكنولوجيا المعلومات وجامعة حمد بن خليفة، بمساهمات من وزارة الأوقاف والشؤون الإسلامية ومكتبة قطر الوطنية وشبكة الجزيرة وغيرها (جامعة حمد بن خليفة). كما بُني نموذج «علّام» (ALLaM) السعودي (Gulf News) ونموذج «جيس» (Jais) الإماراتي (Sengupta وآخرون، 2023) بحيث تكون العربية في صميمهما. ولا تُزيل البيانات المحلية الانحياز تلقائيًا، فقد وجدت دراسة CAMeL انحيازًا حتى في بعض النماذج المدرّبة على العربية. لكنها تمنح المطوّرين مادة أفضل للعمل عليها، وتضمن أن يكون حول الطاولة من يفهمون الثقافة.

مبادئ ومعايير في الخليج.

  • يُدرج ميثاق الإمارات لتطوير واستخدام الذكاء الاصطناعي (2024) تجنّبَ الانحياز الخوارزمي ضمن مبادئه الـ12 (البوابة الرسمية لحكومة الإمارات؛ المكتب الإعلامي لحكومة الإمارات).
  • نشرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) مبادئ أخلاقيات الذكاء الاصطناعي، وهي تسري على الجهات والأفراد الذين يطوّرون أنظمة الذكاء الاصطناعي أو يستخدمونها في المملكة. والعدالة هي المبدأ الأول فيها، وتدعو إلى اتخاذ الإجراءات اللازمة للقضاء على الانحياز والتمييز والوصم (سدايا).
  • اعتمدت مملكة البحرين الدليل الاسترشادي لأخلاقيات استخدام الذكاء الاصطناعي لدول مجلس التعاون في يوليو 2025، إلى جانب السياسة الوطنية لاستخدام الذكاء الاصطناعي (هيئة المعلومات والحكومة الإلكترونية).
  • تهدف مؤسسة مستقبل الذكاء الاصطناعي المسؤول (Responsible AI Future Foundation)، التي أسّستها في أبوظبي عام 2025 كلٌّ من G42 وMicrosoft وجامعة محمد بن زايد للذكاء الاصطناعي، إلى تعزيز معايير الذكاء الاصطناعي المسؤول في الشرق الأوسط ودول الجنوب العالمي (Microsoft).

الإشراف البشري ما زال ضروريًا. فميثاق الإمارات، على سبيل المثال، يُدرج الإشراف البشري ضمن مبادئه. وهذه هي شبكة الأمان حين يتسلّل الانحياز.

ماذا بوسعكم أن تفعلوا؟

  1. الانتباه حين لا تناسبكم الإجابات. إذا أساءت أداة ذكاء اصطناعي فهم ثقافتكم أو لغتكم أو ظروفكم، فهذه معلومة مفيدة. أبلِغوا عنها حيثما أمكن.
  2. السؤال عمّا إذا كان الذكاء الاصطناعي قد استُخدم في قرارات تخصّكم، كطلب وظيفة أو قرض، وهل راجع أحدٌ النتيجة.
  3. استخدام الأدوات التي تضع العربية أولًا حين تناسبكم، ومقارنة إجاباتها بإجابات أدوات أخرى.
  4. اختبار أي نظام قبل اعتماده، إن كنتم تبنونه أو تشترونه، على الأشخاص الذين سيستخدمونه فعلًا، بلغاتهم وفي سياقاتهم.