هل تُحايد الخوارزمية نفسها، أم تُحايد من يملكها؟ قراءة في حدود الحياد الخوارزمي وآليات الانحياز الخفي في عصر الذكاء الاصطناعي

عمر النعيم عمر

خبير وباحث مستقل في علوم البيانات

تمهيد

أول درس علق في ذهني حين بدأت أضع قدمي في علوم البيانات لم يكن معادلة رياضية معقدة ولا سطر برمجة متشابك، بل كان سؤالًا أخلاقيًا بسيط الصياغة، عصيًّا على الإجابة القاطعة: هل يمكن لآلة أن تكون منصفة؟ كنت حينها قادمًا من خلفية عريقة في الاقتصاد والاستثمار وحوكمة الشركات، حيث تعلّمت مبكرًا أن كلَّ نموذج مالي، مهما بدا رياضيًا صارمًا ومحاطًا بالأرقام الجافة، يحمل في داخله افتراضات مبطنة من صنع بشر. وحين انتقلت إلى دراسة الخوارزميات ونماذج التعلم الآلي، وجدت الإشكالية ذاتها تتكرر بثوب تقني جديد؛ صناديق سوداء تُقدَّم للجمهور والمؤسسات بوصفها أدوات موضوعية ومحايدة، بينما هي في جوهرها انعكاس لقرارات بشرية متراكمة، بعضها واعٍ وبعضها الآخر لا يعيه حتى صانعوه أنفسهم.

هذا المقال محاولة لمقاربة هذا السؤال الجوهري من زاوية علمية تحليلية، بعيدًا عن الحماس التسويقي المفرط الذي يقدّم الذكاء الاصطناعي بوصفه حَكَمًا مطلقًا ومحايدًا، وبعيدًا أيضًا عن الخطاب التهويلي السوداوي الذي يحوّله إلى شبح غامض يتربص بالإنسانية. الهدف الأساسي هنا هو أن نفهم بدقة: أين يكمن الانحياز فعليًا؟ هل هو مجرد خلل هندسي عارض يمكن إصلاحه برمجيًا، أم أنه يعبر عن بنية أعمق مرتبطة ارتباطًا وثيقًا بمن يملك القرار على البيانات، والأهداف، والموارد الاستراتيجية؟ وهل يمكن، يومًا ما، أن تُصمَّم أنظمة "محصّنة" بالكامل ضد الانحياز، أم أن باب التسلل إليها سيبقى مفتوحًا على مصراعيه ما دام هناك من يملك مفاتيحها التمويلية والتنظيمية؟

تعريف: ما الذي نتحدث عنه فعلًا؟

من واقع الممارسة العمليّة، يخلط كثير من المراقبين والمستخدمين بين ثلاثة مفاهيم متجاورة لكنها مختلفة جوهرياً من الناحية الهيكلية:

·      الخوارزمية بوصفها بنية رياضية مجردة: وهي في ذاتها لا تتعدى كونها مجموعة من القواعد المنطقية والخطوات المرتبة لتحويل مدخلات محددة إلى مخرجات. بهذا المعنى الصرف، يمكن القول إن الخوارزمية "محايدة" تمامًا كما أن أية معادلة تربيعية أو مصفوفة جبرية محايدة؛ فهي لا تملك نية، ولا وعيًا، ولا موقفًا أيديولوجيًا أو مصلحة تجارية.

·      النموذج المدرَّب (Trained Model): وهو الكيان الفعلي الذي ينتج عندما تُغذّى الخوارزمية الرياضية ببيانات حقيقية من العالم الواقعي. وهنا تحديدًا يبدأ الانحياز بالتسلل الممنهج؛ فالبيانات التاريخية ليست حيادية قط، بل هي سجل تراكمي لتاريخ اجتماعي واقتصادي مشحون بالتفاوت والتمييز. فعندما يتعلم نموذج لتصنيف السير الذاتية من بيانات توظيف تاريخية انحازت لفئة معينة، فإنه لا يخترع تحيزًا جديدًا، بل يستنسخ التحيز القديم ويُضخّمه بكفاءة إحصائية باردة.

·      الانحياز الخوارزمي (Algorithmic Bias): وهو المصطلح التقني الدقيق الذي يصف انحرافًا منهجيًا ومتكررًا في مخرجات النظام يميل لصالح فئة على حساب أخرى، دون أن يكون هذا الأثر مقصودًا بالضرورة من المهندس الأول. وتُصنّف أدبيات علوم البيانات مصادره عادة إلى ثلاثة مستويات: تحيز في البيانات المدخلة، وتحيز في اختيار المتغيرات والخصائص المستهدفة، وتحيز في دالة الهدف ومعايير التقييم الأساسية التي تحدد أصلًا ما الذي يعتبره النظام "نجاحًا" أو "أداءً مثاليًا".

تشخيص: أين تكمن العقدة الحقيقية؟

أولاً، الحياد الرياضي وهمٌ إجرائي لا واقعي؛ إذ لا توجد خوارزمية تُصمَّم أو تُطبَّق في فراغ مطلق. كل خطوة في رحلة بنائها -بدءاً من اختيار مصادر البيانات، ومرورًا بتعريف "النتيجة الصحيحة" التي يتعين على النموذج التعلم نحوها، وصولًا إلى تحديد عتبات القرار المعتمدة- هي في حقيقتها قرار قيمي اتخذه فريق بشري خاضع لسياق مؤسسي تحكمه أولويات معينة. إن الحياد الشكلي للرياضيات لا يمنع مطلقًا من استخدامها لخدمة غايات منحازة، تمامًا كما أن السكين أداة محايدة هندسيًا، لكن فعل استخدامها ليس محايدًا بأي حال من الأحوال.

ثانيًا، يبرز السؤال الجوهري: من يملك سلطة تعريف الانحياز أصلًا؟ فالشركات التكنولوجية الكبرى والجهات المصمِّمة ليست كيانات خيرية معزولة عن مصالحها التجارية والجيوسياسية. وحين تحدد شركة ما معايير "العدالة" التي سيُقاس بناءً عليها نموذجها الذكي، فهي في الوقت ذاته تحدد بوعي أو بدون وعي ما الذي سيُغض الطرف عنه. وتثبت الدراسات النظرية أن هناك أكثر من عشرين تعريفًا رياضيًا متنافسًا لمفهوم "العدالة الخوارزمية" في الأدبيات العلمية، بل إن بعض هذه التعريفات متعارضة رياضيًا بشكل قطعي بحيث يستحيل هندسيًا تحقيقها مجتمعة في نموذج واحد. هذا يعني بالضرورة أن اختيار أي تعريف للعدالة وتفضيله على غيره هو قرار سياسي وتجاري بامتياز، وليس حقيقة علمية موضوعية مجردة.

ثالثًا، لا يوجد نظام "محصّن" بالمعنى المطلق؛ فحتى لو بُني النموذج وفق معايير عدالة صارمة ودقيقة عند لحظة إطلاقه الأولى، تبقى هناك عدة نوافذ مفتوحة وخفية للتلاعب والتدخل اللاحق. من أبرز هذه النوافذ عمليات إعادة معايرة النموذج (Fine-tuning) بعد الإطلاق التجاري لتلبية مصالح مستجدة، وتصميم دالة المكافأة في التعلم المعزز من التغذية الراجعة البشرية (RLHF) حيث يمكن لفريق ضيق التوجيه الأيديولوجي أو الثقافي للنظام. يُضاف إلى ذلك السياسات التنظيمية غير الشفافة التي تتحكم في تصعيد أو تهميش المحتوى، وصولًا إلى ظاهرة "الاستحواذ التنظيمي" عندما تشارك الشركات الاحتكارية في صياغة القوانين والتشريعات التي يُفترض أن تراقبها، فتُعاد صياغة معايير الانحياز لتناسب نموذج عملها الربحي.

النتائج: ماذا يترتب على هذا التشخيص؟

بناءً على هذا التحليل الهيكلي، يمكننا استخلاص خمس نتائج محورية تحدد ملامح التعامل الرشيد مع هذه الأنظمة:

1.  الحياد ليس حالة ساكنة تُبنى مرة واحدة وتدوم، بل هو ممارسة حوكمية مستمرة وتدقيق متواصل يحتاج إلى مراجعة دورية صارمة. وبناءً عليه، فإن أي ادّعاء تسويقي بأن نظامًا ذكيًا ما قد حقق "الحياد المطلق والنهائي" هو محض تضليل تجاري لا رصيد له من الحقيقة العلمية.

2.  ضرورة نقل المساءلة والمحاسبة بشكل كامل من "الخوارزمية" الصامتة إلى "الجهة المالكة والمصمِّمة". ومن موقعي كخبير محاسبة متمرّس في آليات الحوكمة والرقابة، أرى أن المحاسبة القانونية والمهنية يجب أن تتسع لتشمل فرض تدقيق مستقل وشامل لسلاسل القرار الخوارزمي (Algorithmic Audit Trail)، تمامًا كما تُدقَّق القوائم المالية والتدفقات النقدية للشركات، نظرًا لأن الأثر الاجتماعي والتنموي لهذه الأنظمة بات يوازي الأثر المالي بل ويتجاوزه في كثير من الأحيان.

3.  إن الأدوات والآليات التقنية المحضة تظل عاجزة وغير كافية ما لم تُطوَّق بنظام حوكمة مؤسسية مستقل. فالتقنيات الحديثة مثل الذكاء الاصطناعي القابل للتفسير، واختبارات التحيز المتقاطع، والخصوصية التفاضلية، هي أدوات ممتازة لكن يمكن تفعيلها أو الالتفاف عليها بسهولة وفقًا لإرادة الجهة المالكة، ما لم تكن هناك تشريعات ملزمة وجهات رقابية مستقلة من طرف ثالث يجبر المؤسسات على الامتثال.

4.  على الجانب الآخر، فإن الاستخدام الإيجابي الموجه للخوارزميات ممكن وموثّق علميًا؛ إذ يمكن هندسة الأنظمة بوعي تام لتفكيك وتصحيح انحياز تاريخي قائم في المجتمع، كأنظمة تقييم الجدارة الائتمانية والإقراض التي تُعدَّل معادلاتها عمدًا لتفادي التمييز الجغرافي أو الطبقي الذي كانت تمارسه المؤسسات المصرفية التقليدية عبر قرارات موظفيها البشرية. هذا يؤكد أن الأداة قابلة للتوجيه البنّاء، وأن المعركة الحقيقية ليست مع الآلة بل مع النوايا وسلطة الحوكمة.

5.  تظل الثقافة العامة بالبيانات هي خط الدفاع المجتمعي الأول والركيزة الأساسية لحماية الحقوق الرقمية. فالمجتمعات الواعية التي تفهم كيف تُصنع القرارات الإحصائية خلف الشاشات تكون أكثر قدرة على المساءلة والمطالبة بالشفافية، بينما يظل الجمهور غير المدرك لهذه الآليات عرضة للاستلاب والوقوع تحت طائلة أنظمة تُدار وتوجّه سلوكه وتفضيلاته تحت لافتة "الحياد التكنولوجي" الزائفة.

خلاصة القول

في نهاية المطاف، لا الخوارزمية بريئة تمامًا من الانحياز، ولا هي وحدها المذنبة في إحداث التفاوت. إنها باختصار مرآة رقمية شديدة الصقل، تعكس بدقة رياضية وكفاءة إحصائية عالية مجمل القرارات القيمية والمصالح الاقتصادية لمن صمّمها، وموّلها، ويملك حق تعديلها وإعادة توجيهها. والسؤال الجوهري الفارق الذي يجب على المجتمعات والمشرّعين طرحه باستمرار ليس "هل هذا النظام محايد؟"، بل "من يملك اليوم سلطة تعريف الحياد الخوارزمي، ومن يملك القدرة على مراقبته ومحاسبته عندما يقرر تغيير هذا التعريف غداً؟".

المراجع والآفاق المعرفية:

1.  Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica.

2.  Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research (FAT* Conference).

3.  O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown Publishing.

4.  Noble, S. U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.

5.  Kleinberg, J., Mullainathan, S., & Raghavan, M. (2016). Inherent Trade-Offs in the Fair Determination of Risk Scores. arXiv preprint.

6.  Barocas, S., Hardt, M., & Narayanan, A. (2019). Fairness and Machine Learning: Limitations and Opportunities. fairmlbook.org.

7.  IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems (2019). Ethically Aligned Design, First Edition.

8.  الاتحاد الأوروبي (2024). AI Act — Regulation on Artificial Intelligence، الجريدة الرسمية للاتحاد الأوروبي.

9.  Jobin, A., Ienca, M., & Vayena, E. (2019). The Global Landscape of AI Ethics Guidelines. Nature Machine Intelligence.