أخلاقيات الذكاء الاصطناعي والتحيز: متى تنحاز الخوارزمية ومن يحاسبها؟

مقدمة: الخوارزمية ليست محايدة بالضرورة

يُنظر أحياناً إلى الخوارزميات على أنها محايدة لأنها “مجرد أرقام”. لكن الخوارزمية تتعلم من بيانات كتبها البشر وجمعوها واختاروها، وتُبنى وفق أهداف يحددها البشر. لذلك قد تعكس تحيزات موجودة في المجتمع، بل قد تضخمها وتنشرها على نطاق واسع وبسرعة كبيرة.

وهنا تظهر أسئلة الأخلاقيات: هل النتيجة عادلة؟ من المسؤول عن الضرر؟ وكيف نتحقق قبل أن يتضرر الناس؟ هذا المقال يشرح الجواب بلغة بسيطة، مع أمثلة واقعية وخطوات عملية.

ما هو التحيز في الذكاء الاصطناعي؟

التحيز (Bias) هو ميل منهجي يجعل النظام يعطي نتائج أفضل لفئة وأسوأ لفئة أخرى دون مبرر مشروع. قد يكون التحيز ظاهراً، كرفض طلبات فئة معينة بشكل متكرر، وقد يكون خفياً، كاعتماد النظام على عامل يرتبط بالفئة دون أن يكون سبباً حقيقياً.

ولا يعني التحيز بالضرورة قصداً من المطورين، فكثيراً ما ينشأ من البيانات أو التصميم أو طريقة قياس النجاح.

من أين يأتي التحيز؟

• بيانات التدريب غير المتوازنة: إذا تمثل فئة بنسبة كبيرة وأخرى بنسبة ضئيلة، يتعلم النظام الأداء الجيد للأولى فقط.
• البيانات التاريخية المنحازة: إذا كانت القرارات السابقة نفسها منحازة، فالنموذج سيتعلم تكرارها.
• اختيار الميزات: استخدام عامل يبدو محايداً لكنه يرتبط بالفئة، مثل العنوان الذي قد يكشف الطبقة الاجتماعية.
• تعريف الهدف: إذا كان الهدف “تقليل التكلفة” دون قيود عدالة، قد يتجاهل النظام فئات كاملة.
• التقييم الضعيف: اختبار النموذج على بيانات تشبه التدريب فقط، فلا تظهر مشكلات الفئات الأخرى.

أمثلة من الواقع

• التوظيف: أنظمة فرز السير الذاتية تعلمت من سجلات توظيف سابقة تفضل فئة معينة، فعاقبت السير التي تحتوي كلمات مرتبطة بالنساء في بعض الحالات الموثقة.
• القروض والتأمين: نماذج تقييم المخاطر قد تعطي درجات أسوأ لسكان أحياء بعينها، حتى دون استخدام العرق بشكل مباشر، لأن العنوان أو العوامل الاجتماعية تعكس التاريخ.
• التعرف على الوجوه: دراسات أظهرت أن بعض الأنظمة كانت أقل دقة مع النساء وذوي البشرة الداكنة، مع اختلاف الأثر حسب الخوارزمية ونوع الخطأ والبيانات؛ دراسة NIST لعام 2019 لم تحدد سببًا سببيًا وحيدًا لهذه الفوارق.
• الرعاية الصحية: خوارزمية قدّرت احتياج المرضى إلى الرعاية بناءً على التكاليف السابقة، فظلمت فئات كانت تنفق أقل بسبب ضعف وصولها للخدمة، لا لأنها أصح.

هذه الأمثلة تكشف درساً مهماً: المؤشر الذي يبدو محايداً قد يحمل تاريخاً من الظلم.

المبادئ الأخلاقية الأساسية

تتفق أغلب الأطر على مبادئ متقاربة:

• العدالة: ألا يتضرر فريق بشكل غير مبرر.
• الشفافية: أن يعرف المستخدم أنه يتعامل مع نظام آلي، وأن يفهم أسس القرار قدر الإمكان.
• المساءلة: أن يكون هناك شخص أو جهة مسؤولة عن النتائج.
• الخصوصية: جمع البيانات الضرورية فقط، وحمايتها.
• السلامة: اختبار الأنظمة قبل نشرها، ومراقبتها بعد ذلك.
• حق الاعتراض: أن يستطيع المتضرر طلب مراجعة القرار من إنسان.

كيف تقيس التحيز؟

لا يكفي أن تقول إن النظام عادل، بل يجب أن تقيس. من الطرق الشائعة:

1. تقسيم النتائج حسب الفئات: قارن معدلات الموافقة أو الخطأ بين الفئات المختلفة.
2. مقارنة الأخطاء لا الدقة فقط: قد تبدو الدقة العامة جيدة بينما تفشل فئة بعينها بشكل كبير.
3. اختبار الحالات الحدية: جرّب أمثلة متطابقة تماماً إلا في عامل واحد، لترى هل تتغير النتيجة.
4. مراجعة الميزات: اسأل هل يرتبط هذا العامل بالهدف فعلاً أم بالتاريخ فقط.

ماذا تفعل لتقليل التحيز؟

• موازنة البيانات: جمع أمثلة إضافية من الفئات الناقصة.
• تنظيف البيانات: إزالة الحقول التي تكشف فئة محمية دون مبرر، مع الانتباه إلى أن إزالتها وحدها لا تكفي.
• تحديد مقاييس العدالة قبل التدريب: فالتحيز يصعب إصلاحه إذا لم يُعرف ما الذي نعتبره عدلاً.
• الاختبار المستقل: أن يراجع فريق آخر النموذج، ويجرب حالات لم يفكر فيها المطورون.
• المراقبة المستمرة: لأن البيانات تتغير، وقد يظهر التحيز بعد النشر.
• إشراك المتأثرين: الاستماع لمن سيُستخدم النظام ضدهم، فهم يرون ما لا يراه المصمم.

المسؤولية: من يحاسب؟

عندما يُظلم شخص بسبب قرار آلي، من المسؤول؟ المطور؟ الشركة التي نشرت النظام؟ الجهة التي استخدمته؟ الإجابة غالباً مشتركة، والقوانين الحديثة تحاول توزيع المسؤولية بوضوح. فالقانون الأوروبي للذكاء الاصطناعي مثلاً يصنف الأنظمة حسب درجة الخطر، ويفرض التزامات أعلى على الأنظمة المستخدمة في مجالات حساسة كالتوظيف والتعليم والخدمات الأساسية.

أما إطار NIST لإدارة مخاطر الذكاء الاصطناعي فيركز على تنظيم عملية كاملة من الحوكمة والقياس والإدارة، بدلاً من الاعتماد على حل تقني واحد.

ماذا يعني هذا لك كمستخدم؟

إن كنت تستخدم أداة ذكية في عملك أو تتعامل معها كعميل، فهذه مطالب وممارسات مفيدة؛ إتاحتها كحقوق ملزمة تعتمد على القانون والقطاع:

• أن تعرف متى يُتخذ القرار آلياً.
• أن تطلب تفسيراً مبسطاً للنتيجة.
• أن تطلب مراجعة بشرية إذا شعرت بظلم.
• أن تسأل الجهة المستخدمة عن كيفية اختبار النظام وحماية بياناتك.

أخطاء شائعة في النقاش

• اعتبار الخوارزمية أدق من البشر دائماً: فهي تعكس البيانات، وقد تكون أسوأ في مواضع معينة.
• الاكتفاء بإزالة العرق أو الجنس من البيانات: فالعوامل البديلة تكشف الفئة غالباً.
• تجاهل صوت المتضررين: فالمطورون لا يرون دائماً نفس التجربة.
• التعامل مع الأخلاقيات كشعار: المطلوب قياس واختبار وتوثيق، لا عبارات عامة.

أسئلة شائعة

هل يمكن أن يكون الذكاء الاصطناعي عادلاً تماماً؟ العدالة الكاملة نادرة، لكن يمكن تقليل الضرر بشكل كبير عبر القياس والمراقبة والمساءلة.

هل التحيز يقتصر على الشركات الكبرى؟ لا، أي نظام يتعلم من بيانات منحازة قد يكرر التحيز، بغض النظر عن حجم الجهة.

هل يجب منع الذكاء الاصطناعي من القرارات الحساسة؟ ليس بالضرورة، لكن هذه القرارات تحتاج إشرافاً بشرياً ومراجعة وحق اعتراض.

كيف أعرف إن كان نظام يتعامل معي بشكل غير عادل؟ قد يكون ذلك صعباً، لكن إذا تكرر الرفض لفئة بعينها أو لم يُفسر القرار، فاطلب توضيحاً ومراجعة بشرية.

الخلاصة

أخلاقيات الذكاء الاصطناعي ليست ترفاً فلسفياً، بل جزء من بناء أنظمة تعمل للناس لا ضدهم. الخوارزمية تتعلم من تاريخنا، لذلك يجب أن نفحص بياناتها ونقيس نتائجها ونحدد من يحاسبها. العدالة هنا تحتاج إلى قياس مستمر ومساءلة واضحة وإنسان قادر على المراجعة.

حالات تطبيقية: كيف تفحص أداة قبل الاعتماد عليها

إذا كنت تستخدم أداة ذكية لاتخاذ قرار يمس الناس مثل التوظيف أو التقييم المالي، فاسأل قبل الاستخدام عدة أسئلة: ما البيانات التي تدربت عليها؟ هل تم اختبارها على فئات مختلفة؟ وهل تشرح المزوّد أسباب القرار بشكل مفهوم؟ ومن المسؤول عن التصحيح إن كان القرار خاطئاً؟

هذه الأسئلة تكشف الكثير عن نوايا المزوّد. فالشركة التي تعلن عن نزاهة نموذجها يجب أن تقدم وثائق تشرح طريقة الاختبار ونتائجه.

النماذج المستخدمة في القطاعات الحساسة

• التعليم: أنظمة تقييم الطلاب قد تتأثر بطريقة الكتابة ولغة الأسرة لا بالمستوى العلمي.
• الائتمان والتأمين: تقييم المخاطر المرتبط بالمكان أو العمر أو نمط الإنفاق قد يعاقب فئات بأكملها.
• الصحة: التشخيص الآلي قد ينحاز للمرضى الذين لم تتوفر لهم بيانات كافية.
• الموظفون: أدوات مراقبة الأداء قد تضع ضغطاً غير عادل على فئات بعينها.

سؤال عملي: هل الحل أن تحذف الحقول الحساسة؟

كثيرون يظنون أن إزالة الجنس أو العرق من البيانات تكفي. الواقع أن الحقول الأخرى مثل العنوان أو الرمز البريدي أو نوع التعليم قد تعطي النتيجة نفسها. لذلك اختبر النتائج بعد الحذف، وليس الحذف وحده هو العلاج.

ماذا تفعل كمستخدم عند الشك في قرار آلي؟

• اطلب تفسيراً مكتوباً لأسباب القرار.
• استفسر عن إجراء المراجعة البشرية ومدة الرد.
• وثّق الواقعة بالصور والمستندات قبل التظلم.
• إذا تكرر النمط، أبلغ الجهات المختصة أو المنظمات الحقوقية.

ابدأ بتقييم الأثر قبل شراء النظام

قبل إدخال أداة آلية في قرار يمس الناس، عرّف الغرض بدقة وحدد من سيتأثر بها وما العواقب إذا أخطأت. هل الأداة تقدم اقتراحاً لموظف، أم ترفض طلباً تلقائياً؟ هل يستطيع المتضرر معرفة أن نظاماً آلياً شارك في القرار؟ هل توجد طريقة عملية للاعتراض؟ الإجابة تغير مستوى المخاطر والضوابط المطلوبة.

اطلب وثائق عن البيانات والتقييم وحدود الاستخدام، وراجعها مع خبراء المجال والخصوصية والأمن. لا تعتمد على متوسط دقة عام؛ اطلب نتائج بحسب الفئات والسيناريوهات التي تمثل المستخدمين الفعليين. إذا لم يقدم المورد معلومات كافية أو لم يسمح بالاختبار المستقل، فهذه فجوة ينبغي أخذها في الحسبان قبل الشراء.

اختر مقاييس إنصاف مناسبة للسياق

لا يوجد مقياس واحد للعدالة يناسب كل الحالات. قد تختلف الأولوية بين تقليل الإنذارات الكاذبة، أو ضمان فرص متساوية، أو ضمان ألا تُحرم فئة من منفعة أساسية. بعض المقاييس تتعارض رياضياً عندما تختلف معدلات الأساس بين المجموعات، لذا يجب توضيح القيمة التي تريد حمايتها والسبب، لا اختيار رقم يبدو جيداً في تقرير.

افحص عدد الحالات في كل فئة وجودة التسميات والبيانات الناقصة. النسبة وحدها قد تخفي أن عينة فئة معينة صغيرة جداً لتقييم موثوق. أبلغ عن حدود العينة وعدم اليقين، وأعد الاختبار عند تغير السكان أو طريقة جمع البيانات.

الإنسان في الحلقة لا يكفي وحده

وجود موظف يضغط «موافقة» بعد توصية النموذج لا يضمن مراجعة حقيقية. قد يثق العامل بالنظام أكثر من اللازم أو لا يملك الوقت والمعلومات لمعارضته. وفر له تدريباً وصلاحية لرفض التوصية، واعرض أسباباً وحدوداً مفهومة، وراقب ما إذا كانت المراجعات البشرية تغير النتائج فعلاً.

عند القرار عالي الأثر، يجب أن يكون للمستخدم مسار اعتراض مفهوم وفي مدة معقولة، مع شخص يستطيع فحص البيانات والسياق وتصحيح الخطأ. لا تجعل الاعتراض شكلياً أو تتطلب من المتضرر معرفة تقنية لا يملكها.

وثق دورة حياة النظام

سجل مصدر البيانات، والنسخة المستخدمة، ومقاييس التقييم، والقيود المعروفة، والجهة التي وافقت على الاستخدام. بعد النشر، راقب الأداء والشكاوى والتحولات في البيانات، وحدد من يوقف النظام إذا تجاوزت الأخطاء مستوى مقبولاً. يمكن أن يتغير الأداء مع الوقت حتى لو بقي الكود كما هو.

راجع النظام عند تحديثه أو استخدامه لغرض جديد أو تغيير الجمهور. أعد التقييم بعد التغييرات، ولا تفترض أن موافقة سابقة تغطي كل استعمال لاحق. احتفظ بسجل للحوادث والإجراءات التصحيحية كي يمكن تفسير القرارات ومراجعتها.

الخصوصية والتمثيل في البيانات

جمع بيانات أكثر لا يعني بالضرورة عدالة أفضل. استخدم الحد الأدنى اللازم، وتأكد من وجود أساس قانوني وموافقة مناسبة لمعالجة البيانات الحساسة. أخفِ الهوية عند الاختبار حيثما أمكن، واحمِ مجموعات البيانات من الوصول غير المصرح به. وفي الوقت نفسه، حذف سمات حساسة قد يمنع اكتشاف الفوارق؛ يمكن أحياناً استخدام تلك السمات بأمان للتقييم تحت ضوابط قانونية صارمة، مع فصلها عن قرار النموذج.

استشر المتأثرين وممثليهم في تصميم الاستخدام، لأن التجربة اليومية قد تكشف أثراً لا يظهر في مجموعة الاختبار. المشاركة لا تعني نقل المسؤولية إليهم، بل إضافة معرفة تساعد على تحديد المشكلات مبكراً.

ما الذي يمكن للمستخدم طلبه؟

إذا أثر قرار آلي في عمل أو قرض أو تعليم أو خدمة، اطلب معرفة دور الأداة ومعايير القرار المتاحة، وكيف يمكن طلب مراجعة بشرية أو تصحيح بيانات خاطئة. احتفظ بنسخة من الإشعار والمراسلات، وابحث عن جهة الشكوى الرسمية في بلدك. الحقوق القانونية تختلف بين الدول والقطاعات، لذا لا تعتبر نصيحة عامة بديلاً عن إرشاد قانوني مناسب.

مقالات ذات صلة

• الذكاء الاصطناعي ومستقبل الوظائف: أي المهارات تبقى وأيها يتغير؟
• هلوسة الذكاء الاصطناعي: لماذا تكذب الآلة بثقة؟
• خصوصية الذكاء الاصطناعي: ماذا تشارك مع الأدوات الذكية وماذا تحجب؟
• أدوات الذكاء الاصطناعي للعمل الحر: كيف توفّر وقتك دون أن تفقد جودتك؟
• التشفير من طرف إلى طرف: ما هو وكيف يحمي رسائلك؟

مراجعة الدقة وحدود المعلومات

مراجعة تحريرية: 10 أكتوبر 2026. أمثلة التوظيف والقروض والصحة تصف مخاطر محتملة ولا تعمم أداء كل نظام؛ المثال المحدد للتعرف على الوجوه موثق بدراسة NIST التاريخية. لا تنسب سبب التفاوت حصريًا إلى نقص البيانات، ولا تفترض حقًا قانونيًا موحدًا في التفسير أو الاعتراض. تطبيق قانون الاتحاد الأوروبي مرحلي وتختلف الالتزامات حسب الدور والنظام؛ لا تفترض سريان كل أحكامه في تاريخ واحد.

المصادر الرسمية المباشرة

• NIST: الفوارق الديموغرافية في التعرف على الوجوه، 2019
• المفوضية الأوروبية: قانون الذكاء الاصطناعي ونطاق المخاطر

مصادر إضافية

• إطار إدارة مخاطر الذكاء الاصطناعي من NIST: NIST AI Risk Management Framework
• القانون الأوروبي للذكاء الاصطناعي: EU Artificial Intelligence Act
• مؤشر الذكاء الاصطناعي من جامعة ستانفورد: Stanford AI Index