چرمين عامر تكتب : «الاحتياط واجب»..خوارزميات التميز ضد المرأة

تخيل .. عزيزي القارئ !! 

ونحن نشهد .. ثورة رقمية كبري في جميع مناحي الحياة، ونتطلع .. للعدالة الاقتصادية، والاجتماعية، والسياسية، والرقمية المنشودة.

أن تتقدم .. إمرأة للحصول علي تمويل بنكي، فيرفض .. النظام المصرفي شديد الدقة طلبها. 

علي الرغم، من توافر كافة الأوراق والمستندات المطلوبة، التي تؤهلها للحصول على حقها التمويلي.  

والسبب !! إن تمويل المرأة أعلي مخاطرة من تمويل الرجال.  

إرث فكري وإقتصادي .. متهالك يعود إلي عصور قديمة !! عفي عليها الزمن.  

هذا ما حدث بالفعل !! 

في عام 2019، عندما تفجرت واحدة من أخطر قضايا التمييز الرقمي ضد المرأة في العالم، بعدما واجهت شركة آبل Apple إتهامات واسعة بالظلم والتميز البنكي ضد العملاء من النساء. حيث منحت خدمة بطاقة آبل Apple Card الذكية، الرجال حدود إئتمانية تفوق النساء بمعدلات كبيرة، وذلك علي الرغم من تشابه أوضاعهم المالية، وإمتلاك النساء سجلات إئتمانية أقوى.

بدأت الأزمة، والتي عرفت إعلاميا باسم بطاقة آبل للتميز ضد المرأة Apple Card Discrimination حينما فوجيء عدد من العملاء، بأن بطاقة الإئتمان التي أطلقتها شركة آبل بالتعاون مع مؤسسة جولدن مان ساكس Golden Man Sachs تمنح الرجال حدود إئتمانية أعلي بكثير من النساء. 

إكتشفت القضية، وفقا لمجلة التايمز الإنجليزية، عندما نشر رجل الأعمال الأمريكي ديفيد هينيميير هانسون David Heinemeier Hansson عبر صفحته علي منصة اكس X - تويتر سابقا – منشور يفيد : 

بأن زوجته حصلت على حد إئتماني أقل منه بنحو عشرين مرة، عندما تقدمت للحصول علي بطاقة آبل الإئتمانية، علي الرغم من إنها تتمتع بسجل مالي أفضل منه بكثير. وخلال نفس المنشور، وجه رجل الأعمال أصابع الإتهام للبنك المصدر للبطاقة. 

ولكن التحقيقات كشفت !!

أن قرار منح الحد الإئتماني ليس خطئ مصرفي، إنما إتخذته أنظمة الذكاء الاصطناعي، داخل البنك علي إعتبار أن تمويل الرجال يكون أكثر أمان وبعيد عن المخاطر من تمويل النساء.  

وهنا كانت الصدمة الكبري !!

فالقرار ضرب بعرض الحائط، معارك شرسة، وسنوات طويلة من الكفاح، قضتها المرأة لإنتزاع حقوقها والتمكين الاقتصادى، والسياسى، والمهنى، والاجتماعى، والرقمي.  

ومع كل الإنتصارات التي حققتها المراة والمجتمعات المؤمنة بالعدالة والمساواة، تكشف .. قضية بطاقة آبل !! لتحدث .. خلل عميق داخل البنية التكنولوجية وأنظمة الذكاء الاصطناعي، وفجوة في أسس العدالة الرقمية وتكافؤ الفرص!!

فالتمييز .. لم يختفِ !! 

إنما أنتقل .. من العقل البشري إلى الكود البرمجي، والذي من المفترض، أن يكون رمز للعدالة.  

إلا أن الآله تعيد إنتاج نفس الظلم والتميز ضد المرأة، والذي حاولت المجتمعات علي مستوي العالم، لعقود طويلة مقاومته بلوائح وقوانين ودساتير ومبادئ ومؤتمرات تتشدق بإنجازات التمكين الاقتصادي والاجتماعي والسياسي والمالي للمرأة.  

فالآلة .. لا تفكر بصورة مستقلة، ولا تمتلك عصا سحرية لتحقق العدالة المنشودة .. كما نتخيل !!  

إنما هي مجرد نظام يتعلم .. من البيانات التي يصنعها الإنسان، فتمارس الظلم بكفاءه أعلي من البشر أنفسهم.   

فإذا كانت هذه البيانات .. تحمل إرث من فجوات الأجور، وغياب النساء عن بعض المناصب القيادية، وفرص مالية غير متكافئة ، فإن الخوارزمية تبدأ .. تدريجيا في إعتبار هذا الظلم، قاعدة طبيعية لإتخاذ القرارات.

اذا الآلة .. لا تكره النساء، 

إنما خوارزمياتها مرآة تعكس .. القيم والمعتقدات والممارسات والبيانات التي نزرعها كبشر بداخلها.

وهنا تكمن الكارثة الحقيقية !!

فمعركة المرأة .. لم تعد في الصور النمطية أو فجوة الأجور أو الحقوق السياسية أو التمكين الاقتصادي والاجتماعي. إنما في صراع خفي مع خوارزميات الآله. لننتقل من عصور التحيز البشري المرئي، الذي يمكن محاسبته ومواجهته، إلى عصور من التحيز الخفي الذي يعيش داخل خوارزميات الآلة، ويتخذ قرارات مصيرية، دون أن نعرف كيف صنعت أو لماذا اتخذت.

ومن ثم !! 

فالمعركة الحقيقية .. 

تتعلق .. بأخلاقيات وممارسات من يصممون أنظمة الذكاء الاصطناعي.

كيف سيعالجون التميز ضد المرأة؟!!