تم فتح تحقيق بشأن الخوارزمية المُعتمَدة لتقرير الحدود الائتمانية لمستخدمي بطاقة آبل الائتمانية (آبل كارد) التي أُطلِقت في الولايات المتحدة في أغسطس الماضي؛ حيث يبدو أن هذه الخوارزمية تمنح الرجال حدوداً ائتمانية أعلى من النساء.

يقول الخبر
في 7 نوفمبر، نشر رائد أعمال الويب دايفيد هينماير تغريدةً لاقت صدىً واسعاً يقول فيها إن آبل كارد قد منحته حداً ائتمانياً أعلى بعشرين ضعفاً من الحدّ الائتماني الذي حصلت عليه زوجته. وقد حدث ذلك على الرغم من حقيقة تقديمهما لإقرارات ضريبية مشترَكة، وأنه تبيَّن -بعد التمحيص- أن زوجته تتمتع بدرجة جدارة ائتمانية أعلى من درجته. كما ردَّ ستيف وزنياك -أحد مؤسسي شركة آبل- على التغريدة قائلاً إنه هو الآخر قد مُنح حداً ائتمانياً أعلى بعشر مراتٍ من الحد الذي تلقته زوجته، على الرغم من عدم امتلاكهم لأصولٍ أو حساباتٍ بنكية منفصلة.

النتيجة
بعد هذه التغريدات، قامت دائرة الخدمات المالية في ولاية نيويورك بفتح تحقيقٍ حول مؤسسة جولدمان ساكس البنكية التي تتولى إدارة عمليات البطاقة. وقد ذكرت رئيسة الدائرة ليندا لاسويل في منشور مدونةٍ أن هيئتها المختصة بالرقابة المالية ستشرع “بالتحقيق فيما إذا كانت الخوارزمية المستخدمة لاتخاذ القرارات المتعلقة بالحدود الائتمانية تنتهك قوانين الولاية التي تحظر التمييز على أساس الجنس أم لا”. وقد قامت هذه الهيئة الرقابية الناظمة فعلاً بفتح تحقيقٍ مؤخراً في التقارير التي تفيد بأن إحدى الخوارزميات قد أدت إلى تلقي الأشخاص من ذوي البشرة السمراء رعايةً صحية أقل شموليةً بالمقارنة مع المرضى من ذوي البشرة الفاتحة.

نطاق المشكلة أوسع مما يبدو عليه
نشرت مؤسسة جولدمان ساكس البنكية بياناً على تويتر في الأسبوع الماضي تقول فيه إن عامل الجنس لا يؤخذ بعين الاعتبار في عملية تحديد الجدارة الائتمانية للمستخدمين، لكن هذا التباين الذي لا يمكن تفسيره في الحدود الائتمانية لبطاقة آبل ليس إلا مثالاً آخر على كيفية ظهور التحيُّز الخوارزمي بطريقةٍ غير مقصودة؛ حيث يتم تدريب الخوارزميات -من النوع المستخدم لتقييم الجدارة الائتمانية- على بياناتٍ تاريخية تمتد لسنواتٍ طويلة، وبالتالي يمكن أن يتسلَّل التحيز إلى هذه العملية بعددٍ من الطرق المختلفة.