أظهرت دراسة حديثة بأن السيارات الذاتية القيادة تتحيز ضد الأشخاص ذوي البشرة الداكنة والأطفال، وذلك لتُضاف إلى المشكلات الأخرى التي تعاني منها التقنية الناشئة.
وكانت السيارات الذاتية القيادة محط أنظار وسائل الإعلام بعد تسببها في اختناقات مرورية، والوقوع في الإسمنت، وإيقافها من قبل الشرطة غير المعتادة على التعامل مع هذه التقنية.
ولكن وفقًا لدراسة حديثة، فإن هذه الإخفاقات التقنية الأساسية لا تساوي شيئًا مقارنةً بالمشكلات التي تعد أسوأ بكثير، ذلك أنها تميز بين البشر حسب اللون.
ووفقًا للدراسة التي لم تخضع لمراجعة النظراء بعد، والتي أجراها باحثون في King’s College في لندن، كشفت مراجعة الإنصاف لثمانية أجهزة كشف للمشاة تعمل بالذكاء الاصطناعي ومدربة على مجموعات بيانات «مستخدمة على نطاق واسع في العالم الحقيقي» أن البرامج أسوأ بكثير في اكتشاف المشاة ذوي البشرة الداكنة مقارنة بالمشاة ذوي البشرة الفاتحة، حيث أن النظام يخفق في التعرف على الأفراد ذوي البشرة الداكنة بنسبة تُقارب 8 في المئة أكثر من نظرائهم من ذوي البشرة الفاتحة.
ويُعتقد أن هذا الرقم عالٍ ويكشف عن المخاطر الحقيقية والمميتة لأنظمة الذكاء الاصطناعي المتحيزة.
ووفقًا للدراسة، انخرط الباحثون أولًا في شرح شامل للبيانات، ووضعوا علامة على إجمالي 8,111 صورة مع «16,070 علامات جنسانية، و 20,115 علامة عمرية، و 3,513 علامة للون البشرة».
وبعد إجراءات عمليات إحصائية، وجد الباحثون في النهاية تباينًا قدره 7.52 في دقة الكشف بين الأشخاص ذوي البشرة الفاتحة والداكنة. ووفقًا للبحث، فإن الخطر على الأشخاص ذوي البشرة الداكنة ارتفع على نحو ملحوظ في إعدادات «التباين المنخفض» أو «السطوع المنخفض»، أو بعبارة أخرى، في الليل.
وبالإضافة إلى هذا التحيز العنصري، كان لأجهزة كشف المشاة نقطة عمياء جماعية أخرى ومقلقة، وهي: الأطفال، الذين كشفت النتائج عن أن احتمال أن تحددهم أجهزة الكشف أقل بنسبة 20 في المئة مقارنةً بالبالغين.
تجدر الإشارة إلى أن أيًا من الأنظمة التي اختُبرت لم تكن في الواقع ملكًا لشركات سيارات بدون سائق بعينها، حيث تندرج هذه المعلومات عمومًا تحت مظلة ما يُعرف بـ «معلومات الملكية».
ولكن (لي جانج)، المحاضر في كلية علوم الحاسوب بجامعة King’s College والمؤلف المشارك في الدراسة، قال لمجلة (نيو ساينتست) New Scientists إنه من المحتمل أن نماذج تلك الشركات ليست بعيدة جدًا، وبالنظر إلى أن المركبات الذاتية القيادة بدأت تحقيق انتصارات تنظيمية كبيرة، فإن هذا مقلق للغاية.
وقال جانج عن شركات السيارات الذاتية القيادة: «إنها معلوماتها السرية ولن تسمح للآخرين بمعرفة النماذج التي تستخدمها، لكن ما نعرفه هو أنها تُبنى عادةً على نماذج مفتوحة المصدر. يمكننا أن نكون على يقين من أن نماذجها يجب أن يكون لها أيضًا مشكلات مماثلة».
ويحذر كثيرون من أن تحيز الآلة يمثل مشكلة خطرة، والآثار المترتبة على ذلك تزداد وضوحًا مع إدماج تقنية الذكاء الاصطناعي المتقدمة على نحو متزايد في الحياة اليومية.
ولكن مع وجود حياة على المحك حرفيًا، فإن هذه الأنواع من التحيزات ليست شيئًا يجب أن يُنتظر أن تلحقه اللوائح التنظيمية في أعقاب المآسي التي يمكن منعها.