تقنية التعرف على الوجه “غير دقيقة” في تحديد ذوي الأصول الافريقية والآسيوية

توصلت دراسة حديثة إلى أن خوارزميات التعرف على الوجه أقل دقة في تحديد الوجوه الأمريكية من أصل أفريقي والوجوه الآسيوية، مقارنة بالوجوه القوقازية.

وأوضحت الدراسة، التي أجرتها الحكومة الأمريكية، أن تحديد هويات الإناث الأمريكيات من أصول إفريقية غالبا ما يكون مخطئا.

ويلقي ذلك ظلالا جديدة من الشك حول وجوب استخدام وكالات إنفاذ القانون لتلك التكنولوجيا كهذه، وقد وصف أحد المنتقدين هذه النتائج بأنها “صادمة”.

واختبر المعهد الوطني الأمريكي للمعايير والتكنولوجيا، المعروف اختصار باسم Nist، 189 من الخوارزميات (الأنظمة الحسابية) من إنتاج 99 مطورا، بما فيهم شركات إنتل ومايكروسوفت وشركة تنسنت الصينية وغيرها.

ترامب يعلن رسميًا تشكيل القوات الفضائية

نظام التغذية النباتي الصرف “أكثر من مجرد طعام”

مطابقة الشخص بنفسه

ولم تقدم شركة أمازون – التي تبيع منتجها للتعرف على الوجه والمسمى Rekognition إلى الشرطة الأمريكية – أي نظام حسابي للمراجعة.

وكانت قد وصفت، في السابق، دراسة من معهد ماساتشوستس للتكنولوجيا بأنها “مضللة”، بعدما أشارت إلى أن أداء Rekognition كان سيئا، عندما يتعلق الأمر بالتعرف على النساء ذوات البشرة السوداء.

وعند مطابقة صورة معينة مع صورة أخرى للوجه نفسه – وهو ما يُعرف باسم مطابقة الشخص بنفسه – فإن العديد من الخوارزميات التي وُضعت قيد الاختبار قد أخطأت، في التعرف على الوجوه الأمريكية من أصل أفريقي والوجوه الآسيوية، بمقدار 10 إلى 100 مرة أكثر مقارنة بالخطأ في التعرف على الوجوه القوقازية، وذلك وفقا للدراسة.

وكانت الإناث الأمريكيات من أصل أفريقي أكثر عرضة للخطأ في تحديد هوياتهن، فيما يسمى المطابقة بين شخص وآخرين، وهو مقارنة صورة معينة لشخص ما بصور العديد من الأشخاص الآخرين في قاعدة بيانات.

وارتكبت الأنظمة الحسابية خلال الدراسة نوعين من الأخطاء:

خطأ إيجابي: حين يعتبر البرنامج أن صور شخصين مختلفين هي صور شخص واحد.

خطأ سلبي: حين يُخفق البرنامج في مطابقة صورتين مختلفتين للشخص نفسه.

واستخدم البرنامج صورا من قواعد البيانات، التي توفرها وزارة الخارجية ووزارة الأمن الداخلي ومكتب التحقيقات الفيدرالي، دون الاعتماد على أي صور من وسائل التواصل الاجتماعي أو المراقبة بالفيديو.

وقال باتريك غروتر، عالم الكمبيوتر في المعهد الوطني الأمريكي للمعايير والتكنولوجيا والمشرف على الدراسة: “رغم أنه من الخطأ عادة إصدار تأكيدات عبر الخوارزميات، إلا أننا وجدنا أدلة تجريبية على وجود فروق ديموغرافية، في غالبية خوارزميات التعرف على الوجوه التي درسناها”.

وأضاف: “رغم أننا لا نستكشف الأسباب التي قد تسبب هذه الفروق، فإن هذه البيانات ستكون ذات قيمة بالنسبة لواضعي السياسات والمطورين والمستخدمين النهائيين في التفكير في القيود والاستخدامات المناسبة لهذه الخوارزميات”.

وقالت إحدى الشركات الصينية المشاركة في الدراسة، وهي شركة SenseTime التي تبين أن خوارزمياتها غير دقيقة، إن ذلك نتيجة “أخطاء” تمت معالجتها الآن.

وقال متحدث باسم الشركة لبي بي سي: “النتائج لا تعبر عن منتجاتنا، لأنها تخضع لاختبارات شاملة قبل الدخول إلى السوق. وهذا هو السبب في أن جميع حلولنا التجارية تبلغ درجة عالية من الدقة”.

يذكر أن السلطات المحلية في العديد من المدن الأمريكية، بما في ذلك سان فرانسيسكو وأوكلاند في ولاية كاليفورنيا، وسومرفيل في ولاية ماساتشوستس، حظرت استخدام تقنية التعرف على الوجه.