ووفقًا للدراسة ، حددت برامج اكتشاف الوجه في أمازون نسبة 19٪ من النساء بدلاً من الرجال، بالإضافة إلى ذلك ، يتم تشخيص النساء ذوات البشرة الداكنة بنسبة 31 ٪ أكثر من الرجال، وبالمقارنة مع برامج مايكروسوفت ، وجد أن النساء اللواتي لديهن لون بشر داكن أكثر احتمالا بنسبة 1.5 في المائة من الرجال.
وقال مات وود ، مدير قسم الذكاء الاصطناعي في قسم خدمات الويب في أمازون ، إن نتائج الاختبار تعتمد على التحليل وليس على كشف الوجه، وقال التحليل إن التحليل يمكن أن يكشف الوجوه في الأفلام أو الصور ويحدد السمات المشتركة مثل العين اللافت للانتباه.
وتابع أن التعرف على وجه الشخص في صور الأفلام والصور هو نفسه تقريبا، لكن تصور التكنولوجيا يشمل كلا السمات، وقال وود "قد لا يكون من الممكن التوصل إلى دقة التعرف على الوجه لموضوع يعتمد على نتائج تحليل الوجوه"، وأضاف أن الدراسة لم تستخدم أحدث نسخة من البرنامج.
يقول وود أن أمازون لم يتم التحقيق فيه باستخدام نسخة محدثة من الإدراك ومع بيانات مماثلة، ديبورا راجي ، مؤلفة الدراسة ، لاحظت أنه وفريقه فهموا وفهموا على أساس التمييز بين التعرف على الوجه وتحليل الوجه، "سنوضح في مقالتنا أنه وفقا لتقييمنا ، يتم فصل تحليل الوجه من تصنيف الجنس" ، وتابع راجي،هل يعني ذلك أن البرنامج يمكن التعرف عليه من خلال عدد الوجوه المحددة؟ كتب Boalamvini على مدونته يوم الجمعة ، "لقد كان أداء هذا البرنامج جيدًا على نطاق أكثر من مليون وجه لاختبار قدراته على التعرف على الوجوه.
في حين أن أدائهم على هذا المعيار قد يكون جديرًا بالثناء ، إلا أننا لا نعلم التركيب الديموغرافي والمظهري (نوع الجلد) لهذا المعيار، بدون هذه المعلومات ، لا يمكننا حساب العرق والجنس واللون والأنواع الأخرى بدقة.
كما توفر Amazon معلوماتها القانونية لوكالات إنفاذ القانون ، على الرغم من أن جماعات الحريات المدنية وأعضاء الكونغرس وموظفي Amazon قد أثار مخاوف تتعلق بالخصوصية،في وقت سابق من هذا الشهر ، دفعت مجموعة من مساهمي الأمازون الشركة إلى عدم السماح لتكنولوجيتها الإدراكية أن تكون متاحة للوكالات الحكومية.
وفقا لدراسة أجرتها جامعة ماساتشوستس الغربية ، قال بوالامفيني إن بيع هذه التقنية إلى وكالات تنفيذية قانونية ، ولكن غير مسؤولة ، يتم تقييمها، وقال أنه يمكن استغلال تكنولوجيا التحليل وجها لوجه ، وتؤدي إلى مراقبة المجتمع، بالإضافة إلى ذلك ، مع أخطاء هذه التكنولوجيا ، قد يتم العثور على الأبرياء مذنبين وأبوا.
كما كرر راجي هذه التصريحات قائلاً إنه إذا قام نظام ما بتعريف المشتبه بطريق الخطأ بسبب خطأ في عينة في قسم معين من السكان ، فقد يتعرض أي شخص لضرر جسيم.