
تتميز صناعة التعرف على الوجه بممارسات مشبوهة بدءًا من تطويرها وصولًا إلى تطبيقها. ولكن الأمور يمكن أن تصبح أكثر غموضًا. في ميلووكي، تفكر الشرطة الآن في صفقة شريرة تقريبًا: تبادل 2.5 مليون صورة سجن مع شركة خاصة مقابل الوصول المجاني إلى برنامج التعرف على الوجه.
في يوم الجمعة، أفاد صحيفة ميلووكي جورنال سنتينل بأن مسؤولي الشرطة أعلنوا عن الصفقة المحتملة خلال اجتماع لجنة الإطفاء والشرطة في المدينة الأسبوع الماضي. وفقًا للصحيفة، استعارت شرطة ميلووكي سابقًا الوصول إلى تقنية التعرف على الوجه من وكالات مجاورة. بموجب هذه الصفقة، ستحصل الإدارة على رخصتين بحث مجانيتين من شركة Biometrica، وهي شركة برمجيات تعمل بالفعل مع وكالات إنفاذ القانون في الولايات المتحدة، مقابل صور السجن وسجلات الاعتقال التي تعود لعقود.
على الرغم من أن خطط Biometrica بشأن هذه الصور غير مؤكدة، من المحتمل أن تستخدمها لتدريب برنامجها. لم ترد Biometrica على طلب Gizmodo للتعليق. ومع ذلك، يتم تدريب أنظمة التعرف على الوجه بانتظام على مجموعات بيانات مسروقة أو مستعارة. على سبيل المثال، استخرجت Clearview AI ملايين الصور من وسائل التواصل الاجتماعي لقاعدة بياناتها التي تبيعها للشرطة، وسرقت PimEyes صورًا لأشخاص متوفين من أجل خوارزميتها. كما يحتفظ المعهد الوطني للمعايير والتكنولوجيا بقاعدة بيانات خاصة به لصور السجن، بالإضافة إلى صور للأشخاص الضعفاء لاختبار التعرف على الوجه.
في رسالة عبر البريد الإلكتروني إلى Gizmodo، أكدت شرطة ميلووكي أنها لم تدخل في أي عقد حتى الآن. تخطط الإدارة لمواصلة المناقشة في الاجتماعات المستقبلية للمدينة. كتب أحد الممثلين أن “كوننا شفافين مع المجتمع الذي نخدمه يتجاوز بكثير الإلحاح للحصول على تلك التقنية”. حتى بدون صفقة مؤكدة، فإن الاقتراح وحده يثير جرس الإنذار.
تم توثيق عدم دقة التعرف على الوجه في تحديد الأشخاص ذوي البشرة الداكنة (خاصة إذا كانوا نساء أو غير ثنائيين) بشكل جيد. ومن غير المفاجئ أن هذا أدى إلى “اعتقالات خاطئة متعددة… بسبب اعتماد الشرطة على نتائج التعرف على الوجه غير الصحيحة – وهذه مجرد حالات معروفة”، كما قال ديفيد غودت، متحدث باسم الاتحاد الأمريكي للحريات المدنية في ويسكونسن، لـ Gizmodo عبر البريد الإلكتروني. “في كل حالة من تلك الحالات تقريبًا، كان الشخص الذي تم اعتقاله بشكل خاطئ أسود.”
لكن هذه ليست المشكلة الوحيدة مع هذه الصفقة. حتى الآن، لا تذكر الاتفاقية المقترحة أي شيء عن إبلاغ الأفراد، أو الحصول على موافقتهم، أو السماح لهم بالانسحاب. مثل معظم الولايات، لا تمتلك ويسكونسن أي قوانين خاصة بحماية الخصوصية البيومترية. ومن بين القوانين القليلة الموجودة، فقط إلينوي توسع تنظيماتها لتتجاوز الاستخدام التجاري فقط. التشريع الوحيد الذي يمكن الإشارة إليه هو كيفية تنظيم صور السجن. بشكل عام، تعتبر سجلات عامة، وويسكونسن ولاية ذات سجلات مفتوحة، لذا فإن سجلات الاعتقال، بما في ذلك صور السجن، متاحة للجمهور مع استثناءات محدودة.
على الرغم من أن كل هذا يشير إلى أن شرطة ميلووكي ليست ملزمة قانونيًا بإبلاغ الأفراد أو الحصول على موافقتهم، إلا أن الأمر لا يزال مشبوهًا. دعونا نتجاهل عدد الأشخاص الذين لا يريدون ببساطة استخدام صورتهم في تدريب تقنية المراقبة. شركات التعرف على الوجه ليست محصنة من قضايا الأمان مثل خروقات البيانات. وفقًا لمجلة Forbes، فإن خروقات البيانات البيومترية يمكن أن تعرض الأشخاص لسرقة الهوية أو استخدامها لتجاوز أنظمة أمان أخرى. ليس من السهل على الناس ببساطة تغيير وجوههم. مما يثير السؤال: هل يجب على شرطة ميلووكي تحمل هذا الخطر نيابة عن شخص آخر؟
تمتلك الولايات المتحدة تاريخًا راسخًا في تجنب الأخلاقيات واستغلال المجتمعات المهمشة، خاصة باسم تقدم التكنولوجيا. مرحبًا، توسكيجي. ستستمر هذه الصفقة ببساطة في تلك الإرث في سياق رقمي. كما قال جيرامي سكوت، المستشار الأول في EPIC، لـ Gizmodo عبر البريد الإلكتروني، “الغرابة هنا هي أن شرطة ميلووكي تفكر في تقديم ملايين صور السجن التي من المرجح أن تكون بشكل غير متناسب لأشخاص من ذوي البشرة الملونة من أجل تدريب تقنية مراقبة من المحتمل أن تُستخدم بشكل غير متناسب على هؤلاء الأشخاص.” علاوة على ذلك، أشار سكوت إلى أن القيام بذلك سيؤدي إلى “تفاقم الفوارق العرقية التاريخية في نظام العدالة الجنائية.”
من غير المحتمل أن تأتي تنظيمات شاملة على المستوى الفيدرالي بشأن التعرف على الوجه في أي وقت قريب. على الرغم من أن عاصمة ويسكونسن، ماديسون، منعت هذه التقنية في عام 2020، إلا أن الولاية نفسها لا تمتلك أي قوانين، كما أن ميلووكي لا تنظم أيضًا تكنولوجيا المراقبة الموجودة لدى قسم الشرطة. في نظر سكوت، “أفضل شيء يمكن القيام به هو عدم المضي قدمًا في هذه الصفقة وأن تمتنع شرطة ميلووكي عن استخدام هذه التقنية، خاصة عندما لا توجد قوانين سارية لتحديد استخدامها بشكل صارم وتوفير حماية ذات معنى.”
في الأسبوع الماضي، دعت ACLU المحلية مدينة ميلووكي إلى وضع توقف لمدة عامين على أي تكنولوجيا مراقبة جديدة. كما طلبت أن تطور المدينة تنظيمات للتكنولوجيا الموجودة مع توفير الفرص لأعضاء المجتمع للتعبير عن آرائهم. على الرغم من أن قسم شرطة ميلووكي يقول إنه سيضع سياسة لضمان عدم اعتقال أي شخص بناءً على مطابقة التعرف على الوجه فقط، إلا أنه لا يوجد شيء يحاسبهم على ذلك.