مثل الحكومات الأخرى ، تعتمد البلديات بشكل متزايد على الخوارزميات الذكية وتنميط المخاطر. ينبع هذا من البحث الذي أجرته بالتعاون مع المذيعين الإقليميين.
تستخدم ما لا يقل عن 25 بلدية أنظمة وخوارزميات تنبؤية لاكتشاف ، على سبيل المثال ، احتيال المساعدة ، للتنبؤ بأماكن حدوث جرائم تخريبية محتملة ولتكون قادرة على مساعدة المواطنين على تحمل الديون في الوقت المحدد.
تحديد المخاطر تحت عدسة مكبرة. في حالة بدل رعاية الطفل ، وجد أن الجنسية المزدوجة تؤخذ في الاعتبار عند إعداد ملفات تعريف المخاطر. في العام الماضي ، ألغى القاضي أيضًا نظام التنميط السوري في سوريا من على الطاولة ، ويرجع ذلك جزئيًا إلى أنه لم يكن شفافًا بشكل كافٍ وبالتالي يشكل خطرًا من التمييز.
قال المحامي أنطون إيكر ، الذي رفع دعوى قضائية على نظام «سيري»: «هذه الأخبار مقلقة». «لقد وعدت الحكومة رسميا أنه لن يكون هناك قضية تكميلية جديدة ، ولكن لا توجد صورة جيدة لما تفعله جميع البلديات.»
في الوقت نفسه ، تتمتع الخوارزميات الذكية بجميع أنواع المزايا ، كما تؤكد رابطة البلديات الهولندية. لكن يجب أن يلتزموا بمبادئ الرعاية والشفافية والتناسب «. تؤكد المنظمة أن البلديات لا يزال بإمكانها أن تتحسن كثيرًا.
محتال
من الناحية العملية ، تستخدم جميع الحكومات والشركات تقريبًا الخوارزميات ، غالبًا لعمليات بسيطة مثل تسجيل محركات الأقراص الثابتة أو إرسال الرسائل تلقائيًا. لكن في هذه البلديات الـ 25 تحديدًا ، يتم تقسيم المواطنين والمناطق إلى ملفات تعريف ، أحيانًا لمساعدتهم بسرعة أكبر ، ولكن أيضًا ، على سبيل المثال ، لتحديد فرص ارتكابهم للاحتيال. في بعض الحالات ، لا تزال هذه تجارب وتجريبية.
على سبيل المثال ، تنشئ بلديات نيسيوارد وبرييل ، جنبًا إلى جنب مع شركة خارجية ، ملفات تعريف مخاطر لمتلقي المساعدات. بناءً على درجة المخاطر ، يتم تحديد ما إذا كان سيتم فحص ملف إضافي. يعمل Deventer أيضًا بهذه الطريقة ، على الرغم من أنها تجربة.
تنشئ بلدية Twenterand أيضًا ملفات تعريف عن المواطنين ، ولكن بعد ذلك ترسم خريطة للديون و «مشاكل الرعاية». وتستخدم بلديات ليمبورغ في Leudal و Nederweert و Maasricht مثل هذه الأنظمة للكشف عن الجرائم التخريبية. تقوم Dronten بتجربتها.
وتبحث بريدا في التعلم الآلي فيما إذا كان من المنطقي هدم أو بناء أنواع معينة من المنازل ، على سبيل المثال ، من أجل تحسين سبل العيش.
بالنسبة للبلديات ، تقدم الخوارزميات جميع أنواع الفوائد: فهي أكثر ذكاءً وأسرع من البشر ، ويمكنها التعرف على الأنماط التي لا يمكن التعرف عليها بطريقة أخرى. ويمكن للمواطنين ، أيضًا ، أن يتحسنوا في ذلك ، كما تقول البلديات: بهذه الطريقة ، يمكن للأشخاص الذين يتراكمون على الديون أن يبرزوا في المقدمة في وقت أقرب وبالتالي يتم مساعدتهم في وقت قريب.
لكن النقاد يحذرون من مخاطر التمييز. على سبيل المثال ، غالبًا ما يتم تغذية الخوارزميات الذكية بملاحظات الأشخاص من لحم ودم. لكن الناس لديهم أحكام مسبقة ، والتي يمكن أن تنتهي في الخوارزميات.
وقالت نادية بن عيسى من منظمة الحقوق المدنية بت أوف فريدوم: «من الصعب استبعاد التمييز بشكل كامل». «أعتقد أن البلديات تعني الخير ، لكن كمواطن سوف توضع قريبا في مأزق».
ريبة
غالبًا ما يكون هناك عدم يقين بشأن التشغيل الدقيق للخوارزميات وتحديد سمات المخاطر. بلدية نيسوارد ، على سبيل المثال ، لا تريد الإفصاح عن كيفية تحديد ما إذا كان شخص ما قد يكون محتالاً ، حتى لا تجعل المحتالين أكثر حكمة. كانت البلدية قد كتبت هذا سابقًا إلى المجلس ، الذي طرح أسئلة حول النظام.
تقول مارليس فان إيك من جامعة رادبود ، إنه ليس من الواضح بالضبط عدد الأنظمة التي تعمل مشكلة. هي متخصصة في العالم القانوني وراء الذكاء الاصطناعي. «إذا تعرضت للتمييز في العالم الحقيقي ، يمكنك أن تشعر بذلك غريزيًا. ولكن إذا حدث ذلك من خلال الخوارزمية ، فقد لا تلاحظ ذلك أبدًا.»
دعوى قضائية جديدة
المحامي عكر غير مرتاح لذلك. «أتساءل عما إذا كانت الحكومات المحلية لديها ما يكفي من المعرفة في المنزل للقيام بذلك بطريقة جيدة. فهي غالبًا ما تعتمد بشكل كبير على موفري تكنولوجيا المعلومات والاتصالات الخارجيين.»
وشدد على أن تحالف المنظمات التي تقف وراء قضية سوريا يراقب التطورات المحلية. «وإذا حدث خطأ مرة أخرى ، فلن نستبعد دعوى قضائية جديدة.»
