الإدارة الخوارزمية: هل يمكن للخوارزمية تقييم أدائك؟

يُسمح في هولندا بالإدارة الخوارزمية، أي استخدام أنظمة الذكاء الاصطناعي لمراقبة الموظفين وتقييم أدائهم وتوجيههم، ولكن ضمن حدود صارمة. قد تدعم الخوارزمية تقييم الأداء، ولكن لا يجوز أن تكون الأساس الوحيد لاتخاذ قرار ذي تأثير كبير عليك، كالفصل من العمل أو خفض الرتبة أو رفض المكافأة، لأن المادة 22 من اللائحة العامة لحماية البيانات (GDPR) تُخوّل هذه القرارات لشخص يراجعها بموضوعية. علاوة على ذلك، يصنف قانون الاتحاد الأوروبي للذكاء الاصطناعي الأنظمة المستخدمة لمراقبة وتقييم العاملين ضمن فئة الأنظمة عالية المخاطر، ويحظر منعًا باتًا استخدام الذكاء الاصطناعي لاستنتاج مشاعر الموظفين في مكان العمل.

ما هي الإدارة الخوارزمية في الواقع

الإدارة الخوارزمية هي حالةٌ يقوم فيها برنامجٌ، بدلاً من مشرف، بالمراقبة والقياس، وغالباً بالتقييم. وتظهر هذه الإدارة في المستودعات ومراكز التوزيع، ومراكز خدمة العملاء، والعمل عبر المنصات، وبشكل متزايد في وظائف المكاتب العادية حيث تُدمج أدوات الإنتاجية في الأنظمة التي يستخدمها الموظفون بالفعل. ولا يحتاج صاحب العمل إلى شراء منتج يُسمى "مدير الذكاء الاصطناعي" حتى تظهر المسائل القانونية؛ فلوحة تحكم تُقيّم أداء الموظفين بناءً على بيانات تُجمع تلقائياً تكفي.

ما يُجيده هذا النظام هو العدّ. فهو يُسجّل المهام المنجزة، وأوقات إنجازها، وأوقات الاستجابة، والالتزام بالنص المُعدّ، والساعات المُسجّلة في التطبيق. لكنّه يعجز عن فهم سبب تغيّر الأرقام. فالموظف الذي انخفض إنتاجه لأنه أمضى ثلاثة أسابيع في تدريب زميل جديد، أو لأنه كان يُعالج عميلاً واحداً لم يستطع أحد غيره التعامل معه، أو لأن العمل في تلك الفترة كان معقداً بشكل غير عادي، يبدو في البيانات مماثلاً لموظف أنجز ببساطة أقل. هذه الفجوة بين القياس والمعنى هي مصدر كل نزاع قانوني تقريباً في هذا المجال.

ليس المقصود أن قياس الأداء غير قانوني، فلأصحاب العمل الحق في معرفة سير العمل، والمراقبة المعقولة جزء طبيعي من إدارة الأعمال. إنما المقصود هو أن القانون الهولندي والأوروبي يفرض شروطًا على طريقة إجراء هذا القياس، وقبل كل شيء، على كيفية استخدام نتائجه.

كيف تقيّم هذه الأنظمة أداءك؟

إن فهم آليات العملية أمر بالغ الأهمية، لأن حقوقك مرتبطة بمراحل محددة منها. وبشكل عام، تحدث ثلاثة أمور: جمع البيانات، وتحويلها إلى حكم من خلال نموذج، ثم اتخاذ إجراء بناءً على هذا الحكم.

ما يجمعه النظام

عادةً ما تكون عملية جمع البيانات غير مرئية ومستمرة. في بيئة خدمة العملاء، قد يسجل النظام عدد الاتصالات التي تمت معالجتها، ومتوسط ​​وقت المعالجة، وحل المشكلة من أول مرة، ووقت الانتظار بين المكالمات، والالتزام بالنص المحدد. وقد يتجاوز ذلك ليشمل تحليل المحتوى: معالجة اللغة الطبيعية المطبقة على رسائل البريد الإلكتروني ونصوص المكالمات، واكتشاف الكلمات المفتاحية، وتقييم مشاعر العميل في المحادثة. أما في مجال الخدمات اللوجستية، فيتم قياس معدلات المسح الضوئي وسرعة الانتقاء؛ وفي العمل المكتبي، يتم قياس النشاط في أدوات التعاون.

كل نقطة من هذه البيانات تُعدّ بيانات شخصية تخصك، ويجب تبرير كل منها. بموجب اللائحة العامة لحماية البيانات (GDPR)، لا يجوز لصاحب العمل جمع كل ما يمكن للنظام جمعه؛ إذ يجب أن تكون المعالجة ضرورية لغرض محدد ومتناسبة معه. من الصعب تبرير نظام يسجل ضغطات المفاتيح أو يلتقط لقطات شاشة دورية لتحديد من يعمل بجد، وقد انتقدت هيئة حماية البيانات الهولندية (Autoriteit Persoonsgegevens) باستمرار هذا النوع من المراقبة الشاملة.

من القواعد إلى النماذج، والصندوق الأسود

أبسط الأنظمة هي تلك القائمة على القواعد. فإذا تجاوز متوسط ​​وقت المعالجة حدًا معينًا لأكثر من عدد محدد من المرات أسبوعيًا، يُعلّم الموظف. هذا النظام جامد ولا يراعي السياق، لكن له ميزة هامة: إذ يمكنك قراءة القاعدة ومعرفة سبب تعليمك تحديدًا، مما يتيح لك مناقشة الأمر.

تختلف نماذج التعلم الآلي في طريقة عملها. فهي تُدرَّب على بيانات تاريخية حول أداء الموظفين، وتستنتج الأنماط المرتبطة بتلك النتائج. هذه الطريقة أكثر فعالية، ولكنها أقل شفافية بكثير. فقد يركز النموذج على شيء لا علاقة له بالأداء على الإطلاق، ولا يستطيع صاحب العمل، أو حتى المورِّد أحيانًا، تحديد السبب الدقيق وراء ظهور نتيجة معينة على هذا النحو.

هذا الغموض هو ما يُعرف عادةً بمشكلة الصندوق الأسود، وهو في السياق القانوني يُعدّ عيبًا جوهريًا لا مجرد عائق. فصاحب العمل الذي لا يستطيع شرح أساس التقييم لا يفي بواجب تقديم معلومات واضحة حول المنطق المُستخدم، ولا يستطيع الدفاع عن التقييم بشكل صحيح في حال الطعن فيه، ولا يستطيع إثبات خلوّه من أي أثر تمييزي. عمليًا، إذا لم تستطع شرح التقييم، فلا يمكنك الاعتماد عليه.

متطلبات اللائحة العامة لحماية البيانات (GDPR) لنظام أداء الذكاء الاصطناعي

يُعدّ نظام حماية البيانات العامة (GDPR) الأداة الأولى والأكثر فعالية في هذا المجال، لأنه ينطبق على كل صاحب عمل يعالج بيانات الموظفين، وقد تم تطبيقه لسنوات. وتُشكّل أربعة من قواعده الجزء الأكبر من العمل.

المادة 22: لا يوجد قرار مهم من قبل الآلة وحدها

تنص المادة 22 من اللائحة العامة لحماية البيانات (GDPR) على حق كل شخص في عدم الخضوع لقرار يستند فقط إلى معالجة آلية، بما في ذلك التنميط، والذي ينتج عنه آثار قانونية تتعلق به أو يؤثر عليه بشكل مماثل. ويشمل هذا الحق الفصل من العمل، وعدم تجديد العقد، وخفض الرتبة، وحجب المكافأة، ورفض الترقية.

كلمتان تحملان دلالات بالغة. تعني كلمة "فقط" أن مجرد تأكيد شخص ما لما يقترحه النظام لا يُلغي القرار المنصوص عليه في المادة 22؛ فقد أوضحت السلطات الرقابية لسنوات أن الموافقة الشكلية لا تُعدّ تدخلاً بشرياً. يتطلب التدخل الحقيقي وجود مُراجع مُخوّل بالتوصل إلى استنتاج مختلف، وكفاءة لتقييم الحالة، والوقت الكافي لذلك. أما كلمة "يؤثر بشكل كبير" فتُقرأ على نطاق واسع، ولا تستلزم تبعات قانونية رسمية: فنظام التقييم الذي يُحدد نوبات العمل أو المهام المُتاحة لك قد يؤثر عليك بشكل كبير بما يكفي لتفعيل المادة.

في حال انطباق المادة 22، يجب على صاحب العمل في أي حال من الأحوال توفير الضمانات التي تنص عليها: الحق في الحصول على تدخل بشري، والتعبير عن وجهة نظرك، والطعن في القرار.

الشفافية، وإمكانية الوصول، والمنطق المتضمن

يجب إبلاغ الموظفين مسبقًا بوجود النظام ووظيفته. وفي حال اتخاذ قرارات آلية وفقًا للمادة 22، يجب على صاحب العمل أيضًا تقديم معلومات واضحة حول المنطق المستخدم وأهمية المعالجة ونتائجها المتوقعة. ويمكن طلب هذه المعلومات لاحقًا من خلال طلب الوصول إلى البيانات، والذي يتيح لك أيضًا الحصول على نسخة من بياناتك الشخصية التي تتم معالجتها: الدرجات، والقياسات الأساسية، والفئات التي يصنفك فيها النظام.

لقد حُدِّد مفهوم الأهمية في اتجاه الجوهر لا الشكلية. فهو ليس وصفًا للتكنولوجيا، بل شرحٌ للعوامل المستخدمة وكيفية تقييمها، مُصاغٌ بأسلوبٍ يفهمه الشخص المعني ويستطيع العمل بناءً عليه.

الأساس القانوني والموافقة وتقييم أثر حماية البيانات

كل عملية معالجة بيانات تتطلب أساسًا قانونيًا. في سياق العمل، نادرًا ما يُعتد بالموافقة، وذلك تحديدًا بسبب العلاقة بين صاحب العمل والموظف: فالموافقة التي لا يمكن رفضها دون عواقب لا تُمنح بحرية. لذلك، يعتمد أصحاب العمل عمومًا على ضرورة المعالجة لتنفيذ عقد العمل، أو على التزام قانوني، أو على مصلحة مشروعة، ويتطلب الأخير موازنة موثقة بين المصلحة المنشودة وخصوصية العاملين.

نظراً لأن مراقبة الأداء على هذا النطاق تتضمن تقييماً منهجياً وشاملاً للأفراد استناداً إلى معالجة آلية، فإن تقييم أثر حماية البيانات ليس اختيارياً. بل هو شرط أساسي قبل بدء تشغيل النظام، ويجب أن يصف عملية المعالجة، ويبرر ضرورتها وتناسبها، ويحدد المخاطر التي قد يتعرض لها الموظفون، ويوضح التدابير اللازمة لمعالجتها. أما أصحاب العمل الذين يتجاهلون هذا التقييم، فعادةً ما يكتشفون المشاكل لاحقاً، في خضم نزاع، عندما يتعذر تصحيح الأخطاء بهدوء.

إلى أي مدى يمكن أن يصل صاحب العمل في المراقبة؟

لا يمكن فصل تقييم الأداء عن عملية الرصد التي تُغذيه، وللرصد حدوده. فالموظف لا يتنازل عن حياته الخاصة بمجرد دخوله مكتبه: فقد قضت المحكمة الأوروبية لحقوق الإنسان في قضية باربوليسكو ضد رومانيا بأن رصد اتصالات الموظف يُخوّله الحق في احترام حياته الخاصة ومراسلاته بموجب المادة 8 من الاتفاقية، وأنه يجب على صاحب العمل إبلاغ الموظف مسبقًا بطبيعة الرصد ونطاقه، وأن يسعى لتحقيق هدف مشروع، وأن يختار أقل الوسائل تدخلاً لتحقيقه. ويُعدّ الرصد السري للقوى العاملة إجراءً استثنائيًا، ويتطلب وجود شبهة قوية، ومدة زمنية محدودة، وتقييمًا موثقًا لا يفي به أي إجراء أقل صرامة.

إذا ترجمنا ذلك إلى مشروع إدارة خوارزمية، فهذا يعني أن على صاحب العمل أن يكون قادراً على الإجابة عن ثلاثة أسئلة حول كل تدفق بيانات: لماذا هذه البيانات ضرورية للغرض المحدد، ولماذا لا يمكن تحقيق ذلك بقياس أقل تدخلاً، وهل تم إبلاغ الموظفين مسبقاً. في معظم بيئات العمل العادية، لا يُجيب تسجيل الشاشة المستمر، وتسجيل ضغطات المفاتيح، وتتبع الموقع خارج ساعات العمل على هذه الأسئلة.

بيانات الغياب والمرض والفئات الخاصة

هناك فئة واحدة تستحق الحذر الشديد. تُصنّف البيانات التي تكشف عن الحالة الصحية ضمن فئة البيانات الخاصة بموجب اللائحة العامة لحماية البيانات (GDPR)، ولا يجوز من حيث المبدأ معالجتها إطلاقًا، باستثناء حالات محدودة. تُعدّ القواعد الهولندية المتعلقة بالإجازات المرضية صارمة: يجوز لصاحب العمل تسجيل غياب الموظف ومدة الغياب، لكن طبيعة المرض والتشخيص والقيود المفروضة عليه تقع على عاتق طبيب الشركة، وليس صاحب العمل. إن نظام تقييم الأداء الذي يستنتج الحالة الصحية من أنماط الغياب أو سرعة الكتابة أو فترات الراحة أو نبرة الصوت، يُعدّ معالجةً للبيانات الصحية بالاستدلال، ولا يُغيّر من الأمر شيئًا عدم إدخال أي تشخيص في النظام.

وينطبق التحذير نفسه على الأنظمة التي تتأثر نتائجها بالإجازات المحمية، كالحمل أو إجازة الأبوة أو إجازة رعاية الطفل. فإذا اعتبر النموذج هذه الفترات انخفاضًا في الأداء، فإن صاحب العمل لا يقوم فقط بمعالجة بيانات حساسة، بل يحوّل حقًا قانونيًا إلى عائق.

أعلى مستوى من مستويات الإنفاذ

تُصنّف انتهاكات المبادئ الأساسية، ومشروعية معالجة البيانات، وحقوق أصحاب البيانات ضمن أعلى فئة من الغرامات المنصوص عليها في المادة 83 من اللائحة العامة لحماية البيانات (GDPR)، وهي أشدّ فئات الغرامات التي تنصّ عليها اللائحة. وبنفس القدر من الأهمية في الممارسة اليومية، يصعب الاعتماد على أي تقييم أُجري بالمخالفة لهذه القواعد في نزاعات العمل: فالمحكمة التي يُطلب منها إنهاء عقد عمل بسبب ضعف الأداء سترغب في معرفة كيفية إثبات هذا الضعف.

ما يضيفه قانون الذكاء الاصطناعي لأصحاب العمل والعمال

قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي ساري المفعول ويُطبّق على مراحل، لذا لم يعد السؤال هو ما إذا كان سيُطبّق أم لا، بل أيّ من التزاماته باتت سارية المفعول بالفعل. هناك جانبان مهمان في هذا السياق.

أولًا، قائمة الممارسات المحظورة، المطبقة منذ المراحل الأولى للقانون. تتضمن هذه القائمة قاعدة موجهة مباشرةً إلى بيئة العمل: يُحظر استخدام أنظمة الذكاء الاصطناعي لاستنتاج مشاعر الأفراد في أماكن العمل والمؤسسات التعليمية، إلا إذا كان الغرض من النظام هو وضعه أو طرحه في السوق لأسباب طبية أو أمنية. وبالتالي، فإن البرامج التي تُقيّم الحالة المزاجية، ومستوى التوتر، والالتزام، أو الإخلاص لدى الموظفين من خلال أصواتهم، أو وجوههم، أو كتاباتهم، لا تُعدّ مشكلة امتثال تستدعي المعالجة. فهي غير واردة، والاستثناء الطبي والأمني ​​الضيق لا يشمل إدارة الإنتاجية. يُرجى الانتباه جيدًا إلى هذا الحد: فتحليل مشاعر العميل يختلف تمامًا عن استنتاج مشاعر الموظف.

الطبقة الثانية هي نظام المخاطر العالية. يُصنّف الملحق الثالث من قانون الذكاء الاصطناعي، من بين أمور أخرى، أنظمة الذكاء الاصطناعي المُخصصة لاتخاذ قرارات تؤثر على شروط العلاقات المتعلقة بالعمل، أو ترقية أو إنهاء هذه العلاقات، أو توزيع المهام بناءً على السلوك الفردي أو السمات الشخصية، أو رصد وتقييم أداء وسلوك العاملين، ضمن فئة المخاطر العالية. وتندرج أداة تقييم أداء الذكاء الاصطناعي ضمن هذا التصنيف. وبموجب حزمة التعديلات الرقمية الشاملة، تم تأجيل مواعيد تطبيق التزامات المخاطر العالية لأنظمة الملحق الثالث، مما يمنح أصحاب العمل مزيدًا من الوقت للاستعداد؛ أما المحظورات، وقواعد نماذج الذكاء الاصطناعي للأغراض العامة، وواجبات الشفافية المنصوص عليها في المادة 50، فهي سارية بالفعل.

هناك التزامٌ يستحق الذكر بشكلٍ منفصل لأن أصحاب العمل يتجاهلونه بشكلٍ روتيني. يجب على أصحاب العمل الذين يستخدمون أنظمة الذكاء الاصطناعي إبلاغ ممثلي العمال والعمال المتأثرين قبل تشغيل أي نظام ذكاء اصطناعي عالي المخاطر في مكان العمل، وذلك وفقًا للقواعد المعمول بها بشأن المعلومات والتشاور. هذا واجبٌ إعلاميٌّ يُضاف إلى التزامات الشفافية المنصوص عليها في اللائحة العامة لحماية البيانات (GDPR) وحقوق مجلس العمل بموجب القانون الهولندي، ولا يحل محلها. لمزيدٍ من التفاصيل حول القانون وجدوله الزمني، يُرجى الاطلاع على مقالنا حول الجانب القانوني للذكاء الاصطناعي وقانون الاتحاد الأوروبي للذكاء الاصطناعي.

من يتحمل المسؤولية: المورد أم صاحب العمل؟

كثيراً ما يفترض أصحاب العمل أن المورد يتحمل المخاطر القانونية لمجرد شراء البرنامج من مورد متخصص. وهذا ليس ما تنص عليه أي من الإطارين القانونيين في تحديد المسؤولية.

بموجب اللائحة العامة لحماية البيانات (GDPR)، يقرر صاحب العمل سبب وكيفية معالجة بيانات الموظفين، وبالتالي فهو المتحكم بالبيانات. أما المورد الذي يدير النظام بناءً على تعليمات صاحب العمل فهو معالج البيانات، ويجب تحديد هذه العلاقة في اتفاقية معالجة. مع ذلك، يظل صاحب العمل مسؤولاً عن واجبات الشفافية والشرعية والإشراف البشري تجاه موظفيه، وهو المسؤول أمام هيئة حماية البيانات الشخصية (Autoriteit Persoonsgegevens) وأمام الموظفين أنفسهم.

يُفرّق قانون الذكاء الاصطناعي بين مُزوّد ​​النظام، الذي يُطوّر نظام الذكاء الاصطناعي ويطرحه في السوق، والمُشغّل، الذي يستخدمه تحت سلطته الخاصة. عادةً ما يكون صاحب العمل الذي يستخدم أداةً مُشتراة مُشغّلاً، ويتحمّل التزامات المُشغّل، بما في ذلك استخدام النظام وفقًا للتعليمات، وضمان مستوى مناسب من الإشراف البشري من قِبل أشخاص ذوي كفاءة وسلطة لازمة، ومراقبة تشغيله، وإبلاغ العاملين. أما صاحب العمل الذي يُطلق اسمه على النظام، أو يُجري عليه تعديلات جوهرية، أو يُغيّر غرضه المُراد، فيُمكن أن يُصبح مُزوّدًا، ويتحمّل الالتزامات الأثقل المُصاحبة لهذا الدور.

يترتب على ذلك عملياً في مجال المشتريات ضرورة قراءة العقد مع مراعاة هذه الأدوار. يحتاج صاحب العمل إلى أن يقدم المورد المعلومات التي تُمكّنه من الامتثال، وعليه أن يتشكك في أي منتج لا يستطيع شرح مخرجاته، لأن واجب الشرح يقع على عاتق صاحب العمل بغض النظر عما تنص عليه الرخصة.

العمل على المنصات: طبقة إضافية من القواعد

بالنسبة للعاملين عبر منصات العمل الرقمية، هناك أداة أخرى قيد الإعداد. فقد خصص التوجيه (الاتحاد الأوروبي) 2024/2831 بشأن تحسين ظروف العمل في المنصات فصلاً كاملاً للإدارة الخوارزمية. ويلزم هذا التوجيه المنصات بإبلاغ العاملين بأنظمة المراقبة واتخاذ القرارات الآلية التي تؤثر بشكل كبير على ظروف عملهم، ويقيد معالجة فئات معينة من البيانات، بما في ذلك البيانات المتعلقة بالحالة العاطفية والنفسية وبيانات المحادثات الخاصة، ويشترط إشرافاً بشرياً على آثار هذه الأنظمة، ويمنح العاملين الحق في الحصول على شرح ومراجعة بشرية للقرارات الهامة، مثل تقييد الحساب أو تعليقه. والجدير بالذكر أن العديد من هذه الضمانات تنطبق على العاملين عبر المنصات سواء كانوا مؤهلين كموظفين أم لا.

يتعين على الدول الأعضاء نقل التوجيه بحلول 2 ديسمبر 2026. وحتى يصبح التشريع الوطني المنفذ ساري المفعول، يظل قانون حماية البيانات العامة وقانون الذكاء الاصطناعي هما القواعد التشغيلية، وتغطي متطلباتهما بالفعل الكثير من نفس الموضوع.

قانون العمل الهولندي: لا يمكن للخوارزمية إنهاء عقدك

تخضع آلية عمل النظام لقواعد حماية البيانات والذكاء الاصطناعي الأوروبية. أما قانون العمل الهولندي فينظم ما يجوز لصاحب العمل فعله بمخرجات النظام، وهو أكثر صرامة بكثير مما تفترضه معظم مشاريع الإدارة الخوارزمية.

لا يجوز لصاحب العمل في هولندا إنهاء عقد العمل ببساطة. يتطلب الفصل وجود سبب معقول منصوص عليه في المادة 7:669 من القانون المدني الهولندي، ويتطلب إذنًا مسبقًا من هيئة العمل الهولندية (UWV) أو قرارًا من محكمة الكانتون (المحكمة الجزئية)، وذلك بحسب السبب. يُعدّ ضعف الأداء أحد هذه الأسباب، وهو سببٌ يتطلب إثباتًا قاطعًا. يجب على صاحب العمل أن يُثبت عدم ملاءمة الموظف للوظيفة، وأنه تم إبلاغه بذلك في الوقت المناسب، وأنه قدّم له فرصة حقيقية للتحسين، مع توفير الدعم اللازم عند الاقتضاء. لا يُعدّ تقييم الأداء عبر لوحة التحكم عملية تحسين، وستسأل المحكمة عمّا نوقش، ومتى، وما نوع المساعدة التي قُدّمت. يُفصّل دليلنا لقانون العمل الهولندي إطار الفصل بمزيد من التفصيل.

ينطبق قانون مكافحة التمييز على النتيجة، لا على النية. فإذا كان النظام يُلحق الضرر بالموظفين على أساس الجنس أو العرق أو السن أو الدين أو الإعاقة أو المرض المزمن، فإنه يُعد مخالفًا للقانون العام للمساواة في المعاملة، وللقوانين الخاصة بالمساواة في المعاملة المتعلقة بالسن والإعاقة، بغض النظر عما إذا كان أي شخص قد قصد تلك النتيجة. وتُعد بيانات التدريب التاريخية السبب الرئيسي في ذلك: فالنموذج المُدرَّب على أساس من تمت ترقيته في الماضي سيعيد إنتاج تفضيلات الماضي. كما تميل الأنظمة التي تقيس التوافر أو الإنتاج الخام بمرور الوقت إلى معاقبة الموظفين الذين حصلوا على إجازة أبوة أو أمومة، أو عملوا لساعات أقل، أو تغيبوا بسبب المرض، ومعاقبة الموظف لممارسته حقًا قانونيًا هو تحديدًا ما يحظره قانون المساواة في المعاملة.

يجب على مجلس الأشغال أن يوافق

في الشركات التي تطبق نظام مجلس العمل، يحتاج صاحب العمل إلى أكثر من مجرد النية الحسنة. تنص المادة 27 من قانون مجالس العمل على ضرورة موافقة مجلس العمل على اعتماد أو تعديل أو إلغاء أي ترتيبات، بما في ذلك تلك المتعلقة بتقييم أداء الموظفين، ومعالجة وحماية بياناتهم الشخصية، وتوفير التسهيلات اللازمة لمراقبة حضورهم وسلوكهم وأدائهم. ويجمع نظام الذكاء الاصطناعي لتقييم الأداء بين هذه الجوانب الثلاثة جميعها في آن واحد.

لا يُعدّ الحصول على الموافقة هنا إجراءً شكليًا. إذ يُمكن لمجلس العمل إبطال أي قرار يُتخذ دون الحصول على الموافقة المطلوبة، وبالتالي منع صاحب العمل من تطبيقه. بالنسبة للموظفين الذين يشعرون بأن النظام فُرض عليهم، غالبًا ما يكون مجلس العمل هو أسرع وأنجع وسيلة للتغيير، قبل التفكير في اللجوء إلى التقاضي.

ما قررته المحاكم حتى الآن

لا تزال السوابق القضائية قيد التطور، لكن حكمين هولنديين قد حددا بالفعل اتجاه السير، وكلاهما يُستشهد به خارج هولندا.

أحكام أوبر وأولا

في 4 أبريل 2023، جيريتشتشوف Amsterdam (Amsterdam أصدرت محكمة الاستئناف حكمًا في سلسلة من القضايا التي رفعها سائقون ضد شركتي أوبر وأولا. طالب السائقون بمعرفة سبب تعطيل حساباتهم وكيفية توزيع العمل والأسعار عليهم. وقد حكمت المحكمة لصالحهم في معظم النقاط المتعلقة بالمعلومات. تأثر السائقون الذين فقدوا الوصول إلى المنصة، وبالتالي دخلهم، بشكل كبير بسبب اتخاذ القرارات الآلية، ولم يكن بإمكان الشركتين التهرب من تقديم تفسير بحجة الأسرار التجارية أو خطر التلاعب دون تقديم أدلة تدعم هذا الادعاء.

ما طلبته المحكمة كان واضحًا ومحددًا: ليس وصفًا عامًا للتكنولوجيا، بل معلومات حول العوامل المستخدمة ووزنها، حتى يتمكن الشخص المعني من فهم النتيجة والطعن فيها. هذا هو المعيار الذي ينبغي على أصحاب العمل افتراضه ينطبق على خوارزمية الأداء أيضًا. إذا كان جوابك على سؤال "لماذا حصلت على درجة منخفضة؟" هو أن النموذج هو من حدد ذلك، فأنت لم تستوفِ المعيار.

حكم SyRI

لم تكن القضية الثانية نزاعًا عماليًا، لكن منطقها يمتد إلى بيئة العمل. ففي حكمها الصادر في 5 فبراير/شباط 2020 (ECLI:NL:RBDHA:2020:865)، قضت محكمة لاهاي الابتدائية بأن التشريع الذي يقوم عليه نظام SyRI، وهو نظام حكومي لتصنيف المخاطر يُستخدم لكشف الاحتيال في الإعانات والضرائب، لم يستوفِ متطلبات المادة 8 من الاتفاقية الأوروبية لحقوق الإنسان. فقد كان النظام يفتقر إلى الشفافية والشفافية الكافية، إذ لم يتمكن أي طرف خارجي من تحديد كيفية تصنيف شخص ما، مما جعل الدفاع ضده مستحيلاً.

المبدأ عام. لا يمكن الطعن في نظام لا يمكن فحص آلياته، والقرار الذي لا يمكن الطعن فيه ليس قرارًا عادلًا. إن صاحب العمل الذي يرغب في بناء تقييماته على نموذج لا يستطيع الموظف ولا صاحب العمل شرحه، إنما يبني على نفس الأساس الذي فشل في تلك الحالة. تتجاوز مسائل المسؤولية عن السلوك الآلي قانون العمل وحده، كما توضح مقالتنا حول الذكاء الاصطناعي والقانون الجنائي .

حقوقك إذا تم تقييمك بواسطة خوارزمية

إذا كنت تخضع للتقييم بمساعدة نظام الذكاء الاصطناعي، فلديك حقوق ملموسة وقابلة للتنفيذ، ولست بحاجة إلى إثبات أن النظام مخطئ قبل أن تتمكن من استخدامها.

يمكنك الاستفسار عن البيانات المحفوظة عنك والحصول على نسخة منها، بما في ذلك المقاييس التي تُعتمد في التقييم والنتائج المُستمدة منها. كما يمكنك طلب معلومات مفيدة حول منطق النظام، والعوامل المؤثرة فيه، وأوزانها. في حال اتخاذ قرار ذي تأثير كبير آليًا، يمكنك طلب تدخل بشري، وعرض وجهة نظرك، والاعتراض على القرار. يمكنك أيضًا تصحيح البيانات غير الدقيقة، وهو أمر بالغ الأهمية: فكثير مما تُسجله هذه الأنظمة خاطئ، بدءًا من تسجيل الغيابات بشكل خاطئ وصولًا إلى إسناد العمل إلى الشخص الخطأ.

كيفية الطعن في التقييم الآلي عملياً

ابدأ بتوثيق وضعك الوظيفي قبل طرحه. دوّن المهام المحددة التي أغفلها التقييم، والفترات التي كانت فيها الظروف استثنائية، وأي غياب أو إجازة أو إعادة تعيين قد تؤثر سلبًا على الأرقام لأسباب لا علاقة لها بأدائك. إن تدوين الملاحظات في حينه أهم بكثير من إعادة بناء التقييم بعد ستة أشهر.

ثمّ قدّم الطلب كتابيًا إلى جهة عملك، موضحًا أنك تمارس حقوقك بموجب اللائحة العامة لحماية البيانات (GDPR)، طالبًا البيانات المستخدمة في تقييمك وشرحًا للمنطق الذي استند إليه، ومطالبًا بمراجعة بشرية من قِبل شخص مخوّل بالتوصل إلى استنتاج مختلف. حدّد مهلة معقولة؛ إذ تنصّ اللائحة العامة لحماية البيانات على إلزام جهة العمل بالردّ في غضون شهر واحد، ويمكن تمديد هذه المدة في الحالات المعقدة. حافظ على أسلوب موضوعي ودقيق، لأنّ هذه المراسلات غالبًا ما تُستخدم كدليل.

إذا لم يستجب صاحب العمل بشكل كافٍ، يمكنك تقديم شكوى إلى هيئة حماية البيانات الشخصية، كما يمكنك رفع النزاع أمام المحاكم. عندما يُستخدم التقييم لدعم قرار الفصل أو تغيير شروط العمل، يكون اللجوء إلى القضاء عادةً هو الخيار الأكثر فعالية، كما أنه يتميز بضيق الوقت، لذا يُنصح باستشارة مختص في وقت مبكر. تشرح مقالتنا حول خصوصية البيانات بموجب اللائحة العامة لحماية البيانات (GDPR) في عصر الذكاء الاصطناعي والبيانات الضخمة الإطار الأساسي لهذه المسألة.

ما ينبغي على صاحب العمل فعله قبل تشغيل النظام

بالنسبة لأصحاب العمل، فإن الامتثال في هذا المجال هو في الغالب مسألة ترتيب. فغالباً ما تنشأ كل مشكلة خطيرة لأن النظام تم شراؤه ونشره أولاً، ثم طُرحت الأسئلة القانونية لاحقاً.

ابدأ بالهدف. دوّن ما تسعى المنظمة لتحقيقه فعليًا، والقرارات التي سيؤثر فيها النظام، لأن كل شيء آخر ينبع من ذلك: البيانات التي يمكن تبريرها، والأساس القانوني، وتقييم المخاطر، ومستوى الإشراف البشري المطلوب. إن شراء نظام لتحسين الجدولة ثم استخدامه سرًا لإنشاء ملف فصل هو مثال كلاسيكي على عملية معالجة غير قانونية.

أجرِ تقييمًا لأثر حماية البيانات قبل النشر، وليس كوثيقة تُعدّ لاحقًا لتبرير قرارٍ اتُخذ بالفعل، وسجّل النتائج. حدّد الأساس القانوني ووثّقه، مع مراعاة أن موافقة الموظفين نادرًا ما تكون مضمونة. حدّد ما إذا كان النظام يندرج ضمن فئة المخاطر العالية في قانون الذكاء الاصطناعي، وإذا كان كذلك، فحدّد الالتزامات المترتبة على مُشغّل النظام، بما في ذلك واجب إبلاغ ممثلي العمال والعمال المتأثرين. احصل على موافقة مجلس العمل حيثما ينطبق البند 27 من قانون مجالس العمل، وأشركه في وقتٍ مبكر بما يكفي لإبداء رأيه وإحداث تغيير.

ثم صمم آلية الرقابة التي تنص عليها المادة 22، واختبر مدى فعاليتها. اسأل من يراجع المخرجات، وهل بإمكان هذا الشخص نقضها دون الحاجة إلى تبرير الانحراف لرئيسه، وهل لديه المعلومات الكافية للحكم، وهل لديه الوقت الكافي. إذا كانت الإجابة الصادقة هي أن المراجع يعالج مئة حالة في اليوم، فإن المنظمة لا تملك رقابة بشرية، بل رقابة شكلية فقط.

أخيرًا، ركّز على نتائج الاختبار لا النوايا. راجع نتائج النظام حسب الخصائص المحمية ونمط العمل، مع التركيز بشكل خاص على الموظفين الذين يعملون بدوام جزئي، أو الذين حصلوا على إجازة، أو الذين كانوا مرضى. امنح الموظفين آلية واضحة للاعتراض على التقييم، وسجّل ما يحدث لهذه الاعتراضات. احتفظ بالوثائق، لأن عبء إثبات الامتثال يقع على عاتق صاحب العمل، وفي حال نشوب نزاع، يُعدّ الملف دليلًا على الإثبات.

ما الذي سيتركك هذا؟

الإدارة الخوارزمية ليست محظورة، ولن تختفي. ما يفعله القانون هو الفصل بين القياس والتقييم. قد تقوم الأنظمة بالحساب والمقارنة والإشارة؛ لكن على الأفراد اتخاذ القرار وشرحه وتحمل المسؤولية. يحق للموظفين معرفة أنهم يخضعون للتقييم بواسطة نظام كهذا، وفهم ما يقيسه، وأن يُعاد النظر في أي قرار يؤثر عليهم جوهريًا من قِبل شخص مختص. يمكن لأصحاب العمل الذين يقبلون هذا التقسيم للعمل استخدام هذه الأدوات بثقة. أما أولئك الذين يتركون لوحة التحكم تتخذ القرار، فسيجدون أن لا هيئة حماية البيانات الشخصية ولا محكمة العدل الإقليمية تقبلان مخرجاتها كبديل عن التقييم السليم.

Law & More نقدم الاستشارات لأصحاب العمل بشأن استخدام الذكاء الاصطناعي في إدارة الأداء، بدءًا من تقييم الأثر وإجراءات مجلس العمل وصولًا إلى تصميم آليات الإشراف البشري، كما نقدم الاستشارات للموظفين الذين يواجهون تقييمًا آليًا يرونه غير عادل. إذا كان يتم استخدام خوارزمية لتقييم عملك أو عمل موظفيك، يسعدنا مراجعة الوضع معك.

أسئلة شائعة حول تقييمات أداء الذكاء الاصطناعي