ممارسات الذكاء الاصطناعي المحظورة: ما يحظره قانون الذكاء الاصطناعي على الشركات الهولندية

منذ 2 فبراير 2025، يحظر قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي (اللائحة (الاتحاد الأوروبي) 2024/1689) مجموعةً محدودةً من ممارسات الذكاء الاصطناعي في جميع أنحاء الاتحاد الأوروبي، بما في ذلك هولندا، وتشمل هذه الممارسات: التلاعب بالبيانات، واستغلال الفئات الضعيفة، والتقييم الاجتماعي، والتعرف على المشاعر في أماكن العمل والمدارس، وبعض الاستخدامات البيومترية، وجمع صور الوجه بشكل عشوائي. ولا توجد فترة انتقالية، وينطبق الحظر على الشركات التي تُطوّر الذكاء الاصطناعي، وكذلك على الشركات التي تستخدمه فقط.

لا يتعلق الحظر بالتكنولوجيا نفسها، بل بالاستخدام. فبرنامج التعرف على الوجه نفسه قد يكون قانونيًا للتحكم في الوصول إلى غرفة الخوادم، ومحظورًا لأغراض أخرى. تشرح هذه الصفحة كل ممارسة محظورة، والجهة المسؤولة عن تطبيق الحظر في هولندا، وما ينبغي على شركتك فعله الآن.

ما هي ممارسات الذكاء الاصطناعي المحظورة؟

تتضمن قائمة الممارسات المحظورة في المادة 5 من قانون الذكاء الاصطناعي ثماني فئات. ولا ينطبق معظمها إلا عندما تتسبب الممارسة، أو يُحتمل بشكل معقول أن تتسبب، في ضرر جسيم، أو عندما تكون موجهة لأغراض محددة.

أساليب التلاعب أو الخداع

لا يجوز استخدام الذكاء الاصطناعي الذي يوظف أساليب خفية أو تلاعبية أو خادعة عمدًا لتشويه سلوك شخص ما بشكل جوهري، بطريقة تُسبب أو يُحتمل أن تُسبب ضررًا كبيرًا. على سبيل المثال، أساليب التلميح الخفي أو الأنماط الخادعة التي تدفع المستهلكين إلى اتخاذ قرارات ما كانوا ليتخذوها لولاها. ولا يشمل ذلك التخصيص العادي والشفاف للعروض. كما أن الممارسات التجارية المضللة قد تُخالف قانون حماية المستهلك الهولندي بشأن الممارسات التجارية غير العادلة.

استغلال نقاط الضعف

لا يجوز للذكاء الاصطناعي استغلال نقاط ضعف الأفراد بسبب أعمارهم أو إعاقاتهم أو ظروفهم الاجتماعية أو الاقتصادية الخاصة، بهدف أو نتيجة تشويه سلوكهم بشكل ملموس وإلحاق ضرر جسيم بهم. ومن الأمثلة على ذلك الأنظمة التي تستهدف قلة خبرة الأطفال أو تدفع الأشخاص الذين يعانون من ضائقة مالية نحو الحصول على قروض باهظة الثمن.

التقييم الاجتماعي

يُحظر تقييم أو تصنيف الأفراد بمرور الوقت بناءً على سلوكهم الاجتماعي أو خصائصهم الشخصية، إذا أدى التقييم إلى معاملة ضارة في سياق غير ذي صلة، أو معاملة غير مبررة أو غير متناسبة. يسري هذا الحظر على السلطات العامة والشركات الخاصة على حد سواء. لا تُعدّ عمليات التحقق الائتماني العادية، التي تستند إلى بيانات مالية ذات صلة، تقييمًا اجتماعيًا، ولكنها قد تنطوي على مخاطر عالية.

التنبؤ بالجريمة من خلال تحليل الشخصيات

لا يجوز استخدام الذكاء الاصطناعي لتقييم احتمالية ارتكاب شخص ما لجريمة جنائية بناءً على التنميط أو السمات الشخصية فقط. أما الأنظمة التي تدعم التقييم البشري القائم على حقائق موضوعية قابلة للتحقق مرتبطة بالنشاط الإجرامي، فهي مستثناة من هذا الحظر.

استخراج صور الوجه بشكل غير مستهدف

يُحظر إنشاء أو توسيع قواعد بيانات التعرف على الوجوه من خلال جمع صور الوجوه بشكل عشوائي من الإنترنت أو من لقطات كاميرات المراقبة. شراء حق الوصول إلى مثل هذه القاعدة قد يجعلك مستخدمًا لممارسات محظورة.

التعرف على المشاعر في العمل وفي التعليم

لا يجوز استخدام الذكاء الاصطناعي لاستنتاج مشاعر الأفراد في مكان العمل أو المؤسسات التعليمية، إلا لأسباب طبية أو أمنية، مثل رصد الإرهاق لدى السائق. ويشمل ذلك أدوات الموارد البشرية التي تحلل تعابير الوجه أو الصوت في مقابلات العمل، وبرامج مراكز الاتصال التي تقيّم مشاعر الموظفين. وفي حال التخطيط لأي نوع من أنواع مراقبة مكان العمل، يلزم الحصول على موافقة مجلس العمل بموجب المادة 27(1)(ل) من قانون مجالس العمل.

التصنيف البيومتري للسمات الحساسة

لا يجوز للذكاء الاصطناعي تصنيف الأشخاص بناءً على البيانات البيومترية لاستنتاج عرقهم أو آرائهم السياسية أو عضويتهم في النقابات العمالية أو معتقداتهم الدينية أو الفلسفية أو حياتهم الجنسية أو ميولهم الجنسية. ويُستثنى من ذلك تصنيف أو تصفية مجموعات البيانات البيومترية التي تم الحصول عليها بشكل قانوني في مجال إنفاذ القانون.

التعرف البيومتري عن بعد في الوقت الفعلي بواسطة الشرطة

يُحظر استخدام تقنية التعرف على الوجوه في الوقت الفعلي في الأماكن العامة المخصصة لإنفاذ القانون، باستثناء حالات محددة بدقة، مثل البحث عن ضحايا الاختطاف أو الاتجار بالبشر، ومنع تهديد وشيك للحياة أو هجوم إرهابي، وتحديد مكان المشتبه بهم في جرائم خطيرة. ويتطلب كل استخدام ترخيصًا مسبقًا من جهة قضائية أو إدارية مستقلة. أما بالنسبة للشركات، فالأهم هو أن هذا الاستثناء يقتصر على جهات إنفاذ القانون فقط.

من الذي يجب عليه الامتثال؟

جميع الأطراف في سلسلة التوريد: من مزودي أنظمة الذكاء الاصطناعي الذين يطورونها أو يسوقونها، إلى المستخدمين الذين يطبقونها في أعمالهم، وصولاً إلى المستوردين والموزعين. شراء أداة من مورد لا يُعفي المستخدم من مسؤوليته.

ينطبق قانون الذكاء الاصطناعي أيضاً على الموردين من خارج الاتحاد الأوروبي عندما تُستخدم مخرجات أنظمتهم داخل الاتحاد الأوروبي. لذا، ينبغي أن تتضمن العقود المبرمة مع موردي الذكاء الاصطناعي ضماناً بعدم استخدام النظام لأغراض محظورة، وحقاً في إنهاء العقد في حال ثبوت ذلك.

من المسؤول عن تطبيق الحظر في هولندا؟

لا يزال القانون الهولندي الذي يُحدد الجهات الرقابية بموجب قانون الذكاء الاصطناعي (Uitvoeringswet AI-verordening) قيد الدراسة. ويعتمد الهيكل المقترح على الجهات الرقابية القطاعية القائمة، حيث تتولى هيئة حماية البيانات الهولندية (Autoriteit Persoonsgegevens, AP) مسؤولية المناطق التي لا يوجد بها جهة رقابية قطاعية، بينما تتولى الهيئة الهولندية للبنية التحتية الرقمية (RDI) مهمة التنسيق.

إن عدم وجود قانون تنفيذي لا يجعل الممارسة المحظورة قانونية. وتشمل معظم الممارسات المحظورة أيضاً معالجة غير قانونية للبيانات الشخصية بموجب اللائحة العامة لحماية البيانات (GDPR) ، ويمكن لهيئة حماية البيانات إنفاذ اللائحة العامة لحماية البيانات اليوم. وقد نشرت المفوضية الأوروبية مبادئ توجيهية غير ملزمة بشأن الممارسات المحظورة في 4 فبراير 2025؛ ومحكمة العدل التابعة للاتحاد الأوروبي هي صاحبة الكلمة الفصل في تفسيرها.

ما هي العقوبات؟

يُعدّ انتهاك الحظر أعلى غرامة في قانون الذكاء الاصطناعي: مبلغ ثابت كحد أقصى أو نسبة مئوية من إجمالي الإيرادات السنوية العالمية، أيهما أعلى. وتُطبّق سقوف أقل على المخالفات الأخرى وعلى تقديم معلومات غير صحيحة إلى السلطات، كما تُطبّق سقوف أقل على الشركات الصغيرة والمتوسطة.

يحق للشخص المتضرر من نظام محظور المطالبة بالتعويضات أمام المحاكم المدنية الهولندية، على سبيل المثال استنادًا إلى قانون المسؤولية التقصيرية (المادة 6:162 من القانون المدني الهولندي). وقد تم سحب توجيه الاتحاد الأوروبي المقترح بشأن مسؤولية الذكاء الاصطناعي، وبالتالي يُطبق قانون المسؤولية الهولندي العادي.

ماذا عليك ان تفعل الان؟

ابدأ بحصر جميع أنظمة الذكاء الاصطناعي المستخدمة، بما في ذلك ميزات الذكاء الاصطناعي المدمجة في البرامج التي لديك بالفعل، مثل أدوات الموارد البشرية أو التسويق أو الأمن. ثم اختبر كل استخدام وفقًا للفئات الثمانية المذكورة أعلاه.

• سجل لكل نظام غرضه، ومدخلاته، ومخرجاته، ومن يؤثر عليه.
• أوقف أي استخدام محظور على الفور وسجل متى وكيف أوقفته.
• اسأل الموردين كتابيًا عما إذا كان نظامهم يحتوي على خاصية التعرف على المشاعر، أو التصنيف البيومتري، أو بيانات الوجه المستخرجة.
• احتفظ بتقييماتك، حتى تتمكن من إظهار ما قمت بفحصه ومتى للمشرف.

هل ينطبق واجب الإلمام بالذكاء الاصطناعي أيضاً؟

نعم. منذ التاريخ نفسه، 2 فبراير 2025، يتعين على مزودي ومطوري أنظمة الذكاء الاصطناعي اتخاذ تدابير لضمان امتلاك الموظفين الذين يشغلون أو يستخدمون هذه الأنظمة مستوىً كافيًا من المعرفة بها. وينطبق هذا على جميع أنظمة الذكاء الاصطناعي، وليس فقط الأنظمة عالية المخاطر.

ينبغي أن يتناسب التدريب مع طبيعة الدور: يحتاج موظفو الموارد البشرية إلى التعرف على خاصية التعرف على المشاعر المحظورة في أدوات التوظيف، ويحتاج موظفو المشتريات إلى طرح الأسئلة المناسبة على الموردين. يجب الاحتفاظ بسجلات توضح من تلقى التدريب، ومتى، وماذا تضمن.

ما الذي يجب عليك التحقق منه كشركة تستخدم الذكاء الاصطناعي؟

• هل توجد أي أداة تستنتج مشاعر الموظفين أو المتقدمين للوظائف؟
• هل يوجد أي نظام لتقييم العملاء بناءً على سلوك لا علاقة له بالخدمة التي تقدمها؟
• هل تستهدف أي أداة تسويقية الأشخاص بناءً على العمر أو الإعاقة أو الضائقة المالية بطريقة قد تضر بهم؟
• هل تستخدم قاعدة بيانات للتعرف على الوجوه، وهل تعرف كيف تم بناؤها؟
• هل قمتم بتدريب الموظفين على التعرف على الاستخدامات المحظورة؟

ما الذي يجب عليك التحقق منه كمورد لخدمات الذكاء الاصطناعي؟

• هل يمكن تهيئة منتجك لاستخدام محظور، وهل تمنع شروطك ذلك؟
• هل يستنتج منتجك المشاعر أو السمات الحساسة من البيانات البيومترية؟
• هل تم الحصول على أي بيانات تدريبية من خلال استخراج صور الوجه بشكل غير مستهدف؟
• هل توضح تعليمات الاستخدام الخاصة بكم الاستخدامات غير المسموح بها؟
• هل قمت بتوثيق تقييمك للممارسات المحظورة؟

ما الذي يمكننا فعله من أجلك فيما يتعلق بممارسات الذكاء الاصطناعي المحظورة؟

يساعد محامونا المتخصصون في تكنولوجيا المعلومات الشركات على التحقق من استخدامها للذكاء الاصطناعي وفقًا لقانون الذكاء الاصطناعي وقانون حماية البيانات العامة (GDPR).

• نقوم بتقييم مخزون الذكاء الاصطناعي الخاص بك وفقًا للممارسات المحظورة وفئات المخاطر العالية.
• نقوم بمراجعة عقود الموردين وإضافة الضمانات وحقوق الإنهاء للاستخدام المحظور.
• نقوم بصياغة سياسة الذكاء الاصطناعي الداخلية وبرنامج التوعية بالذكاء الاصطناعي الخاص بكم.
• نقدم المشورة بشأن موقف الأنظمة نفسها من اللائحة العامة لحماية البيانات (GDPR)، حيث يكون تطبيقها ممكناً بالفعل.
• نساعدكم في الاستفسارات أو التحقيقات التي تجريها وكالة حماية المستهلك أو المشرف القطاعي.

ملخص

• منذ 2 فبراير 2025، يحظر قانون الذكاء الاصطناعي ثماني فئات من ممارسات الذكاء الاصطناعي، دون فترة انتقالية.
• ينطبق الحظر على مقدمي الخدمات والشركات التي تستخدم الذكاء الاصطناعي فقط.
• يُحظر التعرف على المشاعر في العمل والتعليم، باستثناء الأسباب الطبية أو المتعلقة بالسلامة.
• لا يزال قانون التنفيذ الهولندي مجرد مشروع قانون، لكن بإمكان هيئة حماية البيانات بالفعل التصرف بموجب اللائحة العامة لحماية البيانات.
• تُفرض أعلى غرامة على الممارسات المحظورة بموجب قانون الذكاء الاصطناعي؛ كما يمكن للأشخاص المتضررين المطالبة بالتعويضات.

الأسئلة المتكررة