قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي: متطلباته ومتى يُطبق

قانون الذكاء الاصطناعي للاتحاد الأوروبي هو اللائحة (الاتحاد الأوروبي) 2024/1689، وهو أول قانون شامل بشأن الذكاء الاصطناعي في العالم. دخل حيز التنفيذ في 1 أغسطس 2024 ويُطبق على مراحل، ولأنه لائحة، فإنه يُطبق مباشرةً في هولندا دون الحاجة إلى أي تشريع هولندي آخر. يعتمد منطق القانون على تقييم المخاطر: حيث يُحظر عدد محدود من ممارسات الذكاء الاصطناعي حظرًا تامًا، وتخضع مجموعة محددة من الأنظمة عالية المخاطر لالتزامات صارمة، وتخضع الأنظمة التي تتفاعل مع البشر أو تُنتج محتوى لالتزامات الشفافية، بينما تُترك بقية الأنظمة حرة.

ما هو قانون الذكاء الاصطناعي للاتحاد الأوروبي ومتى ينطبق كل جزء منه

ينظم القانون أنظمة الذكاء الاصطناعي ونماذج الذكاء الاصطناعي العامة المطروحة في سوق الاتحاد الأوروبي أو المستخدمة فيه، وذلك بحسب الدور لا القطاع. الدورين الأهم لمعظم المؤسسات هما: المُزوّد، أي الجهة التي تُطوّر نظام الذكاء الاصطناعي أو تُكلّف جهةً بتطويره ثم تطرحه في السوق باسمها، والمُشغّل، أي الجهة التي تستخدم نظام الذكاء الاصطناعي تحت سلطتها الخاصة وبصفة مهنية. أما المستوردون والموزعون، فلهم واجبات أقلّ صرامة. تُعتبر الشركة الهولندية التي تشتري أداة فحص من مورد أمريكي مُشغّلة، وتتحول إلى مُزوّد ​​بمجرد أن تضع اسمها على الأداة أو تُجري عليها تعديلات جوهرية لأغراضها الخاصة.

يتمتع القانون أيضاً بنطاق خارج حدود الاتحاد الأوروبي. يُعتبر أي مزود خدمات مُنشأ خارج الاتحاد الأوروبي مشمولاً بالقانون إذا طرح نظاماً في سوق الاتحاد، وكذلك أي مزود أو مُشغّل نظام خارج الاتحاد الأوروبي ينتج عنه مخرجات تُستخدم داخل الاتحاد. والنتيجة العملية مماثلة للائحة العامة لحماية البيانات (GDPR): يجب أن تُنفذ العقود المبرمة مع موردين من خارج الاتحاد الأوروبي الالتزامات، لأن مُشغّلاً هولندياً لا يمكنه الامتثال نظرياً دون وجود عقد مُلزم.

الجدول الزمني للتقديم

يُعدّ بدء تطبيق القانون على مراحل الجزء الأكثر سوء فهمًا فيه، ويعود ذلك جزئيًا إلى تعديل الجدول الزمني بعد اعتماده. وقد دخلت المحظورات والالتزام بضمان الإلمام بالذكاء الاصطناعي حيز التنفيذ منذ 2 فبراير 2025. أما قواعد نماذج الذكاء الاصطناعي للأغراض العامة، إلى جانب هيكل الحوكمة ونظام العقوبات، فقد دخلت حيز التنفيذ منذ 2 أغسطس 2025. وأصبح الجزء الأكبر من الأحكام المتبقية، بما في ذلك التزامات الشفافية للأنظمة التي تتفاعل مع البشر أو تُنتج محتوى اصطناعيًا، ساريًا في 2 أغسطس 2026.

يُعدّ نظام المخاطر العالية هو الجزء الذي طرأت عليه التغييرات. وبموجب حزمة التشريعات الرقمية الشاملة، تسري الالتزامات المتعلقة بالأنظمة عالية المخاطر، والمدرجة في الملحق الثالث، وهي الأنظمة المستقلة المستخدمة في مجالات مثل التوظيف والتعليم والائتمان والخدمات الأساسية، اعتبارًا من 2 ديسمبر 2027. أما الالتزامات المتعلقة بالذكاء الاصطناعي عالي المخاطر، الذي يُعدّ عنصرًا أمنيًا في منتج مشمول بالفعل بتشريعات الاتحاد الأوروبي للمنتجات، والمدرجة في الملحق الأول، فتسري اعتبارًا من 2 أغسطس 2028. ولم يتم تأجيل أي بند آخر في القانون: فالحظر، والقواعد النموذجية ذات الأغراض العامة، وواجبات الشفافية، تبقى كما هي.

لا يعني التأجيل عدم الجدوى. فدورات الشراء، وتدريب النماذج، وعقود الموردين للأنظمة عالية المخاطر تستمر لسنوات، وسيظل النظام الذي تم شراؤه اليوم قيد التشغيل عند حلول موعد الالتزامات. يمنح التأجيل وقتًا للتنفيذ، ولكنه لا يُلغي الحاجة إلى تصميم النظام بما يتناسب مع ذلك.

مستويات المخاطر الأربعة

يأتي التصنيف في المقام الأول، لأن المستوى هو الذي يحدد الالتزامات. والخطأ في أي من الاتجاهين مكلف: فالتصنيف الناقص يعرض المؤسسة للمساءلة القانونية، بينما التصنيف المفرط يفرض نظام امتثال على أداة لم تكن بحاجة إليه أصلاً.

الممارسات المحظورة

تحظر المادة 5 قائمةً محددةً من الممارسات بشكلٍ قاطع، وقد دخل هذا الحظر حيز التنفيذ منذ فبراير 2025. ويشمل ذلك الذكاء الاصطناعي الذي يتلاعب بالسلوك من خلال تقنياتٍ خفيةٍ أو خادعةٍ عمدًا بطريقةٍ تُسبب ضررًا بالغًا، والذكاء الاصطناعي الذي يستغل نقاط الضعف المرتبطة بالعمر أو الإعاقة أو الوضع الاجتماعي أو الاقتصادي. كما يشمل التقييم الاجتماعي الذي تُجريه جهاتٌ عامةٌ أو خاصةٌ عندما تكون المعاملة الناتجة غير مُبررةٍ أو غير متناسبةٍ مع السلوك المُقَيَّم. ويشمل أيضًا الأنظمة التي تتنبأ بالجرائم بناءً على التنميط أو سمات الشخصية فقط، والاستخراج العشوائي لصور الوجوه من الإنترنت أو كاميرات المراقبة لإنشاء قواعد بيانات للتعرف عليها، والتعرف على المشاعر في مكان العمل وفي التعليم خارج نطاق الاستخدامات الطبية أو الأمنية الضيقة، والتصنيف البيومتري لاستنتاج خصائص مثل العرق أو الرأي السياسي أو الميول الجنسية. ويُحظر التعرف البيومتري عن بُعد في الوقت الفعلي في الأماكن العامة التي يُمكن الوصول إليها من قِبل جهات إنفاذ القانون إلا في حالاتٍ مُحددةٍ بدقةٍ تخضع لتصريحٍ مُسبق.

هناك جانبان من هذه الجوانب يهمان أصحاب العمل العاديين بشكل مباشر. فاستخدام تقنيات التعرف على المشاعر لدى الموظفين، مثل البرامج التي تقيّم نبرة الصوت في مراكز الاتصال أو مستوى الانتباه في الاجتماعات، ليس مجالاً رمادياً بل ممارسة محظورة. ويُعدّ خطر تطبيق القانون هنا هو الأكبر في هذا الشأن.

الأنظمة عالية المخاطر

يُعتبر النظام عالي المخاطر لأحد سببين: إما أنه عنصر أمان في منتج مشمول بتشريعات الاتحاد الأوروبي للمنتجات المدرجة في الملحق الأول، مثل الأجهزة الطبية والآلات والمصاعد والمركبات، ويتطلب هذا المنتج تقييم مطابقة من طرف ثالث؛ أو أنه يندرج ضمن أحد المجالات المدرجة في الملحق الثالث: القياسات الحيوية، والبنية التحتية الحيوية، والتعليم والتدريب المهني، والتوظيف وإدارة العمال، والوصول إلى الخدمات الأساسية الخاصة والعامة بما في ذلك الجدارة الائتمانية وتسعير التأمين على الحياة والصحة، وإنفاذ القانون، والهجرة ومراقبة الحدود، وإدارة العدالة والعمليات الديمقراطية.

لا يُعدّ الملحق الثالث قاعدةً شاملة. فالنظام في أحد هذه المجالات لا يُصنّف ضمن فئة المخاطر العالية إذا كان يؤدي مهمةً إجرائيةً محدودة، أو يُحسّن نتائج نشاط بشري سابق، أو يكشف أنماط اتخاذ القرار دون أن يحلّ محلّ التقييم البشري، أو يؤدي مهمةً تحضيرية. ويتعيّن على مزوّد الخدمة الذي يعتمد على هذا الاستثناء توثيق تقييمه، كما أن تحديد خصائص الأفراد يُبقي النظام دائمًا ضمن فئة المخاطر العالية. والنتيجة العملية لأصحاب العمل الهولنديين هي أن الأداة التي تُصنّف أو تُصفّي المتقدمين للوظائف، أو تُخصّص المهام، أو تُراقب وتُقيّم الأداء تُصنّف ضمن فئة المخاطر العالية، بينما الأداة التي تقتصر على تنسيق نصّ الإعلان الوظيفي أو تدقيقه إملائيًا لا تُصنّف كذلك.

التزامات الشفافية

ينطبق البند 50 بغض النظر عن مستوى المخاطر، وهو ساري المفعول منذ أغسطس 2026. يجب على أي نظام يتفاعل مباشرةً مع المستخدمين أن يوضح بوضوح أنه نظام ذكاء اصطناعي، ما لم يكن ذلك واضحًا من السياق. يجب تمييز المحتوى الصوتي والمرئي والنصي المُصنّع بطريقة قابلة للقراءة الآلية بأنه مُولّد أو مُعدّل اصطناعيًا. يجب على أي جهة تنشر محتوى مُزيّفًا (Deepfake)، أي محتوى يُشبه إلى حد كبير أشخاصًا أو أماكن أو أحداثًا حقيقية ويبدو زائفًا، أن تُفصح عن كونه مُولّدًا اصطناعيًا. كما يجب على أي جهة تنشر نصًا مُولّدًا بواسطة الذكاء الاصطناعي لإعلام الجمهور بمسائل ذات أهمية عامة أن تُفصح عن ذلك، ما لم يراجعه شخص ما ويتحمل مسؤولية تحريره. أنظمة التعرف على المشاعر وتصنيف البيانات البيومترية، حيثما يُسمح بها، مُلزمة بإبلاغ الأشخاص الذين يتعرضون لها.

كل شيء آخر

إن الغالبية العظمى من تطبيقات الذكاء الاصطناعي المستخدمة تجاريًا، بدءًا من مرشحات البريد العشوائي وتوقعات الطلب وصولًا إلى البحث عن المستندات، لا تندرج ضمن ما سبق ذكره، ولا يترتب عليها أي التزامات بموجب القانون تتجاوز واجب الإلمام العام بالذكاء الاصطناعي. ولا يشترط القانون ترخيصًا للذكاء الاصطناعي بحد ذاته، كما لا يلزم أي جهة بتسجيل برامج الأعمال العادية.

ما يجب على مُقدّم نظام عالي المخاطر فعله

يُبنى نظام المخاطر العالية على غرار قانون المنتجات في الاتحاد الأوروبي، وهذا هو مفتاح فهمه. يجب على المورّد إثبات المطابقة قبل طرح النظام في السوق، والاستمرار في إثباتها بعد ذلك. ترد المتطلبات في المواد من 9 إلى 15 من القانون، وتتناول كل مادة منها طريقة محددة قد يفشل بها نظام الذكاء الاصطناعي.

يجب أن يعمل نظام إدارة المخاطر طوال دورة حياة النظام، وأن يحدد المخاطر المتوقعة بشكل معقول على الصحة والسلامة والحقوق الأساسية، وأن يتخذ تدابير لمواجهتها، بما في ذلك حالات إساءة الاستخدام المتوقعة. يجب أن تستوفي بيانات التدريب والتحقق والاختبار متطلبات حوكمة البيانات: الملاءمة، والتمثيل، وفحص التحيز، والخصائص الإحصائية المناسبة للغرض المقصود. يجب أن تتوفر وثائق فنية قبل طرح النظام في السوق، وأن تكون مفصلة بما يكفي لتمكين جهة مختصة من تقييم المطابقة. يجب أن يسجل النظام الأحداث تلقائيًا ليتسنى تتبع عملياته. يجب أن توضح تعليمات الاستخدام للمستخدم وظائف النظام، ودقته، وحدوده المعروفة، وكيفية الإشراف عليه. يجب تصميم النظام بحيث يمكن للفرد التدخل فيه فعليًا، بما في ذلك وظيفة الإيقاف. كما يجب أن يحقق النظام مستوى مناسبًا من الدقة والمتانة والأمن السيبراني، كما هو موضح في التعليمات.

تُحيط بهذه المتطلبات الجوهرية عملية التنفيذ. إذ يُدير المُزوّد ​​نظام إدارة جودة، ويُجري تقييمًا للمطابقة، وهو إجراء رقابي داخلي لمعظم أنظمة الملحق الثالث، بينما يتطلب في بعض أنظمة القياسات الحيوية جهة مُخوّلة، ويُعدّ إعلانًا للمطابقة مع معايير الاتحاد الأوروبي، ويُلصق علامة CE، ويُسجّل النظام في قاعدة بيانات الاتحاد الأوروبي قبل تشغيله. بعد الإطلاق، تُجمع خطة مراقبة ما بعد التسويق الخبرات الميدانية، ويجب الإبلاغ عن الحوادث الخطيرة إلى هيئة مراقبة السوق في غضون مهل زمنية قصيرة.

يستحق الإشراف البشري اهتمامًا خاصًا لأنه يُمثل نقطة الاختلاف بين الامتثال النظري والامتثال الفعلي. فزر التجاوز الذي لم يُدرَّب أحد على استخدامه، أو المُراجع الذي يُوافق على مئة توصية خوارزمية في الساعة، لا يُعد إشرافًا. ينص القانون على أن يفهم الأشخاص المُكلفون بهذا الإشراف قدرات النظام وحدوده، وأن يكونوا على دراية بانحياز الأتمتة، وأن يكونوا قادرين على تفسير المُخرجات بشكل صحيح، وأن يكون لهم الحق في اتخاذ قرار بعدم استخدامها. وهذا له تبعات على التوظيف وعبء العمل، وليس فقط على واجهة المستخدم.

ما يجب على القائم بالنشر فعله

معظم المؤسسات الهولندية لن تكون مزودةً للأنظمة. فهي تشتري الذكاء الاصطناعي وتستخدمه، ما يجعلها جهات نشر، والتزامات جهة النشر الواردة في المادة 26 هي الأكثر عرضةً للتجاهل. يجب على جهة نشر نظام عالي المخاطر استخدامه وفقًا للتعليمات، وتعيين إشراف بشري لأشخاص مؤهلين ومدربين ومخولين، والتأكد من أن بيانات الإدخال التي تتحكم بها ذات صلة وتمثيلية كافية، ومراقبة التشغيل وإيقاف الاستخدام وإبلاغ المزود عند رصد أي خطر، والاحتفاظ بالسجلات المُنشأة تلقائيًا لفترة مناسبة.

هناك واجبان خاصان بمكان العمل. قبل تشغيل نظام ذكاء اصطناعي عالي المخاطر في مكان العمل، يجب على الجهة المشغلة إبلاغ ممثلي العمال والعمال المعنيين بأنهم سيخضعون له. وعندما يُستخدم النظام لاتخاذ قرارات تخص أشخاصًا طبيعيين أو المساعدة في اتخاذها، يجب إبلاغ هؤلاء الأشخاص. في الشركات الهولندية، يرتبط هذا مباشرةً بمجلس العمل، الذي يُشترط الحصول على موافقته على الترتيبات المتعلقة بمعالجة البيانات الشخصية للموظفين، وعلى المرافق المناسبة لمراقبة الحضور والسلوك والأداء. أداة الذكاء الاصطناعي التي تُقيّم الموظفين أو تُصنّفهم تُشرك كلا الطرفين. نُفصّل الجانب المتعلق بالتوظيف في مقالنا حول الذكاء الاصطناعي والأتمتة في قانون العمل الهولندي.

يتعين على بعض الجهات المُشغِّلة إجراء تقييم لأثر الحقوق الأساسية قبل الاستخدام الأول، وتشمل هذه الجهات: الهيئات الخاضعة للقانون العام، والكيانات الخاصة التي تُقدِّم خدمات عامة، ومُشغِّلي الأنظمة التي تُقيِّم الجدارة الائتمانية أو تُجري تقييم المخاطر والتسعير في مجال التأمين على الحياة والصحة. يصف هذا التقييم العمليات التي سيُستخدم فيها النظام، وفئات الأشخاص المتأثرين، والمخاطر المحددة للضرر، والرقابة البشرية، والتدابير التصحيحية. ويُجرى هذا التقييم بالتوازي مع تقييم أثر حماية البيانات بموجب اللائحة العامة لحماية البيانات (GDPR)، وليس بديلاً عنه.

هناك التزام واحد ينطبق على جميع المؤسسات بغض النظر عن مستوى المخاطر، وهو ساري المفعول منذ فبراير 2025: يجب على مزودي الخدمات ومنفذيها اتخاذ تدابير لضمان مستوى كافٍ من المعرفة بالذكاء الاصطناعي لدى الموظفين الذين يشغلون أنظمة الذكاء الاصطناعي نيابةً عنهم، مع مراعاة تدريبهم وخبراتهم وسياق الاستخدام. هذا ليس شرطًا للحصول على شهادة، بل هو واجب للتأكد من أن مستخدمي الأدوات يفهمون إمكانياتها وحدودها. وهو أيضًا أسهل الالتزامات إثباتًا، وأسهلها إخفاقًا.

وأخيرًا، يحق لأي شخص متضرر من قرار اتُخذ بناءً على نظام عالي المخاطر، والذي ينتج عنه آثار قانونية أو يؤثر عليه بشكل مماثل، الحصول على شرح واضح ومُفصّل لدور هذا النظام في القرار. كما يحق لأي شخص تقديم شكوى إلى الهيئة الوطنية لمراقبة السوق.

نماذج الذكاء الاصطناعي للأغراض العامة

ينظم الفصل الخامس من القانون نماذج الذكاء الاصطناعي للأغراض العامة، وهي النماذج الكبيرة التي تُشكل أساس معظم منتجات الذكاء الاصطناعي الحالية، وقد دخلت هذه القواعد حيز التنفيذ منذ أغسطس 2025. يجب على مُزود هذا النموذج إعداد وحفظ الوثائق التقنية، وتزويد مُزودي الخدمات الذين يبنون أنظمةً تعتمد على النموذج بالمعلومات اللازمة، ووضع سياسة للامتثال لقانون حقوق النشر في الاتحاد الأوروبي، بما في ذلك الاحتفاظ بالحقوق ضد استخراج النصوص والبيانات، ونشر ملخص مفصل بما فيه الكفاية للمحتوى المستخدم في التدريب. يتحمل مُزودو النماذج التي تُشكل مخاطر نظامية واجبات إضافية تشمل تقييم النموذج، واختباره ضد الهجمات، وتتبع الحوادث الخطيرة والإبلاغ عنها، وضمان الأمن السيبراني.

بالنسبة للشركات الهولندية العادية، تكمن الأهمية في كونها غير مباشرة ولكنها حقيقية. إذا قمت ببناء منتج بالاعتماد على نموذج شخص آخر، فأنت تعتمد على المعلومات التي يلتزم هذا الشخص بتقديمها لك، ويجب أن ينص عقدك على ذلك. إذا قمت بتحسين نموذج ما بشكل كبير، فقد تتولى دور المزوّد بنفسك. وإذا كانت حالة استخدامك تتطلب أن تكون بيانات تدريب النموذج أو حقوق الملكية الفكرية الخاصة به مهمة، فإن الملخص الذي ينشره مزوّد النموذج يصبح الآن وثيقة يمكنك الاستفسار عنها.

من المسؤول عن إنفاذ قانون الذكاء الاصطناعي في هولندا؟

تتوزع مسؤولية الإنفاذ بين بروكسل والدول الأعضاء. فعلى المستوى الأوروبي، يشرف مكتب الذكاء الاصطناعي التابع للمفوضية الأوروبية مباشرةً على نماذج الذكاء الاصطناعي العامة، ويضع مدونات قواعد الممارسة والتوجيهات، وينسق مع المجلس الأوروبي للذكاء الاصطناعي، الذي يضم الدول الأعضاء، ومع لجنة علمية مستقلة من الخبراء. أما ما عدا النماذج العامة، فيتم إنفاذه على المستوى الوطني من قبل سلطات مراقبة السوق التي تعينها كل دولة عضو، حيث تقوم الهيئات المعتمدة بإجراء تقييم المطابقة من طرف ثالث عندما يقتضي القانون ذلك.

لا يزال الموقف الهولندي قيد التحديد. ينطبق القانون نفسه بشكل مباشر، وبالتالي فإن الشركات ملزمة بالفعل بالأجزاء التي دخلت حيز التنفيذ، لكن القانون الوطني التنفيذي الذي يُحدد الجهات الرقابية وصلاحياتها لم يدخل حيز التنفيذ بعد. طُرحت مسودة القانون للاستشارة العامة في ربيع عام 2026، وهي لا تزال قيد الدراسة والمراجعة التشريعية، مما يعني أن التعيينات النهائية وتوزيع الصلاحيات الدقيق لا يزالان قابلين للتغيير، ولا ينبغي تحديد موعد نهائي.

النموذج المطروح في المسودة نموذج هجين. إذ تتحول الهيئات التنظيمية القطاعية القائمة إلى سلطات مراقبة السوق ضمن نطاق اختصاصها، فمثلاً، يندرج الذكاء الاصطناعي في الرعاية الصحية ضمن اختصاص هيئة التفتيش الصحي، والذكاء الاصطناعي في مكان العمل ضمن اختصاص هيئة تفتيش العمل، وهكذا. وتُسند أدوار تنسيقية إلى هيئة حماية البيانات الهولندية (Autoriteit Persoonsgegevens) وهيئة التفتيش الرقمي للبنية التحتية (Rijksinspectie Digitale Infrastructuur)، حيث تعمل هيئة حماية البيانات الهولندية كجهة إشرافية متبقية على الأنظمة عالية المخاطر التي لا تخضع لهيئة تنظيمية قطاعية واضحة، بينما تعمل هيئة التفتيش الرقمي للبنية التحتية كجهة اتصال وطنية. بالنسبة للشركات، يعني هذا أن السؤال العملي لا يقتصر على تحديد ما إذا كان النظام عالي المخاطر، بل يتعداه إلى تحديد الجهة التنظيمية التي ستتولى مراقبته.

نظام العقوبات متدرج وشديد. يُطبق أشدّ مستوى، مُحدداً بحد أقصى ثابت أو نسبة مئوية من حجم المبيعات السنوية العالمية، أيهما أعلى، على مخالفات المحظورات الواردة في المادة 5. ويُطبق مستوى متوسط ​​على مخالفات معظم الالتزامات الأخرى، بما في ذلك متطلبات المخاطر العالية وواجبات الشفافية. أما المستوى الأدنى فيُطبق على تقديم معلومات غير صحيحة أو ناقصة أو مُضللة إلى الهيئات أو السلطات المُخوّلة. وتُحدد الحدود القصوى الحالية في المادة 99 من اللائحة، وتُطبق حدود أقل على الشركات الصغيرة والمتوسطة والشركات الناشئة. مع ذلك، لا يقتصر الإنفاذ على الغرامات فقط، إذ يُمكن لسلطات مراقبة السوق أن تطلب اتخاذ إجراءات تصحيحية، أو تُقيّد أو تمنع إتاحة نظام ما، أو تأمر بسحبه أو إعادته.

كيف ينسجم قانون الذكاء الاصطناعي مع حماية البيانات والمسؤولية القانونية

لا يحل قانون الذكاء الاصطناعي محل أي قانون آخر، بل يُضاف إلى مجموعة القوانين القائمة. وفي معظم مشاريع الذكاء الاصطناعي الهولندية، تبقى اللائحة العامة لحماية البيانات (GDPR) هي الأداة الأكثر إلحاحًا. فكل نظام ذكاء اصطناعي يُدرَّب على البيانات الشخصية أو يُطبَّق عليها لا يزال بحاجة إلى أساس قانوني، ولا يزال يُلزم بواجبات الشفافية، ولا يزال يتطلب تقييمًا لأثر حماية البيانات عندما يُحتمل أن تُؤدي المعالجة إلى مخاطر عالية. وينطبق حكم اللائحة العامة لحماية البيانات (GDPR) بشأن اتخاذ القرارات الفردية الآلية بشكل مستقل عن قانون الذكاء الاصطناعي، ويمنح الشخص المعني حقوقًا في التدخل البشري والطعن في القرار. ويُبيّن عرضنا العام للائحة العامة لحماية البيانات (GDPR) هذا الإطار.

تُعدّ المسؤولية مجالًا غالبًا ما تتجاوز فيه التوقعات الواقع. وقد تم سحب توجيه المسؤولية عن الذكاء الاصطناعي المقترح، والذي كان من شأنه توحيد الدعاوى المدنية المتعلقة بالأضرار الناجمة عن الذكاء الاصطناعي. وهذا يترك مسارين. الأول هو القانون الوطني: في هولندا، دعوى تقصيرية بموجب المادة 6:162 من القانون المدني، أو دعوى تعاقدية ضد المورّد، تُقيّم وفقًا للقواعد العادية المتعلقة بالسببية وعبء الإثبات. أما الثاني فهو نظام المسؤولية عن المنتجات الأوروبي المُعدّل، والذي يُدرج صراحةً البرمجيات، بما في ذلك أنظمة الذكاء الاصطناعي، ضمن مفهوم المنتج، ويُسهّل على المدّعين إثبات موقفهم؛ ويتعين على الدول الأعضاء نقله إلى قوانينها الوطنية، وحتى دخول التشريع الهولندي المُنفّذ حيز التنفيذ، تُطبّق أحكام المسؤولية عن المنتجات الحالية في القانون المدني.

تُعدّ المسؤولية الجنائية مسألة منفصلة تمامًا، ولا يُجيب عنها قانون الذكاء الاصطناعي بتاتًا. فعندما يتسبب نظام مستقل في ضرر، يبحث القانون الجنائي الهولندي عن شخص طبيعي أو اعتباري لديه نية إجرامية أو إهمال جسيم، وهو أمر يختلف تمامًا عن الامتثال للوائح التنظيمية. نتناول هذا الموضوع في مقالنا حول الذكاء الاصطناعي والقانون الجنائي: من المسؤول عندما ترتكب آلة جريمة ؟

طريق عملي للامتثال

ينقسم العمل إلى أربع خطوات، والخطوتان الأوليان تستحقان القيام بهما حتى من قبل المنظمات التي تقتنع بأنه ليس لديها أي مخاطر عالية.

ابدأ بجرد شامل. دوّن جميع أنظمة الذكاء الاصطناعي التي تطورها المؤسسة أو تشتريها أو تدمجها أو تجرّبها، بما في ذلك الأدوات التي وصلت عبر اشتراكات الأقسام بدلاً من الشراء المباشر. سجّل لكل نظام وظيفته، ومورّده، والبيانات التي يستخدمها، والمسؤول عن تشغيله، والقرارات التي يؤثر فيها. غالبًا ما تُكتشف مفاجآت التصنيف في أنظمة الذكاء الاصطناعي غير الرسمية، التي تتبناها فرق العمل دون إشراف مركزي.

ثم حدد دورك ومستوى المخاطر لكل نظام، بهذا الترتيب، لأن الأداة نفسها تُنتج التزامات مختلفة بحسب ما إذا كنتَ مُزوِّدها أو مُنفِّذها. دوِّن الأسباب، خاصةً عندما تستنتج أن نظامًا من الملحق الثالث يندرج ضمن أحد الاستثناءات؛ فهذا السجل هو أول ما سيطلبه المشرف.

بعد ذلك، قم بإجراء تحليل للفجوات مقارنةً بالالتزامات الفعلية المترتبة. بالنسبة لمُشغِّل نظام عالي المخاطر، يشمل ذلك ترتيبات الإشراف وكفاءة القائمين عليها، وجودة بيانات الإدخال، والاحتفاظ بالسجلات، وتزويد العاملين وممثليهم بالمعلومات، وتقييم أثر الحقوق الأساسية عند الاقتضاء. أما بالنسبة لمُقدِّم الخدمة، فيشمل ذلك ملف المواد من 9 إلى 15 بالكامل، بالإضافة إلى نظام إدارة الجودة ومسار المطابقة.

أخيرًا، يجب إصلاح العقود وآليات الحوكمة. ينبغي أن تلزم اتفاقيات الموردين المورّد بتوفير تعليمات الاستخدام، والمعلومات التقنية اللازمة للمستخدم، وإشعارات الحوادث، ودعم الطلبات التنظيمية، كما يجب تحديد المسؤولية في حال تبين تصنيف النظام بشكل خاطئ. داخليًا، يجب إسناد مسؤولية الامتثال لمعايير الذكاء الاصطناعي إلى شخص مُعيّن، وربطها بآليات حوكمة الخصوصية والأمان القائمة بدلًا من إنشاء هيكل موازٍ، وإدراج التزام معرفة الذكاء الاصطناعي ضمن جدول التدريب. يدعم قسم قانون تقنية المعلومات لدينا المؤسسات في هذه العملية تحديدًا.

خمسة مفاهيم خاطئة تستحق التوضيح

تظهر نفس سوء الفهم في كل محادثة استقبال تقريبًا، وكل منها يؤدي بالمنظمات إلى بذل الجهد في المكان الخطأ.

أولاً، ينص القانون على حظر أو ترخيص استخدام الذكاء الاصطناعي بشكل عام. لكنه في الواقع لا يفعل أيًا منهما. فاستخدام مساعد دردشة تجاري لكتابة مذكرة داخلية لا يُرتب أي التزام يتجاوز الإلمام بالذكاء الاصطناعي، وفي حال نشر الناتج لإطلاع الجمهور، يُرتب واجب الإفصاح. ما يُفعّل هذا النظام الصارم هو الغرض الذي يخدمه النظام، وليس التقنية التي يقوم عليها.

ثانيًا، يُزعم أن التوقيع البشري يُزيل تصنيف المخاطر العالية. هذا غير صحيح. فالاستثناء الممنوح للأنظمة التي تؤدي مهمة إجرائية أو تحضيرية محدودة مُحدد بدقة، والأداة التي تُصنف المرشحين أو تُشير إلى الملفات لمراجعة أدق تُؤثر على القرار حتى لو وقّع عليها شخص. إن التوقيع الآلي ليس إشرافًا بشريًا، وليس مخرجًا من الملحق الثالث.

أما الأمر الثالث فهو أن المطورين فقط هم الخاضعون للتنظيم. إن التزامات الناشر حقيقية، وقابلة للتنفيذ ضد المؤسسة التي تستخدم النظام، والعديد منها، مثل إبلاغ الموظفين وممثليهم، وتعيين جهة إشراف مختصة، والاحتفاظ بالسجلات، لا يمكن تفويضها إلى البائع على الإطلاق.

رابعًا، جميع الأنظمة المثبتة مسبقًا مستثناة من تطبيق القواعد الجديدة. الأنظمة التي طُرحت في السوق قبل تطبيق قواعد المخاطر العالية لا تخضع للقواعد الجديدة إلا إذا طرأ تغيير جوهري على تصميمها لاحقًا، ولكن هذا الاستثناء أضيق مما يبدو: تحديثات النماذج، وإعادة التدريب، وإعادة التوظيف هي تحديدًا أنواع التغييرات التي تُعيد النظام إلى نطاق القواعد الجديدة. تُطبق قاعدة منفصلة وأكثر صرامة على الأنظمة التي تستخدمها السلطات العامة. ينبغي على أي شخص يخطط للاعتماد على الوضع الانتقالي توثيق التكوين الحالي للنظام.

خامساً، يُلغي قانون الذكاء الاصطناعي القوانين القائمة، فهو يُضاف إليها. وتظل قوانين حماية البيانات، وعدم التمييز، وحماية المستهلك، وتنظيم القطاعات، والعمل، وحقوق مجالس العمال سارية المفعول بالكامل، وفي هولندا، عادةً ما يكون أحد هذه القوانين، وليس قانون الذكاء الاصطناعي نفسه، هو ما يُثير أول شكوى ملموسة. فمشروع الذكاء الاصطناعي الذي يُلبي متطلبات قانون الذكاء الاصطناعي ولكنه لا يلتزم باللائحة العامة لحماية البيانات (GDPR) يُعتبر غير مُمتثل، والعكس صحيح أيضاً.

الأسئلة المتكررة

تُطرح الأسئلة التالية في كل محادثة أولى تقريبًا حول القانون.

Law & More نقدم الاستشارات للموردين والمطورين بشأن تصنيف قانون الذكاء الاصطناعي، والعقود التي تضمن الامتثال في سلسلة التوريد، والتداخل مع حماية البيانات والمسؤولية القانونية. إذا كنت بصدد تحديد الالتزامات التي تنطبق على نظام تقوم بتطويره أو استخدامه، يسعدنا مساعدتك في ذلك.