تُعدّ أنظمة الذكاء الاصطناعي عالية المخاطر محوراً رئيسياً في لائحة الذكاء الاصطناعي الأوروبية (اللائحة (الاتحاد الأوروبي) 2024 / 1689يُشار إليه عادةً باسم قانون الذكاء الاصطناعي، الذي يُقدّم إطارًا قائمًا على المخاطر لتطوير وتوريد واستخدام أنظمة الذكاء الاصطناعي. وكلما زادت المخاطر على الصحة والسلامة والحقوق الأساسية، زادت الالتزامات.
بالنسبة للمؤسسات، لا يبدأ الامتثال بصياغة الوثائق التقنية، بل بالتصنيف الصحيح. ابدأ بتحديد أنظمة الذكاء الاصطناعي التي يتم تطويرها أو شراؤها أو استخدامها داخل المؤسسة. ثم قيّم ما إذا كان النظام... ممنوع، عالية المخاطر، خاضعة لالتزامات الشفافية، أو خارج أي التزامات محددة.
تُحدد هذه المقالة متى يُمكن اعتبار نظام الذكاء الاصطناعي عالي المخاطر، وما هي الالتزامات التي تقع على عاتق مُقدمي الخدمات ومُنفذيها، والخطوات التي يُمكن للمؤسسات اتخاذها الآن. كما تُغطي الجدول الزمني الحالي، بما في ذلك التغييرات التي طرأت في إطار عملية "التحول الرقمي الشامل". تاريخ مرجعية هذه المقالة هو 25 يوليو 2026.
متى يكون نظام الذكاء الاصطناعي عالي المخاطر؟
يتم تقييم أنظمة الذكاء الاصطناعي عالية المخاطر بشكل أساسي بموجب المادة 6 والملحقين الأول والثالث من قانون الذكاء الاصطناعي. وهناك مساران.
يتناول المسار الأول أنظمة الذكاء الاصطناعي التي تُشكّل جزءًا من المنتجات المشمولة بتشريعات المنتجات الأوروبية المدرجة في الملحق الأول، والتي تتطلب تقييمًا للمطابقة من طرف ثالث. ومن أمثلة هذه الأنظمة: بعض الأجهزة الطبية، والآلات، والمصاعد، والألعاب. بالنسبة لهذه الأنظمة، يستند قانون الذكاء الاصطناعي إلى إجراءات تقييم المطابقة القائمة.
يتعلق المسار الثاني بأنظمة الذكاء الاصطناعي المستخدمة في المجالات المذكورة في الملحق الثالث: القياسات الحيوية، والبنية التحتية الحيوية، والتعليم والتدريب المهني، والتوظيف وإدارة القوى العاملة، والوصول إلى الخدمات الأساسية العامة والخاصة، وإنفاذ القانون، والهجرة، واللجوء ومراقبة الحدود، وإدارة العدالة والعمليات الديمقراطية. ولا يؤدي كل استخدام ضمن هذه المجالات تلقائيًا إلى تصنيفها ضمن أنظمة الذكاء الاصطناعي عالية المخاطر، بل يجب أيضًا تقييم الوظيفة المحددة للنظام وشروط المادة 6.
الاستثناء الوارد في المادة 6(3)
لا يُصنَّف النظام الذي يندرج ضمن نطاق الملحق الثالث تلقائيًا ضمن أنظمة الذكاء الاصطناعي عالية المخاطر؛ إذ يُستثنى من هذا التصنيف النظام الذي لا يُشكِّل خطرًا كبيرًا على صحة الأفراد أو سلامتهم أو حقوقهم الأساسية، ولا يُؤثِّر جوهريًا على نتائج عملية صنع القرار. وقد ينطبق هذا على الأنظمة التي تُؤدِّي مهمة إجرائية محدودة، أو تُحسِّن نشاطًا سبق أن قام به إنسان، أو تُشير فقط إلى الانحرافات عن عملية صنع القرار البشري السابقة دون استبدال ذلك التقييم، أو تُؤدِّي مهمة تحضيرية بحتة.
يجب أن يكون الاعتماد على هذا الاستثناء مُبرراً وموثقاً بدقة. لا تكتفي المنظمة بتسجيل الاستنتاج فحسب، بل تسجل أيضاً الحقائق والتقييم الذي يستند إليه هذا الاستنتاج. يجب على المزوّد الذي يرى أن نظاماً من أنظمة الملحق الثالث لا ينتمي إلى أنظمة الذكاء الاصطناعي عالية المخاطر توثيق هذا التقييم قبل طرح النظام في السوق أو تشغيله، كما يخضع أيضاً لالتزام التسجيل المنصوص عليه في المادة 49(2).
في نقطة واحدة، يُعدّ النظام مطلقاً. تنص المادة 6(3) على أن نظام الذكاء الاصطناعي المشار إليه في الملحق الثالث يُصنّف دائماً ضمن أنظمة الذكاء الاصطناعي عالية المخاطر عندما يقوم بتحليل بيانات الأشخاص الطبيعيين. ولا يمكن الاستناد إلى الاستثناء في هذه الحالة.
ما هو الدور الذي تضطلع به مؤسستكم؟
يُفرّق قانون الذكاء الاصطناعي بين عدة أدوار في سلسلة التوريد. اثنان منها مهمان لمعظم المؤسسات. يُعتبر الطرف الذي يُطوّر نظام ذكاء اصطناعي، أو يطرحه في السوق باسمه أو علامته التجارية، مُزوّداً. أما الطرف الذي يستخدم نظام ذكاء اصطناعي في سياق أعماله الخاصة دون أن يكون قد طوّره، فيُعتبر عموماً مُشغّلاً.
إنّ توزيع الأدوار ليس ثابتًا. فالمؤسسة التي تُجري تعديلات جوهرية على نظام مُشترى، أو تُعيد توريده تحت اسمها أو علامتها التجارية، أو تُغيّر الغرض المُراد استخدامه، قد تُعتبر مُورّدًا، وبالتالي تقع تحت مجموعة الالتزامات الأشدّ. حدّد لكل نظام الدور الذي تُؤدّيه، وسجّل هذا التقييم.
الالتزامات الرئيسية
يخضع مقدمو أنظمة الذكاء الاصطناعي عالية المخاطر لالتزامات تشمل تلك الواردة في المواد من 8 إلى 17، و43، ومن 47 إلى 49:
- نظام إدارة المخاطر الذي يغطي دورة الحياة بأكملها
- إدارة البيانات، بما في ذلك اكتشاف وتصحيح التحيز في البيانات المستخدمة، بما في ذلك بيانات التدريب والتحقق والاختبار.
- الوثائق الفنية وفقًا للملحق الرابع، وتسجيل الأحداث
- تعليمات واضحة للاستخدام من قبل القائمين على النشر
- تصميم يُمكّن من الإشراف البشري الفعال
- متطلبات الدقة والمتانة والأمن السيبراني
- نظام إدارة الجودة، وتقييم المطابقة، وإعلان المطابقة للاتحاد الأوروبي، وعلامة CE، والتسجيل في قاعدة بيانات الاتحاد الأوروبي
بالنسبة لأنظمة الذكاء الاصطناعي عالية المخاطر المستخدمة في تحديد الهوية البيومترية عن بُعد، كما هو مشار إليه في الملحق الثالث، البند 1(أ)، تفرض المادة 14(5) شرطًا إضافيًا للإشراف البشري: لا يجوز اتخاذ أي إجراء أو قرار بناءً على عملية تحديد الهوية ما لم يتم التحقق منها وتأكيدها بشكل منفصل من قبل شخصين طبيعيين على الأقل يتمتعان بالكفاءة والتدريب والسلطة اللازمة. يُعرف هذا بمبدأ التدقيق الرباعي.
يخضع القائمون على تشغيل النظام للالتزامات الأقل صرامة، ولكنها لا تقل أهمية، المنصوص عليها في المادتين 26 و27: الاستخدام وفقًا لتعليمات الاستخدام، والإشراف البشري الكفؤ، ومراقبة تشغيل النظام، والإبلاغ عن المخاطر والحوادث الخطيرة، والاحتفاظ بالسجلات لمدة ستة أشهر على الأقل. ويجب إبلاغ الموظفين الذين سيتعاملون مع النظام، والأشخاص الذين سيُطبق عليهم، مسبقًا.
يتعين على بعض الجهات المنفذة أيضًا إجراء تقييم لتأثير الحقوق الأساسية، وهو تقييم تأثير الحقوق الأساسية بموجب المادة 27. وينطبق هذا في أي حال على الهيئات التي يحكمها القانون العام، وعلى مقدمي الخدمات العامة من القطاع الخاص، وعلى الجهات المنفذة التي تستخدم أنظمة لتصنيف الائتمان أو لتقييم مخاطر التأمين في التأمين على الحياة والتأمين الصحي.
الجدول الزمني والوضع الحالي
دخل قانون الذكاء الاصطناعي حيز التنفيذ في 1 أغسطس 2024، ويُطبّق على مراحل. ومن المهم عملياً التمييز بين الالتزامات السارية حالياً، والالتزامات التي سيبدأ تطبيقها لاحقاً، والتعديلات المعلنة التي لم يُستكمل دخولها حيز التنفيذ رسمياً بعد.
الممارسات المحظورة (المادة 5): سارية المفعول اعتبارًا من 2 فبراير 2025
معرفة الذكاء الاصطناعي (المادة 4): سارية المفعول اعتبارًا من 2 فبراير 2025
نماذج الذكاء الاصطناعي للأغراض العامة: سارية المفعول اعتبارًا من 2 أغسطس 2025
التزامات الشفافية (المادة 50): سارية اعتبارًا من 2 أغسطس 2026؛ غير مؤجلة.
المخاطر العالية عبر الملحق الثالث: رسميًا لا يزال الموعد النهائي هو 2 أغسطس 2026؛ وبمجرد دخول القانون الشامل حيز التنفيذ، يكون الموعد النهائي هو 2 ديسمبر 2027 كحد أقصى
المخاطر العالية عبر الملحق الأول: رسميًا لا يزال الموعد النهائي هو 2 أغسطس 2027؛ وبمجرد دخول القانون الشامل حيز التنفيذ، سيكون الموعد النهائي هو 2 أغسطس 2028 كحد أقصى
في 19 نوفمبر 2025، نشرت المفوضية الأوروبية حزمة "التحول الرقمي الشامل"، مقترحةً تأجيل تطبيق الالتزامات على أنظمة الذكاء الاصطناعي عالية المخاطر. وتم التوصل إلى اتفاق سياسي مبدئي في 7 مايو 2026. وأقر البرلمان الأوروبي هذا الاتفاق في 16 يونيو 2026، بينما منحه المجلس موافقته النهائية في 29 يونيو 2026.
حتى تاريخ كتابة هذا المقال، لم يكتمل بعدُ نشرُ التعديل في الجريدة الرسمية للاتحاد الأوروبي. وسيدخل التعديل حيز التنفيذ في اليوم الثالث الذي يلي ذلك النشر. وحتى ذلك الحين، يبقى الجدول الزمني الأصلي لقانون الذكاء الاصطناعي هو القانون الساري، مع تحديد الثاني من أغسطس/آب 2026 موعدًا لتطبيق الالتزامات عالية المخاطر بموجب الملحق الثالث. ومن المتوقع على نطاق واسع النشر قبل ذلك التاريخ، ولكنه لم يُؤكد بعد.
علاوة على ذلك، فإن التأجيل مشروط. ويرتبط تطبيق الالتزامات المتعلقة بأنظمة الذكاء الاصطناعي عالية المخاطر بقرار من المفوضية الأوروبية يثبت توافر المعايير المنسقة والأدوات الداعمة اللازمة، يليه فترة انتقالية. وتُعتبر تواريخ 2 ديسمبر 2027 و2 أغسطس 2028 بمثابة مواعيد احتياطية وليست مجرد تأجيل.
هناك نقطتان تستحقان اهتماماً منفصلاً. أولاً، لم يتم تأجيل التزامات الشفافية المنصوص عليها في المادة 50 والتزامات الإلمام بالذكاء الاصطناعي المنصوص عليها في المادة 4، بل لا تزال سارية وفقاً لجدولها الزمني الأصلي. ثانياً، تضيف الحزمة حظراً جديداً إلى المادة 5، يستهدف تطبيقات الذكاء الاصطناعي التي تُنتج صوراً حميمة دون موافقة أصحابها، ومواد الاعتداء الجنسي على الأطفال التي يُنتجها الذكاء الاصطناعي.
بالنسبة للمنظمات، هذا يعني أن التخطيط لشهر ديسمبر 2027 أمر منطقي، ولكن يجب في الوقت الحالي ترتيب حفظ السجلات كما لو أن شهر أغسطس 2026 لا يزال ساريًا، إلى أن تنص الجريدة الرسمية على خلاف ذلك.
الإشراف والعقوبات
في هولندا، لا يزال التشريع التنفيذي لقانون الذكاء الاصطناعي غير متوفر حتى تاريخ كتابة هذا المقال. ومن المتوقع أن تضطلع الهيئة الهولندية للبنية التحتية الرقمية وهيئة حماية البيانات الهولندية بدور مركزي وتنسيقي، مع احتفاظ الجهات الرقابية القطاعية بمسؤوليتها ضمن نطاق اختصاصها. ومع ذلك، يجب تحديد التوزيع الدقيق للصلاحيات وأساسها القانوني بناءً على التشريع الهولندي التنفيذي النهائي.
تنص المادة 99 من قانون الذكاء الاصطناعي على عدة فئات للعقوبات القصوى. ويتوقف مستوى العقوبة على طبيعة المخالفة، وعند الاقتضاء، على حجم الإيرادات السنوية العالمية للشركة. وتُطبق أعلى عقوبة قصوى على مخالفة الممارسات المحظورة المنصوص عليها في المادة 5؛ بينما تُطبق عقوبة قصوى أقل على مخالفة الالتزامات الأخرى، بما في ذلك تلك المفروضة على مُزودي ومُشغلي أنظمة الذكاء الاصطناعي عالية المخاطر؛ وتُطبق أدنى عقوبة على تقديم معلومات غير صحيحة أو ناقصة أو مُضللة للسلطات. ويُطبق نظام أكثر تساهلاً على الشركات الصغيرة والمتوسطة، بما في ذلك الشركات الناشئة. ويتم تحديد العقوبة الفعلية مع مراعاة القواعد المعمول بها بشأن العقوبات وظروف القضية.
خريطة طريق عملية
- قم بحصر جميع أنظمة الذكاء الاصطناعي التي تقوم مؤسستك بتطويرها أو شرائها أو استخدامها.
- حدد لكل نظام الدور الذي تؤديه: موفر أو منفذ.
- حدد فئة المخاطر لكل نظام وقم بتوثيق هذا التقييم، بما في ذلك أي اعتماد على الاستثناء الوارد في المادة 6 (3).
- قم بوضع نظام حوكمة للذكاء الاصطناعي وتعيين مسؤول عنه.
- ضمان معرفة الموظفين العاملين مع هذه الأنظمة بالذكاء الاصطناعي؛ هذا الالتزام قائم بالفعل.
- إعداد تدابير الشفافية بموجب المادة 50 بهدف تطبيقها في 2 أغسطس 2026.
- ابدأ بإعداد الوثائق الفنية، وعند الاقتضاء، تقييم الأثر على الحقوق الأساسية في الوقت المناسب.
- مراجعة عقود الموردين فيما يتعلق بتوزيع الأدوار، وتوفير المعلومات، وحقوق التدقيق.
- قم بمراقبة نشر حزمة التعديلات الشاملة في الجريدة الرسمية وقم بتعديل خططك وفقًا لذلك.
خاتمة
يؤثر قانون الذكاء الاصطناعي بشكل جوهري على كيفية تطوير المؤسسات للذكاء الاصطناعي وشرائه واستخدامه. يوفر التأجيل المعلن للالتزامات عالية المخاطر وقتًا إضافيًا، ولكنه ليس قانونًا ساريًا بعد، والالتزامات السارية بالفعل أو التي تدخل حيز التنفيذ في 2 أغسطس 2026 لا تتأثر به. لذا، يُنصح بالتخطيط وفقًا للمواعيد الجديدة مع الاستعداد للمواعيد القديمة. للاطلاع على نظرة عامة أشمل على اللائحة، يُرجى مراجعة... دليل شامل لقانون الذكاء الاصطناعي في الاتحاد الأوروبيوهذا يكمل تركيز هذه المقالة على أنظمة الذكاء الاصطناعي عالية المخاطر.
Law & More نساعد المؤسسات على حصر وتصنيف أنظمة الذكاء الاصطناعي لديها، وتحديد دورها كمزود أو منفذ، ومراجعة وصياغة العقود مع موردي الذكاء الاصطناعي، وإنشاء حوكمة للذكاء الاصطناعي. هل ترغبون بمعرفة الالتزامات الحالية التي تنطبق على مؤسستكم والخطوات التي يجب إعطاؤها الأولوية؟ تواصلوا معنا لمناقشة الأمر دون أي التزام.
الأسئلة المتكررة
فيما يلي نجيب على الأسئلة التي تُطرح علينا في أغلب الأحيان حول هذا الموضوع.
ما هو قانون الذكاء الاصطناعي؟
اللائحة الأوروبية للذكاء الاصطناعي (اللائحة (الاتحاد الأوروبي) 2024/1689). دخلت حيز التنفيذ في 1 أغسطس 2024، وتصبح قابلة للتطبيق على مراحل، مع التزامات تزداد ثقلاً مع ازدياد المخاطر التي يشكلها نظام الذكاء الاصطناعي.
متى يكون نظام الذكاء الاصطناعي عالي المخاطر؟
من خلال مسارين: إما كجزء من منتج مشمول بتشريعات المنتجات المدرجة في الملحق الأول، أو من خلال الاستخدام ضمن أحد المجالات المدرجة في الملحق الثالث. في الحالة الأخيرة، لا يُعد المجال وحده حاسماً؛ بل تُؤخذ الوظيفة المحددة وشروط المادة 6 في الاعتبار أيضاً.
هل يمكن لنظام الملحق الثالث أن يقع مع ذلك خارج فئة المخاطر العالية؟
نعم، في حال عدم وجود خطر كبير وعدم تأثير النظام بشكل جوهري على عملية اتخاذ القرار، كأن يؤدي مهمة إجرائية محدودة أو مهمة تحضيرية بحتة. يجب توثيق هذا التقييم. أما في حال قيام النظام بتحليل بيانات الأشخاص الطبيعيين، فلا ينطبق هذا الاستثناء مطلقًا.
هل أنا موفر أم منفذ؟
تُعتبر مُزوِّدًا إذا قمت بتطوير النظام أو طرحه في السوق باسمك أو علامتك التجارية، وعمومًا مُشغِّلًا إذا استخدمت نظامًا تم شراؤه. وإذا قمت بتعديل نظام تم شراؤه تعديلًا جوهريًا أو قمت بتوريده لاحقًا باسمك، فقد تُعتبر مُزوِّدًا أيضًا.
ما هي الالتزامات التي تنطبق على مقدمي الخدمات؟
من بين أمور أخرى إدارة المخاطر، وحوكمة البيانات، والوثائق الفنية، والتسجيل، وتعليمات الاستخدام، والإشراف البشري، ومتطلبات الدقة والأمن السيبراني، ونظام إدارة الجودة، وتقييم المطابقة، وعلامة CE والتسجيل في قاعدة بيانات الاتحاد الأوروبي.
ما هي الالتزامات التي تنطبق على القائمين بالنشر؟
يجب استخدام النظام وفقًا للتعليمات، وتحت إشراف بشري كفؤ، ومراقبة مستمرة، والإبلاغ عن المخاطر والحوادث الخطيرة، والاحتفاظ بالسجلات لمدة ستة أشهر على الأقل. كما يجب إبلاغ الموظفين المعنيين والأشخاص الذين يُطبق عليهم النظام مسبقًا.
متى يجب إجراء تقييم لأثر الحقوق الأساسية؟
تنص المادة 27 على ذلك، من بين أمور أخرى، الهيئات التي يحكمها القانون العام، ومقدمي الخدمات العامة من القطاع الخاص، والجهات التي تستخدم أنظمة لتصنيف الائتمان أو لتقييم مخاطر التأمين في التأمين على الحياة والتأمين الصحي.
هل تم تأجيل الالتزامات عالية المخاطر؟
يؤجل تعديل معتمد تطبيق الملحق الثالث إلى 2 ديسمبر 2027 كحد أقصى، والملحق الأول إلى 2 أغسطس 2028. وحتى تاريخ مرجع هذه المقالة، لم يُنشر هذا التعديل في الجريدة الرسمية، لذا فإن التاريخ الأصلي 2 أغسطس 2026 لا يزال ساريًا رسميًا.
ما الذي ينطبق بالفعل اليوم؟
الممارسات المحظورة بموجب المادة 5 والتزام معرفة الذكاء الاصطناعي منذ 2 فبراير 2025، وقواعد نماذج الذكاء الاصطناعي للأغراض العامة منذ 2 أغسطس 2025. تدخل التزامات الشفافية بموجب المادة 50 حيز التنفيذ في 2 أغسطس 2026 ولم يتم تأجيلها.
من يشرف على قانون الذكاء الاصطناعي في هولندا؟
لا يزال التشريع التنفيذي غير متوفر. ومن المتوقع أن تضطلع الهيئة الهولندية للبنية التحتية الرقمية وهيئة حماية البيانات الهولندية بدور مركزي وتنسيقي، إلى جانب الجهات الرقابية القطاعية. وسيتم تحديد الصلاحيات النهائية بناءً على التشريع الهولندي التنفيذي.
ما الذي ينبغي على مؤسستي فعله الآن؟
ابدأ بجرد جميع أنظمة الذكاء الاصطناعي التي تقوم بتطويرها أو شرائها أو استخدامها. سجّل لكل نظام الدور الذي تضطلع به، وفئة المخاطر التي تنطبق عليه، والالتزامات المترتبة عليه. كذلك، ضع نظام حوكمة للذكاء الاصطناعي، وتأكد من الإلمام به، وراجع عقود الموردين فيما يتعلق بتوزيع الأدوار، وتوفير المعلومات، وحقوق التدقيق.
