الذكاء الاصطناعي والقانون الجنائي: هل يمكن أن تتحمل الخوارزمية المسؤولية جزئيا؟

بموجب القانون الهولندي والأوروبي، لا يمكن تحميل الخوارزمية المسؤولية الجنائية. تتطلب المسؤولية الجنائية وجود مرتكب يعترف به القانون كشخص، والمادة 51 من قانون العقوبات الهولندي لا تمنح هذا الوضع إلا للأشخاص الطبيعيين والاعتباريين. نظام الذكاء الاصطناعي هو مجرد شيء، وليس مشتبهاً به. لذا، فإن السؤال المهم عملياً ليس ما إذا كانت الخوارزمية مسؤولة جزئياً، بل من هو الشخص أو الشركة المسؤولة كلياً عما فعلته.

هذا السؤال له إجابة واضحة في القانون الجنائي الهولندي. فقد صُممت مبادئ المسؤولية الوظيفية (functioneel daderschap) والمسؤولية الجنائية للشركات خصيصًا لهذه الحالة: الضرر الناجم عن أداة أو مؤسسة أو عملية، وليس بفعل المتهم نفسه. توضح هذه المقالة كيفية تطبيق هذه المبادئ على الذكاء الاصطناعي، وكيف يُغير قانون الاتحاد الأوروبي للذكاء الاصطناعي معايير الرعاية، وكيف تُعامل مخرجات الخوارزميات كدليل، وكيف ينبغي أن يكون شكل الدفاع وبرنامج الامتثال. وللاطلاع على السؤال الأوسع نطاقًا حول توزيع المسؤولية عبر سلسلة التوريد من المطورين والموردين والمستخدمين، يُرجى مراجعة مقالتنا المصاحبة حول تحديد المسؤولية عندما ترتكب آلة جريمة.

لماذا لا يمكن اعتبار الخوارزمية مشتبهاً بها؟

يتطلب تعريف الجريمة في القانون الهولندي فعلًا أو امتناعًا بشريًا يتوافق مع التعريف القانوني للجريمة، ويكون غير مشروع، ويمكن تحميل مرتكبه المسؤولية. يفترض كل عنصر من هذه العناصر وجود فاعل لديه إرادة. أما الخوارزمية، فتنتج مخرجات بتنفيذ تعليمات برمجية على البيانات؛ فهي لا تملك إرادة للتكوين، ولا شيء يُلام عليه، ولا شيء يمكن أن تصل إليه عقوبة جنائية. وقد أتاح البند 51 من القانون مكانًا للشركة إلى جانب الفرد تحديدًا لأن الشركة تعمل من خلال أشخاص؛ ولا يوجد نص مماثل للبرمجيات، وإنشاء نص مماثل سيتطلب من المشرّع استحداث فئة جديدة من الشخصيات الاعتبارية.

ولن يخدم ذلك أي غرض يعترف به القانون الجنائي. فالعقوبة وُضعت للعقاب والردع، وللتصحيح حيثما أمكن. ولا يمكن أداء أي من هذه الوظائف على نموذج. إن حذف أوزان الشبكة العصبية يُعاقب مالكها، لا الشبكة نفسها. كل ما يسعى القانون الجنائي إلى تحقيقه عندما يتسبب نظام ذكاء اصطناعي في ضرر، يجب تحقيقه من خلال الأفراد والمنظمات التي تقف وراءه، ولهذا السبب لا تعتبر الممارسة الهولندية هذا الأمر ثغرة قانونية.

يوضح الجدول أدناه عدم التطابق بين عناصر الجريمة الجنائية وماهية نظام الذكاء الاصطناعي في الواقع.

من يتحمل المسؤولية بدلاً من ذلك: الارتكاب الوظيفي والمادة 51 من قانون العقوبات.

يحتوي القانون الجنائي الهولندي على آليتين لمحاسبة شخص ما على سلوك لم يرتكبه فعلياً. وقد طُوِّرت كلتا الآليتين قبل ظهور التعلم الآلي بفترة طويلة، وتناسبان قضايا الذكاء الاصطناعي دون تعديل.

الإهمال الوظيفي

يُجيز مبدأ المسؤولية الوظيفية اعتبار شخص ما مرتكباً لجريمة ارتكبها فعلياً شخص آخر أو شيء آخر. ولا تزال المعايير التي وضعها المجلس الأعلى في حكمه في قضية إيزيردراد هي المعيار: يجب أن يكون للمدعى عليه سلطة تحديد ما إذا كان السلوك قد وقع (beschikken)، وأن يكون قد قبله، أو اعتاد على قبول سلوك من هذا النوع (aanvaarden).

عند تطبيق هذا المعيار على نظام الذكاء الاصطناعي، يكون المعيار الأول عادةً واضحًا، بينما يحسم المعيار الثاني الأمر. تتجلى القدرة على التحكم في النظام من خلال إمكانية تهيئته، وتحديد حدود تشغيله، وتحديثه أو إعادة تدريبه، والأهم من ذلك كله، إيقافه. وقلما يستطيع المشغلون الادعاء بمصداقية أنهم افتقروا إلى هذه القدرة. أما مسألة القبول فهي الأصعب، وهي التي تُبنى عليها الأدلة: ما الذي كان يعرفه المشغل عن أنماط فشل النظام، وما الذي تم الإبلاغ عنه من خلال الاختبارات أو الحوادث السابقة، وماذا ذكر تقييم المخاطر، وما الذي تم اتخاذه حيال ذلك. لا يتطلب القبول رغبة في النتيجة، بل يكفي أن يكون المشغل قد قبل عن علم بمخاطرة كبيرة، وهو المعيار الهولندي المعتاد للنية المشروطة.

المسؤولية المؤسسية والقيادة الفعلية

في حال كان المشغل شركة، يُطبّق البند 51 (س) من القانون. يُمكن إسناد الجريمة إلى الشخص الاعتباري الذي وقع السلوك ضمن نطاق اختصاصه، وهو ما أوضحه المجلس الأعلى من خلال العوامل الواردة في حكم قضية Drijfmest: أن يكون السلوك قد نفّذه شخص يعمل لدى الشركة، وأن يندرج ضمن أعمالها الاعتيادية، وأن يكون مفيدًا للشركة، وأن تكون الشركة قادرة على تحديد وقوعه وقبلته، أو تقبله بشكل اعتيادي. ويُعتبر نظام الذكاء الاصطناعي الذي تستخدمه الشركة لأداء مهامها مُستوفيًا لمعظم هذه الشروط بحكم التعريف.

تنص المادة 51 (س) أيضًا على إمكانية مقاضاة من أمروا بارتكاب الجريمة ومن قادوها فعليًا. وهذا البند ينطبق على المديرين وكبار المسؤولين شخصيًا. ولا يقتصر الأمر على مجرد وجودهم في الهيكل التنظيمي، بل يجب أن يكون الشخص على دراية بالسلوك المحظور، على الأقل بمعنى قبوله احتمالًا كبيرًا لحدوثه، وأن يكون قد تقاعس عن اتخاذ التدابير التي كان مؤهلًا لاتخاذها وملزمًا بها بشكل معقول. وفي حالة الذكاء الاصطناعي، يُترجم ذلك مباشرةً إلى أدلة حول من استلم تقرير التحقق من صحة النموذج، ومن وافق على نشره، ومن قرر أن التحيز أو معدل الخطأ المعروف مقبول.

تُنجز جرائم الإهمال معظم العمل

في الواقع، غالبًا ما تُبنى الدعاوى القضائية المتعلقة بالأنظمة الآلية على الإهمال أكثر من النية. فعندما تتسبب مركبة أو آلة أو جهاز طبي يعمل بالذكاء الاصطناعي في الوفاة، تُعتبر الجريمة ذات الصلة هي التسبب في الوفاة بالإهمال بموجب المادة 307 (س)؛ وعندما يتسبب في إصابة خطيرة، تُعتبر الجريمة ذات الصلة هي التسبب في الوفاة بالإهمال بموجب المادة 308 (س). ويُقصد بـ"الإهمال" في القانون الجنائي الهولندي الإهمال الجسيم، ويُقاس بما كان ينبغي على مُشغل عاقل في ذلك الموقف فعله. وهذا هو الأساس الذي تُبنى عليه قضايا الذكاء الاصطناعي، لأن معيار الرعاية اللازم لتشغيل نظام آلي يُدوّن بشكل متزايد: في قانون الذكاء الاصطناعي، وفي لوائح القطاع، وفي المعايير الفنية، وفي إجراءات المُشغل نفسه. ويُعدّ أي انحراف موثق عن معيار اعتمده المُشغل نفسه أقوى دليل على الإهمال.

يُعدّ التمييز ثاني أكثر أنواع التمييز تكرارًا. يُعتبر التمييز في ممارسة الأعمال التجارية أو المهنية جريمة جنائية بموجب قانون مكافحة التمييز، ويشمل ذلك التمييز المتعمد وغير المتعمد. لذا، فإنّ أي نموذج يُلحق ضررًا منهجيًا بفئة محمية لا يُمثّل مشكلة إدارية فحسب بموجب قانون حماية البيانات والمساواة في المعاملة، بل يُصبح في الحالات الخطيرة جريمة جنائية. يُوضّح دليلنا للإجراءات الجنائية في هولندا كيفية سير مثل هذه القضية من التحقيق إلى صدور الحكم.

يحدد قانون الذكاء الاصطناعي معيار الرعاية، وليس العقوبة.

قانون الذكاء الاصطناعي للاتحاد الأوروبي هو لائحة إدارية. فهو لا يُجرّم أفعالاً جنائية ولا يجعل أي شخص مشتبهاً به. تكمن أهميته في المسؤولية الجنائية في كونه غير مباشر وكبير: إذ يُحدد، بعبارات ملزمة، ما يُتوقع من مُزوّد ​​أو مُشغّل نظام الذكاء الاصطناعي المُلتزم القيام به. وبمجرد تقنين معيار الرعاية، يُعدّ الخروج عنه دليلاً على الإهمال، والامتثال له دليلاً على الرعاية.

يصنف القانون الأنظمة حسب مستوى خطورتها. ويحظر القانون بشكل قاطع عددًا محدودًا من الممارسات، بما في ذلك التقييم الاجتماعي من قبل السلطات العامة، وجمع صور الوجوه بشكل عشوائي لإنشاء قواعد بيانات للتعرف عليها، والتعرف على المشاعر في أماكن العمل والتعليم، والتعرف عن بُعد على الهوية البيومترية في الأماكن العامة لأغراض إنفاذ القانون، مع مراعاة استثناءات محدودة. وتُصنف مجموعة أكبر ضمن فئة المخاطر العالية، وتشمل مكونات السلامة في المنتجات الخاضعة للتنظيم والاستخدامات المذكورة في ملحق القانون، ومنها التوظيف، والتقييم الائتماني، والتطبيقات في إنفاذ القانون، والهجرة، وإدارة العدالة. وتخضع الأنظمة التي تتفاعل مع الأفراد أو تُنشئ محتوى اصطناعيًا لواجبات الشفافية. أما ما تبقى من هذه الأنظمة فهو غير خاضع للتنظيم بشكل أساسي.

المزوّد أو المنفذ: الأدوار تحدد الواجبات

يوزع القانون الالتزامات وفقًا للدور، ويُعدّ الخطأ في تحديد الدور أحد أكثر أخطاء الامتثال شيوعًا. يقوم المورّد بتطوير نظام أو تكليف جهة بتطويره، ثم يطرحه في السوق باسمه؛ بينما يستخدم المُشغّل النظام تحت سلطته الخاصة في سياق أنشطته. يتحمل المورّدون التزامات التصميم الرئيسية، بينما يتحمل المُشغّلون التزامات الاستخدام الصحيح والإشراف البشري والمراقبة. يكمن الخطر في أن يصبح المُشغّل مورّدًا، بكل ما يترتب على ذلك من واجبات، إذا وضع اسمه على النظام، أو أجرى عليه تعديلات جوهرية، أو غيّر الغرض المقصود منه بطريقة تجعله ضمن فئات المخاطر العالية. إن ضبط نموذج مُشترى بدقة على بياناتك الخاصة، ثم استخدامه لغرض لم يتوقعه المورّد أبدًا، قد يدفع المؤسسة بهدوء إلى تجاوز هذا الحد. في التحقيقات الجنائية، يظهر التمييز نفسه مجددًا كمسألة من يملك سلطة التصرف، ولهذا السبب يجب تسجيل الأدوار كتابيًا وإدراجها في العقد.

ما ينطبق الآن

لقد طرأ تغيير على الجدول الزمني، ومن المهم تحديد الوضع الحالي بدقة. لا تزال المحظورات المتعلقة بالممارسات غير المقبولة والمخاطر، والالتزام بضمان الإلمام بالذكاء الاصطناعي، سارية المفعول. كما أن قواعد نماذج الذكاء الاصطناعي للأغراض العامة سارية المفعول. كذلك، فإن التزامات الشفافية المنصوص عليها في المادة 50، بما في ذلك واجب توضيح أن المحتوى مُولّد أو مُتلاعب به اصطناعياً، سارية المفعول. أما ما تم تأجيله بموجب حزمة القوانين الرقمية الشاملة فهو نظام المخاطر العالية: حيث تبدأ الالتزامات الخاصة بالأنظمة المدرجة في الملحق الثالث في 2 ديسمبر 2027، وتلك الخاصة بالأنظمة المشمولة بالملحق الأول في 2 أغسطس 2028. وبشكل منفصل، تم سحب توجيه المسؤولية عن الذكاء الاصطناعي المقترح، وبالتالي تبقى المسؤولية المدنية عن أضرار الذكاء الاصطناعي خاضعة للقانون الوطني، والذي يعني في هولندا القواعد العادية للمسؤولية التقصيرية ومسؤولية المنتج.

تُفرض عقوبات إدارية بموجب القانون، تصل إلى 35 مليون يورو أو 7% من إجمالي الإيرادات السنوية العالمية، أيهما أعلى، في حال ممارسة أي نشاط محظور، مع وجود حدود دنيا أقل للانتهاكات الأخرى. ويجري تنظيم الرقابة في هولندا بالتنسيق مع الهيئات التنظيمية القائمة، حيث تتولى هيئة حماية البيانات الشخصية (Autoriteit Persoonsgegevens) وهيئة التفتيش الرقمي للبنية التحتية (Rijksinspectie Digitale Infrastructuur) دورًا تنسيقيًا. وتُفصّل مقالاتنا حول ممارسات الذكاء الاصطناعي المحظورة وأنظمة الذكاء الاصطناعي عالية المخاطر بموجب قانون الذكاء الاصطناعي الالتزامات، كما يُغطي استعراضنا لقانون الاتحاد الأوروبي للذكاء الاصطناعي الإطار العام.

كيف سيستخدمها المدعي العام

لنفترض أن جهةً ما قامت بتشغيل أداة فحص دون التحقق من بيانات التدريب للتأكد من خلوها من التحيز، ودون وجود آلية إشراف بشري كما ينص عليه القانون، ودون توثيقها. إذا ساهمت هذه الأداة لاحقًا في نتيجة جنائية، فلن يضطر المدعي العام إلى الاستناد إلى المبادئ الأساسية لتحديد مدى العناية الواجبة. فالالتزامات واضحة، والخرق موثق، وعنصر قبول الفعل الوظيفي يترتب على قرار التشغيل على أي حال. وينطبق العكس أيضًا، وهذه هي النقطة التي غالبًا ما تغفلها مجالس الإدارة: فالشركة التي تستطيع تقديم تقييم المخاطر، ونتائج التحقق، وبروتوكول الإشراف، وسجل الحوادث، تكون قد بنت أساس دفاعها قبل وقوع أي خطأ.

المخرجات الخوارزمية كدليل

أما الطريقة الثانية التي يدخل بها الذكاء الاصطناعي إلى قاعات المحاكم الجنائية، فهي ليست كسبب للضرر، بل كمصدر للأدلة. فمطابقة الوجوه، والتعرف التلقائي على لوحات أرقام السيارات، وتحليل بيانات الاتصالات عبر الشبكات، ونماذج مخاطر الاحتيال، ومقارنة الأصوات، والفرز الآلي المتزايد للبيانات المضبوطة، كلها تُنتج موادًا ترغب النيابة العامة في الاعتماد عليها. ويعمل النظام الجنائي الهولندي وفق نظام مغلق لتصنيف الأدلة، ولا تُشكل مخرجات الخوارزميات فئة مستقلة. بل تصل إلى المحكمة كجزء من تقرير رسمي أو من خلال رأي خبير، وتخضع لنفس التدقيق الذي تخضع له أي أدلة أخرى.

يركز عمل الدفاع على هذا التدقيق. ثلاثة أسئلة تحدد مدى قوة الأدلة: هل تم التحقق من صحة الطريقة، ومن الذي قام بذلك؟ في ظل أي ظروف تفشل، وهل كانت تلك الظروف موجودة؟ وهل يستطيع الدفاع اختبارها، أي الوصول إلى معلومات كافية حول النظام، وبيانات تدريبه، ومعدلات خطئه، وتكوينه، لتقديم طعن ذي مغزى؟ إن تقديم نتيجة كحقيقة، دون تحديد معدل خطأ أو إمكانية للتحقق، لا يُعد دليلاً يُعتد به في الإدانة، والقول بذلك دفاع مشروع وفعال في كثير من الأحيان.

للشهادة الخبيرة إطارها الخاص. يحق للمحكمة تعيين خبير، ويحق للدفاع طلب ذلك، ويوجد سجل خبراء المحكمة لتوفير معيار جودة للمجالات التي يغطيها. إذا لم تكن إحدى طرق الذكاء الاصطناعي ضمن أي مجال معترف به، فإن ذلك يُعدّ بحد ذاته دليلاً على موثوقية النتيجة. تجدر الإشارة أيضاً إلى أن قانون الإجراءات الجنائية الجديد، الذي اعتمدته المحكمة الابتدائية في 24 فبراير 2026 ونُشر في الجريدة الرسمية في مارس 2026، سيدخل حيز التنفيذ تدريجياً بموجب مرسوم ملكي؛ وحتى ذلك الحين، تظل الأحكام الحالية وأرقام موادها سارية.

زاوية حماية البيانات

عندما يُتخذ قرارٌ يؤثر على شخصٍ ما بوسائل آليةٍ فقط، يمنح النظام الأوروبي العام لحماية البيانات (GDPR) ذلك الشخص الحق في عدم الخضوع له، إلى جانب الحق في الحصول على معلوماتٍ واضحةٍ حول المنطق المستخدم. وفي مجال إنفاذ القانون الجنائي، تُطبَّق القواعد الموازية للقانون الذي يُنفِّذ توجيه بيانات الشرطة. وهذا الأمر مهمٌ من ناحيتين: بالنسبة للمشتبه به، يُمكِّنه من الوصول إلى معلوماتٍ حول نظامٍ قد تُفضِّل السلطات عدم شرحه. أما بالنسبة للشركة، فإنَّ استخدام نظام اتخاذ القرارات الآلي دون أساسٍ قانونيٍّ ودون ضماناتٍ يُعدُّ خرقًا تنظيميًا يُؤخذ في الاعتبار عند توجيه أي اتهامٍ جنائي.

الدفاع عن قضية تتضمن الذكاء الاصطناعي

إنّ الدفاع البديهي، القائل بأنّ النظام كان صندوقًا أسودًا ولا يمكن لأحد أن يعرف ما سيفعله، أضعف مما يبدو. فهو يجيب على السؤال الخاطئ. لا يسأل القانون الجنائي الهولندي عمّا إذا كان المتهم قد توقّع النتيجة بدقة، بل يسأل عمّا إذا كان يملك القدرة على تحديد ما إذا كان السلوك قد وقع، وما إذا كان قد قبل مخاطرة وقوعه. قد يكون الغموض ضد المتهم: فاستخدام نظام لا يمكن تفسير سلوكه، في بيئة قد يتسبب فيها بضرر جسيم، هو في حد ذاته قرار قد تعتبره المحكمة قبولًا للمخاطرة.

الدفاعات الناجحة أضيق نطاقًا وتعتمد على الأدلة. أولها غياب السيطرة الفعلي: فقد تم شراء النظام كمنتج نهائي، وقام المورّد بتهيئته وصيانته، ولم يكن لدى المدعى عليه لا المعلومات ولا القدرة التقنية للتدخل. هذه الحجة تُحوّل التركيز إلى المورّد، وتعتمد في جوهرها على العقد وعلى ما تم إبلاغه فعليًا إلى المُشغّل. ثانيها أن المُشغّل قام بما يفعله المُشغّل الحريص: تقييم موثق للمخاطر، والتحقق قبل النشر، وإشراف بشري مُحدد من قِبل شخص يملك الصلاحية والكفاءة للتدخل، والمراقبة بعد النشر، والتحرك الفوري عند وقوع الحوادث. ثالثها السببية، وهي غالبًا ما تُهمل. في سلسلة تمتد من بيانات التدريب عبر نموذج إلى قرار بشري إلى نتيجة، يتعين على الادعاء إثبات أن سلوك هذا المدعى عليه هو سبب النتيجة، وعندها تنكسر السلاسل المعقدة.

فيما يلي نقطتان عمليتان. أولاً، احفظ كل شيء مبكراً: السجلات، وإصدارات النماذج، والتكوين، وتقارير الحوادث، والمراسلات المتعلقة بقرارات النشر، فهي أدلة لكلا الطرفين، ويتم استبدالها بشكل روتيني. ثانياً، تذكر أن الضمانات العادية للإجراءات الجنائية تنطبق بالكامل على القضايا المعقدة تقنياً، بما في ذلك حق المشتبه به في التزام الصمت؛ تشرح مقالتنا حول الحق في التزام الصمت في المسائل الجنائية كيفية تطبيقه في التحقيقات الهولندية. أما في حالة الادعاء بالاحتيال باستخدام أدوات آلية، فيغطي دليلنا حول الاحتيال والجرائم المالية في هولندا الجرائم ذات الصلة.

ما تكشفه قضية إعانات رعاية الأطفال في الواقع

تُعدّ قضية "توسلاجين أفير"، أو ما يُعرف بقضية إعانات رعاية الأطفال في هولندا، القضية التي تُثار في كل نقاش حول المساءلة الخوارزمية في هولندا، وعادةً ما تُستشهد بها لسبب خاطئ. فالدرس المستفاد منها ليس أن خوارزميةً ما ارتكبت جريمة، بل أن نظامًا آليًا لاختيار المخاطر، مقترنًا بتردد مؤسسي في مساءلة مخرجاته، تسبب في سنوات من الضرر الجسيم لعشرات الآلاف من الأسر دون محاسبة أي شخص جنائيًا.

استخدمت إدارة الضرائب تصنيف المخاطر لاختيار طلبات الحصول على الإعانات للتحقيق. ودخلت مؤشراتٌ ما كان ينبغي استخدامها، بما في ذلك الجنسية، في عملية الاختيار، وقد يؤدي أي خلل إداري بسيط إلى اعتبار ذلك احتيالاً متعمداً مع إلزام المستفيدين برد كامل الإعانة. لم تتمكن العائلات من معرفة سبب اختيارها، وتعامل المسؤولون مع التصنيف كنتيجة نهائية لا كإشارة، ووقع عبء دحض اتهام لم يقدم أحد تفسيراً له على عاتق المتهم. وقد اعتبرت هيئة حماية البيانات الهولندية معالجة بيانات الجنسية غير قانونية وفرضت غرامة، واستقالت الحكومة في يناير 2021.

ما لم يحدث له دلالة. لم تتم مقاضاة أي فرد جنائياً. توزعت المسؤولية على مستوى المؤسسة، والسياسة، والبرنامج، والإطار القانوني الذي تعامل مع استرداد المنافع كمسألة إدارية. هذا التوزع هو تحديداً الخطر الذي صُممت المادة 51 (س) من قانون الذكاء الاصطناعي لمواجهته، وهو ما يفسر إصرار القانون على وجود إشراف بشري محدد وتوثيق. تتطلب المساءلة وجود شخص كان بإمكانه إيقاف الفعل وسجلاً لما كان يعلمه.

ثلاثة إخفاقات جديرة بالذكر لأنها تُترجم مباشرةً إلى مسؤولية قانونية لأي منظمة. لم تكن القرارات قابلة للتفسير، وبالتالي لم يكن بالإمكان الطعن فيها. كان الإشراف البشري موجودًا نظريًا فقط، إذ لم يكن لدى المعنيين السلطة أو المعلومات اللازمة لتجاوز النظام. وكان تأثير التنبيه هو عكس عبء الإثبات في الواقع، إن لم يكن في القانون. أي تطبيق للذكاء الاصطناعي يُعيد إنتاج هذه السمات الثلاث يُمثل مشكلة قانونية كامنة، بغض النظر عن التقنية المستخدمة. ويستهدف رد الحكومة، بما في ذلك التوجيهات بشأن عدم التمييز بالتصميم وسجلات الخوارزميات للهيئات العامة، هذه النقاط الثلاث تحديدًا.

برنامج امتثال يعمل أيضاً كدفاع

كل ما تقوم به الشركة للامتثال لقانون الذكاء الاصطناعي يُنتج أيضاً الأدلة التي ستحتاجها في حال حدوث أي خطأ. هذا الهدف المزدوج هو ما يبرر القيام بذلك على أكمل وجه بدلاً من الاكتفاء بالحد الأدنى، ويجعل الخطوات التالية جديرة بالاهتمام.

ابدأ بجرد شامل. لا يمكنك تصنيف ما لم تُدرجه، وتكتشف معظم المؤسسات أن الذكاء الاصطناعي قد دخل من خلال عمليات الشراء وليس من خلال مشروع مُحدد: كخاصية الفرز في منصة التوظيف، أو وحدة التقييم في طلب الائتمان، أو وظيفة المراقبة في برامج الأمن. صنّف كل نظام وفقًا للقانون، وسجّل أسباب التصنيف، وراجع التصنيف عند حدوث تغيير جوهري في النظام، لأن تغيير الغرض قد ينقل النظام إلى فئة مختلفة.

ثمّ حدّد المسؤولية لأشخاصٍ مُعيّنين بدلاً من الإدارات. يعتمد كلٌّ من الفاعلية الوظيفية والقيادة الفعلية على من كان بإمكانه تحديد وقوع السلوك. إنّ المنظمة التي لا يُمكن تحديد مسؤولٍ فيها لا تُعفي من المسؤولية؛ بل تُعرّض فقط من يتربّع على قمة الهرم الإداري للمساءلة. حدّد مالك كلّ نظام، ومن يُصرّح بنشره، ومن يُشرف عليه، ومن يُعطّله، وتأكّد من أنّ الشخص المُعيّن لديه الصلاحية والكفاءة التقنية اللازمة لذلك.

اجعل الرقابة البشرية حقيقية. لا يُشترط وجود شخص ضمن دائرة العملية، بل شخص قادر على فهم المخرجات، وله صلاحية رفضها، ولا يُقاس أداؤه بناءً على الإنتاجية بطريقة تجعل الرفض غير عملي. يجب توثيق حالات التجاوز، لأن سجلًا يُظهر استخدام وظيفة الرقابة فعليًا أهم من أي وثيقة سياسة.

وثّق الوضع التقني: من أين أتت بيانات التدريب وكيف تم التحقق منها، وما هي الاختبارات التي أُجريت وماذا أظهرت، وما هي معدلات الخطأ المعروفة وحالات الفشل، وما هي القرارات المتخذة بشأنها. عند الحاجة إلى تقييم الأثر على حماية البيانات أو على الحقوق الأساسية، قم بإجراء هذا التقييم قبل النشر وحافظ على تحديثه. راقب الوضع بعد النشر، وسجّل الحوادث، واتخذ الإجراءات اللازمة بشأنها بطريقة موثقة في السجل.

وأخيرًا، احرص على صياغة العقود بشكل صحيح. عند شراء نظام بدلًا من بنائه، يحدد توزيع المسؤولية بين المورّد والجهة المنفذة من يتحمل المخاطر. اطلب الوثائق الفنية التي ينص عليها القانون، وتعليمات الاستخدام، ومعلومات حول القيود المعروفة، وحقك في تلقي إشعارات عن الحوادث والتعديلات الجوهرية. يتولى فريقنا المختص بقانون تقنية المعلومات هذه الترتيبات.

عندما يكون الذكاء الاصطناعي أداة في يد الجاني بدلاً من كونه نتيجة لفشل شركة ما

تناولت هذه المقالة حتى الآن الضرر الناجم عن نظام ذكاء اصطناعي استخدمته إحدى الشركات لغرض مشروع. أما الجانب الآخر من الصورة فهو استخدام الذكاء الاصطناعي عمدًا لارتكاب جريمة، وهنا يكون الجواب أبسط: الجريمة هي الجريمة، والتكنولوجيا تُعدّ تفصيلاً مُشددًا للعقوبة لا مشكلة قانونية. يُصاغ القانون الجنائي الهولندي وفقًا للنتائج والسلوك، لا وفقًا للأدوات، ولذلك لم تكن هناك حاجة تُذكر إلى أحكام جديدة.

يُعدّ الاحتيال باستخدام صوت مُستنسخ أو فيديو مُصطنع لمخرج يُصدر تعليمات بالدفع خداعًا بموجب المادة 326، تمامًا كما هو الحال مع الرسالة المُزوّرة. ويُعدّ إنشاء وثيقة بواسطة نموذج لدعم ادعاء كاذب تزويرًا بموجب المادة 225. كما يُعدّ استخدام بيانات شخصية لشخص ما لانتحال شخصيته جريمة بحد ذاتها بموجب المادة 231ب. ويُعاقب على توزيع صور جنسية صريحة لشخص ما دون موافقته، وقد حدّث قانون الجرائم الجنسية، الساري منذ 1 يوليو 2024، هذا الجزء من قانون العقوبات؛ ولا تُستثنى الصورة المُصطنعة من هذا القانون لمجرد أنها مُولّدة وليست مُسجّلة. ويمكن أن يرقى التحرش المُستمر عبر الحسابات الآلية إلى جريمة الاحتيال بموجب المادة 285ب، والتي لا تُلاحق إلا بناءً على شكوى من الضحية.

ما يُغيّره الذكاء الاصطناعي هو النطاق والمصداقية وصعوبة الإثبات. فالصوت الاصطناعي المُقنع يُزيل العائق الذي كان يُستخدم سابقًا للحماية من الاحتيال في المدفوعات، ولم يعد بالإمكان افتراض صحة التسجيل. ويترتب على ذلك نتيجتان عمليتان: بالنسبة للضحايا والشركات، أصبحت إجراءات التحقق التي لا تعتمد على التعرف على الصوت أو الوجه إجراءً أساسيًا للتحكم بدلًا من كونها مجرد تحسين. أما بالنسبة للإجراءات الجنائية، فقد أصبحت صحة المواد الصوتية والمرئية مسألةً يجب إثباتها بدلًا من افتراضها، ويحق للدفاع اختبارها.

بدأت القوانين واللوائح تُسهم في حل المشكلة. تنص المادة 50 من قانون الذكاء الاصطناعي، السارية حاليًا، على التزامات الشفافية التي يُلزم مقدمي الخدمات بوضع علامات على المحتوى المُصنّع بطريقة قابلة للقراءة آليًا، كما تُلزم مُستخدمي هذه الخدمات بالإفصاح عن كون الصورة أو الصوت أو الفيديو مُولّدًا أو مُعدّلًا اصطناعيًا إذا كان يُصوّر أشخاصًا أو أحداثًا حقيقية. لا يمنع الامتثال المُخالف المُتعمّد، ولكنه يُعزز موقف جميع الأطراف الأخرى: إذ يجعل المحتوى المُصنّع غير المُفصح عنه انتهاكًا قانونيًا بحد ذاته، ويُعطي المُحققين والمحاكم مؤشرًا للبحث عنه. تتناول مقالتنا حول إثبات الخداع الرقمي في هولندا الجانب الإثباتي لهذه القضايا.

الأسئلة الشائعة حول الذكاء الاصطناعي والمسؤولية الجنائية

كيفية Law and More يمكن أن تساعد

Law and More نقدم الاستشارات للشركات والمديرين والأفراد بشأن المسؤولية الجنائية الناجمة عن الأنظمة الآلية. نقوم بتقييم المخاطر بموجب المادة 51 من قانون العقوبات ومبدأ المسؤولية الوظيفية، ونبني ونراجع حوكمة الذكاء الاصطناعي بما يضمن تقديم دليل على العناية الواجبة، ونطعن في الأدلة الخوارزمية في الإجراءات الجنائية، وندافع عن الشركات ومسؤوليها في تحقيقات النيابة العامة والهيئات التنظيمية. إذا كانت مؤسستكم تستخدم الذكاء الاصطناعي في بيئة تترتب عليها عواقب وخيمة، فتواصلوا مع مكتبنا قبل وقوع أي حادثة تستدعي التساؤل.