من المسؤول عندما يتسبب نظام الذكاء الاصطناعي في حدوث ضرر؟

تقع مسؤولية أنظمة الذكاء الاصطناعي في هولندا دائمًا على عاتق شخص أو شركة، وليس على البرنامج نفسه. هناك موقفان أساسيان في هذا السياق: المستخدم، أي الفرد أو المؤسسة التي تستخدم النظام وتتخذ القرارات بناءً عليه، والمنتج، أي الجهة التي طورت النظام أو طرحته في السوق أو قامت بتوريده. ويعتمد تحديد الجهة التي تتحمل الخسارة على موضع الخطأ، ومدى معرفة كل منهما، ومضمون العقد المبرم بينهما. تتناول هذه المقالة كلا الموقفين؛ أما الإطار القانوني الجنائي، بدءًا من المسؤولية الوظيفية وصولًا إلى مسؤولية الشركات بموجب المادة 51 من قانون العقوبات، فقد تم توضيحه في مقالتنا المصاحبة حول إمكانية تحميل الخوارزمية مسؤولية جزئية.

لماذا لا يكون النظام هو المدعى عليه أبداً

يعترف القانون الهولندي بنوعين من الأشخاص: الأشخاص الطبيعيون والأشخاص الاعتباريون. نظام الذكاء الاصطناعي ليس من أيٍّ منهما. فهو لا يملك حقوقًا، ولا يمكن استدعاؤه، ولا يمكن تغريمه، ولا يمكن إلزامه بدفع تعويضات، لأنه لا يملك شيئًا ولا وجود قانوني منفصل عن الشركة التي تُشغّله. وقد نُوقشت مقترحات لإنشاء فئة ثالثة، تُسمى أحيانًا "الشخصية الإلكترونية"، على المستوى الأوروبي، لكنها لم تُثمر، لسبب عملي أكثر منه فلسفي: فوجود كيان مسؤول لا يملك أصولًا ولا قدرة على تغيير سلوكه من شأنه أن يُحوّل المخاطر بعيدًا عن الأطراف القادرة على منع الضرر فعليًا.

لذا، لا يكمن السؤال أبدًا في ما إذا كانت الآلة مسؤولة، بل في تحديد أي جهة بشرية أو مؤسسية في سلسلة المسؤولية قصّرت في أداء واجبها، وهذه السلسلة لها شكلٌ يمكن التنبؤ به: الجهة التي أنشأت النموذج، والجهة التي حوّلته إلى منتج، والجهة التي زوّدته أو دمجته، والمنظمة التي نشرته، والفرد الذي ضغط على الزر. وتتمثل مسؤولية أنظمة الذكاء الاصطناعي في تحديد موضع الخلل في هذه السلسلة ومطابقته مع أساس قانوني.

يهيمن أساسان قانونيان على هذا الأمر. بالنسبة للمستخدم، قانون المسؤولية التقصيرية العام وواجب الرعاية الذي يترتب على استخدام أداة قوية في اتجاه شخص آخر. أما بالنسبة للمنتج، فتُهيمن مسؤولية المنتج، التي لا تتطلب أي خطأ على الإطلاق. وكل ما عدا ذلك، بما في ذلك المسؤولية الجنائية، يُضاف إلى هذين الأساسين.

موقع المستخدم

يُقلل المستخدمون من شأن المخاطر التي يتعرضون لها لأنهم ينظرون إلى النظام كصندوق أسود قام شخص آخر ببنائه. في القانون، يُعتبر الشخص الذي يختار نشر أداة ما، وتكوينها، وتزويدها بالبيانات، والتصرف بناءً على مخرجاتها، مُرتكباً لفعل ما، ويتم تقييم هذا الفعل بناءً على مزاياه الخاصة.

عندما يكون النظام مجرد أداة للجريمة

أسهل الحالات هي تلك التي يُستخدم فيها نظام الذكاء الاصطناعي عمدًا. يُعدّ إنشاء فاتورة مُقنعة للاحتيال على شركة ما جريمة احتيال بموجب المادة 326 من قانون العقوبات، سواءً صاغها شخص أو نموذج، ويظل تزوير أي وثيقة جريمة تزوير بموجب المادة 225 بغض النظر عن الأداة المستخدمة. كما يُعدّ استخدام نموذج لكتابة برمجيات تخترق نظامًا ما اختراقًا حاسوبيًا بموجب المادة 138أب. يُمكن أن يُشكّل إنشاء وتوزيع صور مُعدّلة لشخص حقيقي تشهيرًا، وإذا كانت هذه الصور ذات طبيعة جنسية، فإنها تندرج تحت الجرائم المنصوص عليها في قانون الجرائم الجنسية الذي يُطبّق منذ 1 يوليو 2024. يُمكن أن يُشكّل التحرش المُستمر بشخص ما بمساعدة الذكاء الاصطناعي مُلاحقة بموجب المادة 285ب، والتي لا تُلاحق إلا بناءً على شكوى من الضحية.

ليس في هذا قانون جديد. فالتكنولوجيا تُغير نطاق الخداع ومدى معقوليته، لا عناصر الجريمة. ما تُغيره هو الأدلة: فالمطالبات، وسجلات الحسابات، ومخرجات النماذج، وتوقيت إنشاء الملفات هي المواد التي تربط الجريمة بشخص ما، والمستخدمون الذين يفترضون أن المحتوى المُنشأ بواسطة الذكاء الاصطناعي لا يمكن تتبعه، عادةً ما يكونون مخطئين.

الاستخدام الإهمالي: الخطر الأكثر شيوعاً

تقع العديد من المؤسسات في مشاكل نتيجة الإهمال أكثر من القصد. والنمط مألوف: يُشترى نظام لغرض معين، ثم يُستخدم لغرض آخر. ويُعامل ناتجه كقرار لا كإشارة. ولا أحد يتحقق من الحالات التي يكون فيها النظام خاطئًا، لأن القائمين على تشغيله لم يُبلغوا قط بنسبة الخطأ أو مواطن الخلل. وعندما يظهر الضرر، تكتشف المؤسسة أنها لا تملك أي سجل لكيفية اتخاذ القرار.

من الناحية المدنية، يُعدّ هذا ضرراً مباشراً: تنص المادة 6:162 من القانون المدني على مسؤولية الشخص عن أي فعل غير مشروع يُنسب إليه ويتسبب في ضرر. ويُعدّ الإخلال بواجب الرعاية في المجتمع أحد أنواع الأفعال غير المشروعة، ويُحدد مضمون هذا الواجب بما كان سيفعله شخص حريص في ذلك الموقف. كما يتحمل صاحب العمل مسؤولية أخطاء موظفيه بموجب المادة 6:170، ويتحمل الطرف الذي يستعين بطرف مساعد لتنفيذ التزام تعاقدي مسؤولية ذلك الطرف المساعد بموجب المادة 6:76، وهي المادة التي تُعنى بالمنظمات التي تستخدم نموذج مورد لتقديم خدماتها.

لم يعد واجب الرعاية متروكًا بالكامل للمحاكم لتحديده. يفرض قانون الذكاء الاصطناعي للاتحاد الأوروبي التزامات محددة على مُشغّلي الأنظمة عالية المخاطر: استخدام النظام وفقًا للتعليمات، وتعيين إشراف بشري لأشخاص مؤهلين وذوي سلطة لممارسته، والتأكد من ملاءمة بيانات الإدخال الخاضعة لسيطرتهم، ومراقبة التشغيل وتعليق الاستخدام عند ظهور أي خطر، والاحتفاظ بالسجلات، وإبلاغ العاملين وممثليهم قبل نشر مثل هذا النظام في مكان العمل. هذه الالتزامات تنظيمية، لكن المحكمة التي تُقيّم الإهمال ستعتبرها وصفًا لما يبدو عليه السلوك الحذر. إن المنظمة التي تجاهلت تعليمات الاستخدام ليست مجرد منظمة غير ملتزمة، بل إنها تُقدّم للمدعي حقه في القضية.

يستحق التحيز الناتج عن الأتمتة إشارة منفصلة لأنه يمثل نقطة ضعف الرقابة الخفية. فالمراجع الذي يوافق على كل ما يقترحه النظام تقريبًا لا يمارس الرقابة، والمنظمة التي تقيس أداء موظفيها بناءً على الإنتاجية تكون قد صممت هذه النتيجة فعليًا. والسؤال القانوني هو ما إذا كان القرار قد اتُخذ بصدق من قبل إنسان، ولا يُعدّ مجرد الموافقة الشكلية كافيًا.

حيث لا يستطيع المستخدم نقل المخاطرة

ثلاث نقاط تُفاجئ المنظمات التي افترضت أن المورد يتحمل المخاطر بشكل منتظم.

أولاً، يُعتبر المستخدم الطرف الظاهر في مواجهة الطرف الثالث المتضرر. فمثلاً، العميل الذي رُفض طلبه للحصول على ائتمان، أو الموظف الذي رفضته أداة الفرز، أو المريض الذي وُضع في تصنيف خاطئ، جميعهم يتعاقدون مع مُشغّل الخدمة أو يتلقون العلاج منه، وبالتالي سيرفعون دعوى قضائية ضده. أما مسألة ما إذا كان بإمكان مُشغّل الخدمة استرداد أمواله من مُورّده فهي مسألة منفصلة تعتمد على بنود العقد ولا تُؤخّر رفع الدعوى ضده.

ثانيًا، تُطبَّق قواعد حماية البيانات العامة بشكل مستقل عن أي شيء آخر. إذا كان النظام يُعالج بيانات شخصية، فإن مُشغِّل النظام هو عادةً المتحكِّم، المسؤول عن الأساس القانوني والشفافية وتقييم الأثر والأمن. أما القرار الذي يُتخذ بوسائل آلية بحتة، والذي يُنتج آثارًا قانونية أو يؤثر بشكل كبير على شخص ما، فيخضع لتنظيم منفصل، ويمنح ذلك الشخص الحق في التدخل البشري والطعن في النتيجة. يُوضِّح عرضنا العام للائحة العامة لحماية البيانات هذا النظام.

ثالثًا، يُغيّر التعديل دورك. فالجهة التي تُطلق اسمها على نظام ما، أو تُغيّر غرضه الأصلي، أو تُجري عليه تعديلات جوهرية، تُصبح مُزوّدًا بموجب قانون الذكاء الاصطناعي، وتتحمل التزامات المُزوّد. ويُعدّ تحسين نموذج عام ليُصبح أداة فحص لاتخاذ قرار مُنظّم خطوةً تُخالف هذا القانون. لذا، ينبغي على المؤسسات التي تعتمد على نموذج جهة أخرى أن تُحدّد موقفها القانوني قبل إطلاقه، لا بعد وقوع حادثة.

موقف المنتج

تختلف مسؤولية المُنتِج، وهي أشدّ صرامة. فبموجب المادة 6:185 وما يليها من القانون المدني، يُحمّل المُنتِج مسؤولية الأضرار الناجمة عن عيب في منتجه، دون أن يُطلب من الطرف المتضرر إثبات الخطأ. يُعتبر المنتج معيبًا عندما لا يُوفّر مستوى الأمان الذي يحقّ للشخص توقّعه، مع الأخذ في الاعتبار مظهره، والاستخدام المتوقع منه بشكل معقول، ووقت طرحه في السوق. يقع على عاتق المُدّعي إثبات الضرر، والعيب، والعلاقة السببية بينهما، وهو ما يُمثّل جوهر النزاع في قضايا الذكاء الاصطناعي.

يخضع هذا النظام لحدود زمنية ثابتة. يجب تقديم المطالبات في غضون ثلاث سنوات من تاريخ علم الطرف المتضرر، أو كان من المفترض أن يعلم، بالضرر والعيب وهوية المُنتِج، وينتهي الحق بعد عشر سنوات من طرح المنتج المحدد في السوق. لا يجوز استبعاد المسؤولية بموجب هذا النظام أو تقييدها بموجب عقد، ويشمل ذلك الوفاة والإصابة الشخصية والأضرار التي تلحق بالممتلكات الأخرى المستخدمة استخدامًا خاصًا، وذلك وفقًا لعتبة أدنى. يمتلك المُنتِج مجموعة محدودة من الدفوع، بما في ذلك دفوع مخاطر التطوير، والتي تُطبَّق في حال لم يكن من الممكن الكشف عن العيب بناءً على مستوى المعرفة العلمية والتقنية وقت طرح المنتج في السوق.

الإصلاح الذي يغير وضع البرمجيات

في ظل النظام الهولندي الحالي، يُعتبر المنتج شيئًا منقولًا، وقد كان الجدل قائمًا لسنوات حول ما إذا كان البرنامج المستقل يُعتبر كذلك. لكن هذا الجدل يقترب من نهايته. دخل توجيه مسؤولية المنتج المُعدَّل، التوجيه (الاتحاد الأوروبي) 2024/2853، حيز التنفيذ في 8 ديسمبر 2024، ويجب نقله إلى القانون الوطني بحلول 9 ديسمبر 2026؛ وينطبق على المنتجات التي تُطرح في السوق أو تُستخدم بعد ذلك التاريخ، لذا فإن الأحكام الحالية للقانون المدني لا تزال سارية على المنتجات المتداولة قبل صدوره. أربعة تغييرات جوهرية تؤثر على مسؤولية أنظمة الذكاء الاصطناعي.

يُعدّ البرنامج، بما في ذلك أنظمة الذكاء الاصطناعي وملفات التصنيع الرقمية، منتجًا بحد ذاته. وتتسع دائرة الأطراف المسؤولة لتشمل، بالإضافة إلى المُصنِّع، الطرف الذي يُجري تعديلات جوهرية على المنتج خارج نطاق سيطرته، والممثل المُصرَّح له، والمستورد، وفي ظروف مُحدَّدة، مُقدِّم خدمة التوصيل والمنصة الإلكترونية. ويشمل التعويض عن الأضرار تلف أو تشويه البيانات التي لا تُستخدم لأغراض مهنية، وهو ما يُمثِّل فئة حقيقية من الخسائر في حالات فشل البرامج. وقد يكون المنتج معيبًا نتيجةً لما يحدث بعد طرحه في السوق: كخلل في تحديث برمجي مطلوب، أو عدم توفير تحديثات أمنية، أو آثار التعلُّم المُستمر الذي احتفظ المُنتِج بالسيطرة عليه.

يُعالج هذا الإصلاح أيضًا مشكلة الأدلة بشكل مباشر. إذ يُمكن للمحكمة أن تأمر المدعى عليه بالكشف عن الأدلة ذات الصلة بناءً على طلب المدعي، وإذا لم يمتثل المدعى عليه، يُفترض وجود خلل في الأدلة. وتُطبق قرائن قابلة للدحض بشأن الخلل والسببية عندما يواجه المدعي صعوبة بالغة في إثباتها بسبب التعقيد التقني أو العلمي، شريطة أن يُقدم المدعي تفسيرًا معقولًا لاحتمالية حدوثها. بالنسبة للمدعي الذي يواجه نموذجًا لا يستطيع أحد تفسيره تفسيرًا كاملًا، فإن هذا هو الفرق بين قضية قابلة للنقاش وقضية مستحيلة.

العقد، والمطابقة، وحدود بنود الاستبعاد

عادةً ما يكون العقد هو ساحة النزاع الأولى بين الشركات، وليس القانون. يلتزم مُورّد نظام الذكاء الاصطناعي بما اتفق عليه: يجب أن يتوافق النظام المُسلّم مع بنود العقد وأن يتمتع بالخصائص التي يحق للمشتري توقعها. إذا وعد المورّد بمستوى دقة أو مستوى توافر أو امتثال لقانون الذكاء الاصطناعي، فإن عدم الوفاء بذلك يُعدّ إخلالاً بالعقد، وتُطبّق حينها سُبل الانتصاف القانونية المعتادة، كالأداء والتعويضات وفسخ العقد، بعد إشعار رسمي بالتقصير.

يرد الموردون ببنود تحديد المسؤولية والاستثناء، وعادةً ما تكون هذه البنود سارية المفعول بين الأطراف التجارية. وهي ليست مطلقة. يمكن استبعاد أي بند إذا كان الاعتماد عليه غير مقبول وفقًا لمعايير المعقولية والإنصاف، وهو المسار الذي تتبعه المحاكم في حالات الإهمال المتعمد أو الخطأ الجسيم من جانب المورد. وإذا كان البند عامًا، فقد يُلغى إذا لم تُتح للطرف الآخر فرصة حقيقية للاطلاع عليه. لا يمكن التنازل عن المسؤولية بموجب نظام مسؤولية المنتج تجاه الطرف المتضرر. عمليًا، يدور التفاوض حول حدود المسؤولية، والاستثناءات المتعلقة بانتهاكات البيانات وحقوق الملكية الفكرية، والتعويضات عن الغرامات التنظيمية، والتزام المورد بتوفير الوثائق والسجلات التي يحتاجها العميل للدفاع عن نفسه. توضح صفحتنا الخاصة بمطالبات التعويض كيفية إعداد هذه المطالبات.

ما يفعله قانون الذكاء الاصطناعي وما لا يفعله

يُعدّ قانون الذكاء الاصطناعي أداة تنظيمية. فهو يُحدد للمُزوّدين والمُشغّلين الإجراءات الواجب اتخاذها، ويمنح الجهات الرقابية صلاحيات إنفاذه؛ ولكنه لا يُنشئ حقًا في التعويض لأي شخص تضرر من نظام الذكاء الاصطناعي. وقد تم سحب توجيه المسؤولية عن الذكاء الاصطناعي المُقترح، والذي كان من شأنه توحيد الدعاوى المدنية وإدخال مبدأي الإفصاح والافتراضات بشكل شامل. وما تبقى هو المزيج المذكور أعلاه: قانون المسؤولية التقصيرية وقانون العقود الوطنيان، بالإضافة إلى نظام مسؤولية المنتج المُعدّل.

لا يُلغي ذلك أهمية قانون الذكاء الاصطناعي فيما يتعلق بالمسؤولية، بل له ثلاثة جوانب: أولًا، يُحدد معيار الرعاية، بحيث يُعد عدم الامتثال دليلًا على الإهمال. ثانيًا، يُنشئ وثائق، إذ أن الوثائق التقنية، وتعليمات الاستخدام، وسجلات النظام، وملف مراقبة ما بعد التسويق، كلها موجودة بموجب القانون ويمكن طلبها في الإجراءات القانونية. ثالثًا، يُحدد الأدوار، بحيث أصبح لمسألة تحديد مُقدم الخدمة ومُنفذها، التي كانت محل جدل، إجابة قانونية واضحة. ويتناول قسم قانون تقنية المعلومات لدينا هذه المسائل التصنيفية قبل أن تتحول إلى نزاعات.

حيث يلتقي المستخدم والمنتج

لا تنجم معظم الحوادث الحقيقية عن خلل واحد في أحد أطراف سلسلة العمليات، بل عن نموذج تم تدريبه على بيانات لا تمثل السكان المستهدفين، وتم دمجه من قبل مورد لم يختبره في هذا السياق، ونُشر من قبل مؤسسة استخدمته لغرض لم تشمله التعليمات، وشغّله موظفون لم يُبلغوا قط بحدوده. لا يجد القانون الهولندي أي إشكال في ذلك: إذ يمكن تحميل أطراف متعددة المسؤولية عن الضرر نفسه، ويتحمل كل طرف المسؤولية الكاملة تجاه الطرف المتضرر، ثم يتم تسوية التوزيع الداخلي للمسؤولية فيما بينهم لاحقًا وفقًا لمساهمة كل منهم.

يوضح الجدول أدناه مكان المسؤولية عادةً وعلى أي أساس.

تُعدّ قضية إعانات رعاية الأطفال في هولندا مرجعًا أساسيًا في كل نقاش هولندي، وهي تُجسّد نمطًا مُبهمًا لا قاعدة قانونية: نظام تصنيف مخاطر غامض، وقرارات تُتخذ بناءً على نتائجه دون تقييم فردي حقيقي، وعواقب تقع بالكامل على عاتق المستفيدين. كانت تبعاتها القانونية إدارية وسياسية وليست جنائية، ونتناول في مقالنا حول الذكاء الاصطناعي والقانون الجنائي ما تُظهره وما لا تُظهره بشأن المسؤولية الجنائية.

مشكلة الأدلة، وكيف تتغير

يقع عبء الإثبات على عاتق المدعي، وفي قضايا الذكاء الاصطناعي، يُعدّ الإثبات الجزء الأصعب. إذ يتعين على المدعي توضيح ما فعله النظام، وسبب خطئه، وكيف تسبب هذا الخطأ في الخسارة. وتوجد المعلومات اللازمة لذلك لدى المدعى عليه، وفي نموذج معقد، قد يكون من الصعب للغاية إعادة بناء هذا النموذج حتى داخليًا.

ثلاثة تطورات تُغيّر هذا التوازن. أصبح تسجيل البيانات الآن شرطًا قانونيًا للأنظمة عالية المخاطر، لذا فإن السجل الذي كان اختياريًا في السابق أصبح ضروريًا. كما أصبح الإفصاح عن الأدلة في دعاوى مسؤولية المنتج متاحًا بموجب النظام المُعدَّل، مدعومًا بافتراض وجود عيب في حال عدم امتثال المدعى عليه. ويسمح الإجراء المدني الهولندي بالفعل لأي طرف بالمطالبة بتقديم وثائق محددة له مصلحة مشروعة فيها، وهو ما يُستخدم بانتظام للحصول على تقارير الاختبار وسجلات الحوادث وتقييمات المخاطر الداخلية.

بالنسبة للمدعى عليه، فإن النتيجة العملية غير مريحة ولكنها واضحة: الوثائق التي تحتفظ بها هي الوثائق التي ستُستخدم ضدك، والوثائق التي لم تحتفظ بها ستُستخدم ضدك أيضًا. تُعدّ السجلات الكاملة والمؤرخة والصادقة للاختبارات والقيود المعروفة والحوادث وكيفية التعامل معها أقوى دفاع متاح، لأنها تُظهر أن المنظمة مارست التقدير بدلًا من الاكتفاء بالأمل. في حال كان للحادث بُعد جنائي، كالدخول غير المصرح به إلى الأنظمة أو التلاعب بالبيانات، فإن الإطار الجنائي لجرائم الحاسوب والجرائم الإلكترونية في هولندا ينطبق جنبًا إلى جنب مع الدعوى المدنية، وسيُصادر التحقيق الجنائي نفس المواد تمامًا.

الأنظمة المستقلة في العالم المادي

عندما يقوم نظام الذكاء الاصطناعي بتوجيه مركبة، أو تشغيل طائرة بدون طيار، أو تحريك ذراع روبوتية، تسري طبقة إضافية من المسؤولية، وهي عمومًا أشد صرامة مما نوقش حتى الآن. فالضرر الجسدي يستوجب مسؤولية المخاطر، التي لا تتساءل عما إذا كان أي شخص قد تسبب في إهمال.

بالنسبة للمركبات الآلية، تنص المادة 185 من قانون المرور لعام 1994 على مسؤولية مالك أو حائز المركبة الآلية عن الأضرار التي تلحق بالمشاة وراكبي الدراجات، ما لم يكن هناك ظرف قاهر، وهو معيار يصعب تحقيقه. ولا يفرق هذا الحكم بين ما إذا كان السائق بشريًا أم نظامًا مساعدًا للقيادة: يتحمل الحائز المسؤولية أولًا، ثم تأتي أي دعوى ضد الشركة المصنعة للبرنامج لاحقًا. ويتطلب اختبار المركبات ذاتية القيادة الحقيقية على الطرق العامة تصريحًا بموجب تشريعات التجارب الهولندية المخصصة، وتُصبح الشروط المرفقة بهذا التصريح، بما في ذلك وجود مشرف ودوره، جزءًا من معايير الرعاية.

تخضع الطائرات بدون طيار للوائح الأوروبية الخاصة بالطائرات بدون طيار، وتُدار متطلبات تسجيل المشغلين وفئات الطائرات في هولندا من قبل هيئة التفتيش الرقمي للبنية التحتية. إن قيام مشغل بالتحليق خارج فئته، أو دون الكفاءة المطلوبة، لا يُعد مخالفًا لقواعد الطيران فحسب، بل يتجاوز أيضًا السلوك الذي تعتبره المحكمة حذرًا، وهو ما يحسم مسألة الإهمال قبل حتى بدء النقاش التقني حول الطيار الآلي.

إلى جانب هذه الأنظمة، توجد القاعدة العامة المتعلقة بالأشياء المعيبة. يتحمل مالك أي شيء منقول لا يفي بالمعايير المحددة له، ويشكل بالتالي خطرًا معينًا، مسؤولية الضرر الناجم عن هذا الخطر. تشمل هذه القاعدة الآلة المادية حتى لو كان الخلل الأساسي في برمجياتها، وهذا أحد أسباب عدم قدرة مالك الروبوت الصناعي أو نظام المستودعات الآلي على إلقاء اللوم على البائع مباشرةً. في حال تطبيق نظام مسؤولية المنتج، يتفاعل النظامان، وعادةً ما يلجأ الطرف المتضرر إلى المسار الأسهل لإثبات الضرر.

النتيجة العملية بالنسبة للمؤسسات التي تشغل آلات ذات وظائف مستقلة هي ضرورة تنظيم التأمين والعقود وفقًا لمبدأ المسؤولية المطلقة، وليس وفقًا لمبدأ تحليل الأخطاء. يُعدّ اللجوء إلى المورد أمرًا مفيدًا، ولكنه لا يمنع وصول المطالبة إليك أولًا.

تقليل التعرض على كلا الجانبين

إن التدابير التي تقلل من المسؤولية عن أنظمة الذكاء الاصطناعي هي نفسها التدابير التي تجعل الأنظمة تعمل بشكل صحيح، ولهذا السبب تستحق القيام بها بغض النظر عن الجدول الزمني التنظيمي.

بالنسبة للمؤسسة التي تُطبّق نظامًا جديدًا، ابدأ بحصر الأنظمة المستخدمة: ما هي الأنظمة المُستخدمة، ومن قام بتوريدها، وما هي القرارات التي تتخذها أو تؤثر فيها، ومن يُشغّلها. حدّد دورك في كل نظام، لأن مهام المورّد تختلف عن مهام المُطبّق. ثم دوّن الغرض المقصود من النظام والتزم به؛ فالسبب الأكثر شيوعًا للمسؤولية التي يُمكن تجنّبها هو استخدام أداة لغرض لم يتم التحقق من صحة استخدامها فيه. امنح الأشخاص الذين يُشغّلون النظام صلاحية حقيقية لتجاوزه، وقِس كفاءتهم بناءً على تقديرهم لا على حجم استخداماتهم. احتفظ بسجلات النظام لفترة كافية لتكون مفيدة في حال نشوب نزاع. سجّل الحوادث، بما في ذلك الحوادث الوشيكة، وسجّل الإجراءات التي اتُخذت حيالها.

بالنسبة للمنتج أو المورد، تمتد قائمة مماثلة طوال دورة حياة المنتج: إدارة مخاطر موثقة، وحوكمة بيانات قابلة للشرح للجهات التنظيمية، واختبارات على المستخدمين الفعليين للنظام، وتعليمات استخدام تتسم بالشفافية بشأن القيود ومعدلات الخطأ بدلاً من مجرد طمأنة المستخدمين، وقناة للعملاء للإبلاغ عن المشاكل، وسياسة تحديث تحدد المسؤول عن تصحيحات الأمان ومدة صلاحيتها. وقد جعل نظام مسؤولية المنتج المُعدَّل هذه النقطة الأخيرة أكثر وضوحًا مما كانت عليه سابقًا: إذ إن عدم توفير التحديثات التي تعهدتَ بتوفيرها قد يجعل المنتج معيبًا بحد ذاته.

ينبغي على كلا الطرفين التعامل مع العقد باعتباره عملية لتوزيع المخاطر لا مجرد إجراء شكلي. وتتمثل البنود المهمة في وصف الغرض المقصود، وضمانات الامتثال والأداء، والالتزام بتسليم الوثائق والسجلات، وواجبات الإبلاغ عن الحوادث في كلا الاتجاهين، وحدود المسؤولية واستثناءاتها، والتعويضات عن مطالبات الأطراف الثالثة والغرامات التنظيمية، وترتيبات إنهاء العلاقة التي تحدد مصير النموذج والبيانات. إن تحديد حد أقصى للمسؤولية بشكل نظري، دون الرجوع إلى ما يقرره النظام فعليًا، لا يحمي أحدًا.

أخيرًا، ضع في اعتبارك المسؤولية الجنائية حتى في الحالات التي يكون فيها الخطر المباشر مدنيًا. لا تزال مقاضاة شركة بسبب فشل نظام ذكاء اصطناعي أمرًا غير شائع، لكن عناصرها مألوفة: وجود واجب، وخرقه، ووقوع ضرر متوقع، ووجود منظمة يمكن إثبات قبولها للمخاطر. عندما يُستخدم نظام ما لغرض غير قانوني بشكل واضح، أو عندما تستمر شركة في تشغيل نظام تعلم أنه يُسبب ضررًا، يصبح المسار الجنائي متاحًا، وقد تم تفصيل التحليل بالكامل في مقالنا حول القانون الجنائي الهولندي والمقال المصاحب له حول الخوارزميات والمسؤولية الجنائية.

الأسئلة المتكررة

Law & More نقدم الاستشارات للمؤسسات التي تُنشئ أنظمة الذكاء الاصطناعي والمؤسسات التي تستخدمها، بشأن توزيع المخاطر في العقود، والتصنيف والواجبات بموجب قانون الذكاء الاصطناعي، والدفاع عن الدعاوى أو رفعها في حال تسبب النظام في خسائر. إذا أصدر نظام ذكاء اصطناعي في مؤسستكم قرارًا يُطعن فيه حاليًا، فتواصلوا معنا لنتمكن من تقييم الوضع سريعًا.