سياسة الذكاء الاصطناعي في الشركات: كيفية إعداد مؤسستك لقانون الذكاء الاصطناعي للاتحاد الأوروبي
يتطور الذكاء الاصطناعي بوتيرة متسارعة، وأصبح جزءًا لا يتجزأ من العمليات التجارية اليومية. فمن أدوات الذكاء الاصطناعي التوليدية وبرامج الدردشة الآلية إلى الأنظمة المستخدمة في التوظيف وتحليل بيانات العملاء واتخاذ القرارات، تعتمد المزيد من المؤسسات على أنظمة الذكاء الاصطناعي، غالبًا دون فهم كامل للالتزامات القانونية والتنظيمية المترتبة عليها.
مع صدور قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي ، يتغير هذا الوضع جذرياً. يُتوقع من المؤسسات اتخاذ قرارات مدروسة بشأن استخدام الذكاء الاصطناعي وإدارة المخاطر المرتبطة به بفعالية. تشرح هذه المقالة كيفية وضع سياسة عملية وقابلة للتطبيق وقوية قانونياً بشأن الذكاء الاصطناعي، بحيث تكون مؤسستك مستعدة لقانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي، وتستمر في الامتثال للقواعد القائمة، مثل اللائحة العامة لحماية البيانات (GDPR).
ما هي سياسة الذكاء الاصطناعي ولماذا هي ضرورية؟
تُعدّ سياسة الذكاء الاصطناعي مجموعة من القواعد الداخلية التي تُحدد كيفية استخدام الذكاء الاصطناعي داخل المؤسسة، وسبب استخدامه، والشروط التي يُمكنه استخدامها بموجبها. وهي تُوفر إرشادات للموظفين، وتُساعد الإدارة على الحفاظ على الإشراف والتحكم مع تطور التكنولوجيا.
لم يعد الذكاء الاصطناعي مقتصراً على أقسام تكنولوجيا المعلومات أو شركات التكنولوجيا الكبرى. فالعديد من ميزاته مُدمجة في البرامج الحالية، مثل أنظمة إدارة علاقات العملاء، وأدوات الموارد البشرية، ومنصات التسويق. كما يُجري الموظفون تجارب متكررة على أدوات الذكاء الاصطناعي العامة بمبادرة شخصية. وبدون ضوابط واضحة، قد يؤدي ذلك إلى انتهاكات للخصوصية، وتمييز، وانعدام الشفافية، أو اتخاذ قرارات خاطئة.
يفرض قانون الذكاء الاصطناعي للاتحاد الأوروبي واللائحة العامة لحماية البيانات مسؤوليات واضحة على المؤسسات، تشمل التزامات تتعلق بإدارة المخاطر، واستخدام البيانات، والإشراف البشري، والشفافية. وتساعد سياسة الذكاء الاصطناعي المصممة جيدًا على ترجمة هذه المتطلبات إلى ممارسات يومية.
الإطار القانوني: قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي، واللائحة العامة لحماية البيانات، وقانون العمل
يتبع قانون الاتحاد الأوروبي للذكاء الاصطناعي نهجًا قائمًا على المخاطر. تُصنّف أنظمة الذكاء الاصطناعي إلى فئات مختلفة، تتراوح من الحد الأدنى من المخاطر إلى المخاطر غير المقبولة. أما بالنسبة لاستخدامات الذكاء الاصطناعي عالية المخاطر، مثل أنظمة التوظيف والاختيار، أو أنظمة تقييم الجدارة الائتمانية، أو غيرها من القرارات ذات التأثيرات الكبيرة على الأفراد، فتُطبّق متطلبات صارمة.
تشمل هذه المتطلبات، من بين أمور أخرى، إدارة المخاطر والتوثيق، وجودة البيانات ومصدرها، والشفافية فيما يتعلق بكيفية عمل النظام وحدوده، والإشراف البشري الفعال مع القدرة على التدخل. ويُحظر استخدام بعض ممارسات الذكاء الاصطناعي حظراً تاماً، بما في ذلك أشكال محددة من الذكاء الاصطناعي التلاعبي والتقييم الاجتماعي.
بالإضافة إلى ذلك، يظل نظام حماية البيانات العامة (GDPR) ساريًا بالكامل. وعندما تعالج أنظمة الذكاء الاصطناعي البيانات الشخصية، تكتسب مبادئ أساسية مثل تقليل البيانات، والشرعية، والأمان، والقيود المفروضة على اتخاذ القرارات الآلية أهمية خاصة. وقد تنطبق أيضًا قوانين العمل وقواعد حماية المستهلك، على سبيل المثال في تطبيقات الذكاء الاصطناعي المتعلقة بالموارد البشرية أو تطبيقات الذكاء الاصطناعي الموجهة للعملاء. وتربط سياسة الذكاء الاصطناعي هذه المتطلبات القانونية بالعمليات التجارية اليومية.
الغرض ونطاق سياسة الذكاء الاصطناعي القوية
إن سياسة الذكاء الاصطناعي الفعّالة ليست وثيقة نظرية، بل هي بمثابة بوصلة عملية لكل من يعمل في مجال الذكاء الاصطناعي. ينبغي أن توضح هذه السياسة سبب استخدام المؤسسة للذكاء الاصطناعي، وما تهدف إلى تحقيقه، والمخاطر المحتملة، وكيف يُتوقع من الموظفين استخدام أدوات الذكاء الاصطناعي بمسؤولية.
يُعدّ تحديد نطاق السياسة أمرًا بالغ الأهمية. ينبغي أن تُحدّد السياسة الإدارات التي تُطبّق عليها، مثل الموارد البشرية، والتسويق، وخدمة العملاء، والمالية، والعمليات، والبحث والتطوير. كما ينبغي أن تُوضّح أنواع الأنظمة التي تندرج تحتها، بما في ذلك برامج الذكاء الاصطناعي المُشتراة، والنماذج الداخلية، وأدوات الذكاء الاصطناعي التوليدية، وبرامج الدردشة الآلية، وأدوات التقييم، وأنظمة التوصية. وأخيرًا، ينبغي أن تُحدّد السياسة ما إذا كان يُسمح بالتجربة الفردية لأدوات الذكاء الاصطناعي العامة، وتحت أي شروط.
المكونات الرئيسية لسياسة الذكاء الاصطناعي
ينبغي أن تبدأ سياسة الذكاء الاصطناعي بتعريفات واضحة، تتماشى مع المفهوم العام للذكاء الاصطناعي بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي، ولكن مكتوبة بلغة يفهمها الموظفون. يجب أن يكون الموظفون قادرين على إدراك متى يستخدمون نظام ذكاء اصطناعي يندرج ضمن السياسة. وتساعد الأمثلة العملية حسب المجال، مثل الموارد البشرية، والتفاعل مع العملاء، والعمليات الداخلية، على توضيح ذلك.
ينبغي أن تُميّز السياسة بين استخدام الذكاء الاصطناعي المسموح به، والاستخدام المقيد بشروط، والاستخدام المحظور. يشمل الاستخدام المحظور ممارسات الذكاء الاصطناعي المصنفة على أنها مخاطر غير مقبولة بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي. في حالات الاستخدام ذات المخاطر المحدودة، قد تفرض السياسة شروطًا مثل التزامات الشفافية أو الموافقة المسبقة. يمكن ربط الاستخدام المسموح به بضمانات مثل تقييم المخاطر، وتقييم أثر حماية البيانات، وتدابير فنية وتنظيمية إضافية.
تُعدّ الحوكمة عنصرًا أساسيًا آخر. ينبغي أن تُحدّد السياسة بوضوح الجهة المسؤولة في نهاية المطاف عن الامتثال لقوانين الذكاء الاصطناعي، والجهة المخوّلة باختيار أو تطبيق تطبيقات الذكاء الاصطناعي الجديدة، والجهة المشرفة على الالتزام بالمتطلبات ومعالجة الحوادث. كما يُعدّ اختيار المورّدين وإدارة الموردين أمرًا بالغ الأهمية. ينبغي للمؤسسات تقييم قدرة المورّدين على تلبية متطلبات قانون الذكاء الاصطناعي للاتحاد الأوروبي، والتأكد من انعكاس هذه الالتزامات بشكلٍ صحيح في العقود.
البيانات، والخصوصية، والأمن، والشفافية
بما أن الذكاء الاصطناعي يعتمد على البيانات، ينبغي أن تحدد السياسة البيانات التي يُسمح بمعالجتها أو لا يُسمح بمعالجتها عبر أنظمة الذكاء الاصطناعي. كما ينبغي أن تتناول السياسة تقليل البيانات، وإخفاء هوية البيانات أو استخدام أسماء مستعارة عند الاقتضاء، وفترات الاحتفاظ بالبيانات، وفصل بيانات التدريب عن بيانات الإنتاج. بالنسبة للأنظمة عالية المخاطر، غالباً ما يكون التقييم المشترك ضرورياً، بحيث يأخذ في الاعتبار كلاً من قانون الذكاء الاصطناعي للاتحاد الأوروبي واللائحة العامة لحماية البيانات (GDPR).
يجب تأمين أنظمة الذكاء الاصطناعي والبيانات التي تعتمد عليها بشكل صحيح. ينبغي أن توضح السياسة كيفية تنظيم حقوق الوصول، وكيفية تسجيل الاستخدام ومراقبته، وكيفية التعامل مع الحوادث واختراقات البيانات.
ينص قانون الذكاء الاصطناعي في الاتحاد الأوروبي على ضرورة الشفافية عند تفاعل الأفراد مع أنظمة الذكاء الاصطناعي أو عند إنشاء محتوى بواسطة الذكاء الاصطناعي. ولذلك، قد تتطلب السياسة إبلاغ الموظفين والعملاء وأصحاب المصلحة الآخرين كلما تم استخدام الذكاء الاصطناعي، بما في ذلك خصائصه الرئيسية وقيوده.
الرقابة البشرية والتحيز وجودة القرار
بالنسبة لأنظمة الذكاء الاصطناعي ذات التأثير الكبير على الأفراد، يُعدّ الإشراف البشري ضروريًا. ينبغي أن تُحدد السياسة متى يكون الإشراف البشري أو اتخاذ القرار البشري إلزاميًا، وكيف يُطبّق هذا الإشراف عمليًا. كما يُنصح بإجراء اختبارات دورية لأنظمة الذكاء الاصطناعي للكشف عن التحيز ومعدلات الخطأ والآثار الجانبية غير المقصودة، لا سيما في مجالات مثل الموارد البشرية واستقبال العملاء الجدد.
التدريب ومعرفة الذكاء الاصطناعي
يشترط قانون الذكاء الاصطناعي في الاتحاد الأوروبي على المؤسسات تعزيز الوعي بالذكاء الاصطناعي. لذا، ينبغي أن تتضمن سياسة الذكاء الاصطناعي إطارًا تدريبيًا بمستوى أساسي لجميع الموظفين، وتدريبًا متقدمًا لأدوار محددة كالموارد البشرية، وتقنية المعلومات، وفرق البيانات، والإدارة. ومن الضروري إجراء تحديثات دورية لمواكبة التطورات التكنولوجية والقانونية.
من الجرد الأولي إلى سياسة الذكاء الاصطناعي الناضجة
تُطوَّر سياسة الذكاء الاصطناعي الفعّالة عادةً على مراحل. أولًا، تُحدِّد المؤسسة تطبيقات الذكاء الاصطناعي المُستخدمة، بما في ذلك ميزات الذكاء الاصطناعي المُدمجة في البرامج والأدوات الحالية التي يستخدمها الموظفون. ثانيًا، تُصنَّف هذه التطبيقات حسب مستوى المخاطر. يلي ذلك تقييم للمخاطر القانونية والتنظيمية، وبعدها تُصاغ سياسة الذكاء الاصطناعي وتُواءم مع أُطر الخصوصية وأمن المعلومات والموارد البشرية القائمة. ثم تُطبَّق السياسة في العمليات والعقود والأنظمة. وأخيرًا، يضمن التدريب والتواصل والمتابعة والتحديثات الدورية استمرار فعالية السياسة على المدى الطويل.
خاتمة
ينص قانون الذكاء الاصطناعي للاتحاد الأوروبي بوضوح على أن التجارب العشوائية أو غير المنظمة في مجال الذكاء الاصطناعي لم تعد مجدية. فالمؤسسات التي تستثمر مبكراً في سياسة ذكاء اصطناعي مصممة جيداً تقلل من المخاطر القانونية وتبني الثقة مع الموظفين والعملاء والجهات التنظيمية.
هل ترغب بمعرفة ما إذا كانت مؤسستك جاهزة لقانون الذكاء الاصطناعي للاتحاد الأوروبي، أو هل تحتاج إلى دعم في صياغة أو تطبيق سياسة الذكاء الاصطناعي؟ تواصل معنا Law & More. نحن سعداء للمساعدة.
الأسئلة الشائعة
هل تُعدّ سياسة الذكاء الاصطناعي إلزامية بموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي؟
لا يشترط قانون الذكاء الاصطناعي للاتحاد الأوروبي صراحةً على المؤسسات امتلاك وثيقة بعنوان "سياسة الذكاء الاصطناعي". إلا أنه عملياً، تُعدّ سياسة الذكاء الاصطناعي ضرورية لإثبات الامتثال للالتزامات التي يفرضها قانون الذكاء الاصطناعي واللائحة العامة لحماية البيانات، مثل إدارة المخاطر، والإشراف البشري، والشفافية، والتوعية بالذكاء الاصطناعي.
ما هي المنظمات الخاضعة لقانون الذكاء الاصطناعي للاتحاد الأوروبي؟
ينطبق قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي على جميع المؤسسات تقريبًا التي تُطوّر أو تطرح أو تستخدم أنظمة الذكاء الاصطناعي داخل الاتحاد الأوروبي. ولا يقتصر ذلك على شركات التكنولوجيا فحسب، بل يشمل أيضًا أصحاب العمل ومقدمي الخدمات والمؤسسات التي تستخدم الذكاء الاصطناعي في الموارد البشرية والتسويق والتفاعل مع العملاء والتمويل وعمليات صنع القرار.
هل ينطبق قانون الذكاء الاصطناعي للاتحاد الأوروبي إذا استخدمنا فقط برامج قياسية جاهزة للاستخدام؟
نعم. حتى في حال دمج وظائف الذكاء الاصطناعي في برامج خارجية، تظل المؤسسة المستخدمة للنظام مسؤولة عن استخدامه. ولا يُعفي الاعتماد على مزود الخدمة المستخدم من التزاماته بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي واللائحة العامة لحماية البيانات.
ما الفرق بين أنظمة الذكاء الاصطناعي منخفضة المخاطر، ومحدودة المخاطر، وعالية المخاطر؟
يصنف قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي أنظمة الذكاء الاصطناعي بناءً على مستوى المخاطر التي تشكلها على الحقوق والمصالح الأساسية للأفراد. وتشمل أنظمة الذكاء الاصطناعي عالية المخاطر الأنظمة المستخدمة في التوظيف والاختيار، وتقييم الموظفين، وتقييم الجدارة الائتمانية، أو الوصول إلى الخدمات الأساسية. وتخضع هذه الأنظمة لمتطلبات أكثر صرامة.
هل يجب تقييم جميع تطبيقات الذكاء الاصطناعي مسبقاً؟
عملياً، نعم. ينبغي على المؤسسات حصر تطبيقات الذكاء الاصطناعي وتقييمها قبل نشرها وتصنيفها وفقاً لمستوى المخاطر. بالنسبة لتطبيقات الذكاء الاصطناعي عالية المخاطر، يلزم إجراء تقييم شامل، غالباً ما يُدمج مع تقييم أثر حماية البيانات بموجب اللائحة العامة لحماية البيانات (GDPR).
كيف ترتبط سياسة الذكاء الاصطناعي باللائحة العامة لحماية البيانات (GDPR)؟
يكمل قانون الذكاء الاصطناعي للاتحاد الأوروبي واللائحة العامة لحماية البيانات (GDPR) بعضهما بعضًا. فبينما يركز قانون الذكاء الاصطناعي على الحوكمة وإدارة المخاطر وتشغيل أنظمة الذكاء الاصطناعي، تنظم اللائحة العامة لحماية البيانات معالجة البيانات الشخصية. وتضمن سياسة الذكاء الاصطناعي الفعالة دمج كلا الإطارين والامتثال المتسق لهما.
هل يُشترط دائمًا إجراء تقييم لأثر حماية البيانات عند استخدام الذكاء الاصطناعي؟
ليس دائمًا، ولكن في كثير من الأحيان. إذا كان نظام الذكاء الاصطناعي يعالج بيانات شخصية ومن المحتمل أن يُعرّض الأفراد لمخاطر عالية، فإن إجراء تقييم أثر حماية البيانات (DPIA) إلزامي بموجب اللائحة العامة لحماية البيانات (GDPR). وفي حالة أنظمة الذكاء الاصطناعي عالية المخاطر بموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي، غالبًا ما يكون إجراء تقييم أثر حماية البيانات أمرًا لا مفر منه عمليًا.
هل يمكن لأنظمة الذكاء الاصطناعي اتخاذ قرارات مستقلة بشأن الموظفين أو العملاء؟
يخضع ذلك لشروط صارمة فقط. يقيد النظام الأوروبي العام لحماية البيانات (GDPR) اتخاذ القرارات الآلية بالكامل، ويشترط قانون الذكاء الاصطناعي للاتحاد الأوروبي إشرافًا بشريًا فعالًا على أنظمة الذكاء الاصطناعي عالية المخاطر. في كثير من الحالات، يجب أن يكون بإمكان الإنسان التدخل أو مراجعة أو إلغاء القرارات التي يقودها الذكاء الاصطناعي.
هل يمكن لسياسة الذكاء الاصطناعي أن تقيد استخدام الموظفين لأدوات الذكاء الاصطناعي العامة؟
نعم. من أهم أهداف سياسة الذكاء الاصطناعي تحديد ما إذا كان يُسمح للموظفين باستخدام أدوات الذكاء الاصطناعي العامة، وتحت أي شروط. ويشمل ذلك عادةً قواعد إدخال المعلومات السرية، والبيانات الشخصية، أو معلومات العمل الحساسة.
من المسؤول عن الامتثال لسياسة الذكاء الاصطناعي؟
ينبغي أن تحدد سياسة الذكاء الاصطناعي بوضوح مسؤولية الامتثال لمعاييره. تقع المسؤولية النهائية عادةً على عاتق الإدارة العليا أو مجلس الإدارة، مع أدوار مهمة للشؤون القانونية، والامتثال، وتقنية المعلومات، والموارد البشرية. وبدون حوكمة واضحة، يصبح الإشراف الفعال أمراً غير مرجح.
ما هي المخاطر التي قد تنجم عن عدم وجود سياسة خاصة بالذكاء الاصطناعي في أي مؤسسة؟
يؤدي غياب سياسة للذكاء الاصطناعي إلى زيادة مخاطر عدم الامتثال لقانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي ولائحة حماية البيانات العامة (GDPR). وقد ينتج عن ذلك غرامات باهظة، وإجراءات إنفاذ، وتشويه للسمعة، ومسؤولية مدنية محتملة. كما أنه يزيد من صعوبة إثبات حوكمة مسؤولة للذكاء الاصطناعي أمام الجهات التنظيمية.
كم مرة ينبغي مراجعة سياسة الذكاء الاصطناعي؟
لا ينبغي التعامل مع سياسة الذكاء الاصطناعي كوثيقة ثابتة. فالمراجعات الدورية ضرورية، لا سيما عند إدخال أنظمة ذكاء اصطناعي جديدة، أو تغيير التشريعات أو التوجيهات التنظيمية، أو وقوع حوادث. وغالبًا ما تُعتبر المراجعة السنوية الحد الأدنى.
هل يُشترط إلمام جميع الموظفين بالذكاء الاصطناعي؟
ينص قانون الذكاء الاصطناعي للاتحاد الأوروبي على إلزام المؤسسات باتخاذ تدابير لتعزيز الوعي بالذكاء الاصطناعي. لا يعني هذا أن يصبح كل موظف خبيرًا تقنيًا، ولكن ينبغي أن يفهم ماهية الذكاء الاصطناعي، وكيفية استخدامه داخل المؤسسة، والمخاطر التي ينطوي عليها.
متى يُنصح بطلب المشورة القانونية؟
يُنصح بشدة باستشارة محامٍ عند استخدام أنظمة الذكاء الاصطناعي عالية المخاطر، أو عند وجود شكوك حول مشروعية تطبيقات معينة، أو عند ظهور تساؤلات تتعلق بالإنفاذ أو التدقيق أو المسؤولية. فالمراجعة القانونية المبكرة تُجنّب اتخاذ إجراءات تصحيحية مكلفة لاحقاً.
