الأنظمة عالية الخطورة بموجب قانون الذكاء الاصطناعي الأوروبي: الالتزامات والامتثال

يقع الجزء الأكبر من عبء الامتثال في قانون الذكاء الاصطناعي الأوروبي على فئة واحدة: أنظمة الذكاء الاصطناعي عالية الخطورة. فهذه هي الأنظمة التي قد تؤثّر بشكل ملموس في صحة الناس أو سلامتهم أو حقوقهم الأساسية — وتتعامل اللائحة معها وفقًا لذلك. وإذا كانت مؤسستك تطوّر أو تنشر ذكاءً اصطناعيًا في مجالات حساسة، فهذا هو الجزء من اللائحة (الاتحاد الأوروبي) 2024/1689 الذي لا يمكنك تحمّل إساءة قراءته.

هذه المقالة هي الجزء الثاني من سلسلتنا حول قانون الذكاء الاصطناعي. وإن كنت بحاجة إلى الصورة الكبرى أولًا، فابدأ بـقانون الذكاء الاصطناعي الأوروبي: إطار قائم على المخاطر. نركّز هنا على ما يُعدّ عالي الخطورة، وما يتعيّن على المزوّدين والمستخدمين فعله، وكيفية التعامل مع الامتثال من دون تعطيل الابتكار.

متى يُعدّ نظام الذكاء الاصطناعي عالي الخطورة؟

يحدّد القانون الاستخدامات عالية الخطورة بطريقتين عريضتين. أولًا، يُعدّ عالي الخطورة الذكاءُ الاصطناعي الذي يعمل مكوّنًا للسلامة في منتج مشمول بالفعل بتشريعات المواءمة الأوروبية ويتطلّب تقييم مطابقة من طرف ثالث. ثانيًا، تُعدّ عالية الخطورة قائمةٌ محدّدة من حالات الاستخدام (الملحق الثالث) بسبب تأثيرها المحتمل في الحقوق الأساسية. وتشمل هذه القائمة:

• البنية التحتية الحيوية — مكوّنات سلامة الذكاء الاصطناعي في النقل والمياه والغاز والتدفئة والكهرباء والبنية التحتية الرقمية.
• التعليم والتدريب المهني — الأنظمة التي تحدّد الوصول إلى التعليم، أو تصحّح الامتحانات، أو ترصد السلوك أثناء الاختبارات.
• التوظيف — أدوات فرز السير الذاتية والتوظيف، والأنظمة التي تؤثّر في الترقيات أو الفصل أو توزيع المهام أو مراقبة الأداء.
• الخدمات الخاصة والعامة الأساسية — التقييم الائتماني، وتقييم مخاطر التأمين، وأهلية الإعانات، وترتيب أولويات الاستجابة للطوارئ.
• القياسات الحيوية (البيومترية) — التعرّف عن بُعد، والتصنيف البيومتري وفق سمات حساسة، والتعرّف على المشاعر (خارج السياقات المحظورة).
• إنفاذ القانون — تقييم مخاطر الجريمة، أو تقييم موثوقية الأدلة، أو تنميط الأفراد.
• الهجرة واللجوء ومراقبة الحدود — تقييمات المخاطر والفحص الآلي لطلبات التأشيرات.
• إقامة العدل والعمليات الديمقراطية — دعم القرارات القضائية أو الأنظمة التي قد تؤثّر في الانتخابات.

إذا كان النظام يندرج تحت أحد هذه الأوصاف، فإن التزامات الخطر المرتفع تنطبق عليه.

الالتزامات الأساسية على المزوّدين

قبل طرح نظام عالي الخطورة في السوق، على مزوّده أن يبني مجموعة من الضمانات. ويتطلّب القانون:

• إدارة المخاطر — نظام كافٍ لتقييم المخاطر والحدّ منها عبر دورة الحياة.
• جودة البيانات — مجموعات بيانات عالية الجودة للتدريب والتحقّق والاختبار لتقليل خطر النتائج التمييزية.
• تسجيل الأحداث — تسجيل تلقائي للأحداث لضمان إمكان تتبّع النتائج.
• التوثيق التقني — معلومات مفصّلة لتمكين السلطات من تقييم الامتثال.
• الشفافية تجاه المستخدمين — تعليمات واضحة كي يفهم مشغّلو النظام طبيعته.
• الإشراف البشري — تدابير فعّالة تتيح للأشخاص التدخّل أو تجاوز القرار.
• المتانة والدقة والأمن السيبراني — مستوى عالٍ من المرونة التقنية.

هذه ليست عمليات شكلية. فهي معًا تشكّل ملف مطابقة يجب أن يصمد أمام تدقيق هيئات مراقبة السوق.

الإشراف البشري: أكثر من زرّ إيقاف

يُعدّ الإشراف البشري من أكثر المتطلبات تعرّضًا لسوء الفهم. فهو لا يعني مجرّد قدرة شخص على إيقاف النظام. بل يعني تصميم النظام بحيث يستطيع الإنسان أن يفهم مخرجاته فعلًا، وأن يدرك حين يسير شيء على نحو خاطئ، وأن يقرّر عدم التصرّف بناءً على توصية ما. وبالنسبة إلى أداة توظيف، قد يعني ذلك وجود أخصائي توظيف يرى سبب ترتيب مرشّح بطريقة معيّنة، ويملك الصلاحية — والتدريب — لتجاهل ذلك.

ماذا يجب على المستخدمين فعله؟

لا ينظّم القانون المزوّدين فقط. فـالمستخدمون (deployers) — المؤسسات التي تضع نظامًا عالي الخطورة قيد الاستعمال — يتحمّلون التزامات أيضًا. عليهم ضمان الإشراف البشري عمليًا، ومتابعة التشغيل، واستخدام النظام وفق تعليمات المزوّد. كما يجب على الجهات التي تقدّم خدمات عامة إجراء تقييم لأثر الحقوق الأساسية قبل نشر أنظمة معيّنة عالية الخطورة. ويجب تسجيل الأنظمة عالية الخطورة والجهات المستخدِمة لها في قاعدة بيانات أوروبية.

بعد النشر: دورة حياة الامتثال

لا ينتهي الامتثال عند الإطلاق. فبعد تشغيل النظام:

• يدير المزوّدون نظام مراقبة لاحقًا للطرح لرصد المشكلات التي تظهر في العالم الواقعي.
• يُبقي المستخدمون الإنسان ضمن الحلقة ويراقبون الأداء.
• تشرف هيئات مراقبة السوق على السوق ويمكنها طلب إجراءات تصحيحية.
• على كلٍّ من المزوّدين والمستخدمين الإبلاغ عن الحوادث الخطيرة والأعطال.

وهذه الحلقة المستمرة هي ما يحوّل تقييم مطابقة لمرّة واحدة إلى ثقة دائمة.

تيسير للاعبين الأصغر

يدرك المنظّمون أن هذه الالتزامات مرهِقة. لذلك يضمّن القانون مبدأ التناسب لصالح الشركات الصغيرة والمتوسطة والشركات الناشئة، بما في ذلك مسارات امتثال مبسّطة، ورسوم مخفّضة، وغرامات إدارية متناسبة مع حجم الشركة. كما يشجّع بيئات الاختبار التنظيمية للذكاء الاصطناعي (sandboxes) — بيئات محكومة يمكن فيها تطوير الأنظمة المبتكرة عالية الخطورة واختبارها والتحقّق منها، أحيانًا في ظروف واقعية وبتوجيه من السلطات. والدول الأعضاء ملزَمة بإنشاء بيئات الاختبار هذه، ما يمنح المبتكرين الأصغر طريقًا أكثر أمانًا إلى السوق.

مسار عملي نحو الجاهزية

بالنسبة إلى المؤسسات التي تواجه التزامات الخطر المرتفع، يساعد اتّباع نهج منظَّم:

1. صنّف بدقّة. تأكّد مما إذا كان نظامك عالي الخطورة فعلًا — فالتمييز بين مجالات الملحق الثالث وحالات الاستخدام المحدّدة مهم.
2. أرسِ الحوكمة. تعيّن شركات كثيرة مسؤول ذكاء اصطناعي داخليًا أو مجلس إشراف لتنسيق الامتثال.
3. وثّق أثناء البناء. إدارة المخاطر وحوكمة البيانات وتسجيل الأحداث أرخص بكثير حين تُصمَّم من البداية بدلًا من إضافتها لاحقًا.
4. خطّط للإشراف والحوادث. حدّد مَن يتدخّل وكيف، وكيف يُبلَّغ عن الحوادث الخطيرة.

الخطر المرتفع لا يعني "ممنوع"؛ بل يعني "خاضع للمساءلة". والمؤسسات التي تتعامل مع هذه الالتزامات بوصفها انضباطًا تصميميًا — لا عبئًا ورقيًا — ستطرح ذكاءً اصطناعيًا يثق به العملاء والمنظّمون.

تابع مع الجزء الثالث، الذكاء الاصطناعي العام الغرض والحوكمة، أو تحدّث إلى فريقنا بشأن خريطة طريق الامتثال الخاصة بك.