من نحنالخدماتأعمالناالمقالات
← العودة للخدمات

هندسة الامتثال لقانون الذكاء الاصطناعي الأوروبي: التوثيق التقني والتسجيل والإشراف وحوكمة البيانات

معظم ما كُتب عن قانون الذكاء الاصطناعي الأوروبي يدور حول نطاق السريان: في أي فئة مخاطر تقع، وهل أنت مزوّد أم ناشر، وهل يشملك الملحق III. هذا يجيب عنه مستشاروك القانونيون.

أما ما لا يكاد أحد يتناوله فهو ما يأتي بعد الجواب. فإذا كان نظامك عالي المخاطر، تطلب اللائحة نظام إدارة مخاطر يمتد على دورة الحياة كاملة، وحوكمة بيانات قابلة للإثبات، وتسجيلاً آلياً بمدة احتفاظ محددة، وتوثيقاً تقنياً ببنية مفروضة، وإشرافاً بشرياً مصمَّماً لا مُدّعى، ومراقبة بعد الطرح تجمع شيئاً فعلياً. هذه كلها مخرجات هندسية. وهي الجزء الذي نبنيه نحن.

أين تقف المواعيد الآن

دخل قانون الذكاء الاصطناعي (اللائحة (EU) 2024/1689) حيّز النفاذ في أغسطس 2024 ويُطبَّق على مراحل. وقد تغيّر جدول المراحل في 2026، والدقة هنا مهمة لأن التغيير حرّك مالاً وانتباهاً.

  • 2 فبراير 2025: طُبِّقت الممارسات المحظورة والتزامات الإلمام بالذكاء الاصطناعي.
  • 2 أغسطس 2025: طُبِّقت الالتزامات الخاصة بنماذج الذكاء الاصطناعي للأغراض العامة.
  • 2 أغسطس 2026: طُبِّقت التزامات الشفافية بموجب المادة 50: الإفصاح عن أن المستخدم يتعامل مع نظام ذكاء اصطناعي، ووسم المحتوى التركيبي، والإفصاح عن التعرف على المشاعر والتصنيف البيومتري، ووسم التزييف العميق.
  • 2 ديسمبر 2027: التزامات الأنظمة عالية المخاطر القائمة بذاتها، بعد حزمة Digital Omnibus. اتفق المجلس والبرلمان على التأجيل في مايو 2026 وحصل على الاعتماد النهائي في يونيو 2026.
  • 2 أغسطس 2028: التزامات الأنظمة عالية المخاطر المدمجة في منتجات خاضعة للتنظيم.

إن كنت مزوّداً لنظام عالي المخاطر، فقد منحك التأجيل نحو ستة عشر شهراً. لكنه لم يقلّل العمل، ولم يحرّك الالتزامين الساريين أصلاً: الشفافية بموجب المادة 50، والإلمام بالذكاء الاصطناعي للموظفين الذين يشغّلون هذه الأنظمة.

ما الذي نبنيه

التوثيق التقني بوصفه مخرَجاً مولَّداً

يحدد الملحق IV ما يجب أن يتضمنه التوثيق التقني: وصف النظام، والخيارات التصميمية، والبنية، ومتطلبات البيانات، ومنهجية التدريب حيث تنطبق، وإجراءات التحقق والاختبار، والمقاييس، وتدابير إدارة المخاطر، والتغييرات التي طرأت على مدى دورة الحياة.

هذا المستند إذا كُتب يدوياً صار قديماً في الأسبوع التالي لتوقيعه. نحن نبنيه شيئاً ينتجه خط التسليم لديك: بطاقات نماذج وأوراق بيانات مولَّدة من عمليات التدريب والتقييم، وأوصاف للبنية وتدفق البيانات تُصان جنباً إلى جنب مع الكود، ونتائج تقييم مرتبطة بالإصدار الذي تصفه، وتاريخ تغييرات يأتي من نظام إدارة الإصدارات لا من ذاكرة أحدهم. فيصبح المستند مخرَج بناء.

التسجيل الآلي الذي يستوفي المادة 12

على الأنظمة عالية المخاطر أن تسجّل آلياً طوال عمرها، بمستوى يسمح بتتبّع أدائها وبالمراقبة بعد الطرح: بمدة احتفاظ تناسب الغرض، وفي بعض الحالات ستة أشهر على الأقل.

عملياً يعني ذلك تحديد ما هو «الحدث» في نظامك، والتقاط المدخلات والمخرجات وإصدار النموذج ومسار القرار وهوية الإنسان المعني، وتخزين ذلك بصيغة قابلة للاستعلام بعد سنوات، وفعل كل ذلك دون تكديس بيانات شخصية لا سند لديك للاحتفاظ بها. هذا التوتر (أن تسجّل بما يكفي لقانون الذكاء الاصطناعي وتحتفظ بما يقلّ بما يكفي للائحة حماية البيانات العامة) هو مشكلة التصميم الحقيقية، ونعالجها صراحةً مع المسؤولين عن حماية البيانات لديك.

حوكمة البيانات بموجب المادة 10

يجب أن تكون مجموعات بيانات التدريب والتحقق والاختبار ذات صلة، وممثِّلة بدرجة كافية، وخالية من الأخطاء وكاملة بقدر الإمكان، مع فحصها بحثاً عن التحيّز. وتحقيق ذلك يعني نسب بيانات يمكن إظهاره، ومصدراً موثقاً، ومنهجية لتقييم التحيّز مع نتائجها، والقدرة على إعادة إنتاج أي البيانات أنتجت أي إصدار من النموذج.

نبني خط الأنابيب الذي يجعل تلك التصريحات قابلة للفحص لا مجرد طموحات: مجموعات بيانات مُصدَّرة بإصدارات، وتقسيمات قابلة لإعادة الإنتاج، وفحوص جودة بيانات آلية، وتقييم للتحيّز على الخصائص المحمية ذات الصلة بحالة استخدامك.

الإشراف البشري مبنياً لا معلَناً

تشترط المادة 14 أن تُصمَّم الأنظمة عالية المخاطر بحيث يستطيع الإنسان فهم المخرَج، ويبقى واعياً بانحياز الأتمتة، ويفسّر النتيجة تفسيراً صحيحاً، ويقرر عدم استخدامها، ويتدخل أو يوقف النظام.

هذه مواصفة واجهة مستخدم. نحن نبني الإشراف داخل المنتج: إظهار الثقة وعدم اليقين بصدق، وإبراز العوامل الكامنة خلف المخرَج، وتجاوز يدوي سهل الاستخدام بقدر سهولة القبول، وزر إيقاف يعمل، وتسجيل لكل تجاوز حتى يكون لدى المراقبة بعد الطرح ما تتعلمه.

المراقبة بعد الطرح والإبلاغ عن الحوادث

خطة المراقبة مطلوبة، وكذلك الإبلاغ عن الحوادث الخطيرة إلى السلطة المختصة. نبني القياس عن بُعد الذي يغذّيها: تتبّع الأداء مقابل المقاييس الواردة في توثيقك، وكشف الانحراف في المدخلات والمخرجات، وقناة لمشكلات المستخدمين تصل إلى الهندسة، ومسار حوادث بمواعيده الملزمة مضمَّنة فيه بدل اكتشافها أثناء حادثة.

التزامات الشفافية بموجب المادة 50

سارية بالفعل. الإفصاح عن أن المستخدم يتعامل مع نظام ذكاء اصطناعي، والوسم القابل للقراءة آلياً للصوت والصورة والفيديو والنص التركيبي، ووسم التزييف العميق، والإفصاح عند التعرف على المشاعر. ننفّذ أسطح الإفصاح ووسم مصدر المحتوى (بيانات اعتماد المحتوى وفق C2PA حيث تكون هي الآلية المناسبة) ونجعلها تصمد أمام مسارات التصدير وإعادة الترميز التي تزيلها عادةً.

دعم التسجيل وتقييم المطابقة

يجب تسجيل الأنظمة عالية المخاطر في مجالات الملحق III لدى قاعدة بيانات الاتحاد الأوروبي قبل طرحها في السوق، وعلى المزوّدين إجراء تقييم مطابقة. نُعدّ المدخلات التقنية (التوثيق، وحزمة الأدلة، ومخرجات نظام إدارة الجودة على الجانب الهندسي) ونعمل إلى جانب الجهة المُخطَرة أو عملية التقييم الداخلية لديك.

ما الذي لا نقدّمه

لا نقدّم استشارات قانونية، ولا نحدد لك في أي فئة مخاطر يقع نظامك. هذا تحديد قانوني له عواقب حقيقية، ويعود إلى المستشار القانوني أو إلى مختص امتثال مؤهل.

كما أننا لا نبيع منصة لحوكمة الذكاء الاصطناعي. هذا مجال واسع، وإن كانت حاجتك سجلاً لأنظمة الذكاء الاصطناعي ومساراً للسياسات، فإحدى تلك المنصات ستخدمك أفضل منا. ما نقوم به هو الهندسة داخل الأنظمة نفسها.

لمن هذه الخدمة

مزوّدو أنظمة الذكاء الاصطناعي عالية المخاطر بموجب الملحق III (التوظيف وإدارة العاملين، والتقييم الائتماني، وتسعير التأمين، والتقييم التعليمي، والأهلية للخدمات الأساسية، والأنظمة البيومترية) ولديهم الآن مهلة حتى ديسمبر 2027 وعمل كثير.

المصنّعون الذين يدمجون الذكاء الاصطناعي في منتجات خاضعة للتنظيم (الأجهزة الطبية والآلات والمركبات)، حيث يجلس قانون الذكاء الاصطناعي فوق نظام مطابقة قائم، وعلى مجموعتَي التوثيق أن تتفقا.

الشركات التي تنشر أنظمة عالية المخاطر اشترتها من غيرها، ولها التزاماتها الخاصة: الإشراف البشري، وملاءمة بيانات المدخلات، والمراقبة، والاحتفاظ بالسجلات.

كل من يطرح ميزات توليدية لمستخدمين في الاتحاد الأوروبي، حيث تنطبق شفافية المادة 50 اليوم بغض النظر عن فئة المخاطر.

كيف تسير التعاقدات

تقييم الفجوات التقنية، أسبوعان إلى أربعة. نأخذ التصنيف الذي وصل إليه فريقك القانوني ونقيس أنظمتك عليه من زاوية الالتزامات الهندسية المترتبة. والمخرَج سجل فجوات (الالتزام، والحالة الراهنة، وما يجب بناؤه، والجهد اللازم) يستطيع مسؤولو الامتثال والهندسة العمل منه معاً.

البناء، على مراحل، يبدأ عادةً بالتسجيل وتوليد التوثيق، لأن كل ما عداهما ينتج أدلة يجب أن تستقر في مكان ما.

مراجعة الجاهزية قبل تقييم المطابقة، مع تجميع حزمة الأدلة وتسمية الفجوات المتبقية بصراحة.

المعايير والأطر

اللائحة (EU) 2024/1689 وملحقاها III وIV؛ والمعايير المنسّقة الناشئة عن CEN/CENELEC JTC 21؛ وISO/IEC 42001 لأنظمة إدارة الذكاء الاصطناعي وISO/IEC 23894 لإدارة مخاطر الذكاء الاصطناعي؛ وإطار NIST لإدارة مخاطر الذكاء الاصطناعي حيث تحتاج شركة أم أمريكية إلى المواءمة؛ واللائحة العامة لحماية البيانات، التي لا تزول والتي تقيّد معظم قرارات التسجيل.

الأسئلة الشائعة

هل تأجّل قانون الذكاء الاصطناعي الأوروبي؟

جزئياً. أجّلت حزمة Digital Omnibus التزامات الأنظمة عالية المخاطر إلى 2 ديسمبر 2027 للأنظمة القائمة بذاتها وإلى 2 أغسطس 2028 للذكاء الاصطناعي المدمج في منتجات خاضعة للتنظيم. أما الممارسات المحظورة والإلمام بالذكاء الاصطناعي والتزامات نماذج الأغراض العامة وقواعد الشفافية في المادة 50 فلم تُؤجَّل وهي سارية الآن.

نحن نستخدم أنظمة ذكاء اصطناعي بناها غيرنا فقط. هل علينا التزامات؟

نعم، بصفتكم ناشرين. وتشمل تشغيل النظام وفق تعليماته، وإسناد الإشراف البشري إلى أشخاص يملكون الكفاءة والصلاحية لممارسته، والتأكد من ملاءمة بيانات المدخلات للغرض المقصود، ومراقبة التشغيل، والاحتفاظ بالسجلات. أخف من التزامات المزوّد، لكنها حقيقية، ولاحظوا أن تعديل النظام تعديلاً جوهرياً أو وضع اسمكم عليه قد يجعلكم مزوّدين.

نظامنا ليس عالي المخاطر. هل هناك ما يجب فعله؟

على الأرجح أمران. شفافية المادة 50 تنطبق على أنظمة معينة بغض النظر عن فئة المخاطر، ومنها روبوتات المحادثة وتوليد المحتوى التركيبي. والإلمام بالذكاء الاصطناعي بموجب المادة 4 ينطبق على المزوّدين والناشرين عموماً. وما عدا ذلك، فالقدرة على إثبات قرار التصنيف تستحق الاحتفاظ بها إن سأل منظِّم يوماً.

هل يمكن فعلاً توليد التوثيق التقني؟

معظمه، نعم. البنية، وأوصاف مجموعات البيانات، ونتائج التقييم، والمقاييس، وإصدارات النموذج، وتاريخ التغييرات: كلها موجودة في أنظمتكم أصلاً؛ والعمل هو التقاطها في بنية ثابتة وقت البناء. أما الأقسام السردية بحق (الغرض المقصود، وتحليل المخاطر، ومسوّغات التصميم) فيكتبها بشر، ثم تُحفظ في المستودع نفسه لتتغيّر إصداراتها مع كل شيء آخر.

كيف يتفاعل قانون الذكاء الاصطناعي مع اللائحة العامة لحماية البيانات؟

يتداخلان ويتجاذبان أحياناً في اتجاهين متعاكسين، خصوصاً في التسجيل. قانون الذكاء الاصطناعي يريد التتبّعية، ولائحة حماية البيانات تريد التقليل والحذف. والحل عادةً هو إخفاء الهوية الجزئي، وتحديد دقيق لما يُسجَّل، ومدة احتفاظ مرتبطة بغرض موثّق. إنه قرار تصميم، يُتخذ مرة واحدة، عن قصد.

هل يجعلنا استخدام نموذج طرف ثالث مزوّدين لذلك النموذج؟

لا، لكن بناء نظام ذكاء اصطناعي فوقه قد يجعلكم مزوّدين لذلك النظام، بما يترتب عليه من التزامات. وأين يقع الخط بالضبط يتوقف على ما تبنونه وكيف تقدّمونه، وهذه مسألة قانونية، لكن الأثر الهندسي أنه ينبغي أن تفترضوا حاجتكم إلى توثيق خاص بنظامكم في كل الأحوال.

ابدأ الآن

أخبرنا ماذا تفعل أنظمتك وأين استقر مستشاروك القانونيون في مسألة التصنيف. سنقيّم ما تعنيه الالتزامات في الكود ونعطيك سجل فجوات بجهد محدد أمام كل بند.

تواصل معنا لحجز تقييم الفجوات التقنية لقانون الذكاء الاصطناعي.

خدمات ذات صلة

مستعد للبدء بهذه الخدمة؟

تواصل معنا
← العودة لجميع الخدمات