يحدد هذا البروتوكول الإجراءات المتّبعة عند وقوع حادثة تتعلق بأنظمة الذكاء الاصطناعي — سواء كانت خللًا تقنيًا، أو مخرجات ضارة، أو اختراقًا أمنيًا، أو خرقًا للبيانات، أو انتهاكًا أخلاقيًا. يهدف البروتوكول إلى الاحتواء السريع والمعالجة الفعّالة والتعلّم المنهجي. يسري على جميع أنظمة الذكاء الاصطناعي عبر منظومة منظار القابضة.
تُصنّف الحوادث وفق أربعة مستويات: الخطورة 1 (حرجة) — ضرر فعلي أو محتمل للأفراد، خرق بيانات واسع النطاق، مخالفة تنظيمية جسيمة، مخرجات تسبب ضررًا عامًا؛ الخطورة 2 (مرتفعة) — قرارات تمييزية تؤثر على مجموعة أفراد، فشل نظام يؤثر على العمليات التجارية الحرجة؛ الخطورة 3 (متوسطة) — أداء متدنٍ يؤثر على جودة الخدمة، مخرجات غير دقيقة تتطلب تصحيح؛ الخطورة 4 (منخفضة) — أخطاء طفيفة لا تؤثر على القرارات أو الأفراد.
عند وقوع حادثة حرجة: الاحتواء الفوري — إيقاف النظام المتسبب خلال 30 دقيقة من الكشف؛ الإخطار — إبلاغ الرئيس التنفيذي والمسؤول الأول للذكاء الاصطناعي والمستشار القانوني فورًا؛ التقييم — فريق استجابة مُعيّن مسبقًا يبدأ التقييم خلال ساعة؛ التنظيمي — إخطار سدايا خلال 72 ساعة عند وجود خرق بيانات شخصية؛ التواصل — بيان للمتأثرين خلال 24 ساعة؛ المعالجة — خطة معالجة مُعتمدة قبل إعادة تشغيل النظام.
الخطورة 2: إخطار لجنة الأخلاقيات والمسؤول الأول خلال 4 ساعات؛ تقييم ومعالجة خلال 48 ساعة؛ النظر في تعليق مؤقت للنظام حتى المعالجة. الخطورة 3: إخطار المسؤول الأول خلال 24 ساعة؛ خطة معالجة خلال 5 أيام عمل؛ استمرار تشغيل النظام مع مراقبة مكثفة. الخطورة 4: تسجيل في سجل الحوادث؛ عرض في التقرير الدوري الشهري؛ معالجة ضمن دورة الصيانة العادية.
تلتزم منظار القابضة بالإخطار وفق الأطر التالية: هيئة البيانات والذكاء الاصطناعي (سدايا) — خلال 72 ساعة عند خرق بيانات شخصية مُعالجة بالذكاء الاصطناعي وفق نظام PDPL؛ الهيئة الوطنية للأمن السيبراني — عند وقوع حادثة سيبرانية تتعلق بأنظمة الذكاء الاصطناعي؛ المتأثرون — خلال 24-72 ساعة حسب خطورة الأثر المباشر؛ مجلس الإدارة — إخطار فوري للحوادث الحرجة وتقرير شهري لباقي الحوادث.
تتبع عملية الاحتواء خطوات منظمة: العزل — فصل النظام المتأثر عن الأنظمة الأخرى لمنع الانتشار؛ الحفظ — تأمين الأدلة والسجلات للتحقيق والامتثال التنظيمي؛ التحليل — تحديد السبب الجذري باستخدام منهجية تحليل منظمة؛ المعالجة — تطوير واختبار الإصلاح؛ التحقق — اختبار شامل قبل إعادة النشر؛ التوثيق — تسجيل كامل الحادثة والإجراءات.
تُجهّز جميع أنظمة الذكاء الاصطناعي الحرجة والمرتفعة بآليات: التراجع الفوري — القدرة على العودة للنسخة السابقة المستقرة خلال دقائق؛ قاطع الدائرة — آلية إيقاف تلقائي عند تجاوز عتبات الخطأ المحددة مسبقًا؛ الوضع الاحتياطي — العودة للعمليات اليدوية أو أنظمة بديلة عند الحاجة. تُختبر هذه الآليات ربع سنويًا.
بعد كل حادثة بخطورة 1 أو 2، تُجرى مراجعة شاملة خلال 10 أيام عمل تتضمن: الجدول الزمني الكامل للحادثة؛ تحليل السبب الجذري؛ تقييم فعالية الاستجابة؛ الدروس المستفادة؛ توصيات لمنع التكرار؛ تحديثات مطلوبة للسياسات أو الإجراءات. تُشارك نتائج المراجعة مع لجنة الأخلاقيات ومجلس الإدارة.
تحتفظ منظار القابضة بقوالب اتصال معتمدة مسبقًا للحوادث: بيان داخلي عاجل للموظفين؛ إخطار العملاء والمتأثرين؛ بيان صحفي (للحوادث الحرجة التي تتطلب إفصاحًا عامًا)؛ إخطار الجهة التنظيمية؛ تحديثات متابعة. تُراجع القوالب سنويًا وتُحدّث عند تغيّر المتطلبات التنظيمية. تتوفر بالعربية والإنجليزية.