تؤمن شركة عدسة منظار القابضة بأن الذكاء الاصطناعي يمثل قوة تحويلية قادرة على تعزيز التنمية الاقتصادية والاجتماعية في المملكة العربية السعودية والمنطقة العربية. انطلاقًا من كوننا أول شركة سعودية ناشئة في مجال الذكاء الاصطناعي تحصد المركز الأول في تحليل البيانات (ميدياثون 2022)، نتحمل مسؤولية مضاعفة في وضع المعايير وتشكيل الممارسات المسؤولة لتطوير واستخدام الذكاء الاصطناعي. يُرسي هذا الميثاق المبادئ التأسيسية التي توجّه جميع أنشطتنا المتعلقة بالذكاء الاصطناعي عبر كافة شركاتنا التابعة ومنظومتنا الاستثمارية.
يسري هذا الميثاق على جميع الأنظمة والنماذج والأدوات والتطبيقات المبنية على الذكاء الاصطناعي التي تطوّرها أو تنشرها أو تشغّلها أو تموّلها منظار القابضة وشركاتها التابعة — بما في ذلك شركة إم إن تك وشركة مُزن ومشاريع بيِّن ونقدي وشفرة وعون وسيما. كما يمتد ليشمل أنظمة الذكاء الاصطناعي المقدّمة من أطراف ثالثة والمدمجة في عملياتنا أو خدماتنا.
يجب أن يخدم الذكاء الاصطناعي الإنسان ويعزّز قدراته، لا أن يحلّ محلّه أو ينتقص من كرامته. نلتزم بأن تبقى القرارات ذات الأثر الجوهري على حياة الأفراد — كقرارات التوظيف والائتمان والتقييم — خاضعة للرقابة البشرية المباشرة. لا يجوز لأي نظام ذكاء اصطناعي أن يتخذ قرارات نهائية مؤثرة على حقوق الأفراد أو حرياتهم دون مراجعة وإقرار بشري.
نلتزم بتصميم وتشغيل أنظمة الذكاء الاصطناعي بما يضمن عدم التمييز على أساس الجنس أو العرق أو الجنسية أو الدين أو الإعاقة أو أي صفة محمية بموجب الأنظمة السعودية والمعايير الدولية لحقوق الإنسان. نجري فحوصات التحيّز بشكل دوري على جميع النماذج المنشورة، ونوثّق النتائج في سجلات التدقيق، ونتّخذ الإجراءات التصحيحية عند اكتشاف أي تحيّز.
نتعهد بالإفصاح عن استخدام الذكاء الاصطناعي في خدماتنا ومنتجاتنا عندما يؤثر ذلك على تجربة المستخدم أو القرارات المتخذة. نسعى لتطوير ونشر نماذج قابلة للتفسير حيثما أمكن ذلك، ونوفّر آليات واضحة للمتأثرين بقرارات الذكاء الاصطناعي للحصول على توضيحات حول كيفية اتخاذ تلك القرارات.
نتحمل المسؤولية الكاملة عن مخرجات أنظمة الذكاء الاصطناعي التي نطوّرها أو ننشرها. تُحدَّد خطوط المسؤولية بوضوح لكل نظام: من المالك التقني إلى المسؤول التنفيذي. لا يُعفي استخدام الذكاء الاصطناعي أي موظف أو شركة تابعة من المسؤولية عن القرارات النهائية. كل نظام ذكاء اصطناعي لديه مالك مُسمّى مسؤول عن أدائه وسلوكه الأخلاقي.
لا يُنشر أي نظام ذكاء اصطناعي في بيئة الإنتاج إلا بعد اجتياز بروتوكولات اختبار صارمة تشمل: اختبارات الأداء، واختبارات الأمان، واختبارات التحيّز، واختبارات الإجهاد. نحتفظ بآليات إيقاف طارئ لجميع الأنظمة الحرجة، ونراقب الأداء بشكل مستمر بعد النشر. نُجري مراجعات سلامة سنوية لجميع أنظمة الذكاء الاصطناعي النشطة.
نُدمج حماية البيانات الشخصية في كل مرحلة من مراحل دورة حياة الذكاء الاصطناعي — من جمع بيانات التدريب إلى نشر النموذج وحتى إيقافه. نلتزم بنظام حماية البيانات الشخصية (PDPL) الصادر عن هيئة البيانات والذكاء الاصطناعي (سدايا) والأطر التنظيمية ذات الصلة. نطبّق مبدأ تقليل البيانات في التدريب، ونستخدم تقنيات إخفاء الهوية والتعمية حيثما أمكن.
نوجّه قدراتنا في الذكاء الاصطناعي نحو تحقيق أهداف التنمية المستدامة ومستهدفات رؤية المملكة 2030. نعطي الأولوية للمشاريع التي تُسهم في تنويع الاقتصاد وتمكين الشباب السعودي ونقل المعرفة. نرفض أي استخدام للذكاء الاصطناعي يتعارض مع المصلحة العامة أو يُلحق ضررًا بالبيئة أو المجتمع.
يتوافق هذا الميثاق مع: مبادئ أخلاقيات الذكاء الاصطناعي الصادرة عن هيئة البيانات والذكاء الاصطناعي (سدايا)؛ نظام حماية البيانات الشخصية (PDPL)؛ ضوابط الهيئة الوطنية للأمن السيبراني (NCA)؛ مبادئ منظمة التعاون الاقتصادي والتنمية (OECD) بشأن الذكاء الاصطناعي؛ إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST AI RMF)؛ والمبادئ التوجيهية لمعيار ISO/IEC 42001.
تلتزم منظار القابضة بتشكيل لجنة أخلاقيات الذكاء الاصطناعي تحت إشراف مجلس الإدارة، وإجراء تدقيق أخلاقي سنوي لجميع أنظمة الذكاء الاصطناعي، ونشر تقرير شفافية سنوي حول ممارساتنا في الذكاء الاصطناعي، وتوفير برامج تدريب إلزامية لجميع الموظفين المتعاملين مع أنظمة الذكاء الاصطناعي، وإنشاء قناة مستقلة للإبلاغ عن المخاوف الأخلاقية.
يُراجَع هذا الميثاق سنويًا أو عند حدوث تغييرات جوهرية في البيئة التنظيمية أو التقنية. تتولى لجنة أخلاقيات الذكاء الاصطناعي مسؤولية المراجعة والتوصية بالتحديثات، ويعتمدها مجلس الإدارة. يُنشر كل تحديث مع سجل التغييرات على هذه الصفحة.