إطلاق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي
أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي كمرجع إرشادي يقدم منهجية موحدة على مستوى المملكة لتحديد المخاطر وتقييمها ومعالجتها ومتابعتها، مما يساعد الجهات الحكومية والخاصة على اعتماد التقنية بطريقة آمنة ومتوافقة مع التوجهات الوطنية.
سياق الإطلاق ودوافعه
يُطلق الإطار وسط نمو سريع في تبني تقنيات الذكاء الاصطناعي لتحسين الأعمال والخدمات سواء على النطاق العالمي أو المحلي، حيث قد تنطوي أنظمة الذكاء الاصطناعي على مخاطر تختلف في طبيعتها عن تلك المرتبطة بالأنظمة التقنية التقليدية، وقد تكون لها تداعيات محتملة على الأفراد والمؤسسات والاقتصاد الوطني.
منهجية الإطار ومبادئه
وبينت سدايا أن مخاطر الذكاء الاصطناعي تختلف في طبيعتها عن مخاطر البرمجيات التقليدية؛ فقد تظهر بطرق غير متوقعة أثناء التشغيل، وقد يتغير أداء الأنظمة مع مرور الوقت، بالإضافة إلى صعوبة تفسير سلوكها وإعادة إنتاج النتائج، ما يعقد عملية حصر المخاطر وتقييمها ويستلزم اعتماد منهجية شاملة.
وأوضحت أن منهجية إدارة المخاطر تقوم على دورة حياة متكاملة تضم أربع مراحل مترابطة: البداية بتحديد السياق والنطاق، يليها تحديد المخاطر وتقييمها ومعالجتها، ثم الانتقال إلى المتابعة والمراجعة المستمرة، مع قياس مستوى الخطر باستخدام مصفوفة تربط بين احتمال الوقوع وحجم الأثر، مما يوحد آلية التقييم بين الكيانات ويُسهّل المقارنة وتحديد أولويات العلاج.
وأشارت الهيئة إلى أن الإطار يستند إلى سبعة مبادئ أساسية هي: النزاهة والإنصاف، الخصوصية والأمن، الإنسانية، الموثوقية والسلامة، الشفافية وقابلية التفسير، المساءلة والمسؤولية، والمنافع الاجتماعية والبيئية، كما يصنف مخاطر الذكاء الاصطناعي إلى سبعة أنواع رئيسية لضمان شمولية التحديد وعدم إغفال أي فئة جوهرية.
نموذج تطبيقي وأهداف استراتيجية
ويتضمن الإطار سيناريو تطبيقيًا يحاكي استخدام جهة حكومية لنموذج ذكاء اصطناعي في إعداد التقارير الداخلية، ويستعرض كيفية تحديد المخاطر المرتبطة به وتقييمها ومعالجتها ومتابعتها، ما يوفر للجهات نموذجًا عمليًا يمكن تطبيقه على مختلف القطاعات ومستويات النضج الرقمي.
ويأتي هذا الإطار في إطار جهود سدايا لتعزيز الاستخدام المسؤول والآمن لتقنيات الذكاء الاصطناعي وتمكين الجهات الوطنية من اعتمادها، انطلاقًا من دورها كمرجع وطني للبيانات والذكاء الاصطناعي في المملكة، ومساهمتها في تعزيز المنظومة الرقمية للابتكار، بما يتماشى مع أهداف رؤية المملكة 2030.
