الهيئة السعودية للبيانات والذكاء الاصطناعي تعلن عن الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي

إطلاق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي

أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي كمرجع إرشادي يقدم منهجية وطنية موحدة لتحديد المخاطر وتقييمها ومعالجتها ومتابعتها، مما يمكّن الجهات الحكومية والخاصة من اعتماد هذه التقنية بصورة آمنة ومسؤولة تتوافق مع الأولويات والتوجهات الوطنية.

خلفية الإطلاق ومبرراته

يأتي هذا الإطار في ظل التوسع المتسارع في تبني تقنيات الذكاء الاصطناعي لتطوير الأعمال والخدمات على الصعيدين العالمي والمحلي، حيث قد تنطوي أنظمة الذكاء الاصطناعي على مخاطر تختلف في طبيعتها عن مخاطر الأنظمة التقنية التقليدية، وقد يكون لها آثار محتملة على الأفراد والجهات والاقتصاد الوطني.

منهجية إدارة المخاطر ومبادئه

وأوضحت سدايا أن مخاطر الذكاء الاصطناعي تتميز بطبيعة مختلفة عن مخاطر البرمجيات التقليدية، إذ قد تظهر بطرق غير متوقعة أثناء التشغيل، وقد يتغير أداء الأنظمة مع مرور الوقت، إضافة إلى صعوبة تفسير سلوكها وإعادة إنتاج نتائجها، مما يجعل حصر المخاطر وتقييمها أكثر تعقيدًا ويستوجب تبني منهجية متكاملة لإدارتها.

وبيّنت أن منهجية إدارة المخاطر تقوم على دورة حياة متكاملة تشمل أربع مراحل مترابطة، تبدأ بتحديد السياق والنطاق، ثم تحديد المخاطر وتقييمها ومعالجتها، وصولًا إلى المتابعة والمراجعة المستمرة، مع احتساب مستوى الخطر عبر مصفوفة تربط بين احتمالية وقوعه وحجم أثره، مما يوحد آلية التقييم بين الجهات ويدعم المقارنة وتحديد أولويات المعالجة.

المبادئ الأساسية والتصنيف والسيناريو التطبيقي

وأشارت الهيئة إلى أن الإطار يرتكز على سبعة مبادئ أساسية، تشمل النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية، والمنافع الاجتماعية والبيئية، ويصنف مخاطر الذكاء الاصطناعي في سبعة أنواع رئيسية تضمن شمولية التحديد وعدم إغفال أي فئة جوهرية من المخاطر.

وتضمّن الإطار سيناريو تطبيقيًا يحاكي استخدام جهة حكومية لأحد النماذج في إعداد التقارير الداخلية، ويستعرض تحديد المخاطر المرتبطة به وتقييمها ومعالجتها ومتابعتها، مما يوفّر للجهات نموذجًا عمليًا قابلًا للتطبيق على اختلاف قطاعاتها ومراحل نضجها الرقمي.

ويأتي هذا الإطار ضمن جهودها في ترسيخ الاستخدام المسؤول والآمن لتقنيات الذكاء الاصطناعي وتمكين الجهات الوطنية من تبنيها، انطلاقًا من دورها بوصفها المرجع الوطني للبيانات والذكاء الاصطناعي في المملكة، وإسهامها في تعزيز منظومة الابتكار الرقمي، بما يواكب مستهدفات رؤية المملكة 2030.