إطلاق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي
في منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي الذي أقيم بالرياض، تم عرض جهود المملكة للانتقال من الأفكار النظرية إلى التطبيق العملي في إدارة المخاطر المرتبطة بالذكاء الاصطناعي. جاء ذلك عبر “الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي” الذي أصدرته الهيئة السعودية للبيانات والذكاء الاصطناعي “سدايا” خلال عام الذكاء الاصطناعي 2026، مقدماً خارطة طريق إرشادية تضمن الاعتماد الآمن والمسؤول لتقنيات الذكاء الاصطناعي.
الفرق بين مخاطر الذكاء الاصطناعي والأنظمة التقليدية
تشير المداخلات إلى أن مخاطر الذكاء الاصطناعي تختلف في طبيعتها ونطاقها عن مخاطر الأنظمة البرمجية التقليدية؛ فهي تشمل آثاراً تنظيمية ومجتمعية أوسع وتظهر بطرق غير متوقعة أثناء التشغيل. بينما تكون مخاطر البرامج التقليدية غالباً محددة وقابلة للتنبؤ، فإن أنظمة الذكاء الاصطناعي تضيف فئات إضافية من المخاطر لا تعالجها أطر إدارة المخاطر التقليدية بصورة شاملة.
جلسة “من الإطار إلى التطبيق” وآراء الخبراء
في الجلسة المعنونة “من الإطار إلى التطبيق” ضمن أعمال المنتدى، استمع الحضور من الخبراء الدوليين والمختصين في الذكاء الاصطناعي من مختلف دول العالم إلى شرح سدايا حول أهمية إدارة المخاطر كعنصر أساسي في حوكمة الذكاء الاصطناعي. وقد أوضحت الهيئة كيف يدعم الإطار الجهات عند تطوير الحلول الذكية وتبنيها، مواكباً التحولات التقنية المتسارعة ومحفزاً لموثوقية الأنظمة.
أهداف ومبادئ الإطار الوطني
يعد الإطار وثيقة مرجعية شاملة تترجم التوصيات الدولية والأخلاقية للذكاء الاصطناعي إلى أطر عملية وسياسات تطبيقية، بهدف ترسيخ منهجية وطنية متكاملة وموحدة لتحديد وتقييم ومعالجة ومراقبة مخاطر تقنيات الذكاء الاصطناعي في القطاعين الحكومي والخاص. يضمن ذلك التبني الآمن والمسؤول لهذه التقنيات، ويدعم التحول الرقمي والتنافسية الاقتصادية للمملكة بما يتماشى مع مستهدفات رؤية السعودية 2030.
يركز الإطار على توفير منهجية وطنية موحدة للتعامل الاستباقي مع المخاطر وتمكين تصنيف واعٍ لأنظمة الذكاء الاصطناعي بحسب مستوى خطورته. يغطي نطاقاً مؤسسياً متكاملاً يشمل مختلف مراحل تحديد المخاطر وتقييمها ومتابعتها لدى الجهات الحكومية والخاصة، ويقدم إرشادات عملية لإدارة هذه المخاطر ضمن السياقات التنظيمية والتقنية القائمة، مثل تهيئة بيئة حوكمة مناسبة، وتوثيق سيناريوهات المخاطر، وتحديد مستوى المخاطر المقبول وضوابطه، ووضع آليات للرصد والاستجابة.
كما يستهدف الإطار جميع الجهات الحكومية والخاصة على اختلاف قطاعاتها ومراحل نضجها الرقمي، مع مراعاة تباين أنماط الاستخدام وحجم المخاطر، ما يمنح هذه الجهات مرونة في التطبيق دون الإخلال بمبادئ إدارة المخاطر المنهجية. يركّز على الأنظمة والتطبيقات ذات الأثر العالي على الأفراد والأصول والعمليات، بما في ذلك النماذج التنبؤية، ومعالجة اللغات الطبيعية، وتحليل الصور ومقاطع الفيديو، والأتمتة الذكية، ونماذج الاستخدام العام.
ويستند الإطار إلى سبعة مبادئ أخلاقية أساسية تتوافق مع توصية اليونسكو الصادرة عام 2021: النزاهة والإنصاف لمنع التحيز، الخصوصية والأمن لحماية البيانات، الإنسانية لتسخير التقنية لخدمة البشر دون إلحاق خداع، المنافع الاجتماعية والبيئية لتعظيم الاستدامة، الموثوقية والسلامة لضمان دقة الأداء ومنع الأعطال، الشفافية وقابلية التفسير لتمكين فهم آلية اتخاذ القرارات المؤتمتة، والمساءلة والمسؤولية بتحديد أدوار المصممين والمشغلين والإشراف البشري.
