إطلاق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي
أعلنت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) عن إطلاق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي كمرشد إرشادي يقدّم منهجية موحدة لتحديد المخاطر وتقييمها ومعالجتها ومتابعتها، مما يمكّن الجهات الحكومية والخاصة من استخدام التقنية بأمان ومسؤولية بما يتماشى مع الأولويات الوطنية.
مبادئ الإطار وتصنيف المخاطر
يرتكز الإطار على سبعة مبادئ أساسية تشمل النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمسؤولية والمساءلة، والمنافع الاجتماعية والبيئية. كما يصنّف مخاطر الذكاء الاصطناعي إلى سبعة أنواع رئيسية لضمان شمولية التحديد وعدم إغفال أي فئة جوهرية.
سيناريو تطبيقي وفوائد العملية
يتضمن الإطار سيناريو تطبيقي يحاكي استخدام جهة حكومية لأحد النماذج في إعداد التقارير الداخلية، ويستعرض كيفية تحديد المخاطر المرتبطة به وتقييمها ومعالجتها ومتابعتها، ما يقدّم للجهات نموذجًا عمليًا قابلًا للتطبيق على مختلف القطاعات ومراحل النضج.
مميزات مخاطر الذكاء الاصطناعي والتحديات
أوضحت سدايا أن مخاطر الذكاء الاصطناعي تختلف عن مخاطر البرمجيات التقليدية؛ فقد تظهر بطرق غير متوقعة أثناء التشغيل، ويتغير أداء الأنظمة مع مرور الوقت، بالإضافة إلى صعوبة تفسير سلوكها وإعادة إنتاج نتائجها، ما يجعل حصرها وتقييمها أكثر تعقيدًا ويستدعي اعتماد منهجية متكاملة لإدارتها.
