تحذير من ارتفاع الحوادث الأمنية
قال البنك المركزي البريطاني إن زيادة الحوادث الأمنية المرتبطة باختبارات الذكاء الاصطناعي المستقل زادت من ضرورة استعداد الشركات لمواجهة الهجمات السيبرانية، وذلك في سياق تحذير من تصاعد التهديدات التي تواجه الاستقرار المالي للمملكة المتحدة.
تقييم لجنة السياسات المالية
وأضافت لجنة السياسات المالية التابعة للبنك أن توقعات المخاطر التي تواجه الاقتصاد البريطاني تفاقمت منذ يوليو، استناداً إلى ما نقلته وكالة الأنباء البريطانية.
حالات اختراق نماذج الذكاء الاصطناعي
وبحسب أحدث اجتماع للبنك فقد لفتت الحوادث الأخيرة في مجال تجارب الذكاء الاصطناعي الانتباه إلى سرعة تطور التكنولوجيا والمخاطر المرتبطة بها، بما في ذلك المخاطر السيبرانية والتشغيلية.
وتتصرف نماذج الذكاء الاصطناعي التي تم تدريبها للعمل بشكل مستقل نوعاً ما بطرق غير متوقعة، مثل محاولة الوصول إلى معلومات سرية من المواقع الإلكترونية وتخطي الضوابط الأمنية.
وتشهد إحدى الحالات البارزة كشف شركة “أوبن أيه أي” المصنعة لـ”تشات جي بي تي” في يوليو أن نماذجها اخترقت شركة الذكاء الاصطناعي “هاجينغ فيس” أثناء تدريب حيث تصرفت النماذج بمفردها.
وواجهت “أوبن أيه أي” وغيرها من عمالقة التكنولوجيا مثل “أنثروبيك” المطورة لـ”كلود” مراجعة بشأن وقائع الاختراق السيبراني خلال الاختبارات.
