تحذير من حوادث أمنية كبرى للذكاء الاصطناعي
قال ديميس هاسابيس، رئيس مجلس إدارة شركة ديب مايند التابعة لغوغل، إن هناك احتمالاً لوقوع حوادث أمنية كبيرة ناتجة عن أنظمة الذكاء الاصطناعي خلال العامين القادمين إذا لم تُتخذ تدابير كافية لضمان سلامتها. وأضاف أن هذا التحذير يأتي بالتزامن مع تسارع تطور قدرات هذه التقنيات.
الحوادث الأخيرة كإشارات تحذيرية مبكرة
خلال مشاركته في مؤتمر الذكاء الاصطناعي الذي عقد في دبلن، وصف هاسابيس الحوادث الأمنية الأخيرة بأنها «طلقات تحذيرية مبكرة» لأنظمة لا تزال قدراتها محدودة نسبياً. وحذر من أن مخاطرها قد تتزايد في العام المقبل أو العامين المقبلين ما لم تكثف الشركات والحكومات جهودها لتعزيز أمن هذه الأنظمة والحد من إساءة استعمالها.
دعوات لإجراءات على مستوى القطاع وبيئات اختبار معزولة
أشار إلى أن معالجة هذه المخاطر تتطلب تحركاً على مستوى قطاع الذكاء الاصطناعي بأكمله، إلى جانب خطوات مستقلة تتخذها الشركات والحكومات لتعزيز سلامة التقنيات وتقليل احتمالات استخدامها بطرق ضارة. واقترح إخضاع النماذج الجديدة للاختبارات الأولية داخل بيئات معزولة غير متصلة بالشبكات، وذلك بعد أن أظهرت نماذج طورتها شركات أخرى قدرة على تجاوز القيود المفروضة على البيئات المغلقة المستخدمة لتقييم الأداء.
موقف الاتحاد الأوروبي وتعزيز الإطار التنظيمي
من جانبها، أكدت هينا فيركونين، مسؤولة شؤون التكنولوجيا في الاتحاد الأوروبي، على ضرورة تخصيص مزيد من الوقت والموارد لشركات الذكاء الاصطناعي لاختبار أنظماتها لضمان بقائها تحت السيطرة. ولفتت إلى أن المنافسة العالمية الشديدة تدفع الشركات إلى تسريع التطوير بينما لا تخصص جميعها موارد كافية للاختبار الفعال. وشددت على أن على الشركات القدرة على التحكم في أنظمتها، وذكرت أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات من كبرى الشركات العاملة في المجال للاستفسار عن تدابير السلامة والأمن التي تطبقها.
وأوضحت أن هذه التحركات تأتي في سياق تعزيز الإطار التنظيمي للذكاء الاصطناعي في الاتحاد، حيث منحت المفوضية الأوروبية في أغسطس صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعتبر أحد أكثر الأطر التشريعية شمولاً لتنظيم هذه التكنولوجيا والحد من مخاطر استخدامها.
