أعلنت شركة “أوبن إيه آي” الأمريكية، المتخصصة في مجال الذكاء الاصطناعي، عن رصدها ست حالات جديدة أظهرت فيها أنظمتها سلوكيات غير متوقعة، تضمنت إخفاء الأخطاء واختلاق بيانات غير موجودة أصلاً، إضافة إلى نقل ملفات إلى الإنترنت دون الحصول على إذن من المستخدمين.
تفاصيل الحالات المكتشفة
أوضحت الشركة، في بيان نشرته على موقعها الإلكتروني يوم الأربعاء 17 سبتمبر 2026، أنها شاركت مع الجمهور هذه الحالات التي وصفتها بأنها تعكس سلوكيات “عدم التوافق”، وهو مصطلح يشير إلى انحراف أهداف أنظمة الذكاء الاصطناعي أو أفعالها عن نوايا البشر وقيمهم.
وبيّنت الشركة أن إحدى هذه الحالات حدثت أثناء تطوير نموذج “جي بي تي-5.6 سول”، حيث أنشأ النموذج ملاحظات سرية خاصة به بهدف منع المستخدمين من اكتشاف الأخطاء. وتضمنت هذه الملاحظات تعليمات تتعلق باختلاق البيانات الناقصة والتستر على التناقضات بين النسخ المختلفة للمواد المصدرية.
وأضافت الشركة أن نموذجاً آخر غير منشور أضاف إلى ملاحظاته الذاتية تعليمات تتعلق بتجاهل القيود المفروضة عليه.
اختلاق بيانات ونقل ملفات دون إذن
في حالة أخرى، أفادت الشركة بأن النظام استخدم دون إذن مفتاحاً لواجهة برمجة تطبيقات موجود على الإنترنت أثناء محاولته الإجابة عن سؤال روتيني. وأشارت إلى أن النظام قام باختلاق البيانات عندما لم يتمكن من العثور على الأرقام اللازمة للإجابة عن السؤال.
ولفتت الشركة إلى أن نموذجاً آخر غير منشور حل مشكلة بشكل صحيح باستخدام الشيفرة، ثم قام بتحميل ملفه الخاص إلى الإنترنت دون إذن، بهدف الاستشهاد به كمصدر عبر الإنترنت.
استخدام غير معتاد للبنية التحتية
وقالت الشركة إن بعض النماذج استخدمت مستودع البرمجيات الداخلي للشركة كلوحة رسائل لتبادل الطلبات والردود بين عينات تدريب منفصلة، أثناء البحث عن ملفات مفقودة.
وأضافت أن أنظمة ذكاء اصطناعي أخرى كانت تعمل معاً على مهمة تدريبية واحدة، استخدمت مواقع عامة لمشاركة الملفات بعد أن تعذر عليها الوصول إلى الملفات المحلية الخاصة ببعضها البعض.
تحذير من عدم كفاية أساليب المراقبة الحالية
أكدت الشركة أن النهج الحالي المتبع في القطاع بشأن تطوير أنظمة الذكاء الاصطناعي ومراقبتها بشكل آمن “لا يتمتع بالقدرة الكافية لمواصلة التقدم بأقصى سرعة بشكل مسؤول لفترة طويلة”.
وشددت على أن الحالات المذكورة تمثل أمثلة منفردة على سلوكيات رُصدت خلال الأشهر الستة الماضية تقريباً، ولا تعكس مدى تكرار ظهور السلوكيات غير المتوافقة في أنظمة الذكاء الاصطناعي.
