حذّرت شركة «أنثروبيك» المطوّرة لنموذج «كلود» من جملة مخاطر محتملة ترافق تطوّر نماذج الذكاء الاصطناعي، بينها تنفيذ إجراءات ضارّة من دون طلب بشري، والتلاعب بآليات الرقابة والتقييم، والمساهمة في شن هجمات إلكترونية وتطوير أسلحة، وصولاً إلى التسبب بإصابات أو أضرار مادية عند ربط هذه النماذج بالأجهزة والمعدات والروبوتات.
وأوضحت الشركة، في بيان التسجيل الأولي للاكتتاب العام المقدَّم إلى هيئة الأوراق المالية والبورصات الأمريكية، أن بعض هذه المخاطر ظهر بالفعل أثناء الاختبارات والاستخدام، في حين يرتبط قسم آخر منها باحتمالات مستقبلية تزداد مع منح النماذج مزيداً من الاستقلالية والصلاحيات.
مخاطر التحسين الذاتي وتراجع الإشراف البشري
ترى «أنثروبيك» أن توظيف الذكاء الاصطناعي في تطوير أجيال لاحقة منه يمثل مصدر قوة وخطراً في الوقت نفسه. فالنماذج تساعد الباحثين على رفع كفاءة التدريب والتشغيل، لكن استمرار هذه الحلقة قد يجعل نمو القدرات أسرع من قدرة البشر على فهمها وتقييمها وتأمينها، وهو ما تعتبره الشركة بوابة محتملة إلى التحسين الذاتي المتكرر.
ولا تزعم الوثيقة أن «كلود» يطوّر نفسه بالكامل من دون إشراف، لكنها تشير إلى استخدامه في البحث والتطوير، وتحذّر من أن الاعتماد عليه في كتابة الشفرة البرمجية وإجراء الأبحاث والتقييمات الأمنية قد يُضعف إحاطة البشر بتفاصيل العمليات، ويتيح إدخال ثغرات أو نقل المشكلات إلى النماذج المستقبلية.
سلوكيات غير متوقعة وتقييمات غير دقيقة
ونبّهت الشركة إلى أن النماذج قد تتخذ إجراءات ضارة من دون أن يُطلب منها ذلك؛ فالإجابة الخاطئة يمكن مراجعتها، لكن تنفيذ أوامر أو تعديل قواعد بيانات أو إرسال رسائل أو إجراء معاملات مالية قد يسفر عن حذف بيانات، أو إحداث تغييرات برمجية، أو إتمام عمليات شراء لم يطلبها المستخدم.
وتقر «أنثروبيك» بأن بعض النماذج تتصرف بشكل مختلف عندما تستنتج أنها خاضعة للاختبار، مما يحد من دقة التقييمات ويقلص القدرة على كشف المخاطر قبل الإطلاق. كما قد تظهر أثناء التدريب قدرات غير متوقعة لا يُكتشف وجودها إلا بعد الطرح، وهو ما قد يستدعي تأخير الإطلاق، أو تقييد إتاحة النموذج، أو العدول عن طرحه.
حوادث اختبار كشفت اتصالاً غير مصرح به
وكشفت الشركة أنها علّقت بعض تقييمات الأمن السيبراني وبيئات التدريب بالتعلم المعزز المرتفعة المخاطر، بعد حوادث وقعت خلال عام 2026 وصلت فيها أربعة من نماذجها، من دون تصريح، إلى أنظمة حقيقية أثناء اختبارات سبقت الإطلاق. وأوضحت الوثيقة أن هذه الحوادث نجمت عن خطأ في إعداد بيئة الاختبار، أبقى الاتصال بالإنترنت متاحاً رغم التعليمات بتعطيله.
وتلفت «أنثروبيك» إلى أن مهارات اكتشاف الثغرات وإصلاحها تتيح حماية الأنظمة ومهاجمتها في آن واحد. فقد أشارت إلى ارتفاع أداء «كلود» في معيار «إكسبلويت بنش» لقياس القدرة على استغلال الثغرات، من 40 بالمئة مع «أوبوس 4.8» إلى 78 بالمئة مع «كلود مايثوس 5»، ثم إلى 91 بالمئة مع «أوبوس 5.5»، خلال نحو أربعة أشهر.
وطوّرت الشركة خدمة «كلود سيكيوريتي» لفحص الشفرة البرمجية باستمرار، وتحديد الثغرات وتصنيفها واقتراح إصلاحات لها، إلى جانب أداة «ماسح البرمجيات مفتوحة المصدر». وتعتقد أن المؤسسات ستكون بحاجة إلى نماذج متقدمة للدفاع السيبراني، خصوصاً مع اتساع استخدام الوكلاء وزيادة منافذ الهجوم. ولهذا الغرض، طوّرت «أنثروبيك» خدمة «كلود للعلوم» لربط نماذجها بقواعد البيانات العلمية والنماذج البحثية الخارجية والبنية الحاسوبية للمؤسسات.
