الذكاء الاصطناعي يكتب القرارات ويصدر الأحكام: من يتحمل مسؤولية الخطأ في الإدارة الحديثة؟

بدأت القصة بملاحظة لم يستطع كاتب هذه السطور تجاهلها، حين وصل إليه بحث علمي مرفق بقرار تحكيم. وقد لفت انتباهه أثر واضح في ثنايا القرار لا يمكن أن يخفى على عين خبيرة: صياغة تحمل بصمة نموذج لغوي، وتقييم يتم وفق قواعد محددة سلفاً، وليس وفق قراءة متعمقة لجوهر البحث. لم يكن الرأي بشرياً خالصاً، بل مرّ – كلياً أو جزئياً – عبر أداة ذكاء اصطناعي. التقرير الذي أُرسل إلى الباحث بصفته «رأي المحكّم» كان في حقيقته حكم الآلة، موقعاً باسم إنسان.

ليكن الكلام واضحاً لا يحتمل التأويل: لقد بلغت الأمور مبلغاً وصلنا فيه إلى استخدامات جعلت الذكاء الاصطناعي يكتب ويحكم في آن واحد؛ ينشئ النص ويصدر الحكم عليه، ويصوغ التقرير ويوقع القرار. هذه ليست تفصيلية تقنية تهم المهندسين وحدهم، بل هي إعادة توزيع صامتة للسلطة – سلطة التقدير التي كانت يوماً في يد الإنسان المسؤول، تنتقل الآن إلى معادلة لا يراها أحد ولا يمكن محاسبتها. من هنا انطلق السؤال الذي دفع إلى كتابة هذه السطور: إن كان تحكيم الأبحاث العلمية – وهو من أدق مواطن التقدير المهني وأشدها حساسية – قد بدأ يُوكَل إلى الخوارزميات، فماذا عن مصائر الناس اليومية في الأجهزة الخدمية؟ ماذا عن ملفات القبول والترقية والدعم والمنح والتراخيص، تلك التي يقف خلف كل منها إنسان ينتظر قراراً يغير مسار حياته؟ هل بدأ التقييم الآلي يتسلل إلى هذه الملفات بصمت أيضاً، ويصدر باسم الجهة بصفته قرارها النهائي؟

الفارق الجوهري بين الاستعانة بالآلة والنيابة عنها

لنكن صريحين: الفارق بين أن يستعين المسؤول بالذكاء الاصطناعي مستشاراً ينير قراره، وبين أن يرسل ما تنتجه الآلة حكماً نهائياً دون أن يمر بعقل بشري يراجعه ويتحمل مسؤوليته – ليس فارقاً إدارياً هامشياً. إنه الفارق بين دولة تحكم مواطنيها بمسؤولية، ودولة تختبئ خلف شاشة. وحين نغوص في تفاصيل هذا الفارق، نكتشف أن المشكلة ليست أن الآلة تخطئ – فالمحكم البشري يخطئ أيضاً، والموظف الحكومي يخطئ، والقاضي يخطئ – بل أن خطأ الآلة يأتي مغلفاً بهالة الموضوعية الرقمية، فيُصدق بلا مراجعة، ويُعمم بلا استثناء، ويتكرر بلا توقف على آلاف الحالات في لحظات. حين يخطئ الإنسان يمكن مساءلته؛ حين تخطئ الآلة يقف الجميع في صف واحد يشيرون إلى بعضهم البعض.

هناك حقيقة يعرفها كل من جرب هذه الأدوات، لكن قلة تجرؤ على قولها: حين تطلب من الذكاء الاصطناعي أن يجد ملاحظات أو أخطاء في ملف ترفقه، فإنه سيجدها لا محالة – حتى لو لم تكن هناك أخطاء تستحق الذكر. النموذج لا يفكر، بل يلبي الطلب من قاعدة معلوماته الضخمة. اطلب منه النقد، سينتقد. اطلب منه الثناء، سيثني. وهذه الحقيقة وحدها كافية لتُفزع كل من يعتمد على مثل هذه الأدوات في اتخاذ قرار يمس إنساناً.

ثلاثة أخطار كامنة خلف القرار الآلي

خلف هذه الحقيقة تكمن أخطار ثلاثة يجب تسميتها بأسمائها. أولها التحيز المبيت في البيانات؛ فالنموذج لا يتعلم من فراغ، بل من سجلات تاريخية تحمل في طياتها انحيازات الماضي. وهذه ليست فرضية الكاتب، بل ما أقرته الجهة المنظمة للذكاء الاصطناعي في المملكة العربية السعودية نفسها، حين ميزت صراحة بين التحيز الفني العائد إلى البيانات أو الخوارزميات، والتحيزات الإدراكية البشرية، موضحة أن الانحياز يتسرب إلى نماذج تعلم الآلة عن غير قصد عبر بيانات التدريب. المفارقة الصارخة أن النظام الذي يُقدم للمواطن باعتباره أكثر عدلاً من الإنسان، قد يعيد إنتاج الظلم التاريخي بكفاءة أعلى وسرعة أكبر، بينما يظن مشغلوه أنهم يحققون العدالة.

أما الخطر الثاني فهو الصندوق الأسود (Black Box)، وهو أخطر ما يهدد فكرة الدولة الحديثة نفسها. حين يصدر التقييم دون أن يستطيع أحد – لا الموظف ولا المتضرر ولا حتى مصمم النظام – تفسير كيف وصل إلى نتيجته، فإن المساءلة تنهار من جذورها. ويسأل الكاتب هنا سؤالاً بسيطاً: كيف يطعن مواطن في قرار لا يعرف أحد منطقه؟ وكيف تُصحح سياسة بنيت على معادلة مغلقة لا يقرؤها إلا آلات أخرى؟ من لا يستطيع أن يشرح قراره، لا يحق له أن يتخذه بحق إنسان.

ويأتي الخطر الثالث، وهو الأدق من منظور قياسي، ليكمل هذه الصورة القاتمة: معدلات الإيجابيات الكاذبة (False Positives). فأنظمة التقييم لا تصدر حقائق، بل احتمالات. وحين تُعامل هذه الاحتمالات كأحكام قاطعة دون مراجعة بشرية، يدفع الأبرياء الثمن. النظام الذي يصف شخصاً بـ«عالي الخطورة» بناءً على نمط إحصائي قد يكون محقاً في تسع من عشر حالات، لكن دعونا نسمي الحالة العاشرة باسمها الحقيقي: إنسان تتعطل حياته ظلماً بقرار لم يتخذه إنسان. وحين يتوسع نطاق التطبيق إلى ملايين الملفات، تتضاعف «الحالة العاشرة» حتى تصير طبقة كاملة من الضحايا، صنعتها آلة لم تُسأل ولم تُحاسب.

المبادئ القانونية والوقائع الدولية

أمام هذه المخاطر، ما يجب أن يقال بوضوح هو أن المنظومات القانونية في العالم لم تقف صامتة أمام هذا التحول، وأن من يتجاهل ذلك في الأجهزة يتجاهله بقرار لا بجهل. فقد تبلور مبدأ تشريعي جوهري في القانون الدولي مفاده أن للفرد الحق في ألا يخضع لقرار آلي بالكامل يمس حقوقه أو مستحقاته. هذا المبدأ، الذي رسخه قانون حماية البيانات الأوروبي، تبنته دول عديدة تمنع الجهات العامة صراحة من الاعتماد على الأتمتة وحدها في القرارات المصيرية. والفكرة المركزية بسيطة وعميقة في آن: القرار الذي يمس مصير إنسان لا يجوز أن يصدر دون أن يتحمل إنسان آخر مسؤوليته. هذه ليست بيروقراطية زائدة، بل هي جوهر معنى أن تكون الدولة مسؤولة أمام مواطنيها.

وفي السياق القانوني العربي، بدأ يترسخ مصطلح دقيق يستحق أن يدخل قاموس الأجهزة والقضاة: «القرار الإداري الخوارزمي». وبدأت الدراسات المحكمة تبحث في مدى خضوعه للرقابة القضائية – أي هل يمكن للقضاء أن يراجع قراراً اتخذته آلة، حين يكون تقرير خبير معتمد قد اعتمد فيه الخبير على الذكاء الاصطناعي دون أن يصرح بذلك؟ هذا السؤال ليس ترفاً فقهياً، بل سؤال تأسيسي يحدد ما إذا كانت الأتمتة ستعمل تحت سقف القانون أم فوقه. غير أن المعضلة الأعمق تشريعياً هي المسؤولية، وهي المعضلة التي يتحاشى الجميع مواجهتها. فحين يصدر ضرر نتيجة قرار آلي ذاتي يتخذه النظام استناداً إلى خوارزميات مبرمجة مسبقاً، دون تدخل مباشر من الإنسان في لحظة اتخاذ القرار، يصبح إسناد المسؤولية معضلة حقيقية: فالآلة تفتقر إلى الإرادة والوعي اللذين تبنى عليهما المساءلة، والإنسان الذي ضغط الزر يحتج بأنه لم يقرر شيئاً، والجهة التي اشترت النظام تحيل المسؤولية إلى الشركة المطورة، والشركة تحيلها إلى بنود العقد. وفي وسط هذه الحلقة المفرغة، يقف المواطن المتضرر وحده. وهذه الفجوة بالذات هي ما يجعل بقاء «العامل البشري في الحلقة» (Human-in-the-loop) ضرورة قانونية لا خياراً إدارياً، وشرطاً للعدالة لا تحسيناً لجودة الخدمة.

ومع ذلك، تبقى الحجج النظرية باهتة ما لم تسندها الوقائع. ولذلك يقدم الكاتب ثلاث وقائع موثقة من ثلاث قارات، لا تحتمل التأويل ولا تسمح لأحد أن يقول إن هذا الحديث «تنظير زائد». ففي بريطانيا، الدولة التي يُفترض أنها ذات إدارة عريقة، نشرت وزارة الرعاية فيها نظاماً آلياً يحدد طلبات الإعانة المشتبه فيها. وبين عامي 2021 و2024، صنف النظام أكثر من 200 ألف طلب بأنها «عالية الخطورة». ثم جاءت المراجعات اللاحقة لتكشف الحقيقة الصادمة: نحو ثلثي تلك الطلبات كانت شرعية تماماً. مئات الآلاف من الأسر خضعت لتحقيقات لا مبرر لها، وتأخرت إعانات بعضها، بسبب رقم أصدرته آلة ولم يراجعه أحد بما يكفي. هذه ليست فرضية، هذا ما حدث.

وفي الهند، كشف تحقيق صحفي استقصائي معمق كيف قطعت خوارزميات الرعاية الغامضة الإعانات خطأ عن آلاف من أفقر المواطنين. لم تكن النتيجة أرقاماً في تقرير، بل جوعاً حقيقياً في بطون حقيقية: آلاف حُرموا من الطعام، وآخرون أُعلنوا «أمواتاً» في السجلات بناءً على خطأ خوارزمي، بينما هم أحياء يكافحون لإثبات وجودهم أمام نظام قرر غير ذلك. وقد تطلب كشف هذه الوقائع اللجوء إلى قانون الحق في المعلومات وتجاوز رفض السلطات تسليم السجلات، وهو ما يكشف أن غياب الشفافية ليس عرضاً جانبياً بل جزء من بنية المشكلة نفسها.

وفي هولندا، الدولة التي يُشار إليها نموذجاً للحوكمة الرشيدة، فُككت خوارزمية لكشف احتيال الإعانات في مدينة روتردام، بعد تحقيق موسع شمل خمس دول. وبعد الحصول على الكود المصدري والبيانات، تبين أن النظام كان يصنف متلقي الإعانات استناداً إلى عوامل مثل ملابسهم وطلاقتهم في اللغة، مستهدفاً بشكل خاص الأمهات العازبات من خلفيات مهاجرة. آلة تقرر مصير أناس بناءً على لغتهم وملبسهم، وهي بالضبط الصورة التي يُفترض أن يحمينا منها وجود عقل بشري يقف بين الرقم والقرار، عقل يمكن سؤاله: لماذا؟

الدعوة إلى مسؤولية بشرية لا إلى رفض التقنية

لنكن دقيقين إذن في ما نقوله وما لا نقوله. هذه ليست دعوة إلى رفض الذكاء الاصطناعي، فالأداة في ذاتها واعدة، وقدرتها على تحليل البيانات وكشف الأنماط نعمة حقيقية للإدارة الحديثة. لكن هناك فرقاً جوهرياً – وهو الفارق الذي تدور حوله كل هذه السطور – بين أن يكون النموذج مستشاراً ينير قرار الإنسان، وأن يكون قاضياً يصدره نيابة عنه. وحين نرسل ما تنتجه الآلة بصفته «التقييم الكامل»، نكون قد سلمنا الأمانة لمن لا يحمل وعياً ولا يتحمل مسؤولية. والعدالة، في نهاية المطاف، لا تُقاس بسرعة المعالجة ولا بدقة المعادلة، بل بقدرة النظام على الإنصاف في الحالة العاشرة – تلك التي تخطئها الآلة، ولا ينقذها إلا إنسان ما زال في الحلقة، إنسان يقرأ ويفكر ويتحمل ما يوقع عليه اسمه. والسؤال الذي ينبغي أن يُطرح في كل مجلس إداري، وعلى كل طاولة قرار في الأجهزة، ليس «كيف ندخل الذكاء الاصطناعي إلى العمل؟» بل «من يوقع باسمه على ما تقوله الآلة؟». فمن لا يستطيع أن يجيب عن هذا السؤال بوضوح، لا يحق له أن يستخدم الأداة أصلاً.

*قسم الإحصاء وبحوث العمليات – كلية العلوم – جامعة الملك سعود
البريد الإلكتروني: [email protected]