من أداة مساعدة إلى شريك في القرار: من يتحمل المسؤولية؟

تخيّل أن نظام ذكاء اصطناعي أوصى برفض طلب تمويل، أو استبعاد مرشّح لوظيفة، أو تغيير قرار يتعلّق بعميل. قد تبدو التوصية منطقية ومدعومة بالبيانات، لكن ماذا لو كانت خاطئة؟ ومن يتحمّل مسؤوليتها؟

لم يعد دور الذكاء الاصطناعي مقتصرًا على تلخيص المعلومات وإعداد التقارير؛ إذ أصبحت بعض الأنظمة قادرة على تحليل البدائل وتقديم التوصيات، بل وتنفيذ إجراءات ضمن صلاحيات محدّدة. وهنا يظهر سؤال يتجاوز دقة التقنية: متى نسمح للذكاء الاصطناعي بالمشاركة في القرار، ومتى يجب أن يتدخّل الإنسان؟

القرار ليس مجرد نتيجة حسابية

يمكن للذكاء الاصطناعي معالجة كميات كبيرة من البيانات واكتشاف أنماط قد يصعب ملاحظتها يدويًّا. لكن القرار المؤسسي لا يعتمد على البيانات وحدها؛ فقد يتطلّب فهمًا للسياق، وموازنةً للمخاطر، ومراعاةً لآثاره على الأشخاص.

ويشير إطار المعهد الوطني الأمريكي للمعايير والتقنية (NIST) لإدارة مخاطر الذكاء الاصطناعي إلى أهمية تحديد الأدوار والمسؤوليات البشرية، ومراعاة أثر التفاعل بين الإنسان والنظام. وهذا يعني أن وجود موظف يضغط زر «موافقة» لا يكفي لإثبات وجود رقابة بشرية فعّالة، خصوصًا إذا لم يكن قادرًا على فهم التوصية أو الاعتراض عليها. (airc.nist.gov)

فقد تبدو الرقابة البشرية موجودة على الورق بينما تكون غائبة عمليًّا. إذا تلقّى الموظف توصية آلية ثم وافق عليها دون أن يملك المعلومات أو الصلاحية أو الوقت الكافي لمراجعتها، فإن وجوده في المسار لا يضمن رقابة فعّالة. ويتعامل NIST مع التفاعل بين الإنسان والذكاء الاصطناعي باعتباره جزءًا من إدارة المخاطر، لأن الأنظمة قد تعمل باستقلال كامل في بعض السياقات أو بوصفها رأيًا إضافيًّا لمتّخذ القرار في سياقات أخرى.

ولهذا يمكن تصميم العملية على مستويات مختلفة. قد يقدّم النظام معلومة فقط، أو يرتّب البدائل، أو يصدر توصية، أو ينفّذ الإجراء. الفرق بين هذه المستويات ليس تقنيًّا فقط؛ فكل مستوى يغيّر مقدار التأثير الذي يملكه النظام والمسؤولية المطلوبة ممّن يستخدمه.

حالة يفشل فيها الإشراف البشري

لنفترض أن نظامًا يرتّب مجموعة من الطلبات ويقدّم لموظف قائمة مختصرة لاعتمادها. إذا لم يرَ الموظف الطلبات التي استبعدها النظام، ولم يعرف البيانات التي أثّرت في الترتيب، فلن يستطيع اكتشاف خطأ حدث قبل وصول النتيجة إليه. هنا توجد «موافقة بشرية»، لكن الإنسان يراجع النتيجة النهائية فقط ولا يملك رؤية كافية إلى العملية التي أنتجتها.

لهذا يضع NIST الحوكمة بوصفها وظيفة ممتدّة عبر إدارة المخاطر، مع توثيق الأدوار وخطوط المسؤولية، والمراجعة الدورية، ووضع هياكل مساءلة واضحة للأشخاص والفرق المسؤولة عن أنظمة الذكاء الاصطناعي. (airc.nist.gov)

من يقدّم التوصية؟ ومن يملك القرار؟

ليس من الضروري أن تتعامل المؤسسات مع جميع القرارات بالطريقة نفسها. فقد تسمح للنظام بتنفيذ إجراء منخفض المخاطر تلقائيًّا، بينما تشترط مراجعة بشرية قبل اتخاذ قرار يمسّ حقوق الأفراد أو مصالحهم.

وتؤكّد مبادئ منظمة التعاون الاقتصادي والتنمية (OECD) أهمية الشفافية وإمكانية التتبّع والمساءلة. وهي لا تكتفي بالدعوة إلى الشفافية العامة، بل تشير إلى توفير معلومات مناسبة تساعد المتأثّرين بمخرجات النظام على فهمها، وحيث يكون ذلك ممكنًا ومفيدًا، الاعتراض عليها. كما تربط المساءلة بإمكانية تتبّع البيانات والعمليات والقرارات عبر دورة حياة النظام. (oecd.org)

المسألة إذن ليست اختيارًا مطلقًا بين الإنسان والآلة، بل تصميم علاقة واضحة بينهما: ما حدود صلاحية النظام؟ ومن يراجع مخرجاته؟ وكيف يمكن الاعتراض على القرار أو تصحيحه؟

المسؤولية لا تنتقل إلى الخوارزمية

عندما تتبنّى مؤسسة توصية خاطئة، لا يكفي أن تقول إن النظام هو من اقترحها. فالمساءلة تتطلّب معرفة البيانات التي استُخدمت، وكيف جرى اعتماد التوصية، ومن كان مسؤولًا عن الرقابة. ولهذا يدعو إطار NIST إلى توثيق المسؤوليات ووضع آليات للمراجعة المستمرة. (nvlpubs.nist.gov)

يستطيع الذكاء الاصطناعي أن يوسّع قدرة المؤسسة على التحليل، لكنه لا يعفيها من مسؤولية قراراتها. فالسؤال الحقيقي ليس: هل نثق بتوصية الآلة؟ بل: هل صمّمنا عملية اتخاذ القرار بحيث نستطيع فهم التوصية، ومراجعتها، وتحمّل مسؤولية اعتمادها؟

متى نسمح للذكاء الاصطناعي بالمشاركة في القرار؟

يكون استخدامه أقرب إلى الملاءمة عندما يكون دوره محدّدًا، ويمكن فحص البيانات التي اعتمد عليها، وتوجد آلية لتصحيح الخطأ أو الاعتراض على النتيجة، ويعرف الإنسان بوضوح ما إذا كان النظام يقدّم معلومة أم توصية أم ينفّذ إجراءً.

أما عندما يمسّ القرار حقوق الأشخاص أو مصالحهم بصورة جوهرية، فتصبح الحاجة أكبر إلى رقابة بشرية ذات معنى، وإمكانية التتبّع والاعتراض، وتحديد الجهة المسؤولة عن اعتماد النتيجة. لا يعني ذلك أن كل قرار مؤثّر يجب أن يُتّخذ يدويًّا، بل أن مستوى الرقابة يجب أن يتناسب مع السياق والمخاطر.

الأسئلة الشائعة

هل يجب أن يتّخذ الإنسان القرار النهائي دائمًا؟

لا يقرّر إطار NIST نموذجًا واحدًا لجميع الاستخدامات؛ إذ يمكن أن تتراوح العلاقة من نظام مستقلّ إلى نظام يقدّم رأيًا إضافيًّا للإنسان. المهم هو اختيار شكل التفاعل وفق السياق والمخاطر، وتعريف المسؤوليات بوضوح.

ما المقصود بالرقابة البشرية الفعّالة؟

ليست مجرد وجود موظف في نهاية العملية، بل أن يملك دورًا وصلاحية ومعلومات تسمح له بفهم المخرجات ومراجعتها والتدخّل عندما يلزم. وهذا يتّفق مع تركيز NIST على تعريف أدوار الإنسان ومسؤولياته في اتخاذ القرار والإشراف.

لماذا تُعدّ إمكانية التتبّع مهمة؟

لأن مراجعة قرار خاطئ تتطلّب معرفة المدخلات والعمليات والمسؤوليات المرتبطة به. وتضع OECD التتبّع ضمن عناصر المساءلة عبر دورة حياة نظام الذكاء الاصطناعي.

هل الشفافية تعني كشف كل تفاصيل النموذج؟

ليس بالضرورة. تركّز مبادئ OECD على تقديم معلومات ذات معنى ومناسبة للسياق عن قدرات النظام وحدوده والعوامل أو المصادر التي أسهمت في المخرج، بما يساعد على فهم النتيجة والاعتراض عليها عند الحاجة.

هل يمكن للمؤسسة نقل المسؤولية إلى مزوّد النظام؟

أطر المساءلة لا تلغي مسؤوليات المؤسسة التي تنشر النظام أو تستخدم مخرجاته. تقرير OECD عن المساءلة يربط إدارة المخاطر بالأدوار المختلفة عبر دورة حياة النظام، وبالقدرة الفعلية لكل طرف على التصرّف. (oecd.org)

المراجع

1. المعهد الوطني الأمريكي للمعايير والتقنية — Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST، يناير ٢٠٢٣). nist.gov · النصّ الكامل PDF
2. NIST — AI Risk Management and Human-AI Interaction (الملحق ج من إطار AI RMF). airc.nist.gov
3. NIST — AI RMF Core (وظائف الحوكمة والرسم والقياس والإدارة). airc.nist.gov
4. منظمة التعاون الاقتصادي والتنمية — OECD AI Principles (اعتُمدت ٢٠١٩، وحُدّثت ٢٠٢٤). oecd.org
5. OECD — Advancing Accountability in AI: Governing and Managing Risks Throughout the Lifecycle for Trustworthy AI (OECD Publishing، فبراير ٢٠٢٣). oecd.org

ملاحظة تحريرية: المثال الافتتاحي (رفض تمويل، استبعاد مرشّح) وتقسيم القرارات إلى مستويات مخاطر هما تطبيق تحليلي لمبدأ إدارة المخاطر، لا صياغة حرفية واردة في NIST أو OECD.