أصدر «تريندز للبحوث والاستشارات» العدد الثاني من سلسلة «اتجاهات الذكاء الاصطناعي» تحت عنوان «الحوكمة الخوارزمية وشرعية القرارات المدعومة بالذكاء الاصطناعي في القطاع العام»، وينطلق العدد من إشكالية رئيسية تتمثل في اتساع الفجوة بين التوظيف الحكومي المستمر للذكاء الاصطناعي، وبين بطء تطور الأطر التنظيمية والمؤسسية الضامنة للشرعية.
وترى الدراسة أن شرعية القرارات الخوارزمية في القطاع العام لم تعد مسألة قانونية صلبة فحسب، بل أصبحت مفهوماً متعدد الأبعاد يدمج بين القانون والتقنية والإدارة والمؤسسات والثقة المجتمعية، واستناداً إلى المنهج التحليلي المقارن مراجعةً للأدبيات والتجارب والأطر الدولية، كشفت الدراسة أن تحديات الشرعية لا تعود إلى قصور تقني فقط، بل ترتبط بالحوكمة المؤسسية، وفي مقدمتها إشكالية «الصندوق الأسود»، ومحدودية الشفافية وقابلية التفسير، والتحيزات الخوارزمية، وضبابية المساءلة والمسؤولية القانونية، وخطر انتهاك الخصوصية.

سن تشريعات متخصصة
وتقترح الدراسة إطاراً عربياً شاملاً للحوكمة يقوم على سن تشريعات متخصصة، وإنشاء هياكل رقابية، وإلزامية تقييم الأثر الخوارزمي قبل تشغيل الأنظمة مرتفعة المخاطر، وضمان الإشراف البشري والتدقيق المستقل، تحقيقاً للتوازن المنشود بين تشجيع الابتكار وحماية الحقوق وسيادة القانون.
وتوضح الدراسة أن تحقق الشرعية يعتمد على التكامل المتناغم بين خمسة أبعاد مترابطة: قانونية، وإجرائية، وتقنية، ومؤسسية، ومجتمعية، حيث تتمثل الإضافة العلمية الرئيسية للدراسة في صوغ مفهوم «الشرعية الخوارزمية» امتداداً للشرعية الإدارية، وتقديم إطار أصيل بعنوان «هرم الشرعية الخوارزمية» لتقييم القرارات وإدارة مخاطرها منهجياً.
وتعد «الحوكمة الخوارزمية» أحد أهم المفاهيم المركزية في أدبيات الإدارة العامة والحوكمة الرقمية، وتشير إلى الأطر والقواعد والمؤسسات التي تنظم تصميم واستخدام ومراقبة الأنظمة الخوارزمية داخل القطاع العام، ومع تزايد الاعتماد على الذكاء الاصطناعي في صنع القرار الحكومي، أصبحت الحوكمة الخوارزمية تمثل أحد الشروط الجوهرية لضمان التوازن بين غايتين برز بينها تضاد، وهما الاستفادة من الإمكانات التي توفرها التكنولوجيا، والحفاظ على القيم الأساسية للدولة القانونية.

تحديات قانونية ومؤسسية
وتؤكد الدراسة أن القطاع العام يشهد تحولاً جذرياً في أنماط صنع القرار نتيجة التوسع المتسارع في استخدام تقنيات الذكاء الاصطناعي والخوارزميات في إدارة الخدمات العامة، وتقنيات الموارد، وتقييم المخاطر، ودعم السياسات، ولكن على الرغم من الإمكانات الكبيرة لهذه التقنيات في رفع الكفاءة التشغيلية وتسريع الإجراءات، فإنها فرضت تحديات قانونية ومؤسسية وأخلاقية جديدة طرحت إشكاليات حول شرعية القرارات الحكومية المؤثرة بصورة مباشرة في حقوق الأفراد وحرياتهم ومصالحهم الأساسية.
وتشير إلى أن هذا التحول يثير مجموعة من التساؤلات القانونية والمؤسسية والأخلاقية، تتعلق بطبيعة السلطة التي تمارسها الخوارزميات وحدود مشروعيتها وآليات مساءلتها؛ فالقرارات الحكومية لا تستمد شرعيتها من دقتها التقنية فقط، وإنما من ملاءمتها وتوافقها مع مبادئ المشروعية والعدالة والشفافية والمساءلة والثقة العامة.

شرعية قرارات الخوارزميات
وخلصت الدراسة إلى أن الخوارزميات أصبحت طرفاً مؤثراً في إنتاج القرار الإداري، وأصبح السؤال لم يعد يقتصر على مدى كفاءة هذه الأنظمة وحسب، بل تعداه إلى شرعية القرارات التي تنتج عنها، وقد كشفت تجارب دولية خلال السنوات الماضية عن التحديات التي ترافق الاستخدام الحكومي للذكاء الاصطناعي، فبعض التطبيقات الخوارزمية أدت إلى نتائج تمييزية أو غير عادلة، كما أثارت قضايا متعلقة بالخصوصية والمساءلة وحقوق الأفراد، وأظهرت هذه التجارب أن النجاح التقني لا يضمن بالضرورة القبول المجتمعي أو الشرعية المؤسسية، وأن الإخفاق في إدارة المخاطر المرتبطة بالذكاء الاصطناعي قد يؤدي إلى أزمات سياسية وقانونية واسعة النطاق.