سيدي اسباعي
دافعت أمل الفلاح السغروشني، الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، بقوة عن ضرورة صياغة نموذج جديد لمساءلة نظم الذكاء الاصطناعي الوكيل (agentique)، معتبرة أن تحديد المسؤولية القانونية لهذه النظم يمثل “ربما أحد أكبر التحديات القانونية في هذا العقد”.
وجاء هذا الموقف خلال مشاركتها في ندوة رفيعة المستوى بجنيف، خصصت لمناقشة احترام وحماية وتعزيز حقوق الإنسان في عصر الذكاء الاصطناعي، والتي تم تنظيمها في إطار فعاليات الحوار العالمي حول حكامة الذكاء الاصطناعي.
وفي ذات السياق، سلطت الوزيرة الضوء على التعقيد البنيوي الذي يكتنف هذه التكنولوجيا، موضحة أن نظم الذكاء الاصطناعي الوكيل لا تتحرك ككتلة واحدة، بل تعتمد على شبكة معقدة من الوكلاء المستقلين الذين يتدخل كل منهم على مستواه الخاص، مما يلغي وجود فاعل بشري واحد وراء القرار النهائي بشكل مباشر.
وهذا التداخل والتشابك يطرح معضلة حقيقية في سياق الحكامة، حيث يصبح من الصعب للغاية تحديد أي من هؤلاء الوكلاء يجب اعتباره مسؤولا في حالة حدوث خلل ما، أو حتى كيفية توزيع هذه المسؤولية بين مختلف الأطراف والوكلاء المعنيين بالعملية.
وتشبه هذه المعضلة التكنولوجية، حسب تعبير المسؤول الحكومي، مساهمة عدة أطراف يقدم كل منهم جزءا من عملية واحدة، إذ يمكن أن تؤدي النتيجة النهائية إلى إلحاق الضرر بالمستخدمين دون إمكانية تحديد مكان وقوع الخطأ بدقة، أو التوقيت الذي حدث فيه، أو حصة مسؤولية كل طرف، وهو تحدٍ يزداد عمقا بسبب مشكلات السببية الزمنية وتعقيد النماذج الرقمية الحديثة التي باتت تتكون من مليارات المعايير.
ولتقريب الصورة وتوضيح حجم هذه الإشكالية، استدلت السغروشني بالنموذج المغربي الذي يعالج ما يقرب من 52 مليون معاملة إدارية سنويا، مؤكدة أنه على مثل هذا المستوى الضخم من المعاملات، يشكل التحديد الدقيق لمصدر أي خلل تقني تحديا هائلا يستوجب حلولاً مبتكرة.
وأمام هذه التحديات المتسارعة، دعت الوزيرة إلى تطوير طرق جديدة قادرة على الاستجابة للتعقيد المتزايد لهذه النظم التقريرية، مقترحة اعتماد مقاربة عملية تقوم على آلية “كبح التدفق” (throttling).
وتتيح هذه المقاربة إعادة بناء مخطط سببي غير حتمي لأفعال النظم الوكيلة، مما يساعد على تحديد القوانين المنطبقة عند كل نقطة أو “عقدة” تقنية، وإبراز المناطق الرمادية التي تظل دون تغطية قانونية واضحة، حيث يمكن أن تظهر مخاطر حقيقية تهدد حقوق الأفراد وتلحق الضرر بهم.
وفي سياق متصل، حددت الوزيرة ثلاثة التزامات أساسية وعاجلة لتعزيز مساءلة نظم الذكاء الاصطناعي وجعلها أكثر أمانا، يتجلى أولها في وضع توثيق هيكلي دقيق لسلسلة الوكلاء يوضح بوضوح “من يفعل ماذا، وكيف، وفي أي وقت”، لاسيما في قطاع الخدمات العمومية.
أما الالتزام الثاني فيفرض تعيين مسؤول بشري محدد بشكل واضح لكل قرار يمكن أن يؤثر على حقوق الأفراد، فيما ينص الالتزام الثالث على ضمان الحق في اللجوء إلى وسائل طعن فعالة وقانونية داخل أجل زمني سريع يتوافق مع السرعة الفائقة التي تعمل بها نظم الذكاء الاصطناعي.
وخلصت الوزيرة في مرافعتها إلى إطلاق تحذير حاسم أكدت فيه أن “الاستقلالية التشغيلية لخوارزمية ما يجب ألا تتحول أبداً إلى استقلالية عن القانون”، مطالبة بإرساء حكامة استباقية قائمة بالأساس على مبادئ حقوق الإنسان ومتكيفة مع الطفرات التكنولوجية.
