عندما يدخل الذكاء الاصطناعي قاعة المحكمة.. من يتحمل مسؤولية الحكم؟
ميثاق أخلاقي فرنسي يفتح سؤالًا عالميًا: هل تستطيع المؤسسات استخدام الذكاء الاصطناعي دون أن تتنازل عن مسؤولية القرار؟
- عندما يدخل الذكاء الاصطناعي قاعة المحكمة
- ميثاق أخلاقي فرنسي يفتح سؤالًا عالميًا: هل تستطيع المؤسسات استخدام الذكاء الاصطناعي دون أن تتنازل عن مسؤولية القرار؟
- أستاذ هندسة الحاسبات والذكاء الاصطناعي والأمن السيبراني
- كلية الهندسة – الجامعة المصرية الروسية
عندما يدخل الذكاء الاصطناعي قاعة المحكمة.. من يتحمل مسؤولية الحكم؟
ميثاق أخلاقي فرنسي يفتح سؤالًا عالميًا: هل تستطيع المؤسسات استخدام الذكاء الاصطناعي دون أن تتنازل عن مسؤولية القرار؟
بقلم: الأستاذ الدكتور وائل بدوي
أستاذ هندسة الحاسبات والذكاء الاصطناعي والأمن السيبراني
كلية الهندسة – الجامعة المصرية الروسية
تخيل أن تقف أمام قاضٍ ينظر في قضية قد تغير مستقبلك، ثم تكتشف أن جزءًا من التحليل القانوني الذي استند إليه قد أُعد بواسطة نظام ذكاء اصطناعي.
قد لا يكون في ذلك ما يدعو إلى القلق إذا كانت الأداة قد ساعدت على البحث في السوابق القضائية أو تنظيم المستندات أو مراجعة النصوص القانونية.
لكن ماذا لو قدم النظام معلومة غير صحيحة؟ أو استشهد بحكم قضائي غير موجود؟ أو تجاهل واقعة مهمة؟ أو اقترح نتيجة تبدو منطقية لكنها لا تتفق مع القانون؟
والأهم من ذلك كله: من يتحمل المسؤولية عندما يؤثر خطأ الخوارزمية في مصير إنسان؟
هذا السؤال لم يعد مجرد سيناريو افتراضي، بل أصبح جزءًا من النقاش العالمي حول مستقبل العدالة في عصر الذكاء الاصطناعي.
وفي الثاني والعشرين من أكتوبر 2026، أُعلن عن اعتماد ميثاق أخلاقي لاستخدام الذكاء الاصطناعي داخل محكمة النقض الفرنسية، وفق المعلومات المنشورة عن المبادرة.
وتتجاوز أهمية هذه الخطوة المؤسسة القضائية نفسها؛ لأنها تعيد طرح قضية أساسية تواجه كل مؤسسة تستخدم التكنولوجيا الذكية: كيف نستفيد من قدرات الآلة دون أن نفقد السيطرة البشرية على القرار أو القدرة على مساءلة من يتخذه؟
القضاء ليس مجرد عملية حسابية
قد يستطيع الذكاء الاصطناعي تحليل آلاف الصفحات القانونية خلال وقت قصير، واستخراج النصوص المرتبطة بقضية معينة، ومقارنة الأحكام، وتحديد بعض الأنماط المتكررة في السوابق القضائية.
لكن إصدار الحكم لا يقتصر على جمع المعلومات أو العثور على حالات متشابهة.
فالقاضي يحتاج إلى تفسير النصوص، وتقييم الأدلة، وفهم السياق، والموازنة بين الحقوق والمصالح، وتطبيق المبادئ القانونية على وقائع قد تختلف في تفاصيلها الدقيقة.
كما أن العدالة تتضمن أبعادًا إنسانية وأخلاقية لا يمكن اختزالها في نتائج إحصائية.
فالتشابه بين قضيتين لا يعني بالضرورة تطابق الحكم فيهما.
وقد تكون هناك واقعة صغيرة تغير التكييف القانوني بالكامل، أو مبدأ دستوري يفرض تفسيرًا مختلفًا، أو ظروف تستوجب مراجعة أعمق.
ولهذا فإن الاعتماد على الأنظمة الذكية في المجال القضائي يجب أن يظل محكومًا بحدود واضحة.
فالذكاء الاصطناعي يمكن أن يساعد القاضي على الوصول إلى المعلومات، لكنه لا ينبغي أن يتحول إلى مصدر مستقل للسلطة القضائية.
والفرق هنا جوهري بين استخدام التكنولوجيا لدعم العدالة وبين تفويض العدالة إلى التكنولوجيا.
الإنسان أولًا.. مبدأ يتجاوز المحاكم
من أهم المبادئ التي تبرز في التوجه الفرنسي التأكيد على أولوية الإنسان في اتخاذ القرار القضائي.
ولا تعني هذه الأولوية مجرد وجود قاضٍ يضغط على زر الموافقة بعد أن يقدم النظام توصيته.
فالإشراف البشري الحقيقي يتطلب أن يفهم المسؤول طبيعة المعلومات المستخدمة، وحدود النظام، وأسباب التوصية، والمخاطر المحتملة.
كما يتطلب أن يمتلك القدرة الفعلية على رفض المخرجات أو تعديلها أو طلب مراجعة إضافية.
وهذا المبدأ لا يقتصر على القضاء.
ففي المستشفيات، يمكن للذكاء الاصطناعي أن يساعد الطبيب في تحليل الصور الطبية، لكن القرار العلاجي يجب أن يستند إلى تقييم سريري مسؤول.
وفي البنوك، قد تستخدم الخوارزميات لتقييم مخاطر الائتمان، لكن القرارات المؤثرة في حقوق العملاء تحتاج إلى ضوابط للعدالة والمراجعة.
وفي الجامعات، قد تساعد الأنظمة الذكية على تحليل الأداء الأكاديمي، لكنها لا ينبغي أن تصبح سلطة غير قابلة للطعن في تقييم الطلاب أو اتخاذ القرارات التأديبية.
وفي المؤسسات الحكومية، يمكن للذكاء الاصطناعي تحسين سرعة معالجة الطلبات، لكن ذلك لا يعفي الإدارة من مسؤوليتها عن القرارات التي تؤثر في المواطنين.
والقاعدة المشتركة بين هذه المجالات هي أن استخدام التكنولوجيا لا ينقل المسؤولية القانونية والأخلاقية من الإنسان إلى الآلة.
الخطر الأكبر.. عندما نثق في الإجابة لأنها مكتوبة بثقة
من أبرز التحديات المرتبطة بالذكاء الاصطناعي التوليدي قدرته على إنتاج إجابات تبدو دقيقة ومتماسكة حتى عندما تحتوي على أخطاء.
فقد يقدم النظام تفسيرًا قانونيًا غير صحيح، أو يشير إلى مادة قانونية خارج نطاق تطبيقها، أو ينسب مبدأ إلى حكم قضائي لا يتضمنه.
وقد ينتج أحيانًا مراجع أو سوابق قضائية غير موجودة أصلًا.
وتزداد خطورة هذه الأخطاء عندما يعتمد المستخدم على الأسلوب المقنع للنص بدلًا من التحقق من مصادره.
فالمشكلة ليست فقط في احتمال أن يخطئ الذكاء الاصطناعي، وإنما في احتمال ألا يكتشف الإنسان الخطأ.
وقد أظهرت التجارب العملية في استخدام النماذج اللغوية أن جودة الصياغة لا تمثل ضمانًا لصحة المعلومات.
ولهذا فإن مراجعة المخرجات يجب ألا تقتصر على القراءة السريعة.
بل ينبغي التحقق من وجود المصادر، وصحة النصوص القانونية، وتاريخ سريانها، ونطاق تطبيقها، ومدى ارتباطها بالوقائع محل البحث.
وإذا كانت هذه الإجراءات ضرورية في القضاء، فإنها لا تقل أهمية في القطاعات الأخرى.
فالتقرير المالي الذي يتضمن أرقامًا غير صحيحة قد يؤدي إلى قرار استثماري خاطئ.
والتوصية الطبية غير الدقيقة قد تؤثر في سلامة المريض.
والتحليل الأمني الخاطئ قد يؤدي إلى تعطيل أنظمة حيوية.
ولهذا فإن المسؤولية المهنية تقتضي التعامل مع مخرجات الذكاء الاصطناعي باعتبارها مواد تحتاج إلى التحقق، لا حقائق نهائية لمجرد أن النظام قدمها بثقة.
هل يهدد الذكاء الاصطناعي استقلال التفكير البشري؟
ربما تكون القضية الأكثر عمقًا في هذا النقاش هي تأثير الاعتماد المتكرر على الذكاء الاصطناعي في جودة التفكير المهني.
فحين يقدم النظام إجابة جاهزة، قد يميل المستخدم إلى قبولها دون إجراء تحليل مستقل.
ومع مرور الوقت، يمكن أن يؤدي هذا السلوك إلى تراجع ممارسة بعض المهارات المعرفية، خصوصًا إذا أصبحت الأداة مسؤولة عن الخطوات التي كان الإنسان يؤديها بنفسه.
وفي المجال القانوني، قد يؤدي الاعتماد المفرط على الأنظمة الذكية إلى تكرار الأنماط السابقة في تفسير القضايا، بدلًا من تطوير اجتهادات جديدة تستجيب للظروف المتغيرة.
فالخوارزميات التي تتعلم من السوابق قد تميل إلى إعادة إنتاج ما هو شائع في البيانات.
لكن تطور القانون لا يعتمد على تكرار الأحكام السابقة وحدها، بل يتطلب أيضًا القدرة على النقد وإعادة التفسير ومراجعة المبادئ في ضوء الوقائع الجديدة.
وهنا يظهر خطر يمكن وصفه بالجمود المعرفي الناتج عن الأتمتة.
فإذا أصبح جميع العاملين يستخدمون الأدوات نفسها، ويعتمدون على المصادر نفسها، ويتلقون توصيات متشابهة، فقد يتراجع التنوع في طرق التفكير.
وهذا الخطر لا يقتصر على القانون.
فقد يظهر في البحث العلمي عندما تعتمد فرق مختلفة على النماذج نفسها لتوليد الفرضيات.
وقد يظهر في الإدارة عندما تستخدم الشركات أنظمة متشابهة لتقييم الموظفين أو اتخاذ القرارات الاستراتيجية.
وقد يظهر في الإعلام عندما تنتج أدوات الذكاء الاصطناعي نصوصًا متقاربة في الأفكار والبناء والتحليل.
ولهذا فإن الاستخدام المسؤول للتكنولوجيا يجب أن يحافظ على قدرة الإنسان على التفكير المستقل والاختلاف والنقد.
فالذكاء الاصطناعي الجيد لا ينبغي أن يجعل جميع البشر يفكرون بالطريقة نفسها، وإنما أن يساعدهم على التفكير بصورة أعمق وأكثر اطلاعًا.
حماية البيانات.. عندما تصبح المعلومة السرية جزءًا من المحادثة
تُعد حماية البيانات من أكثر القضايا حساسية في استخدام الذكاء الاصطناعي داخل المؤسسات.
فقد يحتوي ملف قضائي على معلومات شخصية أو مالية أو صحية أو تفاصيل سرية تتعلق بالأطراف.
وقد يعتقد المستخدم أن إدخال هذه البيانات في أداة ذكاء اصطناعي خارجية لا يختلف عن استخدامها في برنامج مكتبي تقليدي.
لكن طبيعة معالجة البيانات في الخدمات السحابية قد تثير أسئلة تتعلق بمكان التخزين، والجهات التي تستطيع الوصول إلى المعلومات، ومدد الاحتفاظ بها، وإمكان استخدامها لأغراض أخرى وفق شروط الخدمة والعقود.
ولهذا لا ينبغي إدخال المعلومات الحساسة في أي أداة دون التحقق من الضوابط القانونية والتقنية التي تحكم استخدامها.
وينطبق ذلك على المحاكم والمستشفيات والبنوك والشركات والجامعات.
فقد يتسبب موظف في تسريب معلومات مهمة دون قصد عندما ينسخ مستندًا داخليًا إلى أداة عامة بهدف تلخيصه أو ترجمته.
وقد يشارك باحث بيانات غير منشورة أو معلومات تتعلق بملكية فكرية قبل التأكد من شروط المعالجة والحماية.
ولهذا فإن سياسة استخدام الذكاء الاصطناعي يجب أن تحدد أنواع البيانات المسموح بإدخالها، والأنظمة المعتمدة لمعالجتها، والإجراءات المطلوبة قبل مشاركة أي معلومات حساسة.
كما ينبغي أن تشمل تدريب الموظفين على المخاطر المرتبطة بالاستخدام اليومي لهذه الأدوات.
فالأمن السيبراني لا يعتمد على الجدران النارية والتشفير وحدهما، بل يبدأ أيضًا من قرارات المستخدمين.
لماذا تحتاج المؤسسات إلى أدوات ذكاء اصطناعي قابلة للتدقيق؟
من المبادئ المهمة في الحوكمة المؤسسية ضرورة استخدام أدوات يمكن تقييمها ومراقبتها والتحقق من أدائها.
فالمؤسسة التي تعتمد على نظام ذكاء اصطناعي في عمليات حساسة تحتاج إلى معرفة حدود صلاحياته، ومصادر بياناته، وطريقة إدارة تحديثاته، والإجراءات المتاحة عند حدوث خطأ.
كما تحتاج إلى سجلات مناسبة تسمح بتتبع العمليات ومراجعة القرارات، مع مراعاة متطلبات الخصوصية والسرية.
وتصبح هذه المتطلبات أكثر أهمية مع انتشار أنظمة الذكاء الاصطناعي الوكيلية التي تستطيع استخدام أدوات رقمية وتنفيذ خطوات متعددة.
فقد يستطيع النظام قراءة ملفات أو إرسال رسائل أو تعديل بيانات أو تشغيل إجراءات آلية.
وإذا لم تُحدد الصلاحيات بصورة دقيقة، فقد يؤدي خطأ أو محاولة تلاعب إلى تنفيذ إجراء غير مصرح به.
ولهذا ينبغي تطبيق مبدأ الحد الأدنى من الصلاحيات، بحيث لا يحصل النظام إلا على القدرات اللازمة للمهمة المحددة.
كما يجب الفصل بين اقتراح القرار وتنفيذه، خصوصًا في العمليات التي قد تترتب عليها آثار قانونية أو مالية أو أمنية كبيرة.
فالقدرة التقنية على تنفيذ إجراء لا تعني امتلاك الصلاحية المؤسسية لتنفيذه.
من سياسة الذكاء الاصطناعي إلى حوكمته
قد تعلن مؤسسة أنها أصدرت سياسة داخلية لاستخدام الذكاء الاصطناعي.
وقد تتضمن هذه السياسة تعليمات بعدم إدخال البيانات السرية، وضرورة مراجعة النتائج، والالتزام بالقوانين.
لكن وجود الوثيقة لا يعني بالضرورة أن المؤسسة أصبحت قادرة على إدارة المخاطر.
فالسياسة تحدد القواعد، أما الحوكمة فتتعلق بكيفية تطبيق هذه القواعد ومراقبتها وتحديثها وتحديد المسؤولية عن الالتزام بها.
وهذا الفرق يمثل أحد أهم الدروس التي يمكن استخلاصها من التوجه الفرنسي.
فالحوكمة الفعالة تحتاج إلى تحديد المسؤوليات بين الإدارة العليا، والفرق التقنية، والإدارة القانونية، والأمن السيبراني، وحماية البيانات، والمستخدمين.
كما تحتاج إلى تصنيف الاستخدامات وفق مستوى المخاطر.
فقد يكون استخدام الذكاء الاصطناعي لتحسين صياغة رسالة إدارية منخفض المخاطر نسبيًا.
أما استخدامه في تقييم طلب ائتمان أو تقديم توصية طبية أو تحليل أدلة قضائية، فيتطلب ضوابط أكثر صرامة.
ولا ينبغي تطبيق مستوى الرقابة نفسه على جميع الاستخدامات، لأن ذلك قد يؤدي إما إلى تعطيل الابتكار أو إلى التقليل من المخاطر الحقيقية.
والأفضل هو تصميم ضوابط تتناسب مع طبيعة المهمة وحجم الضرر المحتمل.
كما يجب تقييم الأنظمة قبل استخدامها، ومراجعتها بصورة دورية، والتحقق من أن التحديثات لا تؤدي إلى تراجع الأداء أو ظهور مخاطر جديدة.
فالحوكمة ليست قرارًا إداريًا يُتخذ مرة واحدة، وإنما عملية مستمرة تتطور مع التكنولوجيا.
ماذا يجب أن تتعلم الشركات العربية؟
تمثل هذه التطورات فرصة للمؤسسات العربية لإعادة النظر في طريقة تبني الذكاء الاصطناعي.
فبعض المؤسسات تتعامل مع هذه التكنولوجيا باعتبارها وسيلة سريعة لخفض التكاليف وزيادة الإنتاجية.
وقد تبدأ باستخدام أدوات عامة دون تحديد واضح للبيانات المسموح بمعالجتها أو المسؤولية عن النتائج.
لكن التوسع غير المنضبط قد يؤدي إلى مشكلات تتعلق بالخصوصية أو جودة القرارات أو الأمن السيبراني أو الالتزام القانوني.
ولهذا ينبغي أن يبدأ الاستخدام المؤسسي بتحديد الأهداف الفعلية للتكنولوجيا.
فهل المطلوب تحسين خدمة العملاء؟ أم تحليل البيانات؟ أم دعم القرارات؟ أم أتمتة إجراءات محددة؟
ثم يجب تقييم المخاطر المرتبطة بكل استخدام، وتحديد الأشخاص المسؤولين عن المراجعة والاعتماد، ووضع معايير لقياس الجودة.
كما ينبغي تدريب الموظفين على فهم حدود الأنظمة الذكية، وليس فقط على كتابة التعليمات للحصول على إجابات أفضل.
فالموظف الذي يستطيع استخدام الأداة دون أن يعرف كيف يتحقق من نتائجها قد يتحول إلى مصدر جديد للمخاطر.
أما الموظف الذي يفهم إمكانات التكنولوجيا وحدودها، فيمكن أن يحقق إنتاجية أعلى مع الحفاظ على جودة العمل.
القضاء والطب والتعليم.. مسؤولية لا يمكن تفويضها
تكشف تجربة الحوكمة القضائية عن مبدأ يصلح للتطبيق في قطاعات عديدة، وهو أن المسؤولية المهنية لا تختفي عند استخدام الذكاء الاصطناعي.
فالطبيب يظل مسؤولًا عن القرار الطبي الذي يتخذه.
والقاضي يظل مسؤولًا عن الحكم الذي يصدره.
والباحث يظل مسؤولًا عن صحة البيانات والنتائج التي ينشرها.
والمهندس يظل مسؤولًا عن سلامة التصميم الذي يعتمد عليه.
والمدير يظل مسؤولًا عن القرارات التي تؤثر في الموظفين والعملاء.
ولا يمكن لأي منهم أن يعفي نفسه من المسؤولية بالقول إن النظام الذكي هو الذي اقترح القرار.
وهذا لا يعني رفض التكنولوجيا أو التقليل من إمكاناتها.
بل يعني استخدامها بطريقة تحافظ على الدور المهني للإنسان، وتمنحه أدوات أفضل دون أن تنزع عنه واجب التفكير والتحقق.
هل نحتاج إلى مواثيق عربية لاستخدام الذكاء الاصطناعي؟
مع التوسع في استخدام الذكاء الاصطناعي داخل المؤسسات الحكومية والخاصة، تبرز الحاجة إلى أطر حوكمة واضحة تراعي القوانين الوطنية والخصوصية الثقافية ومتطلبات القطاعات المختلفة.
لكن هذه الأطر لا ينبغي أن تكون مجرد نسخ مترجمة من وثائق دولية.
فالمؤسسات العربية تحتاج إلى قواعد عملية تستجيب لطبيعة بياناتها وبنيتها التقنية ومستوى جاهزيتها الرقمية.
كما تحتاج إلى تحديد المسؤوليات القانونية والمهنية بصورة واضحة، وتطوير قدرات وطنية في تقييم الأنظمة الذكية وتدقيقها.
ومن المهم أيضًا تعزيز التعاون بين الجامعات والجهات التنظيمية والمؤسسات الصناعية لتطوير أدوات ومعايير يمكن تطبيقها عمليًا.
فالتحدي ليس في كتابة المبادئ الأخلاقية، وإنما في تحويلها إلى إجراءات قابلة للتنفيذ والقياس والمراجعة.
المستقبل ليس لقاضٍ آلي.. بل لعدالة أكثر قدرة على الاستفادة من المعرفة
قد يستطيع الذكاء الاصطناعي أن يجعل البحث القانوني أسرع، وأن يساعد على تنظيم الملفات، وأن يقلل بعض الأعمال المتكررة.
وقد يتيح للقضاة والمحامين وقتًا أكبر للتركيز على المسائل القانونية المعقدة.
لكن هذه الفوائد لن تتحقق بصورة مستدامة إذا أدت التكنولوجيا إلى تراجع الاستقلال الفكري أو ضعف التحقق أو غموض المسؤولية.
فالعدالة لا تحتاج فقط إلى قرارات سريعة، بل إلى قرارات صحيحة ومبررة وقابلة للمراجعة.
ولا تحتاج المؤسسات فقط إلى أنظمة أكثر ذكاءً، بل إلى قدرة أكبر على فهم هذه الأنظمة والتحكم فيها ومساءلة مستخدميها.
وهنا تكمن الرسالة الأوسع للميثاق الأخلاقي الفرنسي.
فالذكاء الاصطناعي ليس مجرد أداة تقنية جديدة، بل اختبار لقدرة المؤسسات على الحفاظ على قيمها المهنية في ظل التحول الرقمي.
وفي النهاية، فإن السؤال الذي يجب أن تطرحه كل مؤسسة ليس ما إذا كانت تمتلك أحدث أدوات الذكاء الاصطناعي، بل ما إذا كانت تمتلك القدرة على استخدامها بصورة مسؤولة.
هل تعرف المؤسسة أين تستخدم هذه الأدوات؟
وهل تعرف ما البيانات التي تعالجها؟
وهل تستطيع التحقق من نتائجها؟
وهل حددت المسؤول عن اعتماد القرارات؟
وهل تستطيع اكتشاف الأخطاء وتصحيحها قبل أن تؤثر في حقوق الناس؟
وهل تراجع المخاطر بصورة مستمرة؟
إن أخطر ما يمكن أن يحدث في عصر الذكاء الاصطناعي ليس أن تصبح الآلات أكثر قدرة على اتخاذ القرارات، بل أن يصبح البشر أقل استعدادًا لتحمل مسؤولية تلك القرارات.
ولهذا فإن مستقبل الحوكمة لا يقوم على منع التكنولوجيا، ولا على إطلاقها دون قيود، وإنما على بناء مؤسسات تعرف متى تستخدم الذكاء الاصطناعي، ومتى تتحقق منه، ومتى ترفض توصياته.
فالعدالة لا تصبح أكثر عدالة لمجرد أنها تستخدم الذكاء الاصطناعي، كما أن الإدارة لا تصبح أكثر كفاءة لمجرد أنها تعتمد على الخوارزميات.
إن القيمة الحقيقية تظهر عندما تساعد التكنولوجيا الإنسان على اتخاذ قرارات أفضل، دون أن تحرمه من القدرة على التفكير المستقل أو تعفيه من المسؤولية.
والسؤال الذي سيحدد مستقبل المؤسسات ليس: هل يستطيع الذكاء الاصطناعي اتخاذ القرار؟
بل: هل سنظل نحن قادرين على فهم القرار ومراجعته وتحمل مسؤوليته؟
الأستاذ الدكتور وائل بدوي
أستاذ هندسة الحاسبات والذكاء الاصطناعي والأمن السيبراني
كلية الهندسة – الجامعة المصرية الروسية
