أنت تقرأ الآن:

الذكاء الاصطناعي والعدالة: يقول الحاسوب إنك مذنب

الذكاء الاصطناعي والعدالة: يقول الحاسوب إنك مذنب

سرق بول زيلي، مواطن أمريكي من ولاية ويسكونسن، آلة جز العشب، وأدين بذلك في عام 2013.

عقد محاميه صفقة التماس مع محامي الادعاء لتخفيف العقوبة بسبب بساطة الجريمة، ومثُل أمام قاضٍ في مقاطعة بارون، متصورًا أن القاضي سيصدّق على صفقة الالتماس كالمعتاد.

لكن القاضي، لسوء حظ بول، كان مثل بقية قضاة ويسكونسن، يستخدم تطبيق ذكاء اصطناعي يدعى “كومباس” (Compass) للتكهن بمدى احتمال أن يعود المخالف لارتكاب جريمته خلال عامين. من المتوقع أن نسبة دقة كومباس في التقييم تصل إلى 70%. افترض التطبيق أن “زيلي” عالي الخطورة في ما يخص ارتكاب جرائم عنف في المستقبل، ومتوسط الخطورة في ما يخص العودة لارتكاب الجريمة.

بعد رؤية التقييم وضع القاضي ثقته في البرنامج أكثر من الاتفاق بين الدفاع والادعاء، وقال: “عندما أنظر إلى تقييم الخطورة أجده في أسوأ شكل ممكن”. وبناءً عليه ضاعف عقوبة “زيلي” من سنة في سجن المقاطعة إلى سنتين في سجن الولاية.

الحكم صدر عن قاضٍ بشري، لكن حيثيات الحكم هنا لم تنبع من محامٍ أو مدّعٍ، بل صدرت عن آلة. فمتى صارت الآلة تعرف عن العدالة أكثر من الإنسان؟

عن خلل القضاء البشري

منذ بدء التاريخ، وحتى زمننا الحالي، بنى البشر وحطموا أنظمة عدالة متباينة إلى أقصى حد، لكن جوهرها دومًا كان الشيء ذاته: قواعد متفق على أنها العدالة المجردة، ويقبلها الجميع طوعًا أو كرهًا، وقاضٍ بشري إليه يرجع الحكم في النزاعات استنادًا إلى القواعد، وتتراوح سلطته بين الالتزام التام بالقواعد المنصوصة والخيار بالالتزام بها أو تجاهلها بحسب ما يتراءى له.

سواء كانت القواعد دينًا أو عرفًا مجتمعيًّا أو قانونًا متجبرًا لحاكم ظالم، وسواء كان القاضي رجل دين أو شيخ قبيلة أو ملكًا أو عجوزًا يشهد له المتنازعون بالصلاح، فالأمر في جوهره يكاد يكون نفسه. والنظام القانوني العالمي الحالي لا يختلف كثيرًا في الأساس، مهما تبلغ قوانيننا المعاصرة تعقيدًا ودقة وتحريًا، فالحكم في النهاية يرجع لإنسان عادي، بكل ما في الإنسان من مزايا وعيوب وانحياز ونقائص.

حتى لو افترضنا أن الشخص الذي يضطلع بدور الحكم في النهاية نزيه تمامًا دون أي انحياز لأي طرف من المتنازعين، يبقى القاضي البشري عرضةً لشتى أنواع المؤثرات. 

بروفيسور الرياضيات الإنجليزية “هانا فراي”، تذكر في كتابها “أهلًا بالعالم: أن تكون إنسانًا في عصر الخوارزميات“، أن أبحاثًا عدة أجريت على العوامل النفسية التي تؤثر في سلوك القضاة، فوجدت أن قاضيًا له ابنة مثلًا قد يختلف حكمه دون وعي على فتاة في مثل عمرها عن قاضٍ آخر ليس لديه ابنة، وحكم القاضي في جلسة قبل استراحة تناول الغداء قد يكون أقسى من حكمه بعد الاستراحة، والرجال يتلقون أحكامًا أقسى من النساء في الجرائم ذاتها، وذوي البشرة السوداء ينالون أحكامًا أقسى من غيرهم، وفرصهم في الخروج بكفالة أقل، وكذلك المتهمين الفقراء ومنخفضي مستوى التعليم.

يصب كل ذلك في معضلة ضخمة، وهي معضلة الاتساق، أي عدم اتساق أحكام القضاة المختلفين عند حكمهم في قضايا متشابهة. حاول الباحثون في السبعينيات قياس درجة قلة الاتساق بين القضاة في أحد الأبحاث، فاختلقوا سلسلة من القضايا، وسألوا بشكل مستقل 47 قاضيًا بمحكمة مقاطعة ولاية فرجينيا عن كيفية تعاملهم مع كل قضية. مثال من القضايا المختلَقة كان:

  متّهمة في الثامنة عشرة، قُبض عليها بتهمة حيازة الماريجوانا، هي وصديقها وسبعة من معارفها. كان الدليل الموجود هو العثور على كمية كبيرة من الماريجوانا، منها ما دُخّن وما لم يُدخّن بعد، لكن لم يُعثر على أي ماريجوانا معها شخصيًّا. لم تكن لها أية سابقة جنائية، وكانت طالبة طيبة من بيت ينتمي إلى الطبقة الوسطى، ولم تكن متمردة، ولا اعتذرت عن أفعالها.

النتيجة: 29 قاضيًا حكموا بأنها غير مذنبة، و18 منهم أدانوها، ثمانية ممن أدانوها أوصوا بوضعها تحت المراقبة، وأربعة حكموا بالغرامة، وثلاثة حكموا بالمراقبة والغرامة معًا، وثلاثة رأوا أن الأفضل هو إرسالها إلى السجن.

في دراسة أحدث، سُئل 81 قاضيًا في المملكة المتحدة إن كانوا يمنحون إخلاء سبيل بكفالة لعدد من المتهمين الافتراضيين. كانت لكل قضية افتراضية قصة خلفية مُتخيلة وتاريخ إجرامي مُتخيل. وبالضبط، مثلما حدث مع نظرائهم في دراسة فيرجينيا، فشل القضاة البريطانيون في الاتفاق بالإجماع، ولو في قضية واحدة من 41 قضية قُدمت إليهم. لكن هذه المرة بين 41 قضية افتراضية قُدمت إلى كل قاضٍ، كانت توجد 7 قضايا تكرّرت مرتين، بأسماء المتّهمين، وقد تغيرت عند ظهورها الثاني حتى لا يحس القاضي أن ثمة تكرارًا. تلك كانت خدعة مستترة، لكن فاضحة. لم يتمكن غالبية القضاة من اتخاذ نفس القرار في القضية نفسها عند رؤيتها للمرة الثانية. المذهل أن أداء بعض القضاة في مضاهاة إجاباتهم نفسها لم يكن أفضل حرفياً مما لو كانوا يمنحون الكفالة عشوائياً.

يعلم كل نظام قضائي، وكل قاضٍ ومحامٍ ومدعٍ، أن الأنظمة القضائية البشرية معيبة مهما تحرى الإنسان العدل، ولم يكن هناك خيار آخر، لكن الآن، ولأول مرة، يوجد نظام.

خوارزميات العدالة

لا تقلق، لا نتحدث هنا عن خوارزميات ذكاء اصطناعي تحدد إذا كان المتهم بريئًا أم مدانًا، فهي غير قادرة على موازنة حجج الدفاع والادعاء، أو تحليل الأدلة، أو تقرير إن كان المتهم نادمًا بحق (حتى الآن). ما تقدر عليه الخوارزميات، إلى حد ما، هو تحديد درجة خطورة عودة المدان لارتكاب الجرم، وهو الشيء الذي يؤثر في قرار شدة العقوبة التي سيوقعها القاضي على الجاني.

والواقع أن استخدام الخوارزميات في هذا الشأن ليس جديدًا، بل يرجع تقريبًا إلى قرن مضى، قبل وجود الحواسيب. إرنست دابليو. بورغس مثلًا، عالم الاجتماع الكندي بجامعة شيكاغو، كان أول من نجح نسبيًّا في التكهن بدرجة ارتداد المجرم للجريمة بالخوارزميات الحسابية، عام 1928. وضع تصنيفات لثلاثة آلاف نزيل بسجون ولاية إلينوي الأمريكية، بناءً على 21 عاملًا في شخصية كل منهم رأى أهميته المحتملة في تقييم خطورة المدان. ووضع خوارزم حسابيًّا يستخدم تلك العوامل في حساب احتمال ارتداد المدان للجريمة بعد خروجه من السجن. وعندما خرج المدانون من السجن في النهاية، تتبع بورغس أخبارهم، واتضح أن خوارزمه نجح في التكهن بدقة 98%، أفضل من كل خبراء الجريمة الذين كانوا مسؤولين عن إطلاق السراح المشروط وقتها.

معادلة بورغس رغم نجاحها وقتها، فإنها تعرضت لانتقادات عديدة، وهي أنها غير قابلة للتطبيق إلا في زمانها ومكانها فقط. لكن المنهجية التي اتبعها ظلت تتطور باطراد. الآن، في زمننا الحالي، صار لدينا أحدث الخوارزميات التي تستخدم في تقييم المخاطر، بدرجة تعقيد وتطور مذهلة، تستخدم كل إمكانيات الذكاء الاصطناعي المعاصرة.

فكرة عامة عن كيفية عمل الخوارزميات المعاصرة

مدخلات الخوارزم لم تتغير عن أيام بورغس: السن والسجل الجنائي للمتهم ودرجة جدية جريمته ومعلوماته الشخصية الأساسية. المخرجات هي درجة توقّع الخطورة، وبعض الخوارزميات تقترح عقوبة معينة.

هل تذكر “المخططات الانسيابية” (flowcharts) التي تعلّمنا بناءها في المدارس؟ تلك الوسيلة البسيطة لوضع خطة لحل المشكلات البسيطة؟ أولى الخوارزميات التي كانت تبحث درجة خطورة المتهم تستخدم مخططات انسيابية بناءً على بيانات عدد من المدانين السابقين، لكن يتضح مع الوقت ألا وجود لمخطط انسيابي قادر على الوصول إلى درجة دقة كافية لتشمل الناس جميعًا أو حتى شريحة بعينها منهم، لأن الجميع بالطبع لا يتبعون نمط من سبقهم، وهو بالضبط الانتقاد الذي كان موجه إلى بورغس. لكن إذا بنيت أكثر من مخطط بناءً على أكثر من نمط، وأخذت متوسط نتائج كل منها، فدرجة التكهن الجديدة تصبح أفضل إلى حد ما من درجة المخطط الوحيد.

هكذا تبني الخوارزميات الحالية أعدادًا هائلة من المخططات الانسيابية على كل الأنماط المسجلة تقريبًا، وتطرح عليهم جميعًا السؤال في كل مرة، وتأخذ متوسط الناتج لهم جميعًا. هكذا تصبح النتيجة النهائية قريبة إلى حد كبير من الواقع، وتعطي تقييمًا حقيقيًّا للحالة محل التساؤل. تخيل الأمر كسؤال الجمهور في برنامج من سيربح المليون، ربما إن سألت كلًّا منهم على انفراد سيكون احتمال الخطأ كبيرًا، لكن متوسط إجابة الجمهور كله، في الغالب تكون راجحة.

يُطلق على هذا النمط من الخوارزميات “الغابات العشوائية” (Random Forests).

النتيجة النهائية ليست ملزمة التنفيذ، لكنها تظل تُعرض على قاضٍ بشري ليأخذها في حسبانه عند اتخاذ قراره.

بحسب “هانا فراي” في كتابها، حققت ولاية رود آيلاند الأمريكية التي تستخدم محاكمها خوارزميات من هذا النوع، انخفاضًا في تعداد سكان السجون بنسبة 17%، وفي الارتداد للجريمة بنسبة 6%. هذا يعني مئات من المخالفين منخفضي الخطورة غير عالقين في السجن دون ضرورة، مئات الجرائم التي لم تُرتكب. هذا شيء مفيد، أليس كذلك؟

انحياز الآلة

علمنا أن الغابات العشوائية تعتمد على السجل الجنائي والبيانات الشخصية للمتهم في التكهن بخطورته وتقييم عقوبته. أي إنها تقرأ البيانات القديمة في آلاف القضايا، وترى العوامل المشتركة عند غالبية المجرمين، أي إنها تبحث عن “الارتباطات” (Correlations)، ومنها تقدم نتيجة.

مثلًا، لو وجدت الخوارزميات أن كثيرًا من القضايا القديمة ارتكبها منخفضو الدخل، سيرفع من احتمال تورط كل متهم منخفض الدخل في جريمة مستقبلية، ويوصي بإعطائه حكمًا أقسى. الشيء نفسه مع الرجال مقارنةً بالنساء، مع السود مقارنةً بالبيض، مع سكان أماكن بعينها مقارنةً بغيرها. إنه الخلط الاحصائي الكلاسيكي بين “الارتباط” (correlation) و”السببية” (causation).

بحسب تحليلات موقع برو-بابليكا، إذا كنت أحد المتهمين الذين لم يسببوا مشكلات مرة أخرى بعد الاعتقال الأول، فاحتمال أن يصنفك الخوارزم عالي الخطورة بالخطأ أعلى مرتين على الأرجح إن كنت أسود من إن كنت أبيض. أخطاء الخوارزم كانت ضد السود بشكل غير متناسب، والعكس بالعكس. فمن بين كل المتهمين الذين مضوا لارتكاب جرائم أخرى خلال عامين، احتمال أن يصنف الخوارزم المدانين البيض بالخطأ منخفضي الخطورة أعلى مرتين على الأرجح من إن كانوا من السود. أخطاء الخوارزم السلبية كانت بيضاً بشكل غير متناسب.

هكذا لا تحل الخوارزميات مشكلات القضاة البشر، فالبيانات التاريخية التي هي مصدر الآلة الوحيد للتعلم، مترعة بتاريخ من الانحيازات البشرية، بشكل مباشر أو غير مباشر.

ثمة مشكلة أخرى هنا. إن صنّف الخوارزم أحدهم عالي الخطورة وحرمه القاضي من حريته نتيجة لذلك، لا توجد طريقة للتيقّن إن كان الخوارزم رأى مستقبله بدقة. خذ عندك “زيلي” الذي ذكرناه في المقدمة، ربما كان سيخرج ليصبح عنيفًا، وربما ما كان ليفعل. ربما تصنيفه كمدان عالي الخطورة وإرساله إلى سجن الولاية وضعه على طريق مختلف من ذلك الذي كان عليه مع صفقة الالتماس. دون طريقة لتأكيد تكهنات الخوارزم، لا طريقة لدينا لمعرفة إن كان القاضي محقًّا عندما صدّق درجة الخطورة.

إذن الخوارزميات في العدالة سيئة؟ نهجرها؟

ليس بالضبط. تذكّر ما المشكلات التي يعاني منها القضاء البشري. بشكل ما الخوارزميات تقدم تحسينًا نوعيًّا لأداء القاضي البشري وليست بديلة له. قد تحمل نصيبها من الانحيازات، لكنها لا تزال أقل تأثرًا به. وفي النهاية لا يزال الحكم النهائي بين يدي قاضٍ بشري.

ما نحن بحاجة إلى النظر فيه بجدية، هو المستقبل.

فاستخدام الخوارزميات في العدالة الآن لا يزال محدودًا مثلما ذكرنا، لكن بالنظر إلى المعدل التسارعي الهائل للتطور التكنولوجي في العالم، نعلم جيدًا أنها ستكون جزءًا أساسيًّا من النظام القضائي في المستقبل، وربما سيتخطى الاعتماد عليها دور القاضي، وتصبح لها سلطة. ربما ذلك بعد عشرة سنوات، ربما بعد مئة.

خوارزميات المستقبل لم تُبن بعد، ربما يجري بناؤها في معمل تجريبي ما في الصين أو ألمانيا أو مصر، أو ربما هي مشروع تجريبي في قاع حاسوب قارئ لهذا المقال لا يزال يشق طريقه في تعلم البرمجة، وله اهتمامات فلسفية قانونية. لذا نحن بحاجة إلى النظر في ما بين يدينا من نماذج أولية بجدية، ومناقشتها، ومناقشة ما فينا كبشر من انحيازات، وما قد تمنحه لنا الآلة، وما قد تأخذه منا. تقول “هانا فراي”: “تصميم خوارزم لاستخدامه في نظام العدالة الجنائية يتطلب منا أن نجلس ونفكر مليًّا في الهدف من نظام العدالة بالضبط. بدلًا من مجرد إغلاق أعيننا وتمنّي حدوث الأفضل، تحتاج الخوارزميات منا إلى فكرة واضحة غير ملتبسة عما نريد منها تحقيقه، وفهمًا صلبًا لمواطن الفشل البشرية التي تعوضها. إنها ترغمنا على خوض مناظرة صعبة عن كيفية وجوب اتخاذ القرار في المحكمة”.

شارك هذا المقال

أضف تعليقك

لن يتم نشر عنوان بريدك الإلكتروني. الحقول المطلوبة محددة ب *

أدخل كلمات البحث الرئيسية واضغط على Enter