عادة ما نفكر في الحواسيب باعتبارها آلات موضوعية وعقلانية، إلا أن الخوارزميات التي يكتبها البشر قد تحمل تحيزاتهم. (الصورة من موقع search Engine Land)
تُستخدم الخوارزميات بشكل متزايد لاتخاذ القرارات عنا، أو معنا – ومن دون ان نُدرك ذلك في كثير من الأحيان، فهي بمثابة عقول الحواسيب، الهواتف الذكية، وإنترنت الأشياء. تُعتبر تحديثات الفيسبوك، وتنبؤاة الشرطة أمثلة واقعية على توظيف الخوارزميات في حياتنا اليومية.
لكن لماذا الخوارزميات تثير مخاوف أخلاقية؟ ببساطة لأنها تُبعدنا عن المعلومات، تأخذ القرارات الشخصية والأهم من ذلك – نحن لا نعرف دائما كيفية عملها.
شاركت منظمتنا في المؤتمر الذي أعدهمركز الإنترنت وحقوق الإنسان في جامعة فيادرينا في بيرلين في شهر آذار (مارس) ٢٠١٥، وننشر هنا ترجمة لموجز التقرير الذي نشاركه سوياً اليوم مع المركز ( رابط النسخة الإنكليزية)
الخوارزميات تحدد عوالمنا!
باتت حيواتنا اليومية تتحدد بما تقرره الحواسيب، وتتخذ هذه الأخيرة قراراتها تنفيذا للخوارزميات. لقد غيرت الحوسبة الرقمية طرق اتصالنا، عملنا، حركتنا، وتعلمنا. باختصار، فالحواسيب الرقمية المتصلة بالشبكة غيرت الطريقة التي نعيش بها تفاصيل حياتنا اليوم، و هذه ثورة لا يتوقع أن تقف في المستقبل القريب.
ينتج التحول نحو الرقمنة مجموعات من البيانات تعرف “بالبيانات الكبيرة”، و حتى وقت قريب، ركزت الأبحاث على كيفية “إنتاج البيانات الكبيرة و تخزينها. أما الآن، فنحن نهتم بدراسة كيف تفهم الخوارزميات هذا الكم المتزايد من البيانات.
ما هي الخوارزمية؟
يشير مصطلح “خوارزمية” إلى أي برمجية حاسوبية تنفذ مجموعة من التعليمات، وهي بذلك ضرورية إذا كان للحواسيب أن تعالج البيانات. نظرياً الخوارزميات هي إجراءات مصاغة تعالج البيانات بعمليات حسابية محددة، و تتكون من سلسلة تضمن تنفيذها حل لمشكلة ما، تماما كوصفات الطهي. حيث تأخذ الخوارزميات المدخلات (المكونات)، و تفصل المهام إلى أجزاء متجانسة، تم تنفيذها بشكل تسلسلي (الواحد تلو الآخر)، لتُرجع لنا المُخرجات (كعكة، مثلا). مثال بسيط على الخوارزمية هو “جِد الرقم الأكبر في سلسلة الأرقام هذه”.
لماذا تثير الخوارزميات أسئلة أخلاقية؟
أولا، لنلق نظرة أقرب على بعض الخصائص الحساسة للخوارزميات، متسائلين ما هي المهام التي تنفذها الخوارزميات عادة؟ و ما هي تأثيراتها السلبية على حقوق الإنسان؟ إليك بعض هذه الأمثلة والتي يُرجح أنها تؤثر عليك أنت.
الخوارزميات تحجب عنا المعلومات
تقرر الخوارزميات بشكل متزايد ما يصلنا و ما يتم تجاهله من معلومات؛ بل تقرر ما يُنشر و ما يُحجب. ينطبق هذا على مختلف أنواع نتائج البحث، لديكم مثلا الطرق التي تعرض بها المواقع الاجتماعية محتواها، هكذا تتحكم الخوارزميات بما نشاهده ونحصل عليه.
مثال: تقرر خوارزميات التوظيف فيما إذا كان سيطلب منك الحضور إلى مقابلة عمل أم لا.
تلعب الخوارزميات دورا متزايدا بالنيابة عن المدراء، في تعيين و فصل الموظفين، و لا شك أن تقرير من سيحصل على وظيفة ام لا هو من أحد أقوى أدوار التحكم في المجتمع.
تظهر الأبحاث أن المدراء من البشر يظهرون تحيزات عديدة في قرارات التعيين، مثلا بناء على الطبقة الاجتماعية، العرق و النوع، وهذا ما يعني أن أنظمة التوظيف البشرية بعيدة عن الكمال.
إلا إنه لا يمكننا ببساطة افتراض أن التوظيف بالخوارزميات يمكنه تجاوز التحيزات البشرية، فقد تعمل الخوارزميات بدقة أكبر في بعض الجوانب، إلا أنها تخلق أيضا، دون قصد بالضرورة، مشكلات تعتمد على كيفية برمجتها و على البيانات التي أُعطيت.
تداعيات أخلاقية => تعمل الخوارزميات عمل المتحكم الذي يؤثر في كيفية رؤيتنا للعالم، و غالبا دون أن ندرك ذلك، فهي توجه انتباهنا، الأمر الذي ينطلي على سلطة مهولة.
الخوارزميات تتخذ قرارات غير موضوعية
تتعامل بعض الخوارزميات مع أسئلة ليست لها إجابة واضحة بالإيجاب أو بالنفي. لذا، فهي تنتقل من إجابة قطعية بالصواب أو الخطأ إلى إطلاق أحكام أكثر تعقيدا، مثل “ما الأهم؟ من هو الشخص الأنسب للوظيفة؟ من يشكل خطرا على السلامة العامة؟ من يناسبني في موعد غرامي؟”. تنتقل الإجابة عن هذه الأسئلة غير الموضوعية بصمت من البشر إلى الخوارزميات.
مثال: السيطرة الأمنية بناء على التنبؤ الإحصائي
في بداية 2014، وصلت دائرة شيكاجو للشرطة إلى صدارة عناوين الأخبار في سائر الولايات المتحدة عندما بدأت تحدد أي الزوار للمدينة أكثر احتمالا أن ينخرط في جرائم عنيفة. حدد الحاسوب “قائمة ساخنة” بأشخاص، لم يكونوا بالضرورة خاضعين لأي تحقيق، و تم ذلك باستخدام خوارزمية تسعى للتنبؤ بالسلوك الإجرامي العنيف في المستقبل.
أحد أكثر أسباب القلق من السيطرة الأمنية بالتنبؤ هي أن تلك الأنظمة الآلية قد تعيد تكرار أنماط تبنيها هي بنفسها و تصبح النبوءة هي الدافع لتحققها. ففي الواقع، تزيد السيطرة الأمنية الثقيلة على منطقة معينة من احتمال اكتشاف الجرائم فيها، و بما أن وجودا أكبر للشرطة يعني فرصة أكبر لمراقبة أنشطة السكان، فإن الخوارزمية قد تؤكد ببساطة نبؤئتها بنفسها.
تختبر دوائر الشرطة حول العالم الآن خوارزميات السيطرة الأمنية و تطبقهاا، إلا أنها تفتقد أيضا الضمانات التي تمنع الانحيازات التي تميّز ضد بعض الأشخاص.
تداعيات أخلاقية لا تضمن التنبؤات التي تعطيها الخوارزميات أنها صحيحة. و يتصرف ضباط الشرطة بناء على تنبؤات غير صحيحة، ما قد يتسبب في تحقيقات غير ضرورية أو منحازة.
نحن لا نعلم دائما كيف تعمل الخوارزميات
التعقيدات ضخمة: يكاد البشر لا يفهمون كثيرا من خوارزميات اليوم من شدة تعقيدها، حتى لو أتيحت نصوص البرمجيات كي ينظر فيها المراقبون. يضيف إلى تلك التعقيدات غموض نصوص البرمجيات و حجبها. تقوم الخوارزميات بحسابات معقدة تمر خلالها بخطوات كثيرة محتملة. تتكون تلك الحسابات من آلاف، و أحيانا ملايين، عناصر البيانات، لدرجة أن مبرمجي الخوارزميات أنفسهم لا يستطيعون التنبؤ بسلوكها.
مثال: تلقيمة أخبار فايسبوك معقدة و غامضة
لا يعي الكثير من مستخدمي فايسبوك أن خوارزمية تقرر لهم الكتابة و الصور و الإعلانات التي يرونها عندما يفتحون الموقع. تقرر الخوارزمية ما الذي ترغب في أن تعرضه لنا، و ما الذي ترغب في أن تحجبه عنا. ترشح خوارزمية تلقيمة فايسبوك المحتوى الذي تراه أنت، لكن هل تعلم المبادئ التي تستخدمها كي تحدد المعلومات التي ستمنعها عنك؟
في الواقع، فإن فريقا من الباحثين ينقح تلك الخوازرمية مرة كل أسبوع، و يأخذ الفريق في أثناء ذلك آلافا و آلافا من القياسات في الاعتبار. لهذا يصعب التنبؤ بتأثيرات خوارزميات التلقيمة—حتى على مهندسي فايسبوك أنفسهم!
لو سألنا فايسبوك الآن عن كيفية عمل خوارزمياتهم، لن يجيبون على سؤالنا، فالمبادئ التي تحدد طريقة عمل تلقيمة الأخبار (و نص البرمجية) هو في الواقع من أسرار الصناعة. و بدون معرفة نص البرمجية بدقة، لا يمكن لأحد أن يقيم كيف تتألف تلقيمة أخبارك.
تداعيات أخلاقية => الخوارزميات المعقدة لا يستطيع الأفراد من الخارج في الأغلب أن يفهمونها، إلا أن تلك الخوارزميات، في النهاية، لها قيمها، و انحيازاتها، و قدرتها على التمييز بين الأشخاص و ضد بعضهم.
قضايا أساسية – هل ينبغي أن تقرر الخوارزميات مستقبلك؟
تصير الكثير من التطبقيات غير ممكنة من دون الخوارزميات، فلا مفر من أن نتعامل مع الكم المهول من البيانات الذي ننتجه نحن كل يوم. تسهل الخوارزميات حيواتنا و تجعلها أكثر إنتاجية، و هي ميزات لا نرغب في أن نخسرها بالطبع. إلا أننا نحتاج أن ندرك ما هي الخوارزميات و كيف تعمل.
بإمكان الخوارزميات أن تميز ضدك، تماما كما يفعل البشر
عادة ما نفكر في الحواسيب باعتبارها آلات موضوعية و عقلانية، إلا أن الخوارزميات التي يكتبها البشر قد تحمل تحيزاتهم. نحتاج أن نكوِّن نظرة نقدية للافتراض الذي يقول أن الخوارزميات قادرة على أخذ قرارات “أفضل” من البشر، فهناك خوارزميات تميز بين الناس حسب ألوان جلدهم و أخرى تميز ضد النساء. الخوارزميات ليست محايدة، فهي تتبع تحيزات صانعيها. و صانعيها، و منهم الشركات و الحكومات، قد تكون لهم أهداف تختلف عن أهداف المستخدمين.
ينبغي أن تكون الخوارزميات واضحة للمستخدمين
بما أن الخوارزميات تتخذ بشكل متزايد قرارات أكثر و أهم تتعلق بحيواتنا نحن المستخدمين، نحتاج أن نكون أكثر وعيا بها. لا تزال المعرفة عن اتخاذ القرارت آليا في حيواتنا اليومية محدودة جدا. لذا، ينبغي أن يصير رفع الوعي بالخوارزميات في قلب أخلاقيات تلك الخوارزميات.
مقاربات السياسات العامة لتنظيم الخوارزميات
كيف تنظم شيئا لا تعرف كيف يعمل؟ نحتاج أن نبدأ نقاشا عن كيف يحاول صناع السياسات التعاطي مع المخاوف الأخلاقية المتعلقة بالخوارزميات. هناك بعض المحاولات لمسائلة الخوارزميات، إلا أننا نحتاج بيانات أفضل و دراسات أعمق.
إذا كانت شركة ما ألفت خوارزمية ما و تستخدمها، فإن العبء يقع على مؤسسات الدولة، مثل أجهزة مكافحة الاحتكار و حماية المستهلك لتوفير التنظيم و الإشراف الملائمين. و لكن من ينظم الخوارزميات التي تؤلفها الحكومات و تستخدمها؟ نحتاج معايير أخلاقية و ضمانات قانونية لحالات مثل التنبؤ بغرض السيطرة الأمنية.
مؤخرا، بدأت مقاربات تنظيم الخوارزميات تنحو نحو الشفافية، والتنبيه، والتدخل بالتنظيم المباشر، إلا أن الخبرة تظهر أن صناع السياسات يواجهون تناقضات بعينها عندما يتعلق الأمر بتنظيم الخوارزميات.
الشفافية – اكشفوا الانحيازات الخفية
إذا ما واجهتك خوارزمية معقدة وغامضة، فإن أحد ردود الفعل المعتادة هي أن تطالب بشفافية أكبر كي تعرف ما الذي تنفذه تلك الخوارزمية وكيف. سبب القلق من الخوارزميات الخفية هو أنها تتخذ قرارات غير موضوعية بطبعها، ما قد يحوي انحيازات خفية أو واضحة. و في نفس الوقت، فإن ضمان الشفافية الكاملة للخوارزميات المعقدة أمر فيه تحديات بالغة:
لا يكفي أن تنشر نص برمجية الخوارزمية، لأن أنظمة التعلم الآلي تتخذ حتما قرارات لم تتم برمجتها لاتخاذها مسبقا. تتطلب الشفافية الكاملة أن نكون قادرين على شرح سبب اتخاذ الخوارزمية لقرار بعينه.
بهدف رفع وعي الجمهور بالخوارزميات، أنتجت بعض التحقيقات هندسة عكسية لبعض الخوارزميات. هذه إحدى الطرق التي يمكن للجمهور بها مراقبة الخوارزميات.
عادة ما توجد أسباب جيدة لإخفاء الخوارزميات المعقدة، لأن الوصول العام إليها يجعلها أكثر عرضة للتلاعب. لو عرفت كل شركة كيف ترتب جوجل نتائج البحث، ستصبح الشركات قادرة على أَمْثَلَةِ سلوكها بما يدمر فائدة خوارزمية جوجل.
التنبيه – امنحوا المستخدمين حق المعرفة
شكل آخر من أشكال الشفافية هو أن يستطيع المستخدمون التحكم في المعلومات التي تدخل الخوارزميات. يشمل التنبيه حق المستخدمين في تصحيح المعلومات الشخصية و طلب حذفها من قواعد البيانات. يضمن هذا النوع من استرجاع السيطرة على معلومات المستخدمين الشخصية حق المستخدمين في المساءلة.
التنظيم المباشر – عندما تصبح الخوارزميات بنية تحتية حرجة
في بعض الحالات، تصبح الجهات الناظمة الرسمية عرضة لأن توجد طرقا للتأثير على الخوارزميات مباشرة، خاصة عندما يتعلق الأمر بالبنية التحتية.
يعد النقاش حول تنظيم الخوارزميات أكثر تقدما في مجال التمويل لأن تجارة الأوراق المالية السريعة قد تكون لها تأثيرات سلبية على استقرار أسواق رأس المال، لذلك فإن الجهات الناظمة بدأت تطالب بصلاحية تعديل تلك الخوارزميات.
تحاول تحقيقات الاحتكار الجارية حول “حياد البحث” على جوجل الإجابة على نفس الأسئلة: هل يمكن أن تطلب للجهات الناظمة صلاحية الوصول إلى خوارزمية البحث و تعديلها بما يفيد الصالح العام؟ تتأسس هذه المقاربة على افتراض—لا إجماع حوله—أنه من الممكن التنبؤ بشكل موضعي برد فعل خوارزمية بعينها. لا توجد حتى الآن إجابة “صحيحة” عن سؤال كيف ينبغي على جوجل أن ترتب نتائج البحث، لم تقرر أجهزة مكافحة الاحتكار في الولايات المتحدة و الاتحاد الأوروبي حتى الآن أسلوب تناول هذا الموضوع.
=> في بعض الحالات، تصبح تحكم الجهات الناظمة أو الشفافية الكاملة و العلنية أمورا ضرورية، إلا أنه لا يوجد حل تنظيمي وحيد و شامل يناسب كافة الظروف. ينبغي أن ندقق الخوارزميات بشكل أعمق، ما قد يتطلب ممارسات جديدة من الصناعة و التقنيين. ينبغي كذلك في بعض الأحيان البدء في إجراءات أكثر لحماية المستهلك و للتنظيم المباشر.
أعد هذا المنشور كليان فيث و جوانا برونوفيكا من مركز الإنترنت و حقوق الإنسان في جامعة فيادرينا الأوروبية. تم الإعداد بناء على منشور “أخلاقيات الخوارزميات: من المحتوى الجذري إلى السيارات ذاتية القيادة”، و الذي شاركت في تأليفه زينب تفكشي، و جيليان سي يورك، و بن فاجنر، و فريدريكه كالتهوينر لملتقى “أخلاقيات الخوارزميات، الذي جرى تنظيمه بدعم من وزارة الشؤون الخارجية الهولندية يومي 9 و 10 مارس 2015 في برلين. ترجم عمرو غربية هذا البحث للعربية، وتم نشره بالتعاون مع المركز المذكور أعلاه.
