إيضاح من باب المجاملة: Jое M.

أخبرنا الخوارزميات كيف نفكر ، وهذا يغيرنا

مع تعلم أجهزة الكمبيوتر كيف تحاكينا ، هل بدأنا أن نكون أكثر شبهاً بهم؟

يتنبأ Silicon Valley أكثر وأكثر بالكيفية التي سنقوم بها بالرد على رسالة بريد إلكتروني ، والرد على صورة شخص ما على Instagram ، وتحديد الخدمات الحكومية التي نحن مؤهلون لها ، وقريباً سيكون بمقدور مساعد Google القريب الاتصال بمصفف الشعر الخاص بنا في الوقت الفعلي زمن.

لقد قمنا بدعوة الخوارزميات بشكل عملي في كل مكان ، من المستشفيات والمدارس إلى قاعات المحاكم. نحن محاطون الأتمتة المستقلة. يمكن أن تخبرنا خطوط الشفرة بما يجب مراقبته ، ومن يجب عليه حتى الآن ، وحتى من يجب أن يرسله النظام القضائي إلى السجن.

هل نخطئ بتسليم الكثير من سلطة اتخاذ القرار والتحكم في سطور التعليمات البرمجية؟

نحن مهووسون بالإجراءات الرياضية لأنها تقدم لنا إجابات سريعة ودقيقة لمجموعة من المشكلات المعقدة. تم تطبيق أنظمة التعلم الآلي في كل مجال تقريبًا من مجتمعنا الحديث.

ومع ذلك ، ما ينبغي أن نسأل أنفسنا هو ، هل نخطئ من خلال تسليم الكثير من سلطة اتخاذ القرار والسيطرة على أسطر من التعليمات البرمجية؟ وكيف تؤثر الخوارزميات على حياتنا؟

في عالم دائم التغير ، تقوم الآلات بعمل رائع في تعلم كيفية تصرف البشر ، وما نحب ونكره ، وما هو الأفضل بالنسبة لنا بوتيرة سريعة. نحن نعيش حاليًا داخل غرف التكنولوجيا التنبؤية - يا مهلا ، هناك ميزة الإكمال التلقائي!

لقد غيرت الخوارزميات حياتنا بشكل جذري من خلال فرز بيانات السعة وإعطاءنا نتائج فورية ذات صلة. من خلال جمع كميات كبيرة من البيانات ، منحنا الشركات على مر السنين القدرة على تحديد الأفضل بالنسبة لنا.

تقوم شركات مثل Alphabet أو Amazon بتزويد الخوارزميات الخاصة بكل منها بالبيانات التي يتم حصادها وتطلب من منظمة العفو الدولية استخدام المعلومات التي تم جمعها للتكيف مع احتياجاتنا وأن نكون أكثر شبهاً بنا. لكن مع تعويدنا على هذه الميزات المفيدة ، هل نتحدث ونتصرف أكثر مثل الكمبيوتر؟

"الخوارزميات ليست عادلة بطبيعتها ، لأن الشخص الذي يبني النموذج يعرف النجاح." - كاثي أونيل ، عالمة بيانات

في هذا المعدل التكنولوجي ، من المستحيل ألا نتخيل مستقبلاً قريبًا حيث يتم توجيه سلوكنا أو تمليه خوارزميات. في الواقع ، هذا يحدث بالفعل.

صُممت Google لمساعدتك على كتابة الرسائل أو الردود السريعة ، وقد أطلقت أحدث ميزة لها على Gmail تسمى Smart Replies في أكتوبر الماضي. نظرًا لأن انتزاع الإنترنت عن طريق العاصفة ، فقد انتقد الكثير من الأشخاص المساعد ، قائلين إن اقتراحاته المصممة غزيرة ، وجعل البشر يبدون وكأنهم آلات ، حتى أن البعض يجادل بأن ردودها قد تؤثر في النهاية على الطريقة التي نتواصل بها أو ربما تغير آداب البريد الإلكتروني.

تكمن المشكلة الرئيسية في الخوارزميات في أنها عندما تصبح كبيرة ومعقدة ، فإنها تبدأ في التأثير سلبًا على مجتمعنا الحالي ، أو وضع الديمقراطية في خطر - Hi Mark Zuckerberg ، أو وضع المواطنين في تدابير Orwellian ، مثل الصين التي تتخذ وسائل غير مسبوقة لتصنيف درجة ائتمان الأشخاص عن طريق التتبع سلوكهم مع برنامج المراقبة dystopian.

كما أصبحت أنظمة التعلم الآلي أكثر انتشارًا في العديد من مجالات المجتمع. هل ستعمل الخوارزميات على إدارة العالم ، وتهتم بأفكارنا؟

الآن ، لنأخذ منهج Facebook. في عام 2015 ، قاموا بطرح الإصدار الأحدث من "موجز الأخبار" الذي تم تصميمه كوسيلة مبتكرة لنشر وتغذية خلاصات المستخدمين في صحيفة مخصصة تتيح لهم الانخراط في محتوى سبق لهم استخدامه ومشاركته والتعليق عليه.

المشكلة في الخوارزميات "المخصصة" هي أنها يمكن أن تضع المستخدمين في فقاعات الترشيح أو غرف الصدى. في الحياة الواقعية ، من غير المرجح أن يتعامل معظم الناس مع وجهات نظر يجدونها مربكة أو مزعجة أو غير صحيحة أو بغيضة. في حالة خوارزميات Facebook ، فإنها توفر للمستخدمين ما يريدون ، ونتيجة لذلك ، يصبح كل شخص تغذية عالم فريد من نوعه. حقيقة مميزة في حد ذاتها.

تجعل فقاعات الفلتر من الصعوبة المتزايدة أن يكون لها حجة عامة لأن المعلومات من المنظور والمعلومات التضليلية تبدو متماثلة تمامًا. كما كتب روجر ماكنامي مؤخرًا في مجلة التايم: "حقائق على فيسبوك ليست مطلقة ؛ إنهما خياران يُتركان في البداية للمستخدمين وأصدقائهم ، ولكنهم يضخمون الخوارزميات بعد ذلك لتعزيز المشاركة. "

تخلق الفقاعات المرشحة وهم أن الجميع يؤمنون بنفس الأشياء التي نقوم بها أو لديهم نفس العادات. كما نعلم بالفعل ، أدت خوارزميات Facebook إلى تفاقم المشكلة عن طريق زيادة الاستقطاب وإلحاق الضرر بالديمقراطية في نهاية المطاف. مع وجود أدلة توضح أن الخوارزميات قد أثرت على الاستفتاء البريطاني أو انتخابات 2016 في الولايات المتحدة.

"تعمل خوارزميات Facebook على الترويج للرسائل المتطرفة على الرسائل المحايدة ، والتي يمكن أن تزيد المعلومات المضللة حول المعلومات ونظريات المؤامرة على الحقائق." - روجر ماكنامي ، مستثمر سيليكون فالي

في العالم الحالي المليء باستمرار بأكوام تلوح في الأفق من المعلومات ، يشكل فحصها تحديًا كبيرًا لبعض الأفراد. الذكاء الاصطناعى - يستخدم بحكمة - يمكن أن يحسن تجربة شخص ما عبر الإنترنت أو يساعد في معالجة الأحمال المتزايدة من المحتوى بطريقة سريعة. ومع ذلك ، لكي تعمل الخوارزميات بشكل صحيح ، تتطلب بيانات دقيقة حول ما يحدث في العالم الحقيقي.

تحتاج الشركات والحكومات إلى التأكد من أن بيانات الخوارزميات غير منحازة أو غير دقيقة. بما أنه لا يوجد شيء مثالي في الطبيعة ، فمن المتوقع أن تكون البيانات المتحيزة بشكل طبيعي داخل العديد من الخوارزميات بالفعل ، وهذا يعرض للخطر ليس فقط عالمنا على الإنترنت عن طريق العالم الفعلي أيضًا.

لا بد من الدعوة إلى تنفيذ أطر تنظيمية أقوى ، لذلك لا ينتهي بنا المطاف في الغرب المتوحش التكنولوجي.

يجب أن نكون حذرين للغاية بشأن القوة التي نعطيها الخوارزميات أيضًا. تتزايد المخاوف بشأن خوارزميات قضايا الشفافية والآثار الأخلاقية وراء القرارات والعمليات التي يتخذونها والعواقب المجتمعية التي تؤثر على الناس.

على سبيل المثال ، الذكاء الاصطناعى المستخدم في قاعات المحكمة قد يعزز التحيز ، ويميز ضد الأقليات من خلال مراعاة عوامل "الخطر" مثل أحيائهم وارتباطهم بالجريمة. هذه الخوارزميات يمكن أن ترتكب بشكل منتظم أخطاء فادحة وترسل البشر الأبرياء الحقيقيين إلى السجن.

"هل نحن في خطر فقدان إنسانيتنا؟"

وكخبير في الأمن ، كتب بروس شنير في كتابه "اضغط هنا لقتل الجميع" ، "إذا تركنا أجهزة الكمبيوتر تفكر فينا وكانت بيانات المدخلات الأساسية تالفة ، فسنفعلون التفكير بشكل سيئ وقد لا نعرفه أبدًا".

هانا فراي ، عالم رياضيات في جامعة كوليدج لندن ، تأخذنا إلى داخل عالم تعمل فيه أجهزة الكمبيوتر بحرية. في كتابها الأخير Hello World: Being Human in the Age of the Algorithms ، تجادل بالقول إننا كمواطنين يجب أن نولي المزيد من الاهتمام للأشخاص وراء لوحة المفاتيح ، أولئك الذين يقومون ببرمجة الخوارزميات.

وتقول: "ليس علينا أن نخلق عالماً تخبرنا فيه الآلات بما يجب علينا فعله أو كيف نفكر فيه ، على الرغم من أننا قد ينتهي بنا المطاف في عالم كهذا". خلال الكتاب ، كانت تتساءل كثيرًا: "هل نحن في خطر فقدان إنسانيتنا؟"

الآن ، ما زلنا لسنا في المرحلة التي يكون فيها البشر ، خارج الصورة. لم يتم تهميش دورنا في هذا العالم حتى الآن ولن يكون كذلك لفترة طويلة. يمكن للبشر والآلات العمل مع نقاط القوة والضعف لديهم. الآلات معيبة وترتكب نفس الأخطاء كما نفعل. يجب أن نكون حذرين بشأن مقدار المعلومات والقوة التي نتخلى عنها لأن الخوارزميات هي الآن جزء لا يتجزأ من البشرية ولن تتجه إلى أي مكان قريبًا.