أهم الاخبارأخبار التكنولوجيا

ماذا تفعل عند فشل الخوارزميات؟ ابحث عن أقرب إنسان وألقِ اللوم عليه


إذا نظرنا حولنا اليوم لا نجد مكانًا واحدًا خاليًا من الأجهزة الإلكترونية، ولم تعد التكنولوجيا تقتصر على الحواسيب والإنترنت، فقد أصبحت سياراتنا وطائراتنا ومعاملنا تعمل بالذكاء الاصطناعي دون تدخل البشر. يتم وضع الخوارزميات ويكتب المبرمجون السطور البرمجية لخلق هذه الأنظمة المتطورة، ويحرصون على خلوها من الأخطاء قدر الإمكان.
غالبًا ما يتم اختبار مختلف الأنظمة الذكية آلاف المرات قبل دخولها الأسواق، ولكن لكل شيء حدود فقد تحدث أمور مفاجئة تؤدي لعجز أنظمة الذكاء الاصطناعي عن تجنب الخطأ والتصرف بحكمة، فمن يتحمل المسؤولية عندئذ؟
اقرأ المزيد: أفضل سبعة طرق للوصول إلى واي فاي الجيران بسهولة 🤭!!
خسارة ملياردير لثَروتِه، الخوارزميات هي السبب ولكن
انتشر في الآونة الأخيرة خبر خسارة أحد رجال الأعمال في هونج كونج أكثر من 20 مليون دولار بسبب إيداعه لجزء كبير من ثروته ضمن منصة مالية آلية، وحدث ذلك نتيجة خطأ برمجي في إحدى الخوارزميات ضمن المنصة التي تعمل بشكل آلي دون تدخل أحد.
وبسبب عدم وجود إطار قانوني لمقاضاة التكنولوجيا والمبرمجين، فقد تم رفع الدعوى ضد الشخص الذي أقنع رجل الأعمال بوضع ثروته في المنصة التي يديرها حاسوب عملاق كان من المفترض ألا يرتكب أيّ خطأ، وهي المرة الأولى التي يحدث فيها خطأ بهذا الحجم في منصة مؤتمتة بالكامل، ولكنه بالطبع ليس الخطأ الأول الذي ترتكبه الخوارزميات.
اقرأ المزيد: كيفية إجبار سوق بلاي Play Store على تحديث نفسه في هواتف الأندرويد
سيارة أوبر ذاتية القيادة تقتل شخصًا
في آذار مارس من العام الماضي 2018 قامت سيارة ذاتية القيادة تابعة لشركة أوبر Uber في ولاية أريزونا في الولايات المتحدة الأمريكية بصدم أحد المارة والتسبب في وفاته. وبعد مرور سنة على رفع الدعوى ضد أوبر، برّأت المحكمة أوبر واعتبرتها غير مسؤولة عن ارتكاب تلك الجريمة، وتم تجريم سائق الأمان الذي كان في السيارة بتهمة القتل غير المتعمد.

عند النظر في الحالتين السابقتين نجد أنفسنا أمام أسئلة مهمة جدًا في ظل دخول الأنظمة المؤتمتة ذاتية العمل إلى جميع جوانب الحياة، من يتحمل المسؤولية عند حدوث خطأ في إحدى الخوارزميات؟ ومن سيحاسب في حال رفع دعاوى ضد الخوارزميات؟
أمضت مادلين كلير إيليش Madeleine Clare Elish عدة سنوات في البحث عن إجابات للأسئلة السابقة، وهي باحثة مجتمعية في البيانات وعالمة في الثقافة الإنسانية. قامت مادلين بالبحث في الحوادث المشابهة القديمة، والتي حدثت قبل الثورة العلمية الحالية وأنظمة الذكاء الاصطناعي AI.
مأساة تحطم الطائرة الفرنسية
بحثت مادلين في حادثة تحطم طائرة تابعة للخطوط الفرنسية 447 عام 2009، حيث سقطت الطائرة في المحيط الأطلسي أثناء توجهها إلى البرازيل، وقُتل في ذلك الحادث جميع ركاب الطائرة وعددهم 228 شخص.

تم تصميم نظام الطائرة ليتعامل مع جميع المشاكل والسيناريوهات المحتملة بشكل آلي ودون أخطاء، وفي حال حدوث مشاكل كبيرة جدًا فيجب على الطيارين البشر التدخل لتجنب حدوث كوراث كما لم يفعل سائق الأمان في سيارة أوبر.
في تلك الليلة توقفت أجهزة استشعار سرعة الهواء عن العمل بسبب تكون طبقة من الجليد فوقها بعد حوالي ساعة ونصف من الإقلاع، عندها قام نظام الطيار الألي بإعادة التحكم إلى قائد الطيارة ومعاونه.
اقرأ المزيد: كل ما تريد معرفته عن تقنية التوأم الرقمي Digital Twin
بينما كان أحد الطيارين يحاول توجيه الطائرة للأعلى، قام الآخر بتوجيهها للأسفل، وبما أن النظام الآلي الذي من المفترض أن يقوم بدور المنسق قد توقف عن العمل، أدى ذلك إلى توجه الطائرة إلى الأعلى بزاوية كبيرة، وفي حالة من الارتباك وسوء التفاهم بين الطيارين تم إيقاف محركات الطائرة لعدم قدرتها على الصعود بتلك الزاوية، وبعد معاناة كبيرة للسيطرة على الطائرة سقطت في الماء وقُتل كل من فيها.

قالت التحقيقات بأن الحادث ناتج عن سوء تصميم النظام الآلي بالإضافة لعدم كفاية التدريب الذي خضع له الطيارون، ولكن وسائل الإعلام والجمهور ألقت باللّوم بالكامل على الطيارين، وقالت إن الخوارزميات التي تم برمجة نظام الطيار الآلي متطورة جدًا ولا يمكن أن تخطئ، وأن البشر دائمًا ما يفشلون في التدخل السريع عند حدوث مشاكل كبيرة، أو يتدخلون وهم في حالة ذعر وخوف يمنعهم من التصرف بحكمة.
اقرأ المزيد: قائمة أقوى ألعاب الأونلاين لعام 2017 … من المسيطر على ساحة الألعاب اليوم؟
مهما تطورت الخوارزميات سيتحمل الإنسان المسؤولية
يتحمل البشر دائمًا المسؤولية في حال حدوث المشاكل، حتى في الأنظمة الذاتية التي يملك البشر سيطرة محدودة على تصرف الآلات، فاللوم دائمًا على الإنسان الذي ستتم محاكمته وسيدفع الثمن. تقول مادلين كلير إيليش أن التصرف بهذه الطريقة أمر غير أخلاقي، وأن إلقاء المسؤولية القانونية والأخلاقية لأخطاء الخوارزميات على الإنسان أمر غير مقبول.
تم إلقاء اللوم على شركة أوبر عقب الحدثة مباشرةً، وأشارت أصابع الاتهام إلى المبرمجين المسؤولين عن النظام ذاتي القيادة، وبعد أيام قليلة تحولت أصابع الاتهام إلى سائق الأمان، وهذه طريقة سيئة ومثيرة للقلق في التعامل مع حوادث أنظمة الذكاء الصناعي، وخاصة أثناء تصميمها وتجربتها.
تقول إيليش أنه يجب على المنظمين والمشرعين التمعن أكثر في الحوادث السابقة لوضع قوانين تساعد في توزيع المسؤولية بشكل عادل، وفي مثال السيارات ذاتية القيادة يجب تغيير نظام عمل السائق التجريبي الذي يجب أن يتحكم بالسيارة لحد ما في جميع الأوقات، وتحديد دوره بدقة لتجنب إلقاء المسؤولية على عاتقه في حال حدوث المصائب.
اقرأ المزيد: كيف تنضم إلى شركة أوبر وما هي شروط التقديم؟

عـرب ويبـر | محــرك الاخبــار التقنيـة الأول في الـوطـــن العـــربي
مرخص بموجب رخصة المشاع الإبداعي نَسب المُصنَّف 4.0- دولي

هذا المقال منقول عن المصدر الموضَّح أدناة

تٍك – أراجيك

الوسوم
اظهر المزيد

مقالات ذات صلة

اترك رد

أنت تستخدم إضافة Adblock

برجاء دعمنا عن طريق تعطيل إضافة Adblock