هل يجب أن تكون السيارات ذاتية القيادة مزودة بمسجلات الصندوق الأسود؟

ألا تستطيع حضور Transform 2022؟ تحقق من جميع جلسات القمة في مكتبتنا عند الطلب الآن! انظر هنا.

تحمل كل طائرة تجارية "صندوقًا أسود" يحتفظ بسجل ثانٍ لكل شيء يحدث في أنظمة الطائرات بالإضافة إلى تصرفات الطيارين ، وكانت هذه السجلات لا تقدر بثمن في تحديد أسباب المصنع.

لماذا لا تتشابه السيارات والروبوتات ذاتية القيادة؟ هذا ليس سؤالا افتراضيا.

تحقق سلطات النقل الفيدرالية في عشرات الحوادث التي تعرضت لها سيارات Tesla المجهزة بنظام "AutoPilot" ، والذي يسمح بالقيادة بدون استخدام اليدين تقريبًا. توفي 11 شخصًا في تلك الحوادث ، أحدهم أصيب بسيارة تسلا أثناء تغيير إطار على جانب الطريق.

ومع ذلك ، تعمل كل شركة مصنّعة للسيارات على تطوير تقنيات القيادة الآلية الخاصة بها. على سبيل المثال ، حتى Walmart دخلت في شراكة مع Ford و Argo AI لاختبار السيارات ذاتية القيادة لتوصيل الطلبات للمنازل ، وتتعاون Lyft مع نفس الشركات لاختبار أسطول من سيارات الأجرة الآلية.

اقرأ: إدارة أمان الذكاء الاصطناعي من خلال عمليات تدقيق مستقلة

لكن الأنظمة المستقلة ذاتية التوجيه تعمل جيدًا خلف السيارات والشاحنات وروبوتات اللحام في المصانع. تستخدم دور رعاية المسنين اليابانية "روبوتات رعاية" لتقديم وجبات الطعام ومراقبة المرضى وحتى توفير الرفقة. تستخدم وول مارت والمتاجر الأخرى الروبوتات لتنظيف الأرضيات. ما لا يقل عن ست شركات تبيع الآن جزازات العشب الآلية. (ما الخطأ الذي يمكن أن يحدث؟)

والمزيد من التفاعلات اليومية مع الأنظمة الذاتية يمكن أن تؤدي إلى مزيد من المخاطر. مع وضع هذه المخاطر في الاعتبار ، أصدر فريق دولي من الخبراء - باحثون جامعيون في مجال الروبوتات والذكاء الاصطناعي وكذلك مطورو الصناعة وشركات التأمين والمسؤولون الحكوميون - مجموعة من مقترحات الحوكمة لتوقع المشكلات بشكل أفضل وزيادة المساءلة. إحدى أفكاره الأساسية هي الصندوق الأسود لأي نظام مستقل.

يقول جريجوري فالكو ، المؤلف المشارك والأستاذ المساعد للهندسة المدنية وهندسة النظم بجامعة جونز هوبكنز والباحث في جامعة ستانفورد فريمان سبوجلي: "عندما تسوء الأمور الآن ، تحصل على الكثير من التجاهل". معهد الدراسات الدولية. سيسمح هذا النهج بتقييم المخاطر مقدمًا وإنشاء مسار تدقيق لفهم حالات الفشل. الهدف الرئيسي هو خلق المزيد من المساءلة. "

تركز المقترحات الجديدة ، المنشورة في Nature Machine Intelligence ، على ثلاثة مبادئ: إعداد تقييمات المخاطر الاستشرافية قبل تشغيل النظام ؛ إنشاء مسار تدقيق - بما في ذلك الصندوق الأسود - لتحليل الحوادث عند وقوعها ؛ وتعزيز الامتثال للوائح المحلية والوطنية.

لا يطلب المؤلفون أوامر من الحكومة. بدلاً من ذلك ، يجادلون بأن أصحاب المصلحة الرئيسيين - شركات التأمين والمحاكم والعملاء - لديهم مصلحة راسخة في دفع الشركات إلى تبني نهجها. ترغب شركات التأمين ، على سبيل المثال ، في معرفة أكبر قدر ممكن عن المخاطر المحتملة قبل تقديم التغطية. (أحد المؤلفين المشاركين في الورقة هو مسؤول تنفيذي في Swiss Re ، عملاق إعادة التأمين). وبالمثل ، تحتاج المحاكم والمحامون إلى مسار بيانات لتحديد من يجب ومن لا ينبغي تحميله مسؤولية وقوع حادث. يريد العملاء بالطبع تجنب المخاطر غير الضرورية.

تعمل الشركات بالفعل على تطوير الصناديق السوداء للمركبات ذاتية القيادة ، على قدم المساواة ...