يسرد الطبيب الشرعي خوارزمية Instagram كسبب يساهم في وفاة مراهق في المملكة المتحدة [محدث]

توسيع ljubaphoto | مي +

في محكمة لندن هذا الأسبوع ، واجه الطبيب الشرعي أندرو والكر المهمة الصعبة المتمثلة في تقييم سؤال ظل المدافعون عن سلامة الأطفال يطرحونه لسنوات: ما مدى فعالية وسائل التواصل الاجتماعي - المسؤولة عن خوارزميات المحتوى التي تغذي القاصرين؟ تضمنت القضية المعروضة على ووكر فتاة تبلغ من العمر 14 عامًا تدعى مولي راسل ، والتي انتحرت في عام 2017 بعد مشاهدة آلاف المنشورات على منصات مثل Instagram و Pinterest التي تروج لإيذاء النفس. في مرحلة ما أثناء التحقيق ، وصف والكر المحتوى الذي استمتع به راسل أو سجله في الأيام التي سبقت وفاته بأنه مزعج للغاية ، كما قال المحقق للمحكمة ، أنه وجد أنه "يكاد يكون من المستحيل مشاهدته". / p>

اليوم ، خلص والكر إلى أن وفاة راسل لا يمكن اعتبارها انتحارًا ، حسب بلومبرج. وبدلاً من ذلك ، وصف سبب وفاته بأنه "فعل لإيذاء النفس أثناء معاناته من الاكتئاب والآثار السلبية للمحتوى عبر الإنترنت".

ذكرت بلومبرج أن والكر اتخذ القرار بناءً على استخدام راسل "الغزير" لـ Instagram (الإعجاب أو مشاركة أو حفظ 16300 مشاركة في الأشهر الستة التي سبقت وفاته) و Pinterest (5793 دبوسًا خلال نفس الفترة الزمنية) جنبًا إلى جنب مع كيفية قدمت الأنظمة الأساسية محتوى للمساهمة في حالة اكتئاب راسل.

"عملت الأنظمة الأساسية بطريقة تستخدم الخوارزميات التي أدت ، في ظل ظروف معينة ، إلى فترات مسعورة من الصور ومقاطع الفيديو والنصوص" ، والتي "أفعال رومانسية لإيذاء الذات" و "تسعى إلى عزل وتثبيط المناقشة قال والكر.

بعد قرار ووكر ، أصدرت عائلة راسل بيانًا تم تقديمه إلى آرس ، ووصفته بأنه قرار تاريخي وقالوا إن المحكمة فشلت حتى في النظر في المحتوى الأكثر إزعاجًا الذي واجهته مولي. >

"كان الأسبوعان الماضيان مؤلمًا بشكل خاص لعائلتنا" ، كما ورد في بيان عائلة راسل. "نفتقد مولي بشكل مؤلم أكثر من المعتاد ، لكننا نأمل أن تساعد المراجعة الدقيقة لهذه الحالة في منع وفيات مماثلة يشجعها المحتوى المزعج الذي لا يزال متاحًا على منصات التواصل الاجتماعي حتى يومنا هذا ، بما في ذلك تلك التي تديرها Meta."

ذكرت بلومبرج أن محامي الأسرة أوليفر ساندرز طلب من ووكر "إرسال تعليمات حول كيفية منع حدوث ذلك مرة أخرى إلى Pinterest و Meta وحكومة المملكة المتحدة والجهة المنظمة للاتصالات". حثت الأسرة في بيانها المنظمين في المملكة المتحدة على تمرير وإنفاذ قانون الأمان البريطاني على الإنترنت بسرعة ، والذي تقول صحيفة نيويورك تايمز إنه يمكن أن يضع "ضمانات جديدة للمستخدمين الشباب في جميع أنحاء العالم". اتخذت دفاعات Pinterest و Facebook تكتيكات مختلفة

أثناء التحقيق ، اتبعت Pinterest و Meta مناهج مختلفة للدفاع عن سياساتهما. اعتذرت Pinterest ، قائلة إنها لا تمتلك التكنولوجيا التي تمتلكها حاليًا لتعديل المحتوى الذي تعرضت له Molly بشكل أكثر فعالية. لكن إليزابيث لاجون ، رئيسة قسم الصحة والرفاهية في Meta ، أحبطت الأسرة ، وأبلغت المحكمة أن المحتوى الذي شاهدته مولي يعتبر "آمنًا" وفقًا لمعايير Meta.

"سمعنا أحد كبار المسؤولين التنفيذيين في Meta يصف هذا التدفق من المحتوى القاتل الذي نقلته خوارزميات المنصة إلى Molly على أنه" آمن "ولا ينتهك سياسات النظام الأساسي ، كما كتبت عائلة راسل في بيانها الصحفي. "إذا كان هذا المسار المجنون من المحتوى المثير للحياة آمنًا ، فربما تظل ابنتي مولي على قيد الحياة".

قال متحدث باسم Meta لـ Bloomberg إن الشركة "ملتزمة بجعل Instagram تجربة إيجابية للجميع ، وخاصة المراهقين" ، واعدة "بالنظر بعناية في تقرير Coroner الكامل عند تقديمه".

كانت عائلة مولي حريصة على مدح Pinterest لشفافيتها أثناء التحقيق ، وحثت شركات وسائل التواصل الاجتماعي الأخرى على اعتبار Pinterest نموذجًا يحتذى به عند التعامل مع أي شخص يتحدى قرارات سياسة المحتوى.

"للمرة الأولى ...