تغير Google عملية الاستئناف الخاصة بصور الاعتداء على الأطفال المشتبه بها

سيتمكن الأشخاص الذين يحمِّلون صورًا للأطفال تشير إليها Google على أنها غير قانونية ، من تقديم المزيد من السياق لاستئناف الحظر.

عندما أبلغت Google إحدى الأمهات في كولورادو بتعطيل حسابها ، بدا الأمر كما لو أن منزلها قد احترق ، على حد قولها. في لحظة ، فقدت الوصول إلى صور زفافها ، ومقاطع فيديو لابنها وهو يكبر ، ورسائل البريد الإلكتروني التي يعود تاريخها إلى عقد من الزمان ، والمستندات الضريبية وكل شيء احتفظت به في مكان اعتقدت أنه أكثر الأماكن أمانًا. لم تكن تعرف السبب.

رفضت Google إعادة النظر في القرار في أغسطس ، قائلة إن حسابها على YouTube يحتوي على محتوى ضار قد يكون غير قانوني. استغرق الأمر منه أسابيع لمعرفة ما حدث: اعترف ابنه البالغ من العمر 9 سنوات أخيرًا أنه استخدم هاتفه الذكي القديم لتحميل فيلم قصير على YouTube لنفسه وهو يرقص عارياً.

تمتلك Google نظامًا متطورًا ، يتضمن المراقبة الحسابية والمراجعة البشرية ، لمنع مشاركة وتخزين صور استغلال الأطفال على أنظمتها الأساسية. إذا تم اعتبار صورة أو مقطع فيديو تم تحميله على خوادم الشركة محتوى جنسيًا صريحًا يظهر قاصرًا ، فستقوم Google بإلغاء تنشيط حساب المستخدم في جميع خدمات Google ، والإبلاغ عن المحتوى إلى منظمة غير ربحية تعمل مع تطبيق القانون. يتمتع المستخدمون بالقدرة على تحدي إجراء Google ، ولكن في الماضي لم تكن لديهم القدرة الحقيقية على توفير سياق لصورة عارية أو مقطع فيديو لطفل.

الآن ، بعد الإبلاغ من قبل The New York Times ، غيّرت Google عملية الاستئناف ، مما أعطى المستخدمين المتهمين بجريمة الاستغلال الجنسي للأطفال الفرصة لإثبات براءتهم. ستظل إزالة المحتوى الذي يتبين أنه مسيء من Google والإبلاغ عنه ، ولكن سيتمكن المستخدمون من شرح سبب وجوده في حساباتهم ، مثل مقلب الطفل الطائش. >

قالت سوزان جاسبر ، رئيسة عمليات الثقة والأمان في Google ، في منشور بالمدونة إن الشركة "ستوفر أسبابًا أكثر تفصيلاً لتعليق الحساب". وأضافت: "وسنقوم أيضًا بتحديث عملية الاستئناف لدينا للسماح للمستخدمين بإرسال المزيد من السياق على حساباتهم ، بما في ذلك مشاركة المزيد من المعلومات والوثائق من المهنيين المستقلين أو الهيئات المسؤولة عن تطبيق القانون لمساعدتنا على فهم المحتوى المكتشف في الحساب. . "

على مدار الأشهر القليلة الماضية ، لفتت صحيفة The Times انتباه Google إلى العديد من الحالات التي يبدو فيها أن عملية المراجعة السابقة قد أخطأت.

في حالتين منفصلتين ، التقط الآباء صورًا لكل شيء. - عراة صغيرة لتسهيل العلاج الطبي. خوارزمية تلقائيًا تم الإبلاغ عن الصور ، ثم اعتبرها المشرفون البشريون انتهاكًا لقواعد Google. قررت الشرطة أن الآباء لم يرتكبوا أي جريمة ، لكن الشركة حذفت حساباتهم على أي حال.

تم حظر الآباء ، أحدهما في كاليفورنيا والآخر في تكساس ، من خلال عملية الاستئناف السابقة من Google: لم يتمكنوا في أي وقت من توفير السجلات الطبية والتواصل مع أطبائهم أو وثائق الشرطة تبرئهم من ارتكاب مخالفة. استعاد والد سان فرانسيسكو في النهاية ستة أشهر من بياناته على Google ، ولكن على محرك أقراص فلاش من قسم الشرطة ، الذي حصل عليها من الشركة بأمر.

شركات التكنولوجيا التي تقدم خدمات مجانية للعملاء و ...