قال كبير مسؤولي العلوم في Microsoft إن التهديدات الجديدة العميقة تلوح في الأفق

ألا تستطيع حضور Transform 2022؟ تحقق من جميع جلسات القمة في مكتبتنا عند الطلب الآن! انظر هنا.

أصبحت التزييف العميق ، أو الصور التركيبية عالية الدقة للأشخاص والأحداث باستخدام الذكاء الاصطناعي (AI) والتعلم الآلي (ML) ، أداة شائعة للمعلومات المضللة على مدار السنوات الخمس الماضية. ولكن وفقًا لإريك هورفيتز ، كبير المسؤولين العلميين في شركة Microsoft ، فإن التهديدات الجديدة العميقة تلوح في الأفق.

تشير ورقة بحثية جديدة من هورفيتز إلى أن التزييف العميق التفاعلي والتركيبي هما فئتان من التهديدات المتزايدة. في موضوع على Twitter ، وصف الباحث في MosaicML Davis Blaloch التزييف العميق التفاعلي بأنه "وهم التحدث إلى شخص حقيقي. تخيل مخادعًا ينادي جدتك التي تشبهك تمامًا وتبدو مثلك تمامًا. وتابع قائلاً إن التزييف العميق التركيبي يأخذ خطوة إلى الأمام مع ممثل سيء يخلق العديد من مقاطع التزييف العميق لتجميع "قصة اصطناعية".

"فكر في اختلاق هجوم إرهابي لم يحدث أبدًا ، أو اختلاق فضيحة خيالية ، أو تجميع" الأدلة "لنظرية مؤامرة تخدم مصالحها الذاتية. يمكن استكمال هذه القصة التركيبية بأفعال في العالم الحقيقي (على سبيل المثال إضرام النار في مبنى) "، غرد بلالوش. الذكاء الاصطناعي التوليدي عند نقطة انعطاف

في المقالة ، يوضح هورفيتز أن القدرات المتزايدة لأساليب الذكاء الاصطناعي التمييزية والتوليدية تصل إلى نقطة انعطاف. كتب: "تقدم التطورات أدوات غير مسبوقة يمكن أن تستخدمها الجهات الفاعلة الحكومية وغير الحكومية لخلق ونشر معلومات مضللة مقنعة" ، مضيفًا أن التزييف العميق سيصبح من الصعب تمييزه عن الواقع.

حدث

MetaBeat 2022

ستجمع MetaBeat قادة الفكر لتقديم المشورة بشأن الطريقة التي ستغير بها التكنولوجيا metaverse الطريقة التي تتواصل بها جميع الصناعات وتؤدي أعمالها في 4 أكتوبر في سان فرانسيسكو ، كاليفورنيا. سجل هنا

أوضح أن التحدي ينبع من منهجية شبكات الخصومة التوليدية (GANs) ، وهي "تقنية تكرارية حيث يتم استخدام التعلم الآلي والاستدلال لإنشاء محتوى تركيبي في مواجهة الأنظمة التي تحاول التمييز بين الخيال المتولد والحقائق". مع مرور الوقت ، يتعلم المولد خداع الكاشف. كتب: "مع هذه العملية التي تؤدي إلى التزييف العميق ، لن تتمكن تقنيات التعرف على الأنماط ولا البشر من التعرف على التزييف العميق بشكل موثوق".

في مايو الماضي ، أدلى هورفيتز بشهادته أمام اللجنة الفرعية للأمن السيبراني التابعة للجنة القوات المسلحة بمجلس الشيوخ الأمريكي ، حيث أشار إلى أن المنظمات ستواجه بالتأكيد تحديات جديدة مع تزايد تعقيد هجمات الأمن السيبراني ، بما في ذلك من خلال استخدام الوسائط الاصطناعية التي تعمل بالذكاء الاصطناعي والتزييف العميق. .

حتى الآن ، يكتب في المجلة الجديدة ، تم إنشاء تقنية التزييف العميق ومشاركتها كإبداعات فريدة ومستقلة. الآن ، ومع ذلك ، "يمكننا أن نتوقع رؤية ظهور أشكال جديدة من التزييف العميق المقنع الذي يتجاوز الإنتاج الثابت والمفرد" ، على حد قوله.

الدفاع ضد التزييف العميق

يستشهد هورفيتز بطرق مختلفة يمكن للحكومات والمنظمات والباحثين والشركات الاستعداد والدفاع ضد الارتفاع المتوقع للتزييف العميق والتركيبي.

سيؤدي ظهور تقنية التزييف العميق المتطورة بشكل متزايد إلى "رفع مستوى التوقعات والمطالب" للصحافة والتقارير ، وكذلك ...