Нависають глибокі нові загрози, каже науковий директор Microsoft

Не змогли відвідати Transform 2022? Перегляньте всі сесії саміту в нашій бібліотеці за запитом! Подивіться сюди.

Дипфейки, або синтетичні, вигадані високоточні зображення людей і подій за допомогою штучного інтелекту (AI) і машинного навчання (ML), стали поширеним інструментом дезінформації за останні п’ять років. Але, за словами Еріка Горвіца, головного наукового співробітника Microsoft, нові глибокі загрози маячать на горизонті.

Нова дослідницька стаття Хорвіца вказує на те, що інтерактивні та композиційні дипфейки є двома класами загроз, що зростають. У твіттері дослідник MosaicML Девіс Блалох описав інтерактивні дипфейки як «ілюзію розмови з реальною людиною». Уявіть, що шахрай дзвонить вашій бабусі, яка виглядає і звучить так само, як ви. Композиційні дипфейки, продовжив він, роблять крок далі, коли поганий актор створює численні дипфейки, щоб скласти «синтетичну історію».

«Подумайте про те, щоб вигадати теракт, якого ніколи не було, вигадати вигаданий скандал або зібрати «докази» корисливої ​​теорії змови. Така синтетична історія може бути доповнена діями в реальному світі (наприклад, підпал будівлі), – написав Блалох у Twitter.

Генеративний ШІ знаходиться на переломній точці

У статті Горвіц стверджує, що зростаючі можливості дискримінаційних і генеративних методів ШІ досягають точки перелому. «Прогрес надає безпрецедентні інструменти, які можуть використовувати державні та недержавні суб’єкти для створення та поширення переконливої ​​дезінформації», — написав він, додавши, що дипфейки стане важче відрізнити від реальності.

Подія

MetaBeat 2022

4 жовтня в Сан-Франциско, штат Каліфорнія, MetaBeat збере лідерів думок, щоб порадити, як технологія метавсесвіту змінить спосіб спілкування та ведення бізнесу в усіх галузях.

зареєструватися тут

Завдання, пояснив він, випливає з методології Generative Adversarial Networks (GANs), «ітераційної техніки, у якій машинне навчання та висновки, що використовуються для створення синтетичного контенту, протиставляються системам, які намагаються відрізнити створені вигадки від фактів». З часом, продовжив він, генератор навчиться обманювати детектор. «Оскільки цей процес запускає deepfakes, ні методи розпізнавання образів, ні люди не зможуть надійно розпізнати deepfakes», — написав він.

У травні минулого року Горвіц дав свідчення підкомітету з кібербезпеки Комітету збройних сил Сенату США, де він зазначив, що організації, безумовно, зіткнуться з новими викликами, оскільки атаки на кібербезпеку стають дедалі складнішими, включно з використанням синтетичних медіа на основі ШІ та глибоких фейків. .

На сьогоднішній день, пише він у новому журналі, глибокі фейки були створені та поширені як унікальні, автономні творіння. Однак тепер «ми можемо очікувати зростання нових форм переконливих дипфейків, які виходять за рамки фіксованих і одиночних виробництв», — сказав він.

Захист від дипфейків

Горвіц наводить різні способи, якими уряди, організації, дослідники та підприємства можуть підготуватися до очікуваного зростання інтерактивних і композиційних дипфейків і захиститися від них.

Зростання все більш витончених дипфейків «підвищить планку очікувань і вимог» журналістики та репортажів, а також...