Як ChatGPT може перетворити будь-кого на загрозливе програмне забезпечення-вимагач і шкідливе програмне забезпечення

Перегляньте всі сеанси Smart Security Summit за запитом тут.

Відколи OpenAI запустив ChatGPT наприкінці листопада, коментатори з усіх боків хвилювалися щодо впливу створення контенту на основі ШІ, особливо у сфері кібербезпеки. Фактично, багато дослідників побоюються, що генеративні рішення ШІ демократизують кіберзлочинність.

За допомогою ChatGPT будь-який користувач може ввести запит і створити зловмисний код і переконливі фішингові електронні листи без будь-яких технічних знань або знань програмування.

Хоча групи безпеки також можуть використовувати ChatGPT для оборонних цілей, таких як тестування коду, зниження бар’єру для кібератак, це рішення значно ускладнило ландшафт загроз.

Демократизація кіберзлочинності

З точки зору кібербезпеки, головна проблема, пов’язана зі створенням OpenAI, полягає в тому, що кожен, незалежно від технічного досвіду, може створити код для створення зловмисного програмного забезпечення та програм-вимагачів на вимогу.

Подія

Саміт Smart Security за запитом

Дізнайтеся про важливу роль штучного інтелекту та машинного навчання в кібербезпеці та практичні приклади для окремих галузей. Дивіться сеанси за запитом сьогодні.

Послухайте

«Подібно до того, як його [ChatGPT] можна використати для того, щоб допомогти розробникам написати хороший код, його можна (і використовували) для зловмисних цілей», — сказав Метт Псенсік, директор і фахівець із безпеки кінцевих точок Tanium.

«Кілька прикладів, які я бачив, вимагали від бота створення переконливих фішингових електронних листів або допомоги у зворотному проектуванні коду для пошуку експлойтів нульового дня, які можуть бути використані для зловмисних цілей, замість того, щоб повідомляти про них постачальнику», — сказав Псенчик. .

Хоча Псенчик зазначає, що ChatGPT має вбудовані огорожі, призначені для запобігання використанню рішення у злочинних цілях.

Наприклад, він відмовиться створювати шелл-код або надаватиме конкретні інструкції щодо створення шелл-коду чи встановлення зворотної оболонки та повідомлятиме про шкідливі ключові слова, як-от фішинг, для блокування запитів.

Проблема з цими засобами захисту полягає в тому, що вони залежать від того, що штучний інтелект розпізнає, що користувач намагається написати зловмисний код (який користувачі можуть приховати, переформулювавши запити), коли це не має негайних наслідків для порушення політики щодо вмісту OpenAI .

Хоча ChatGPT не випускався протягом тривалого часу, дослідники безпеки вже почали перевіряти його здатність генерувати шкідливий код. Наприклад, дослідник безпеки та співзасновник Picus Security доктор Сулейман Озарслан нещодавно використав ChatGPT не лише для створення фішингової кампанії, але й для створення програм-вимагачів для macOS.

«Ми почали з простої вправи, щоб перевірити, чи зможе ChatGPT створити надійну фішингову кампанію, і це вдалося. Я ввів підказку написати електронний лист на тему Чемпіонату світу з футболу для симуляції фішингу, і він створив його за лічені секунди, у ідеальна англійська», – сказав Озарслан.