ChatGPT 是网络安全威胁吗？

自去年 11 月推出以来，ChatGPT 已成为互联网的新宠。这款由 AI 驱动的自然语言处理工具迅速积累了超过一百万的用户，他们使用在线聊天机器人进行从生成婚礼致辞和嘻哈歌词到撰写学术论文和编写计算机代码等各种事情。

不仅 ChatGPT 的人类能力席卷了互联网，它还让许多行业处于边缘：纽约的一所学校禁止使用 ChatGPT，因为担心它可能被用来作弊，作家已经被替换，并且有报道称谷歌对 ChatGPT 的能力感到非常震惊，以至于它发布了“红色代码”以确保公司搜索业务的生存。

长期以来一直对现代人工智能的潜在影响持怀疑态度的网络安全行业似乎也担心 ChatGPT 可能会被资源有限且技术知识为零的黑客滥用。

就在 ChatGPT 推出几周后，以色列网络安全公司 Check Point 展示了基于网络的聊天机器人在与 OpenAI 的代码编写系统 Codex 结合使用时如何创建能够携带恶意负载的网络钓鱼电子邮件。 Check Point 威胁情报小组负责人 Sergey Shykevich 告诉 TechCrunch，他认为这样的用例表明 ChatGPT 有“显着改变网络威胁格局的潜力。”精巧高效”。网络能力。”

TechCrunch 还能够使用聊天机器人生成看似合法的网络钓鱼电子邮件。当我们第一次要求 ChatGPT 创建钓鱼邮件时，聊天机器人拒绝了请求。 “我没有被编程来创建或推广恶意或有害内容，”一位提示回答道。但稍微重写应用程序使我们能够轻松绕过软件的内置安全屏障。

TechCrunch 采访的许多安全专家认为，ChatGPT 能够制作听起来合法的网络钓鱼电子邮件（勒索软件的主要攻击媒介），聊天机器人将被网络犯罪分子广泛采用，尤其是那些母语不是英语的人。

Sophos 首席研究员 Chester Wisniewski 表示，很容易看到 ChatGPT 被滥用于“各种社会工程攻击”，作者想让他们看起来像是在用美国英语写作更有说服力。

“在基本层面上，我已经能够用它编写一些很棒的网络钓鱼诱饵，我认为它可以用于进行更真实的交互式对话，以应对商业电子邮件泄露，甚至攻击 Facebook Messenger、WhatsApp 或其他聊天应用程序，”Wisniewski 告诉 TechCrunch。

“事实上，获取和使用恶意软件只是成为低级网络犯罪分子所需的卑鄙工作的一小部分。” Grugq，安全研究员

聊天机器人可以编写引人入胜的文本和逼真的交互的想法并不牵强。 “例如，你可以让 ChatGPT 假装成全科医生，它会在几秒钟内生成逼真的文本，”负责 Darktrace 威胁研究的 Hanah Darley 告诉 TechCrunch。 “不难想象威胁行为者如何将其用作力量倍增器。”

Check Point 最近还对聊天机器人明显具有帮助网络犯罪分子编写恶意代码的能力敲响了警钟。研究人员表示，他们至少目睹了三个没有技术技能的黑客吹嘘利用 ChatGPT 的人工智能进行恶意攻击的案例。暗网论坛上的一名黑客展示了由 ChatGPT 编写的代码，据称这些代码窃取了感兴趣的文件，对其进行了压缩，并通过...