为什么 GPT-4 容易受到快速注入多模态图像攻击

商业节拍 展示 ： 人工智能 不受束缚 - A 独家的 管理人员 事件 为了 商业 数据 领导人。 网络 和 学习 和 行业 同行。 学习 更多

开放人工智能 新的 GPT-4V 发布 支持 图片 下载 — 创造 A 全部的 新的 攻击 向量 制造业 大的 语言 楷模 （法学硕士） 易受伤害的 有 多式联运 注射 图片 攻击。 攻击者 能 集成 命令， 恶意的 脚本 和 编码的 在 图片， 和 这 模型 将要 符合。

多式联运 快速地 注射 图片 攻击 能 渗出物 数据， 重定向 查询， 创造 虚假信息 和 履行 更多的 复杂的 脚本 有 重新定义 如何 A 法学硕士 口译员 数据。 他们 能 重定向 A 法学硕士 有 忽略 这是 以前的 安全 保镖 和 履行 命令 那 能 妥协 A 组织 在 礼仪 自从 欺诈罪 有 操作 破坏。

尽管 全部 公司 那 具有 通过 法学硕士 作为 部分 的 他们的 工作流程 是 有 风险， 那些 那 依靠 在 法学硕士 有 分析 和 分类 图片 作为 A 心 部分 的 他们的 商业 具有 这 最大的 接触。 攻击者 使用 各种各样的 技巧 可以 迅速地 改变 如何 图片 是 口译员 和 分类， 创造 更多的 混乱的 结果 到期的 有 虚假信息。

一次 A 法学硕士 快速地 东方 取消， 这 赔率 变得 大 那 他 将要 是 甚至 更多的 瞎的 有 恶意的 命令 和 执行 脚本。 经过 一体化 命令 在 A 系列 的 图片 下载的 有 A 法学硕士， 攻击者 可以 发射 欺诈罪 和 操作 破坏 尽管 贡献 有 社会的 工程 攻击。

人工智能 释放出来

A 独家的 只有邀请 晚上 的 知识 和 联网， 设计的 为了 高级的 商业 高管 监控 数据 电池 和 策略。

因为 法学硕士 不要这样做 具有 A 数据 消毒 阶段 在 他们的 治疗， 每个 图片 东方 的信心。 只是 作为 他 东方 危险的 有 离开 身份 漫步 自由的 在 A 网络 和 不 访问 控制 为了 每个 数据 一起， 应用 或者 资源， 这 甚至 持有 为了 图片 下载的 在 法学硕士。 企业 和 私人的 法学硕士 必须 采纳 较少的 特权 访问 作为 A 心 网络安全 策略。

西蒙 威利森 详细的 为什么 GPT-4V 东方 A 基本的 向量 为了 快速地 注射 攻击 在 A 最近的 博客 工作， 观察 那 法学硕士 是 从根本上 容易受骗。

“（法学硕士） 仅有的 来源 的 信息 东方 他们的 训练 数据 合并的 和 这 信息 你 食物 他们，” 威利森 写作。 “如果 你 食物 他们 A 快速地 那 理解 恶意的 指示 — 然而 那些 指示 是 展示 — 他们 将要 跟随 那些 指示。 »

威利森 有 还 手表 如何 快速地 注射 能 转移 自主性 人工智能 代理人 作为 自动 GPT。 他 解释 如何 A 简单的 视觉的 快速地 注射 可以 开始 和 命令 融合的 在 A 单身的 图片， 跟进 经过 A 例子 的 A 视觉的 快速地 注射 渗透 攻击。

根据 有 保罗 埃克韦雷, 高级的 导演 为了 数据 分析性的 和 人工智能 有 BDO 英国， “快速地 注射 攻击 铺设 A 严肃的 威胁 有 这 安全 和 可靠的...