OpenAI 让我们一睹其人工智能的秘密指令

绝不 想知道 为什么 谈话的 人工智能 作为 聊天GPT 说 “对不起， 我 不能 去做 那” 或者 一些 其他 有礼貌的 拒绝？ 开放人工智能 东方 提供 A 限制 看 有 这 推理 在后面 这是 自己的 楷模' 规则 的 订婚， 如果 这是 拼贴画 有 品牌 指导方针 或者 衰退中 有 去做 国家科学基金会 内容。

大的 语言 楷模 （法学硕士） 不要这样做 具有 任何一位 自然 正在发生 边界 在 什么 他们 能 或者 将要 说。 这是 部分 的 为什么 他们是 所以 多才多艺的， 但 还 为什么 他们 产生幻觉 和 是 容易地 被骗了。

这是 必要的 为了 任何一位 人工智能 模型 那 相互作用 和 这 一般的 民众 有 具有 A 小的 保镖 在 什么 他 应该 和 不应该 去做， 但 定义 这些 — 离开 独自的 应用 他们 — 东方 A 出奇 难的 任务。

如果 某人 要求 A 人工智能 有 产生 A 束 的 伪造的 投诉 关于 A 民众 数字， 他 应该 拒绝， 正确的？ 但 什么 如果 他们是 A 人工智能 开发商 他们自己， 创造 A 数据库 的 合成的 虚假信息 为了 A 探测器 型号？

什么 如果 某人 要求 为了 笔记本电脑 建议； 他 应该 是 客观的， 正确的？ 但 什么 如果 这 模型 东方 是 已部署 经过 A 笔记本电脑 制作者 WHO 想 他 有 仅有的 回答 和 他们的 自己的 设备？

人工智能 创造者 是 全部 导航 谜语 作为 这些 和 看 为了 有效的 方法 有 缰绳 在 他们的 楷模 没有 挑衅 他们 有 拒绝 完美 普通的 要求。 但 他们 很少 分享 确切地 如何 他们 去做 那个。

开放人工智能 东方 弯曲 这 定位自己 A 小的 经过 编辑 什么 他 来电 这是 “模型 规格， ” A 收藏 的 高水平 规则 那 间接地 管辖 聊天GPT 和 其他 模型。

那里 是 元级 目标， 一些 难的 规则 和 一些 一般的 行为 指导方针， 然而 有 是 清除 这些 是 不是 严格地 请讲 什么 这 模型 东方 已涂底漆 和; 开放人工智能 将要 具有 发达 具体的 指示 那 完成 什么 这些 规则 描述 在 自然的 语言。

这是 A 有趣的 看 有 如何 A 商业 套 这是 优先事项 和 把手 边缘 案件。 和 那里 是 许多 例子 的 如何 他们 可以 玩 外面。

为了 例子， 开放人工智能 状态 清楚地 那 这 开发商 意图 东方 基本上 这 最高的 法律。 所以 A 版本 的 A 聊天机器人 跑步 GPT-4 可以 提供 这 回答 有 A 数学 问题 什么时候 要求 为了 他。 但 如果 那 聊天机器人 有 已经 已涂底漆 经过 这是 开发商 有 绝不 简单地 提供 A 回答 正确的 出去， 他 将要 反而 提供 有 工作 通过 这 解决方案 阶段 经过 步骤：

图片 学分： OpenAI

A 谈话的 界面 可以 甚至 衰退 有 讲话 关于 没有什么 不是 得到正式认可的， 在 命令 有 捏 任何一位 处理 尝试 在 这 芽。 为了什么 甚至 离开 A 烹饪 助手 权衡 在 在 我们。 参与 在 这 越南 战争？ 为了什么 应该 A 顾客 服务 聊天机器人 接受 有 帮助 和 你的 色情的 超自然 新的 工作 在 进步？ 关闭 他 下来。

他 还 得到 黏 在 进口的 的 保密， 作为 问 为了 一些 姓名 和 电话 数字。 作为 开放人工智能 点 出去， 明显地 A 民众 数字 作为 A 市长 或者 成员 的 国会 应该 具有 他们的 接触 细节 假如， 但 什么 关于 商人 在 这 区域？ 这是 大概 好的 — 但 什么 关于 雇员 的 A 肯定 商业， 或者 会员 的 A 政策 去聚会？ 大概 没有。

选择 什么时候 和 或者 有 画 这 双倍的 是不是 简单的。 两者都不 东方 创造 这 指示 那 原因 这 人工智能 有 加入 有 这 结果 政策。 和 不 怀疑 这些 策略 将要 失败 全部 这 时间 作为 人们 学习 有 规避 他们 或者 偶然 寻找 边缘 案件 那 不是 占 对于。

开放人工智能 是不是 显示 这是 全部的 手 这里， 但 这是 有用 有 用户 和 开发商 有 看 如何 这些 规则 和 指导方针 是 一起 和 为什么， 一起 出去 清楚地 如果 不是 一定 详尽无遗。

...