一个人工智能开创了我们真正应该害怕的事情

人工智能像其他技术一样激发了我们最高的抱负和最深的恐惧。就好像机器能够以我们只能梦想的速度和技能执行任务的每一个闪闪发光的普罗米修斯承诺都伴随着人类流离失所和过时的补偿性噩梦。但是，尽管最近人工智能在以前由人类主导的语言和视觉艺术领域取得了突破——GPT-3 语言模型的散文创作和 DALL-E 2 系统的视觉创作引起了极大的兴趣——我们最严重的担忧应该是大概是被磨炼了至少这是计算机科学家 Yejin Choi 的观点，他是著名的麦克阿瑟“天才”奖学金的 2022 年获得者，他对 AI 常识和道德推理的发展进行了开创性研究。 45 岁的 Choi 承认：“人们对潜在的 AI 进行了一些炒作，同时也对 AI 感到恐慌。”这并不是说人类和 AI 的故事不会没有惊喜。“有一种冒险的感觉，”Choi谈到他的作品时，“你探索了这个未知领域。你看到了意想不到的东西，然后你觉得，我想找出那里有什么。”还有更多！

人们对人工智能最大的误解是什么？他们做出仓促的概括。 “哦，GPT-3 可以写这篇精彩的博文。也许 GPT-4 将成为纽约时报杂志的编辑。[笑]我认为他无法取代那里的任何人，因为他没有真正了解政治背景 因此不能真正写出任何与读者相关的东西 然后是对人工智能感知的担忧 总有人相信一些没有意义的东西 人们相信塔罗牌 人们相信阴谋论。所以当然会有人相信人工智能是有知觉的。

我知道这可能是最陈词滥调的问题，但我还是要问：人类会创造出有感知力的人工智能吗？我可以改变主意，但目前我持怀疑态度。我知道有些人可能会有这种印象，但当你与 AI 如此接近时，你会发现很多局限性。这就是问题。远远看去，天啊！走近了，我看到了所有的缺陷。任何时候有很多模型，很多数据，人工智能都非常擅长处理这些——某些事情，比如下围棋或国际象棋。但人类倾向于相信，如果人工智能可以做一些像翻译或国际象棋这样聪明的事情，那么他一定也很擅长所有简单的事情。事实上，对机器来说容易的事情对人类来说可能很难，反之亦然。你会惊讶于人工智能如何与基本常识作斗争。这很疯狂。

你能解释一下“常识”在他的教学 AI 中的含义吗？一种描述方式是，常识是智力的暗物质。正常物质是我们所看到的，我们可以与之互动的。长期以来，我们一直认为这就是物理世界中的东西——仅此而已。事实证明，那只是宇宙的 5%。百分之九十五是暗物质和暗能量，但它是看不见的，不能直接测量。我们知道它存在，因为如果它不存在，那么普通物质就毫无意义。所以我们知道它在那里，而且我们知道它有很多。我们以常识得出这一认识。这是你我所拥有的隐性知识。很明显，我们不常谈论它。例如，一匹马有几只眼睛？其中。我们不说，但每个人都知道。我们不知道你和我有多少我们没有讨论过的知识——但仍然知道——但我想有很多。让我再举一个例子：你我都知道鸟会飞，而我们知道企鹅通常不会。所以人工智能研究人员认为我们可以编写代码：鸟类通常会飞，企鹅除外。但实际上，例外是对常识规则的蔑视。初生的雏鸟不能飞，浑身是油的鸟不能飞，受伤的鸟不能飞，笼中的鸟不能飞。问题是，例外并不例外，即使没有人告诉我们，你我也可以考虑它们。这是一种令人着迷的能力，但对 A.I. 来说并不容易。

您之前有点怀疑地提到 GPT-3。你认为这不令人印象深刻？我是 GPT-3 的忠实粉丝，但同时我觉得有些人...