愚蠢的人工智能比强大的人工智能风险更大
无法参加 Transform 2022？立即在我们的点播库中查看所有峰会会议！看这里。
这一年是 2052 年。由于大部分电力生产最终采用核能，世界避免了气候危机。现在的传统观点是核电站是一个复杂的问题。三英里岛现在是一个笑话，而不是一场灾难。对核废料和工厂爆炸的担忧主要通过更好的软件自动化得到缓解。我们不知道的是，由世界各地的几个不同供应商制作的所有核电站软件都具有相同的偏见。经过二十年无懈可击的运作，几家独立工厂在同一年全部倒闭。核电 CEO 委员会已经意识到，每个知道如何运营 IV 级核电站的人要么已经死亡，要么已经退休。我们现在必须在现代性和不可接受的风险之间做出选择。
人工智能或 AI 正在兴起。在经历了长达数十年的“AI 寒冬”之后，机器学习已经从沉睡中醒来，发现了一个充满技术进步的世界，例如强化学习、Transformer 等，而计算资源现在已经完全准备好并可以利用这些进步。
人工智能的起源并没有被忽视；事实上，它引发了很多争论。谈话通常由那些害怕人工智能的人主导。这些人的范围从害怕偏见的道德人工智能研究人员到考虑灭绝事件的理性主义者。他们的担忧往往围绕着人工智能难以理解或太聪明而无法控制，最终打败了我们的目的，即它的创造者。通常，人工智能助推器会以技术乐观的策略做出回应。他们声称这些担忧基本上是错误的，并指出他们自己的抽象论点以及关于人工智能迄今为止为我们所做的良好工作的硬数据，暗示它将在未来继续为我们做好事。未来.
两种观点都没有抓住重点。一种空灵形式的强人工智能还没有出现，而且可能在一段时间内也不会出现。相反，我们面临着更大的风险，今天就在这里，而且只会变得更糟：我们正在部署大量的人工智能，然后才完全成熟。换句话说，我们最大的风险不是太聪明的AI，而是太笨的AI。我们最大的风险就像上面的缩略图：不是恶意的而是愚蠢的人工智能。我们忽略它。
事件元节拍 2022
MetaBeat 将于 10 月 4 日在加利福尼亚州旧金山汇聚思想领袖，就元界技术将如何改变所有行业的沟通和开展业务的方式提出建议。
在这里注册 愚蠢的人工智能已经出现哑AI比强AI带来更大的风险，主要是因为前者确实存在，而后者是否真的可能尚不清楚。 Eliezer Yudkowsky 或许总结得最好：“人工智能的最大危险在于人们过早下结论认为他们理解它。”
从制造车间到翻译部门，实际都在使用真正的 AI。据麦肯锡称，70% 的公司表示他们通过使用人工智能创造了收入。这些也不是微不足道的应用：如今，人工智能被部署在关键功能中，大多数人仍然错误地认为是远程的功能，并且有很多例子。
尽管我们还没有自主武器条约，但美国军方已经部署了不需要人类杀伤决定的自主武器（特别是四旋翼地雷）。亚马逊之前实际上推出了基于人工智能的简历分类工具
无法参加 Transform 2022？立即在我们的点播库中查看所有峰会会议！看这里。
这一年是 2052 年。由于大部分电力生产最终采用核能，世界避免了气候危机。现在的传统观点是核电站是一个复杂的问题。三英里岛现在是一个笑话，而不是一场灾难。对核废料和工厂爆炸的担忧主要通过更好的软件自动化得到缓解。我们不知道的是，由世界各地的几个不同供应商制作的所有核电站软件都具有相同的偏见。经过二十年无懈可击的运作，几家独立工厂在同一年全部倒闭。核电 CEO 委员会已经意识到，每个知道如何运营 IV 级核电站的人要么已经死亡，要么已经退休。我们现在必须在现代性和不可接受的风险之间做出选择。
人工智能或 AI 正在兴起。在经历了长达数十年的“AI 寒冬”之后，机器学习已经从沉睡中醒来，发现了一个充满技术进步的世界，例如强化学习、Transformer 等，而计算资源现在已经完全准备好并可以利用这些进步。
人工智能的起源并没有被忽视；事实上，它引发了很多争论。谈话通常由那些害怕人工智能的人主导。这些人的范围从害怕偏见的道德人工智能研究人员到考虑灭绝事件的理性主义者。他们的担忧往往围绕着人工智能难以理解或太聪明而无法控制，最终打败了我们的目的，即它的创造者。通常，人工智能助推器会以技术乐观的策略做出回应。他们声称这些担忧基本上是错误的，并指出他们自己的抽象论点以及关于人工智能迄今为止为我们所做的良好工作的硬数据，暗示它将在未来继续为我们做好事。未来.
两种观点都没有抓住重点。一种空灵形式的强人工智能还没有出现，而且可能在一段时间内也不会出现。相反，我们面临着更大的风险，今天就在这里，而且只会变得更糟：我们正在部署大量的人工智能，然后才完全成熟。换句话说，我们最大的风险不是太聪明的AI，而是太笨的AI。我们最大的风险就像上面的缩略图：不是恶意的而是愚蠢的人工智能。我们忽略它。
事件元节拍 2022
MetaBeat 将于 10 月 4 日在加利福尼亚州旧金山汇聚思想领袖，就元界技术将如何改变所有行业的沟通和开展业务的方式提出建议。
在这里注册 愚蠢的人工智能已经出现哑AI比强AI带来更大的风险，主要是因为前者确实存在，而后者是否真的可能尚不清楚。 Eliezer Yudkowsky 或许总结得最好：“人工智能的最大危险在于人们过早下结论认为他们理解它。”
从制造车间到翻译部门，实际都在使用真正的 AI。据麦肯锡称，70% 的公司表示他们通过使用人工智能创造了收入。这些也不是微不足道的应用：如今，人工智能被部署在关键功能中，大多数人仍然错误地认为是远程的功能，并且有很多例子。
尽管我们还没有自主武器条约，但美国军方已经部署了不需要人类杀伤决定的自主武器（特别是四旋翼地雷）。亚马逊之前实际上推出了基于人工智能的简历分类工具
What's Your Reaction?
