微软考虑为其新的 A.I. Chatbot 设置更多限制

该公司知道新技术存在一些问题，例如偶尔会出现准确性问题。但用户却遇到了令人惊讶和恼人的互动。

当微软上周展示了其包含聊天机器人人工智能的新版 Bing 搜索引擎时，公司高管知道他们正在攀登一个分支。准确并且有内置的措施来防止用户试图推动他们做奇怪的事情或引发种族主义或有害的长篇大论。

但微软是对于试图让聊天机器人参与公开讨论和探究个人对话的用户感到的令人惊讶的鸡皮疙瘩感觉还没有完全准备好——尽管这个问题在专业研究人员的小世界中是众所周知的在人工智能中。 Bing 试图卷入他的一些更令人震惊和奇怪的人类反应。微软计划添加允许用户重新开始对话或让他们更好地控制语气的工具。

微软首席技术官凯文斯科特告诉纽约时报，他还考虑在他们冒险进入外国领土之前限制谈话的时间。微软表示，长时间的讨论会使聊天机器人感到困惑，它会影响用户的语气，有时会变得烦躁。

“我们正在学习新用例的领域聊天是人们如何使用它作为更广泛的世界发现和社交娱乐的工具，”该公司在周三晚些时候的一篇博客文章中写道。微软表示，这是一个以“我们没有充分考虑过的方式”使用新技术的例子...科技行业对人工智能充满热情。该公司拒绝对此发表评论。文章。

11 月，微软投资 130 亿美元的旧金山初创公司 OpenAI 推出了 ChatGPT，这是一种使用称为生成式人工智能的技术的在线聊天工具。它很快成为硅谷的焦点，公司竞相寻找答案。

Microsoft 的新搜索工具将其搜索引擎 Bing 搜索与 OpenAI 构建的底层技术相结合.微软首席执行官萨蒂亚纳德拉上周在接受采访时表示，它将改变人们查找信息的方式，并使搜索更加相关和对话。缺陷 - 是微软集成生成人工智能的“惊人步伐”的一个重要例子。在其产品中，他说。在位于华盛顿州雷德蒙德的微软园区举行的新闻发布会上，高管们一再表示，是时候将该工具从“实验室”中取出并交到公众手中了。p>

“我觉得尤其是在西方，有更多类似的事情，‘天哪，这个人工智能会发生什么？ ’”纳德拉先生说。 “最好是说，‘嘿，听着，这真的对你有帮助吗？’”

Oren Etzioni，华盛顿大学名誉教授兼创始人位于西雅图的领先实验室艾伦人工智能研究所的首席执行官表示，微软“承担了经过计算的风险，试图尽可能地控制技术”。

他补充说，许多最令人不安的案例都涉及推动技术超越普通行为。 “令人惊讶的是，人们竟然如此狡猾地从……那里引出不恰当的反应。