基础模型可以帮助我们达到“完美的秘密”

在此处查看所有智能安全峰会点播会议。

未来的数字助理有望让日常生活变得更轻松。我们可能会要求他们完成任务，例如根据电子邮件的内容预订外地商务旅行的住宿或回答需要结合个人背景和公共知识的开放式问题。 （例如：“对于我这个年龄的人来说，我的血压在正常范围内吗？”）

但在我们的工作和家庭效率达到新水平之前，需要回答一个大问题：我们如何为用户提供强大而透明的隐私保护，以保护机器学习 (ML) 模型使用的基本个人信息？得出这些答案？

如果我们希望数字助理能够促进涉及公共和私人数据混合的个人任务，我们将需要在某些情况下提供“完美保密”或最高级别机密性的技术。到目前为止，以前的方法要么忽略了隐私问题，要么提供的隐私保证较弱。

斯坦福大学计算机科学博士三年级。学生 Simran Arora 在副教授 Christopher Ré 的指导下研究了 ML 和隐私的交叉点。最近，他们着手确定新兴的基线模型——基于大量公共数据训练的大型 ML 模型——是否能解决这一紧迫的隐私问题。由此产生的论文于 2022 年 5 月在预印本服务 ArXiv 上发表，其中提出了在个人任务环境中使用 ML 的框架和概念证明。

事件

按需智能安全峰会

了解 AI 和机器学习在网络安全和特定行业案例研究中的重要作用。观看今天的点播会议。

看这里 完美的秘密定义

根据 Arora 的说法，完美的机密性保证满足两个条件。首先，当用户与系统交互时，对手学习隐私信息的可能性不会增加。其次，由于多项个人任务是使用相同的私人数据执行的，因此数据被意外共享的可能性不会增加。

考虑到这个定义，她确定了三个标准来根据完全保密的目标评估隐私系统：

隐私：系统如何防止隐私数据泄露？ 质量：在保证完全保密的情况下，模型如何执行给定的任务？ 可行性：就运行模型所产生的时间和成本而言，该方法是否现实？

如今，最先进的隐私系统使用一种称为联合学习的方法，该方法有助于在多方之间形成集体模式，同时防止交换原始数据。在这种方法中，模型被发送给每个用户，然后与该用户的更新一起发送回中央服务器。理论上，源数据永远不会透露给参与者。但不幸的是，其他研究人员发现可以从暴露的模型中恢复数据。

用于提高联邦学习的隐私保证的流行技术称为差分隐私，这是一种保护隐私信息的统计方法。该技术要求实施者设置隐私参数，这些参数决定了模型性能和信息隐私之间的权衡……