萍乡新闻

usdt不用实名交易(caibao.it):提出智能扰动方式!字节跳动隐私珍爱论文入选NeurIPS 2020联邦学习Workshop

来源:萍乡城事网 发布时间:2020-12-26 浏览次数:

第三十四届神经信息处理系统大会(Conference and Workshop on Neural Information Processing Systems,以下将简称NeurIPS 2020),于2020年12月中旬在线上举行。在本届集会上,字节跳动联邦学习隐私珍爱最新研究论文被 NeurIPS 2020 的联邦学习 Workshop 吸收,并举行了线上分享。

NeurIPS 作为机械学习和盘算神经科学领域的国际顶级集会,由 NeurIPS 基金会主理,每年固定在12月举行。NeurIPS旨在促进有关神经信息处理系统的研究交流,在偕行集会上先容和讨论新颖的研究。在中国盘算机学会的国际学术集会排名中,NeurIPS 为人工智能领域的A类集会 。 

自欧盟2018年出台《通用数据珍爱条例》(GDPR)以及海内涉及数据隐私的法律法规逐步最先确立后,联邦学习逐渐成为珍爱数据隐私的一个利器。它可以在双方不公然各自隐私数据的情况下,实现机械学习模子的协同训练,因此受到了越来越多企业的关注,产生了许多落地应用。在这个靠山下,NeurIPS 2020 设置了联邦学习的Workshop,约请全球联邦学习行业专家探讨联邦学习的扩展性、隐私性和平安性。

由于拥有海量的用户数据,字节跳动深知用户数据平安珍爱的重要性,为提升用户的信托度,追求确立开放透明的平台,字节跳动一直在联邦学习领域连续投入资源举行研究和探索,先后在电商、金融、教育等多个行业场景举行了落地应用,并于2020年头开源了自研的联邦学习平台Fedlearner(项目地址:https://github.com/bytedance/fedlearner)。

NeurIPS 2020联邦学习Workshop上,字节跳动应用机械学习团队分享了在用户标签数据平安上的最新研究论文《Label Leakage and Protection in Two-party Split learning》。

 《Label Leakage and Protection in Two-party Split learning》论文海报

,

欧博开户_ALLbet6.com

欢迎进入欧博开户(Allbet Game):www.aLLbetgame.us,欧博官网是欧博集团的官方网站。欧博官网开放Allbet注册、Allbe代理、Allbet电脑客户端、Allbet手机版下载等业务。

,

论文分享了纵向联邦学习中隐私标签数据珍爱的新方案——通过理论剖析,对所添加的扰动举行约束优化,辅助联邦学习在效用和隐私间取得更好的平衡。详细则是对联邦学习过程中双方所交互的梯度举行剖析,提出了一种基于梯度范数的推测标签信息的高效攻击方式,随后创新性地提出了在所交互的梯度上添加扰动的珍爱方式。

字节跳动应用机械学习团队研究员孙建凯称,大量的实验解释,在梯度范数攻击中,论文所提的标签数据珍爱算法,能够将标签泄露的AUC从接近于1.0 (1.0属于完全泄露)降低至0.5-0.6之间(0.5是属于完全珍爱),而模子的展望效果受到的影响相对较小。

孙建凯指出,虽然存在他们现在没有想到的其它攻击方式来窃取用户标签数据,然则通过论文中提到的方式,纵然在面临未知的攻击方式时,也能最大水平珍爱标签数据,防止数据泄露。 

由于联邦学习能够有用解决数据孤岛问题,让介入方在不共享数据的基础上团结建模,挖掘数据价值,因此海内外众多一线互联网公司纷纷投入研究和应用。标签作为价值很高的一类数据类型,吸引了众多行业人士不停思索和探索如何在联邦学习的框架下对其举行最大水平地珍爱。字节跳动在交互梯度上提出添加智能扰动的方式,则在一定水平上解决了标签数据平安性的问题,消除了人人的担忧,有利于进一步推动联邦学习应用,让数据施展更大的价值。

为了让更多企业和开发者受益,现在字节跳动在隐私珍爱上的最新理论研究已经落地,响应算法(https://github.com/bytedance/fedlearner/tree/master/example/privacy/label_protection)已经合并到字节跳动开源的联邦学习框架Fedlearner中。

字节跳动联邦学习手艺负责人吴迪在接受采访时示意 :“希望我们的最新研究,能为企业在应用联邦学习珍爱用户数据平安上提供更多的选择,同时也希望为联邦学习进一步规模化应用尽一份力,配合推动隐私盘算的生长。”


发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片