前言:隐私计算赛道作为当下的风口赛道,无数企业纷纷涌入,抢跑占道。作为一家专注于区块链隐私计算赛道科普入门的垂直媒体,同时也是针对隐私计算兴趣者开放的“纯天然”、低门槛入口,我们汇总并分类了隐私计算行业内晦涩难懂的名词,编写了「隐私计算词典」板块,帮助大家理解、学习。?
此篇,我们来了解隐私计算技术架构的第三部分——联邦学习。
近年来,从无人驾驶汽车,到AlphaGo击败顶尖的真人围棋手等等,AI人工智能在科技领域的发展着实吸引了足够多人的眼球。
然而,发展至今的AI人工智能仍面临两大现实问题:
行业数据分散且收集困难,数据以孤岛的形式存在;隐私得不到保障,安全共享数据成为了一道壁垒。针对此,人们提出了一种名为「联邦学习」的隐私计算技术。
Coinbase上线隐私计算网络Oasis (ROSE):4月26日消息,Coinbase 上线隐私计算网络 Oasis (ROSE),现已开放充值。若满足流动性条件,交易将于太平洋时间 4 月 26 日星期二上午 9 点或之后开始,分阶段推出 ROSE-USDT 交易对。[2022/4/26 5:11:15]
联邦学习,又名联邦机器学习、联合学习。它是AI人工智能的一门分支技术,旨在保障大数据交换时的信息安全、数据保护,在合法合规的前提下,有效帮助多行业的数据进行机器学习建模。
北京大学研究员肖臻:当前隐私计算方案普遍计算效率较低:金色财经现场报道,10月22日,2021云栖大会-蚂蚁链“区块链+”可信链接技术发展与实践分论坛在杭州举行。北京大学研究员、博士生导师肖臻以《区块链+隐私计算融合技术趋势》为题进行分享。他指出,隐私计算的目标是数据所有权和数据使用权的分离,前景十分宏伟。但现在,隐私计算的发展仍处于早起阶段,并没有实现通用。其涵盖了联邦学习、安全多方计算、同态加密、零知识证明、TEE可信执行环境等技术。
肖臻指出,当前隐私计算方案普遍计算效率较低,零知识证明验证效率低,同态加密消耗资源多,查分隐私降低模型精度。而TEE的新人员与硬件厂商高度绑定,影响可信度,同时存在侧信道攻击的可能性,存在安全隐患。
肖臻介绍,区块链领域中应用最多的零知识证明是zk-SNARK技术。Zcash是zk-SNARK的第一个广泛的应用,Filecoin利用zk-SNARK完成了复制证明和时空证明。[2021/10/22 20:49:21]
隐私保护是联邦学习最主要的关注点,在实际的应用中,联邦学习通过将数据的不同特征在加密的状态下加以聚合,以增强机器学习模型能力,再通过共享数据模型,避开原始数据共享,进而保证了数据的安全性。?
微众银行区块链战略合作负责人邓伟平:区块链和隐私计算会形成隐私保护、数据治理的综合体系:金色财经现场报道,9月26日,2021区块链服务网络(BSN)全球合作伙伴大会于杭州开幕,会上,微众银行区块链战略合作负责人邓伟平演讲表示,数据要素本身作为生产资料的价值要通过流通发挥出来,在数据孤岛问题严重和法律法规的要求下,需要实现以用户为中心,在保护个人的隐私,且保证数据安全的前提下进行数据共享,价值的交换。从区块链角度来说,区块链是信任的机器,也是分布式共享的帐本,这些帐本形成的共享数据,本身就有隐私保护的需求,所以需要隐私计算的助力。
如果用联邦学习、多方安全计算开展隐私计算,区块链也可以为其提供可信的跨机构协同底座,因此,隐私计算技术跟区块链天然就是一个高度融合的技术。区块链跟隐私计算融合,最终业务上会形成全面的隐私保护和数据治理的综合体系。[2021/9/26 17:08:23]
利用联邦学习的特点,即使是不导出企业数据的情况下,也能为三方或多方建立机器学习模型,既充分保护了数据隐私和数据安全,又为客户提供个性化、有针对性的服务,实现了互惠互利。?
YFII将于数月内部署在隐私计算网络Oasis Network上:12月9日,聚合器协议YFII宣布将在未来数月内部署在隐私计算网络Oasis Network上。[2020/12/9 14:39:11]
同时,我们可以利用不同类别的联邦学习技术来解决数据异质性问题,突破传统AI技术的局限性。依照参与建模的数据源分布,联邦学习可分为横向联邦学习、纵向联邦学习和联邦迁移学习三类。?
横向联邦学习假设收集两个数据集,这两个数据集用户特征重叠多,而用户重叠少。我们把数据集按照用户维度切分,取出双方用户特征相同,而用户不完全相同的部分数据作为机器的训练数据,这种模型称为横向联邦学习。?
例如,两个不同行政区的银行,用户群体分别来自所在行政区,重叠部分少。但是同作为银行,业务类似,因此数据集收集的用户特征则大体相同。因此,横向联邦学习模型收集的是两个数据集不完全相同的用户部分。?
现场 | 王允臻:隐私计算是我到目前为止所了解到的唯一的真正保障数据主权的:在今日隐私计算发展研讨会的圆桌讨论中,万向控股CIO王允臻表示,分布式的逻辑,分布式逻辑就要求打通数据孤岛。前面有其他的演讲者也讲的很好,那么数据达不到有行政上的问题,组织关系上的问题,还有更重要的是一个隐私安全保护。就说我现在要让我的数据被利用,唯一的方法就是把数据开放。你要拿走我的数据,这样的话你是没有前途的,怎么来解决这个问题?我所谓的就是美国人说得data sovereignty,就是数据主权,假如说你没有办法保证你的数据,你是数据的唯一拥有者的话,谈得上什么主权,国家的土地主权不是说这块土地技术,国家又必须是一个排他性的唯一的,那么这样一来的话就可以和隐私计算就联系在一起,因为隐私计算是我到目前为止所了解到的唯一的真正保障数据主权的。[2019/9/17]
如下图所示:?
纵向联邦学习与横向联邦学习相反,在两个数据集用户重叠多、用户特征重叠少的情况下,纵向联邦学习把数据集按照数据特征维度切分,取出双方用户相同,而用户特征不完全相同的部分作为机器训练数据。?
例如,同一个行政区的银行和商超,其收集的数据用户群体大致类似,但银行和商超收集到的用户特征基本不同。因此,纵向联邦学习模型收集的是两个数据集不完全相同的用户特征部分。?
如下图所示:
联邦迁移学习在用于机器学习的数据集样本用户与用户特征重叠都较少的情况下,通常不对数据进行切分,而是引入联邦迁移学习,来解决数据不足的问题,从而提升模型的效果。
具体地,可以扩展已有的机器学习方法,使之具有横向联邦学习或者纵向联邦学习的能力。?例如,收集一家位于北京的银行和一家位于上海的商超的数据,由于受到地域限制,用户群体交集很小;同时,由于银行和商超类型的不同,二者收集的数据特征也基本无重合。?
引入联邦迁移学习,首先可以先让两个数据集训练各自的模型,之后通过加密模型数据,避免在传输中泄露隐私。之后,对这些模型进行联合训练,最后得出最优的模型,再返回给各个企业。?
如下图所示:?
多种类别的联邦学习方式使得机器学习模型更加具有通用性,可以在不同数据结构、不同行业间发挥作用,没有领域和算法限制,同时具有模型质量无损、保护隐私、确保数据安全的优势。?
在实际的应用中,类似销售、金融等行业,由于知识产权、隐私保护和数据安全等因素限制,数据壁垒很难打通。
联邦学习成为了解决这些问题的关键,在不影响数据隐私和安全的情况下,对来自多方的数据进行统一的建模,进行机器学习模型的训练,这些企业之间就能更好地进行数据协作。?
可以说,联邦学习为构建跨行业、跨地域的大数据和人工智能生态圈提供了良好的技术支持。?考虑到在整个训练过程中,进行模型更新的通信仍然可以向第三方或中央服务器显示敏感信息,因此联邦学习技术广泛地与安全多方计算、TEE或者区块链等技术结合应用,来增强联邦学习的隐私性和去信任。
但目前已有的方法通常以降低模型性能或系统效率为代价提供隐私,因此,如何在理论和经验上理解和平衡这些权衡,将是实现联邦学习技术广泛应用落地的一个相当大的挑战。
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。