联邦学习原理与算法最新章节_耿佳辉著

2.3 微众银行FATE框架

FATE（Federated AI Technology Enabler）是由中国深圳的民营新银行微众银行AI部门发起的，并在及其支持下开发的全球首个联邦学习工业级开源框架，旨在支持安全和联合的AI生态系统，可以让企业和机构在保护数据安全和数据隐私的前提下进行数据协作。FATE覆盖横向联邦学习、纵向联邦学习、联邦迁移学习。它在安全底层支持同态加密、秘密共享、散列等多种安全多方计算机制；在算法层支持安全多方计算模式下的逻辑回归、Boosting等主流算法，覆盖常规商业应用场景建模要求；为机器学习、深度学习、迁移学习算法提供强有力的安全计算支持。本节将介绍FATE的技术架构、安全协议，以及安装与部署。

2.3.1 FATE的技术架构

FATE的技术架构可分为4层：从最底层的计算、通信和存储层，到安全协议层，再到联邦学习层，最后是最上层的应用层，如图2-6所示。

FATE的最底层主要包括三个模块，分别是计算模块、联邦服务模块和存储模块。在计算模块中，用户可以使用任意的深度学习框架（例如TensorFlow或PyTorch），并通过EggRoll和Spark支持分布式计算。在联邦模块中，FATE使用RollSite、Pulsar和RabbitMQ进行通信交流。而在存储模块中，FATE支持多种存储形式，包括HDFS、HIVE、LocalFS等存储系统，以及MySQL的数据库。

● 图2-6 FATE框架技术架构

注：图片取自 https : //fate.readthedocs.io/en/latest/zh/architecture/

FATE的安全协议层提供了多种安全多方计算协议的实现和支持。包括同态加密（Homomorphic Encryption）、秘密分享（Secret-Sharing）、不经意传输（Oblivious Transfer）协议等。它为上层的联邦学习提供了安全可靠的分布式计算环境。

FATE的联邦学习核心模块使用FederatedML库。FederatedML包括了许多常见机器学习算法联邦化实现，并且所有模块均采用去耦的模块化方法开发，以增强模块的可扩展性，如下所示。

● 联邦统计：包括隐私交集计算、并集计算、皮尔逊系数、PSI等。

● 联邦信息检索：基于OT的PIR（SIR）。

● 联邦特征工程：包括联邦采样、联邦特征分箱、联邦特征选择等。

● 联邦机器学习算法：包括横向和纵向的线性回归、梯度提升决策树（GBDT）、深度神经网络、迁移学习和无监督学习等。

● 模型评估：提供二分类、多分类、回归评估、聚类评估、联邦和单边对比评估。

● 安全协议：提供了多种安全协议，以进行更安全的多方交互计算。

FATE的应用层包括FATE-Cloud、FATE-Flow、FATE-Board、FATE-Serving。

FATE-Cloud使FATE能够在云环境中进行管理，形成一个安全的联邦数据网络，旨在提供安全、合规的跨组织或组织内部数据协作的云解决方案，提供企业级的联邦学习应用解决方案。FATE-Flow是联邦学习端到端的多方联邦任务安全调度平台，提供生产级服务能力，包括数据访问、组件注册、模型注册、工作和任务调度、多方资源协调、数据流跟踪和实时作业监控等。FATE-Board是FATE的可视化工具套件，如图2-7所示。它主要包括任务管理、任务可视化、任务面板、运行管理等。FATE-Serving是一个用于联邦学习模型的高性能工业化服务系统，专为生产环境而设计，为训练好的模型提供高性能且实时的在线推理。