惠众智链首席AI科学家于涵教授参加CCF联邦学习研讨会

2019年3月24日，由中国计算机学会CCF主办，微众银行及深圳大学微众金融科技研究院协办的“CCFTF14期研讨会”在深圳大学举办，此次会议的主题为“联邦学习技术及数据隐私保护”。惠众智链首席AI科学家、新加坡南洋理工大学南洋助理教授于涵教授受邀参加了本次研讨会，并做“联邦学习中的博弈论”主旨报告。

图1 惠众智链首席AI科学家于涵教授在CCF联邦学习研讨会上作报告

近年来，联邦学习助力物联网及边缘计算科技发展，也日渐成为被业界重视并接受的新一代AI基础技术。随之而来的是一系列对原有数据共享体系结构的改造需求。如何在横向联邦、纵向联邦及联邦迁移学习的场景下对参与数据联邦共同训练模型的各方利益进行最大限度地保护，同时兼顾数据联邦的整体利益？如何对各种针对数据联邦的攻击进行建模，以其更有效地部署有限的防御资源，保护数据联邦的利益？多个数据方是如何打破“数据孤岛”，实现“共同富裕”呢？联邦学习的收益分配是怎样的呢？于涵教授的报告主要围绕上述问题进行了阐述。

于涵教授表示，“在联邦学习机制下，参与各方的身份和地位相同，各参与方把加密后的数据贡献给联邦，然后数据联盟训练一个联邦模型，这个模型再开放给各数据使用方，达到数据的有效整合及使用，能够实现打通数据孤岛。”然而，在带来效益的同时，联邦学习也可能给企业带来额外成本。具体来说，参与者加入联邦需要对联邦做出贡献，把加密后的数据贡献给联邦，会产生数据成本和资金成本，且不同质量的数据方加入联邦、不同的时间节点加入联盟的成本和效益可能不完全相同。“一个数据联盟的可持续发展取决于其能否持续吸引高质量的个人机构数据持有人的参与”于涵教授强调。
关于如何吸引高质量的个人机构数据参与进来？于涵教授指出：”在解答这个问题之前，了解收益分配博弈是很有必要的。三类利润分配博弈中的分配方案包括平均主义、边际收益和边际损失。假设按照平均主义，数据联盟产生的收益在参与者中平均分配，边际收益则按照某个参与者加入联盟时带来的边际收益确定他所应得的收益，边际损失则按照某个参与者退出联盟带来的边际损失确定他所应得的收益；从系统角度考虑，总体目标是最大化集体效用。”

“这些分配方案都有各自的优劣，如何寻找一种适合联邦学习的分配方案？答案是联邦学习激励机制。数据联盟参与者模型中核心问题是如何公平地对待参与者，通过综合考量数据方对联盟的贡献以及参与联盟的代价，评估收益分配能否补齐成本，即评估公平度目标。因此，联邦学习的解决方案是基于排队系统为公平度目标建模，通过保证排队系统稳定，保证参与者等候全额补偿的时间有限。另外，模型的公平性维度有三个，一是一个参与者所贡献的数据为联邦模型带来的边际效益越高，他所应得的补偿也越高；二是“遗憾”度及等待时长应在所有参与者间尽量均匀分布；公平性纬度三即在不同时间点之间，“遗憾”度及等待时长的变化尽量不要太剧烈最后在优化目标函数。通过优化目标函数，实现最大化公平度。”
“基于此，联邦学习激励机制的利益分配方案是最大化数据联盟的整体效用，同时最小化参与者之间在“遗憾”和等待时长两个维度的不均衡。”于涵教授说。

本次研讨会由微众银行首席人工智能官，国际人工智能学会理事长，香港科技大学教授，第四范式联合创始人，人工智能研究的国际专家和领军人物、首位国际人工智能协会AAAI 华人Fellow、唯一国际人工智能协会AAAI华人执委、首位国际人工智能联合会IJCAI理事会华人主席、CCF 专业会员、杰出演讲者，香港科技大学冠名讲座教授和前计算机系主任，香港人工智能及机器人学会创会理事长杨强教授担任主席并致欢迎词。

图2 杨强教授在研讨会现场致欢迎词

于涵教授简介：现任新加坡南洋理工大学计算机科学与工程学院南洋助理教授，兼惠众智链（北京）网络科技有限公司首席科学家（AI方向）。他的研究主要致力于运用人工智能实现对大规模复杂协作网络进行实时数据驱动算法化管理、人工智能伦理学、联邦学习场景下的博弈及激励机制设计等。他的科研成果在AAAI、IJCAI、AAMAS等国际顶级学术会议，以及ACM/IEEE Transactions和《科学报告》等科研期刊上发表百余篇论文；并11次在前沿人工智能国际会议及期刊中获奖。于涵博士于2015年共同发起并创建了众智科学与工程联盟（ACE），推动人工智能助力共享经济。2014年及2015年，他曾两度入选全球青年科学家峰会十大青年科学家。

关于惠众智链：惠众智链（北京）网络科技有限公司成立于2018年6月，专注研发基于云+雾+边缘计算的区块链智联网应用，依托创始人团队过去10余年来在互联网、人工智能、区块链等领域积累的各项科技和国内外工业界、学术界资源，打造能够赋能传统、普惠大众的创新科技成果。2018年，在北京市留学人员海淀创业园、北京海外学人中心、清华大学电子商务交易技术国家实验室等单位支持下，公司重点研发“基于区块链与物联网技术打造安全可信食品药品溯源体系”项目，入围“第四届中国海归创业大赛”复赛，并获得第二十六批留学人员创办企业开办费资助资金。