联邦学习（Federated Learning）是一种新的机器学习范式，允许多个参与者在不直接分享各自数据的前提下共同训练机器学习模型。其核心挑战是如何应对参与者之间的异质性（Heterogeneity），其中数据分布的异质性（non-IID）已引起了研究界的广泛关注，并快速成为了联邦学习领域的研究热点之一。然而，在联邦学习的许多实际应用中，联邦任务参与者之间的异质性往往更加复杂，也更具挑战性：不仅仅是数据分布，甚至参与者的任务都会呈现出较大的差异性。例如，在一个分子图的联邦学习任务中，某些参与者的目标是对分子的类型进行判断，即分类任务，另外部分参与者的目标是预测分子化学性质的强弱，即回归任务。在这种任务场景下，虽然参与者都要求训练得到的模型具有对分子图表征的理解能力，但是其具体的学习目标是完全不同的，相比数据分布的异质性更具挑战性。
为了应对联邦学习在现实应用中遇到的上述挑战，阿里巴巴达摩院智能计算实验室提出了一种新的联邦学习设定：联邦异质任务学习（Federated hetero-task learning）。相比于传统的联邦学习，这一设定鼓励研究者将联邦学习与多任务学习（Multi-task learning）、模型预训练（Model pre-training）、自动机器学习（Auto-ML）等不同领域的研究概念进行融合，从而打通现实应用中的“数据孤岛”，并最终实现数据价值的共享。与此同时，达摩院智能计算实验室设计实现了开源的联邦学习平台——FederatedScope[1,2]，来帮助研究人员更加容易地探索、设计、实现联邦异质任务学习算法，并进行充分地验证。
同时，阿里巴巴达摩院智能计算实验室联合天池、CIKM 2022会议方举办“CIKM 2022 AnalytiCup Competition: 联邦异质任务学习”大赛，并准备了丰厚的奖励，期待更多的同学能够共同参与到联邦异质任务学习的探索中。 |
