达摩院无监督学习论文入选 CVPR 2022，算法预训练节省超 50% 计算资源

4 月 7 日消息，国际 AI 顶会 CVPR 2022 近日公布最新论文入选结果，阿里巴巴共有 48 篇入选，创历年新高。其中，阿里达摩院在无监督学习领域的研究大幅提升算法训练效率，可减少 50% 的计算资源消耗以及 59.6% 的预训练时间。

CVPR 与 ICCV 和 ECCV 并称计算机视觉方向的三大顶级会议

CVPR 是计算机视觉领域的三大顶会之一，今年共收到全球 8100 多篇论文投稿，最终 2067 篇被接收，接收率约为 25%。官方信息显示，无监督学习是今年最热门的研究方向之一，包括 Facebook、Google、卡内基梅隆大学等企业和机构都在此领域都推出了最新成果，阿里巴巴入选的 48 篇论文也有多篇展示了在该领域的进展。

不同于传统深度学习，无监督学习无需人力标注的数据即可完成模型的训练，让机器自动寻找数据中的规则，且具有更强的解释性。深度学习三巨头之一 Yann LeCun 曾表示该技术将带来下一次 AI 革命，然而目前业界提出的无监督算法框架需要大量机器资源，且算法性能和效率较低，极大地限制了该技术的应用。

达摩院无监督学习论文入选 CVPR 2022

此次，达摩院在《Unsupervised Visual Representation Learning by Online Constrained K-Means》论文中设计了一种带约束在线聚类无监督学习框架，可解决上述难题。该算法使用图片的单一视图即可进行在线学习，从而大幅节约机器的算力、内存，并减少训练时间。

在公开数据集 ImageNet 上的实验结果显示，相比主流无监督算法，达摩院提出的方法可减少 50% 的计算资源消耗以及 59.6% 的预训练时间，仅需单机 8 卡 GPU 就能达到已有算法 16 卡的效果，同时精度逼近监督学习模型。未来该方法将应用于达摩院遥感影像分析平台 AI Earth 的地物分类和目标提取等任务中。

该论文作者、达摩院高级算法专家钱祺表示："无监督学习能让 AI 更有洞察力，是 AI 走向通用人工智能的重要技术，我们希望通过「降本增效」的创新来助推这一技术的落地。"

据悉，达摩院在无监督学习、小样本学习等 AI 基础技术上累积的成果，将逐步通过阿里云对外输出。