BadLabel: A Robust Perspective on Evaluating and Enhancing Label-Noise Learning
题目:BadLabel:评估与增强标签噪声学习的一种鲁棒视角
作者: J. Zhang; B. Song; H. Wang; B. Han; T. Liu; L. Liu; M. Sugiyama
源码:https://github.com/zjfheart/BadLabels
摘要
标签噪声学习(Label-noise learning, LNL)旨在提高模型在训练数据带有噪声标签的情况下的泛化能力。为了促进实用的LNL算法的发展,研究人员提出了不同类型的标签噪声,从类条件噪声到实例依赖噪声不等。在本文中,我们引入了一种新型的标签噪声类型,称为BadLabel,它可以通过大幅度降低现有LNL算法的性能来显著影响它们。BadLabel是基于标准分类的标签翻转攻击精心设计的,其中选择特定样本并将它们的标签翻转为其他标签,以便干净标签和噪声标签的损失值无法区分。为了应对BadLabel带来的挑战,我们进一步提出了一种鲁棒的LNL方法,该方法在每个时期以对抗性方式扰动标签,使干净和噪声标签的损失值再次可区分。一旦我们选择了一小部分(大多数)干净标记的数据,我们就可以应用半监督学习的技术开发模型。从经验上讲,我们的实验结果表明,现有的LNL算法容易受到新引入的BadLabel噪声类型的影响ÿ